9、平滑交替优化方法：算法比较与收敛性分析

平滑交替优化方法：算法比较与收敛性分析

1. 引言

在解决约束凸优化问题时，高效的算法至关重要。本文将探讨用于解决距离最小化问题的多种算法，包括Douglas - Rachford（DR）分裂、Dykstra投影、Hauzageau方法，以及新提出的平滑交替优化算法SAMA和SADMM。我们将对这些算法进行数值比较，并分析它们的收敛特性。

2. 问题描述

考虑如下两个凸集的凸可行性问题：
[
\text{Find } \lambda^{\star} \text{ such that: } \lambda^{\star} \in C_1 \cap C_2
]
其中 (C_1) 和 (C_2) 是 (R^p) 中的非空、闭且凸的集合。该问题可能无解，因此我们考虑寻找 (C_1 \cap C_2) 中一点的最佳替代点的问题，可表述为：
[
d^{\star} := \min_{\lambda \in R^n} {d(\lambda) := d_{C_1}(\lambda) + d_{C_2}(\lambda)}
]
其中 (d_C) 是到集合 (C) 的欧几里得距离。与原问题不同，只要 (C_1) 和 (C_2) 非空，该问题的最优值 (d^{\star}) 总是有限的，且 (d^{\star} = \text{dist}(C_1, C_2))。若 (C_1 \cap C_2 \neq \varnothing)，则 (d^{\star} = 0)。

根据相关文献，该问题的原始模板可表示为：
[
\min_{u,v} {s_{C_1}(u) + s_{C_2}(v)