多面体约束非光滑复合函数的序列有效集方法

时闪闪，宇振盛

（上海理工大学 理学院，上海 200093）

1 问题的提出

本文考虑如下复合函数优化问题

式中：f:Rn→R 是连续可微函数；g:Rn→R 是凸的非光滑函数；可行集Ω={x∈Rn:aiTx=bi,i∈ME,aiTx≥bi,i∈MI}，ME={1,···,m}，MI={m+1,···,p}，ai∈Rn，bi∈R，i=1,···,p。

从现实生活中的问题抽象出来的数学模型，可以分为光滑和非光滑两大类。对于光滑问题，由于其梯度及Hessian 矩阵易于求出，可以使用经典的优化算法求解。而对非光滑问题，函数是不可微的，因此无法直接使用经典的优化算法求解。此外，非光滑复合函数的极小化问题在信息理论[1]、无线通信[2-4]、图像恢复[5-7]、信号处理[8-9]、变量选择[4,10]等领域都有广泛的应用。

当可行集 Ω=Rn时，问题（1）就是无约束优化问题。目前，已经有很多学者提出了各种非常有效的算法[11-18]解决无约束复合函数问题。比较成熟的算法有迭代收缩阈值算法[12-13]、临近牛顿法[14]、分裂算法[15-16]、邻近点算法[17-18]等。

实际生活中的很多问题都要求满足一些特定的条件，所以研究带约束的复合函数问题十分有必要。例如，压缩感知理论中的稀疏信号重构问题就是经典的复合函数优化问题。稀疏重构主要解决这两类问题：在对非负信号处理时，有非负约束的限制；进行图像恢复时，灰度强度取值在0～255 之间。在信号恢复、图像恢复模型里加入约束，可以提高恢复的准确率。同样地，对于实际问题，考虑约束限制，能更加精确地求出符合实际条件的解，从而节约成本。

当可行集 Ω={l≤x≤u}时，问题（1）就是界约束的复合函数问题。Bian 等[6]提出光滑二次正则化方法，用SQR 表示解决图像恢复中出现的界约束非Lipschitz 连续优化问题。……