一种新型单层递归神经网络解决非光滑伪凸优化问题

喻 昕 卢惠霞 伍灵贞 徐柳明

①(广西大学计算机与电子信息学院 南宁 530004)

②(桂林航天工业学院计算机科学与工程学院 桂林 541004)

③(广西多媒体通信与网络技术重点实验室 南宁 530004)

1 引言

优化问题常出现在机器学习、图像识别等各类科学和工程应用中。研究学者在非线性规划、微分包含等理论的基础上，提出了较多用于解决优化问题的神经网络模型。1986年，Tank和Hopfield[1]将Hopfield神经网络运用到解决线性规划问题中，研究学者由此得到启发，相继提出各种用于解决优化问题的神经网络模型。1988年，Kennedy和Chua[2]提出了一种包含罚参数的动态非线性规划电路(Nonlinear Programming Circuit,NPC)用于解决非线性规划问题的神经网络模型，该模型中含有罚参数，且要求目标函数和约束函数都是光滑的。随着NPC的引入，优化问题的研究得到更进一步的发展，由此之后，研究学者提出了大量的神经网络模型用于解决优化问题。Xue等人[3]基于次梯度方法，提出了一种用于解决非光滑凸优化问题的单层递归神经网络模型，该模型需要计算精确的罚参数，但精确罚参数的计算与选取，有时候非常困难，且计算量会很大。同样是解决文献[3]中的非光滑凸优化问题，Qin等人[4]基于Tikhonov正则化方法，提出了一种动态神经网络模型，该模型不要求可行域是有界的或者目标函数是强制的。后来，Qin等人[5]基于微分包含理论，提出了一种用于解决这类非光滑凸优化问题的双层神经网络模型，该模型不需要计算精确的罚参数，且适当放宽假设条件，遗憾的是，网络结构为双层，相对其他单层神经网络增加了模型复杂度。……