具有无穷时滞高阶模糊Cohen-Grossberg神经网络的稳定性

郑伟范， 张继业

（西南交通大学牵引动力国家重点实验室，四川成都，610031）

具有无穷时滞高阶模糊Cohen-Grossberg神经网络的稳定性

郑伟范， 张继业

（西南交通大学牵引动力国家重点实验室，四川成都，610031）

利用M矩阵理论和矩阵不等式、矢量Lyapunov函数法，研究了一类具有无穷时滞的高阶模糊Cohen-Grossberg神经网络的全局指数稳定性.在不要求神经网络激活函数的单调递增性、可微性及Lipschitz连续等假设条件下，得到了该类神经网络平衡点的存在性和唯一性，以及全局指数稳定性的代数判据.该判据为M矩阵的显式形式，与系统的时间滞后以及反应扩散无关，易于在应用中进行检验.最后，通过仿真算例，验证了该方法的正确性和有效性.

神经网络；时间滞后；稳定性；M矩阵

自1983年M.A.Cohen与S.Grossberg提出可用于联想记忆与并行计算的神经网络以来［1］，由于其较好的学习和非线性逼近能力，可以应用于解决模式分类、图像处理、线性规划、信号处理以及复杂优化问题等，使得Cohen-Grossberg神经网络得到了深入的研究和广泛应用.然而，神经网络的这些应用依赖于其动力学行为，如稳定性行为等.如对于联想记忆神经网络，应具有多个与需要存储的记忆模式对应的平衡点，且这些平衡点都是稳定的.而用于优化计算的神经网络在理想情况下是有且只有一个全局稳定的平衡点，且其平衡点一般对应于具有物理意义的某一最优途径.因此，构造神经网络的目的是通过网络解的渐进性，使其趋于平衡点，从而找到最优途径［2］.通常情况下，神经网络的平衡点是事先不知道的.平衡点的存在性成为神经网络的重要问题之一，且也是稳定性研究的前提.因此，神经网络的设计与应用之前均需要分析其网络系统的平衡点的存在性和稳定性，已有许多文献讨论了神经网络的定性行为［3-14］.一般来说，人工神经网络系统模型由积分-微分等数学方程表示.而用数学模型来表示现实世界问题时，经常会碰到诸如复杂性、不确定性和模糊性等问题.为了考虑实际的不确定性和模糊性，Yang T.等人首先将模糊逻辑引入神经网络系统中［15］，随后出现了大量考虑模糊性对神经网络系统定性行为的影响结果，如文献［13，16］讨论的结果.

在神经网络的实际设计过程，以及VLSI（very large scale integration）的硬件实现过程中，神经网络通常由于存在不同大小和长度的神经轴突组成的并行路径而具有空间特性，由于电子扩散或信号传输延迟等的存在，沿并行路径的传播并不是即时完成的，因而导致系统存在连续分布的时间滞后.从系统状态变化来看，即时间滞后导致当前状态会受到之前状态的影响；可能会出现系统的整个历史状态会影响当前的状态，这样的时间滞后即为无穷时滞的情况［4，6-7，9，14，16］.而由于时间滞后的引入会很大程度地影响系统的稳定性，甚至导致系统不稳定［3-4］，因而有必要对具有无穷时滞的神经网络系统进行定性分析.最近的一些文章得到了一些具有时间滞后的神经网络系统的定性分析结果，如文献［3-4］研究了具有时变时滞的一阶神经网络的稳定性；文献［6］研究了具有时变时滞和无穷时滞的一阶模糊Cohen-Grossberg神经网络的指数稳定性；文献［7］在文献［6］的基础上，进一步考虑反应扩散的影响，得到了系统稳定性的结果.

与一阶等低阶神经网络系统比较起来，高阶神经网络［5］具有逼近能力强、收敛速度快、存储能力大及容错性高等特点，使得高阶神经网络系统的研究受到广泛关注［8-14］.文献［8］研究了具有时变时滞高阶联想记忆的Cohen-Grossberg神经网络周期解的稳定性，但在高阶项中不含有时变时滞；文献［9］考虑了离散时滞和分布时滞的影响，研究了具有离散时滞和分布时滞高阶神经网络的稳定性；文献［10，14］分别研究了具有时变时滞和S型无穷时滞的Hopfield型高阶神经网络的稳定性，得到了指数稳定的判据；文献［11-12］研究了具有时变时滞的高阶Cohen-Grossberg神经网络的稳定性；文献［13］研究了具有反应扩散项、时变时滞项和随机影响的高阶模糊Cohen-Grossberg神经网络的同步条件；不仅如此，文献［16］进一步考虑了脉冲、随机性，以及反应扩散项对神经网络系统稳定性的影响，针对一阶神经网络模型，研究了具有时变时滞和无穷时滞的模糊Cohen-Grossberg神经网络系统稳定性的影响，得到了指数稳定性的判据.

综上所述，现有文献对于一阶的神经网络系统，考虑了无穷时滞影响的稳定性判据结果已经比较多，但是对于高阶Cohen-Grossberg神经网络系统研究的文献多数考虑了时变时滞的影响，较少考虑无穷时滞的影响.本文在文献［3-4，6-7，16］等具有无穷时滞的一阶神经网络的稳定性结果的基础上，考虑无穷时滞对高阶神经网络稳定性的影响，讨论带有反应扩散项的具有无穷时滞的高阶模糊Cohen-Grossberg神经网络平衡点的存在性及其全局稳定性，在不要求神经网络激活函数的严格单调增或全局Lipschitz连续等条件，只需在满足上确界条件的情况下，利用M矩阵理论、矩阵不等式，矢量Lyapunov函数法，得到了该类神经网络系统指数稳定的充分条件.得到的结果独立于系统的时间滞后，推广了现有文献的一些结果.

1 基本模型及假设

结合无穷时间滞后，模糊和反应扩散项的影响，本文考虑如下微分-积分方程描述的具有无穷时滞的高阶模糊Cohen-Grossberg神经网络模型：

式中：ui为第i个神经元的状态变量；n为神经元的个数，i＝1，2，…，n；aij为常数，j＝1，2，…，n；Dil（t，x，ui（t，x））≥0为反应扩散函数；xl为空间变量，l＝1，2，…，m；A＝（aij）n×n为一阶连接权矩阵；为模糊反馈项连接权系数；J＝（J1，J2，…，Jn）T为输入向量；f（u）＝（f1（u1），f2（u2），…，fn（un））T，g（u）＝（g1（u1），g2（u2），…，gn（un））T和h（u）＝（h1（u1），h2（u2），…，hn（un））T为神经元激活函数；“∧”和“∨”分别为模糊逻辑中的“与”和“或”操作；di（ui）为系统的放大函数；ρi（ui）为保持系统（1）有界的适当行为函数；τij（t）和τik（t）为有界的时变时滞函数，0≤τij（t），τik（t）≤τ，其中，i，j，k＝1，2，…，n；核函数kij∶［0，∞）→［0，∞）为［0，∞）上的分段连续函数，令k＝（kij）n×n，包含该核函数的无穷积分项表示无穷时间滞后.

系统（1）的核函数需要满足假设A和B：

假设Ai，j＝1，2，…，n.

假设B＋∞，i，j＝1，2，…，n，β≥0.

为了研究系统（1）的指数稳定性，进一步要求核函数满足如下包含了假设A和B［4］的假设C：

假设C…，n.这里的Nij（β）是［0，δ），δ＞0上的连续函数，且Nij（0）＝1.方程（1）的初始条件为ui（s）＝φi（s），s≤0，φi在（－∞，0］上有界连续.方程（2）是方程（1）的边界条件，其中是光滑边界的一个紧集，且mes Ω＞0，∂Ω是Ω的边界，t∈I＝［0，＋∞）.

因此，系统（3）与（1）具有相同的稳定性特性.对系统（1）的激活函数和放大函数，作如下假设：

假设D对于任意j∈｛1，2，…，n｝，fj∶R→R，gj∶R→R和hj∶R→R，存在实数pj＞0，qj＞0，rj＞0，Mi＞0，使得激活函数满足Lipschitz常数的上确界，即

其中Mk为假设D中定义的常数.

假设E对任意i∈｛1，2，…，n｝，ei∶R→R是严格单调递增的，即存在一个正的对角矩阵¯ρ＝diag（ρ1，ρ2，…，ρn）使得下式成立：

［ρi（u）－ρi（v）］／（u－v）≥ρi， u≠v.

假设F对任意i∈｛1，2，…，n｝，di∶R→R是连续函数，且0＜σi≤di，其中σi为常数.

假设G（文献［10］的假设2及注释2） 对任意，且与激活函数独立.

2 平衡点的存在性与唯一性

本节利用M矩阵、不等式、同胚映射等理论方法，讨论神经网络系统（1）的平衡点的存在性与唯一性.为方便讨论，引入如下的一些定义及引理.

定义1［4］对于系统（1）的平衡点u*（t），如果存在常数λ＞0和η＞0，使得对所有t＞0，式

成立,，则称系统（1）的平衡点为全局指数稳定的.

定义2［17］实矩阵A＝（aij）称为M矩阵，如果aij≤0，i，j＝1，2，…，n，i≠j，aii＞0且A的所有主子式为正.

n

则由于∂u*i／∂x＝0，系统（4）与（3）具有相同的平衡点.因此，系统（4）与（1）具有相同的平衡点.

首先考察与系统（1）相关的如下非线性映射：

令H（u）＝（H1（u1），H2（u2），…，Hn（un））T，则系统（5）与系统（1）具有相同的平衡点，即H（u）＝0的解是系统（1）的平衡点.如果映射H（u）＝0是Rn上的同胚映射，则系统（1）具有唯一的平衡点u*［2］.下面讨论保证H（u）＝0为同胚映射的条件.

引理1［4］如果H（u）∈C0满足如下两个条件，则H（u）是Rn上的同胚映射.

（1）H（u）是Rn上的单射；（2）当时

引理2［15］假设x与y是神经网络系统（1）的两个状态变量，则

引理3［8］对于平衡点u*＝（u1*，u2*，…，u*）T，且g∶R→R连续可微，则有下式成立：

ni

式中：ξk位于uk与uk之间.

因此，由引理2和引理3，可得如下引理：

引理4假设x与y是系统（1）的两个状态变量，则由引理2和引理3可得：

定理1 设高阶神经网络系统（1）的满足假设D、E、F和G，如果

证明 为了证明对任意的输入J，高阶神经网络系统（1）存在唯一平衡点u*，只需证明H（u）是Rn上的同胚映射.如下分两步证明.

步骤1 首先证明上述引理1中的条件（1）成立.如果该条件不成立，则存在不相等的状态标量x≠y，x，y∈Rn使得H（x）＝H（y）.

使得ρi（xi）－ρi（yi）＝βi（xi－yi）对于任意i＝1，2，…，n成立.由方程式（5）可得：

再由假设D、E、F和G，可得如下不等式成立：

由引理2和4，可得如下不等式成立：

式中：En为单位矩阵.

通过计算

由式（9）及Schwartz不等式，可得

由上述两个步骤的证明，根据引理1，对于任意输入J，H（u）是Rn上的同胚.因此，高阶神经网络系统（1）存在唯一的平衡点u*.

证毕.

3 平衡点的全局指数稳定性

本节利用矩阵不等式、矢量Lyapunov方法，分析高阶神经网络系统（1）的全局指数稳定性.

定理2设系统（1）的满足假设D、E、F和G，如果为M矩阵，则对任意的输入J，高阶神经网络系统（1）存在的唯一平衡点为指数稳定的.

证明 由于α为M矩阵，由定理1可知，高阶神经网络系统（1）存在唯一平衡点u*.令z（t）＝u（t）－u*，设

则高阶神经网络模型（1）可写为如下形式，

其中：

根据假设D以及假设G，可得：

式中：＃＝1，2.

方程（11）的初始条件为ψ（s）＝φ（s）－u*，s≤0，且z＝0为其平衡点.因此，根据假设D，可得：

由假设F可知，0≤σi≤di（zi（t）＋u*i）.显然可得di（zi（t）＋u*i）／σi≥1.

因此，存在常数λ＞0，使得如下不等式成立，

式中：τ是系统（1）满足假设条件的常数.

由式（11）和（14），根据假设D和G、引理4、边界条件（2）以及mes Ω＞0，可得计算如下：

其中：η＝（1＋δ）ξmax／ξmin，易见η＞1.由指数稳定的定义1，高阶神经网络系统（11）的零解是全局指数稳定的，即对应的高阶神经网络系统（1）的平衡点是全局指数稳定的.证毕.

注1本文中的激活函数只需满足假设D引入的Lipschitz常数的上确界，该条件不要求激活函数可微性、单调递增性和Lipschitz连续，扩展了系统的应用范围.因此，分段线性和S型激活函数都是满足假设D的激活函数的特殊情况.

注2上述结果包含了最近一些文献的研究结果.如果二阶激活函数，则系统（1）成为一般的模糊Cohen-Grossberg神经网络系统，如文献［7］中的神经网络系统；进一步如果反应扩散项为零，即Di（t，x，ui）＝0，则系统（1）如文献［6］中讨论的系统一样.进一步如果放大函数di（ui）为零，则系统为文献［15，2-4］研究的一般意义上的细胞神经网络系统.

注3 若取无穷时滞项系数c（ijk1）＝0与c（ijk2）＝0，则高阶神经网络系统成为不含无穷时滞，而只含有时变时滞的神经网络系统，如文献［8，11-13］中系统一致，换句话说，上述文献的神经网络系统只是本文研究系统的特殊情况.因而，本文的结论都可以应用于这些文献的系统.

注4 如果同时取反应扩散项为零，即Di（t，x，ui）＝0，无穷时滞项系数c（ijk1）＝0与c（ijk2）＝0，且di（ui（t））＝1，则系统变为文献［10］研究的具有时变时滞的Hopfield型高阶神经网络系统；因此，本文的结果也可以应用于Hopfield型神经网络系统的情况.

4 算 例

例1 考虑如下三维无穷时滞模糊高阶Cohen-Grossberg神经网络系统，即对于系统（1），取n＝3；m＝1；i，j，k＝1，2，3.其余参数与取值如下：

假设系统的模糊关联矩阵分别如下：

可以计算得到

由定义2知α为M矩阵，由定理2知，具有上述参数的神经网络系统（1）存在唯一稳定平衡点，且是全局指数稳定的.

由此可知，算例1的高阶神经网络系统若不考虑模糊的影响，取无穷时滞项为0，反应扩散项为零，以及放大系数di（ui（t））＝1时，则系统为文献［10］的算例1表示的高阶神经网络系统（用其文献中的D（1）i为本文系统（1）中的c（1）i＝c（2）i），然而用该文献中的方法则不能得到本文系统（1）的判定；而且，本文得到的判据更直观，而不是LMI方法得到的隐性判据，应用中便于检验.

5 结 论

高阶神经网络，与一阶等低阶神经网络系统相比，具有更快的收敛速度、更强的逼近能力、更大的存储能力及更高的容错性等优点，使其成为当前研究的热点.本文主要基于M矩阵理论，以及泛函同胚理论，不要求高阶神经网络系统的激活函数具有单调递增性、可微性及Lipschitz连续性等条件，只需满足Lipschitz常数的上确界的条件下，研究了一类具有无穷时滞的模糊高阶Cohen-Grossberg神经网络的平衡点的存在条件.进一步利用M矩阵理论、矩阵不等式方法、矢量Lyapunov函数法相关理论，通过构造适当的Lyapunov函数，引入适当的曲线，得到了该类模糊高阶神经网络的全局指数稳定性的充分条件.得到的代数判据推广了现有大多数神经网络，如含有模糊项、不含模糊项细胞神经网络，以及一阶神经网络的稳定性结果.该判据独立于系统的时间滞后，而且是显式判据，便于在应用中检验.仿真算例结果验证了结论的正确性和有效性.得到的判据与反应扩散项无关，没有体现反应扩散的影响，具有一定的保守性，下一步可以进一步研究反应扩散相关的模糊高阶神经网络的稳定性.

［1］ COHEN M A，GROSSBERG S.Absolute stability and global pattern formation and parallel memory storage by competitive neural networks［J］.IEEE Trans.Syst.Man Cybern.，1983，13（5）：815-825.

［2］ FORTI M，TESI A.New conditions for global stability of neuralnetworkswithapplicationtolinearand quadraticprogrammingproblems［J］.IEEETrans.Circuits Syst.I，1995，42（7）：354-366.

［3］ CIVALLERI P P，GILLI M，PANDOLFI L.On stability of cellular neural networks with delay［J］.IEEE Trans.Circuits Syst.I，1993，40（3）：157-164.

［4］ ZHANG JIYE，SUDAY，IWASAT.Absolutely exponential stability of a class of neural networks with unbounded delay［J］.Neural Networks，2004，17（3）：391-397.

［5］ MILENKOVIC S，OBRADOVICZ，LITOVSKIV.Annealing baseddynamiclearninginsecond-order neural networks［C］∥IEEE International Conference on Neural Networks.Washington D.C.：IEEE，1996：458-463.

［6］ 龙兰，徐晓惠，张继业.时滞Cohen-Grossberg神经网络的全局稳定性［J］.西南交通大学学报，2008，43（3）：381-386.LONG Lan，XU Xiaohui，ZHANG Jiye.Global stability analysisofCohen-Grossbergneuralnetworkswith unboundedtimedelays［J］.JournalofSouthwest Jiaotong University，2008，43（3）：381-386.

［7］ 施继忠，徐晓惠，张继业.扩散反应脉冲Cohen-Grossberg神经网络的鲁棒稳定性［J］.西南交通大学学报，2010，45（4）：596-602.SHI Jizhong，XUXiaohui，ZHANGJiye.Robust stability of impulsive Cohen-Grossberg neural networks with reaction-diffusion terms［J］.Journal of Southwest Jiaotong University，2010，45（4）：596-602.

［8］ KE Yunquan，MIAO Chunfang.Periodic solutions for high-order Cohen-Grossberg-type BAM neural networks with time-delays［C］∥ISNN 2011，PartⅠ，LNCS 2011.［S.l.］：Springer-Verlag，6675：375-384.

［9］ WANG Zidong，FANG Jian'an，LIU Xiaohui.Global stability of stochastic high-order neural networks with discrete and distributed delays［J］.Chaos，Solitons and Fractals，2008，36（2）：388-396.

［10］ ZHENGChengde，ZHANGHuaguang，WANG Zhanshan.Novel exponential stability criteria of highorder neural networks with time-varying delays［J］.IEEE Trans.Syst.ManCybern-B：Cybernetics，2011，41（2）：486-496.

［11］ REN Fengli，CAO Jinde.Periodic solutions for a class of higher-order Cohen Grossberg type neural networks with delays［J］.Computers and Mathematics with Applications，2007，54（6）：826-839.

［12］ JI Yan，CUI Baotong.Novel stability analysis of highorder Cohen-Grossberg neural networks with timevarying delays［C］∥Proceedings of the 26th Chinese Control Conference.Zhangjiajie：［s.n.］，2007：176-180.

［13］ YANPing，LÜTeng，LEIJingsheng，etal.Synchronization of fuzzy high-order Cohen-Grossberg neuralnetworkswithreaction-diffusiontermand time-varying［J］.Journal of Computational Information Systems，2011，7（11）：4145-4152.

［14］ WANG Yangfan，LU Chunge，JI Guangrong，et al.Global exponential stability of high-order Hopfield-type neuralnetworkswithS-typedistributedtime delays［J］.Commun.NonlinearSci.Numer.Simulat.，2011，16（8）：3319-3325.

［15］ YANG Tao，YANG Linbao.The global stability of fuzzy cellular network［J］.IEEE Trans.Circuits Syst.I，1996，43（10）：880-883.

［16］ WANG Changhong，KAO Yonggui，YANG Guowei.Exponential stabilityofimpulsivestochasticfuzzy reaction-diffusionCohen-Grossbergneuralnetworks withmixeddelays［J］.Neurocomputing，2012，89（15）：55-63.

［17］ SILJAK D D.Large-scale dynamic systems-stability and structure［M］.New York：Elsevier North-Holland Inc.，1978：394-406.

（中文编辑：唐 晴 英文编辑：周 尧）

Stability of High Order Fuzzy Cohen-Grossberg Neural Networks with Unbounded Time Delays

ZHENG Weifan， ZHANG Jiye
（State Key Laboratory of Traction Power，Southwest Jiaotong University，Chengdu 610031，China）

Using M-matrix theory，matrix inequality and vector Lyapunov methods，the global exponential stability of a class of high-order fuzzy Cohen-Grossberg neural networks with unbounded time delays was investigated.Without assuming the monotonicity，differentiability and Lipschitz continuity of the active functions，the algebraic criteria ensuring existence，uniqueness and exponential stability of the equilibrium point in the neural networks were obtained.The criteria is independent to the reaction diffusion and the time delays of neural networks by the explicit form of M-matrix，and easy to be checked in application.Finally，the correctness and validity of the methods was verified by a numerical example.

neural networks；time delays；stability；M-matrix

TP183

：A

0258-2724（2014）06-1052-09

10.3969／j.issn.0258-2724.2014.06.017

2013-08-16

国家自然科学基金资助项目（11172247，61273021，61100118，61373009）；中央高校基本科研业务费专项资金资助项目（SWJTU11BR091）；四川省科技支撑计划资助项目（2013GZX0166）

郑伟范（1973－），男，讲师，研究方向为神经网络、复杂系统稳定性与控制、交通信息工程与控制，E-mail：wfzheng＠swjtu.edu.cn

郑伟范，张继业.具有无穷时滞高阶模糊Cohen-Grossberg神经网络的稳定性［J］.西南交通大学学报，2014，49（6）：1052-1060.