基于CRBMs-RVR的涡轴发动机输出功率衰退预测

童志伟，鲁峰，黄金泉

（南京航空航天大学能源与动力学院，南京 210016）

0 引言

性能参数反映着航空发动机性能状态，随着发动机服役时间的累积，各部件受到自然磨损、腐蚀、积垢等影响发生性能退化，导致整机性能参数实际值与基线值之间产生相应的偏差。通过发动机传感器数据对性能参数进行预测，可掌握发动机性能衰退趋势，制定最佳维修策略，降低维修成本，提高设备运行的可靠性。

目前，针对航空发动机性能参数预测技术的研究主要有基于模型和基于数据2种。Takahisa等基于发动机机载模型设计了卡尔曼滤波器，实时估计表征气路部件性能状态的健康参数，并将其用于机载模型实现对发动机性能参数的预测，这种基于模型的方法很大程度上依赖于机载模型的精度。基于数据的预测方法以发动机传感器数据为基础，利用算法本身强大的非线性映射能力，直接建立发动机传感器参数与发动机性能参数之间的映射关系。谭巍等采用支持向量回归算法建立了航空发动机性能衰退综合指标的预测模型，对性能衰退趋势进行预测；在此基础上，曹惠玲等基于滑动时窗策略实时更新训练样本并自适应优化支持向量机建模参数，实现了对发动机性能参数的在线预测；丁刚等基于过程神经网络算法，对航空发动机性能衰退过程排气温度裕度进行预测。然而，航空发动机是复杂的强非线性、非平稳系统，且传感器测量结果通常含噪声，传统的基于模型和基于数据的预测方法无法提供预测结果的概率分布，忽略了由样本数据的不确定性而导致的预测结果不确定的问题。由Tipping提出的一种基于贝叶斯框架的稀疏概率模型——相关向量机（Relevance Vector Machines，RVM），模型结构相较于神经网络模型、支持向量机（Support Vector Machines，SVM）模型结构简单且泛化能力强，具有很强的噪声处理能力和概率式输出的独特优势，然而和诸多智能算法一样，在实际应用中容易受到数据特征选择的影响。对于航空发动机而言，传统的特征提取法如主成分分析法（Principal Component Analysis，PCA）等线性变换算法很大程度上破坏了数据的非线性结构，从而影响学习算法的学习效果。

因此，本文针对航空涡轴发动机时间序列模型因输入维度高而导致计算负荷大、因输入参数冗余而导致模型学习效率低等问题，引入了1类非线性特征提取方法——连续限制玻尔兹曼机（Continuous Restricted Boltzmann Machines，CRBM），通过堆叠多个CRBM组建CRBMs深度网络，提高对高维数据深层特征的提取能力。将CRBMs深度网络与相关向量回归（Relevance Vector Regression，RVR）算法相结合，构建基于CRBMs-RVR的涡轴发动机输出功率衰退预测模型，并给出预测结果的概率分布。

1 CRBMs-RVR预测算法

CRBMs-RVR预测算法由CRBMs深度网络与RVR回归模型结合构成，其结构如图1所示。从图中可见，网络由可视层单元={v,=1,2,…,}、隐含层单元={h,=1,2,…,}和层间权值向量={w}连接而成。其中、和的上标分别表示当前可视层和隐含层层号，3层隐含层单元数分别为、、。首先利用CRBMs深度网络对高维数据进行特征提取，挖掘数据深层信息并消除信息冗余；然后利用RVR回归算法进行建模，获得新特征数据与期望输出之间的映射关系。

图1 CRBMs-RVR预测算法结构

1.1 连续受限玻尔兹曼机

受限玻尔兹曼机（Restricted Boltzmann Machines，RBM）是一种随机递归的神经网络，由于其具有表示力强、易于推理等优点，在分类、降维、特征学习等任务执行中应用广泛。然而，传统的RBM网络由二值可见层和隐层单元组成，在处理连续数据时表现不佳。针对表现为连续形式的航空发动机传感器数据，引入Hinton等提出的CRBM，通过在激活函数sigmoid单元的输入端对样本增加零均值的高斯单元噪声，用连续形式的随机单元替换传统RBM中的二进制随机单元。CRBM网络结构如图2所示。从图中可见，可视层为网络的输入端，接收原始数据，单元个数与原始数据维度相同；隐含层是经CRBM网络提取的新特征，其单元个数即为新特征的维度。

图2 CRBM网络结构

在训练过程中，采用最小化对比散度权重更新算法（Minimizing Contrastive Divergence，MCD）迭代更新隐含层单元和可视层单元状态。在迭代计算的第步，隐含层单元状态表示为

式中：N(0,1)为以0为均值、1为标准差的标准正态分布函数，系数σ与函数N(0,1)相乘则产生1个均值为0、方差为σ的高斯噪声；为sigmoid函数

式中：、分别为sigmoid函数的上、下渐近线，通常取=0、=1；为控制sigmoid函数斜率的参数。

根据MCD算法，权值系数w以及参数的更新公式为

1.2 CRBMs-RVR

由于单个CRBM特征提取能力有限，为了提高对数据深层特征的提取能力，堆叠多个CRBM构建CRBMs深度网络。在CRBMs-RVR预测算法结构（图1）中，CRBMs深度网络由3个CRBM堆叠而成。在深度网络中，前一个CRBM的输出作为当前CRBM的输入，每个CRBM内部单独训练层间权值矩阵，并将变换后的向量作为当前CRBM的输出，整个训练过程以完全无监督方式进行。对于包含组维原始样本集V{ }v,=1,2,...,,=1,2,...,，利用CRBMs深度网络逐层提取特征，最终获得包含组、维数为的特征数据集，表示为{ }h,=1,2,...,,=1,2,...,。需要说明的是，提取的特征数据仅为原始样本的特征表达，无任何物理意义。

首先初定CRBMs的隐含层层数，计算重构误差，判断重构误差是否小于设定的阈值。如果重构误差小于阈值，则确定深度网络结构为；否则，向深度网络末端堆叠1个CRBM，增加网络深度。

利用建立训练好的CRBMs深度网络对原始数据集进行特征提取，将输出的特征数据集合作为RVR模型的输入，=(,,…,t)，为所对应的期望输出。假设训练样本{(,t)}相互独立，二者之间的非线性关系为

式中：=(,,…,w)为权值向量；(h,h)为核函数，=1,2,…,，=1,2,…,；ε为零均值、方差为的高斯噪声，则有

对于组训练样本(,)={(h,t)}，似然函数为

式中：表示维度为×(+1)的结构矩阵，=[,,…，ϕ]，ϕ=[1,(h,),…,(h,h)]。

当已知似然函数和先验分布后，依据贝叶斯公式可以得到权值向量的后验概率分布

由于(|,)与(|)均满足高斯分布，则权值向量的后验概率仍然满足高斯分布

式中：Σ=(+)，为后验协方差；=ΣΦt，为均值；矩阵=diag(,…，α)。

为求解权值向量的最大后验分布，通过最大化边缘似然函数(|,)计算超参数的估计值，并对其进行优化。边缘似然函数的计算公式为

对边缘似然函数的超参数和求偏导，并令导数式为0，得到

(1)地形地貌：高山出名茶的有利条件是多雨、温差大，从海拔高度来看，高海拔(>1 000 m)区气温过冷，日照时间偏长，不利于茶叶生长；低海拔(<200 m)区因气温偏高，茶树根部透水性差，也不利于茶树生长。

式中：γ=1-αΣ，Σ表示后验协方差矩阵的第个对角元素；为样本总数。

在预测过程中，对于新的输入向量，相应预测分布为

2 涡轴发动机输出功率衰退预测模型

2.1 数据预处理

针对某型含气路部件健康因子的双转子涡轴发动机部件级模型，模拟发动机气路部件性能衰退，获取传感器数据与输出功率数据集。根据工程实际情况，涡轴发动机可用气路传感器测量参数选择包括：动力涡轮转速n、燃气涡轮转速n、压气机出口压力和温度、动力涡轮进口压力和温度、燃油流量W以及旋翼负载总距角。气路部件健康因子选取压气机、燃气涡轮和动力涡轮流量变化系数ΔS、ΔS、ΔS，以及效率变化系数ΔS、ΔS、ΔS，表示为Δ=[ ΔS,ΔS,ΔS,ΔS,ΔS,ΔS]。

将发动机历史状态作为附加因素考虑到预测模型中，以体现时间序列的状态演化关系。依据前个步长的发动机气路部件传感器信息，完成对个步长后输出功率N的预测，预测模型为

式中：=[,,,,,,,]；为非线性函数，表示预测模型输入与输出之间的映射关系。

涡轴发动机各参数的数量级不同，因此对数据进行归一化处理，防止在模型训练过程中出现梯度消失问题，并使网络快速收敛。根据式（22），将样本数据归一化至[0,1]。

式中：、分别为原始数据和归一化后的标准数据；、分别为原始数据的最大值和最小值。

2.2 涡轴发动机输出功率衰退预测模型

基于CRBMs-RVR算法建立涡轴发动机输出功率预测模型。利用CRBMs深度网络对维的原始数据提取维非线性深层特征，并将特征信息作为RVR回归模型的输入，建立与期望输出功率之间的映射关系。引入均方根误差、平均绝对误差来评价预测模型的性能

核函数的选取以及核参数的设置很大程度上决定了RVR模型的学习效果。选择应用最为广泛的高斯核函数，并利用粒子群算法（Particle Swarm Optimization，PSO）对高斯核函数参数进行自动寻优，目标函数为RVR模型训练过程预测结果的平均绝对误差。高斯核函数计算公式为

式中：、分别为数据空间内的样本点，为高斯核函数的核参数。

基于CRBMs-RVR的涡轴发动机输出功率预测模型的构建主要步骤如下：

（1）获取涡轴发动机运行数据。

（2）构建训练样本矩阵和预测样本矩阵。确定预测模型的嵌入步长与预测步长，将预处理后的重构矩阵作为预测模型的训练样本矩阵和预测样本矩阵。

（3）构建CRBMs深度网络结构。确定CRBMs深度网络层数和层间节点数，并自下而上逐层训练。

（4）利用CRBMs深度网络对原始样本矩阵进行逐层特征提取并降维，将新特征数据输入RVR预测模型。

（5）构建RVR预测模型。以训练样本预测结果的平均误差为目标函数，利用PSO算法对核函数参数进行寻优。

（6）输入预测样本矩阵，检测模型精度，若未满足误差要求，则返回第（3）步。

（7）得到基于CRBMs-RVR的涡轴发动机输出功率预测模型。

3 仿真结果与分析

验证基于CRBMs-RVR的涡轴发动机输出功率预测模型的性能。计算机的配置为AMD Ryzen 5 3500U，内存为8G。算法验证仿真平台为Matlab 2016b。

3.1 试验说明

参照NASA基于MAPSS仿真平台对涡扇发动机发生气路部件性能退化的统计结果，在地面设计点处模拟涡轴发动机5000个飞行循环内气路部件性能衰退，获得传感器参数与输出功率的时间序列数据。5000个飞行循环内气路部件健康因子退化曲线如图3所示。

图3 气路部件健康因子退化曲线

3.2 涡轴发动机输出功率衰退预测结果

为了说明CRBMs深度网络在特征提取方面的优越性，分别建立传统的RVR预测模型、基于PCARVR算法的预测模型与本文提出的CRBMs-RVR预测模型进行对比，预测结果对比如图4所示。每个模型在10倍交叉验证的基础上进行完善，以保证可靠性。

从图中可见，随着涡轴发动机部件性能的衰退，输出功率呈衰退趋势。在3种模型预测结果中，基于CRBMs-RVR的预测模型预测值与实际值的贴合度最高；基于PCA-RVR的预测模型预测值在实际值曲线附近上下波动，表现出较差的稳定性；基于传统RVR的预测模型预测精度最低，预测值逐渐偏离实际值。

图4 3种模型预测结果对比

3种模型的预测结果分析见表1。从表中可见，基于PCA-RVR算法的模型预测结果的均方根误差为0.0264、绝对误差为0.0235，与基于传统RVR的预测模型相比分别减小38.4%和40.8%；基于CRBMs-RVR算法的模型预测结果的均方根误差仅为0.0152、绝对误差仅为0.0148，与基于传统RVR的预测模型相比分别减小64.6%和62.7%。这主要是因为RVR模型对输入数据结构敏感，采用特征提取算法对高维数据进行特征提取并降维，有效地消除了数据的冗余信息，有利于RVR模型的学习；简化模型结构，降低了模型训练时间。在测试过程中，RVR模型结构稀疏且仅为简单矩阵运算，因此包含PCA以及CRBMs特征提取算法的预测模型计算负荷小幅增加，但计算耗时仍处于非常低的水平。

表1 3种模型预测结果分析

对比基于CRBMs深度网络以及PCA对原始数据集进行特征提取的2种预测模型，可以看出基于CRBMs-RVR算法模型的预测结果比基于PCA-RVR算法模型的更优。这主要是因为PCA是一类线性变换法，在面对表现为强非线性关系的涡轴发动机数据时，信息特征提取能力受限，从而影响了学习机的学习效果。而CRBMs深度网络对发动机传感器数据进行逐层特征提取，能够对原始样本数据深层的非线性关系做出更加本质的刻画，因此基于CRBMs-RVR算法的预测模型预测效果最佳。

3.3 预测结果概率式输出

基于CRBMs-RVR算法的预测模型可以量化样本数据本身的不确定性以及建模的不确定性，获得预测结果的概率式输出。在95%的置信区间内，涡轴发动机预测结果概率式输出如图5所示。

图5 预测结果概率式输出

从图中可见，预测结果95%的置信区间覆盖了所有时间序列点处的涡轴发动机输出功率的实际值，预测精度非常高。为涡轴发动机输出功率衰退预测提供概率式输出，避免了因不确定性导致的预测风险，这也是基于RVR算法建立预测模型的独特优势。

4 结论

（1）RVR模型对输入数据结构敏感，对高维冗余的数据进行特征提取并降维，可有效简化模型结构、提高模型预测精度。

（2）与未进行特征提取的传统RVR预测模型和基于主成分分析法的PCA-RVR模型相比，本文提出的基于CRBMs-RVR的预测模型预测结果的均方根误差分别减小64.6%和42.4%，验证了CRBMs深度网络对于呈强非线性特征的航空发动机数据具有较高的特征提取能力。

（3）本文提出的基于CRBMs-RVR的预测算法，实现了对涡轴发动机输出功率衰退的预测，模型结构简单且预测精度高，并提供预测结果的概率分布，避免了因不确定性而导致的预测风险。同时本方法可以应用到航空发动机故障诊断等领域，有广泛的应用前景。