基于迁移学习的刀具剩余寿命预测方法

蔡伟立，胡小锋+，刘梦湘

(1.上海交通大学 机械与动力工程学院，上海 200240；2.中国航发南方工业有限公司，湖南 株洲 412002)

0 引言

在汽轮机、航空发动机等高值关键零部件加工过程中，为保证其服役安全性及可靠性，需要对零件表面质量与加工精度进行严格控制。刀具作为整个加工系统在加工过程中直接与工件接触的部件，对总体生产制造环节的效率与质量具有至关重要的作用，其状态需要进行监控，预测刀具的剩余寿命，进行合理换刀，在保证加工质量的前提下，提高生产效率，降低成本。而这些高值关键零部件多数为项目型制造产品，工艺条件多变，基于历史数据训练的剩余寿命预测模型在新工艺条件下容易失效。因此，有必要研究历史刀具剩余寿命预测模型在新工艺条件下的调整与复用，在缺乏历史数据样本的情况下改善刀具剩余寿命预测的准确度。

加工过程中停机监测刀具磨损状态或零件表面质量会对加工效率造成较大的影响，因此现多使用各种传感器进行加工过程监控，通过传感器信号对刀具状态或剩余寿命进行预测，常见的监测信号包括声发射、主轴功率、振动、力和电流等[1]。在机械设备故障诊断与寿命预测的相关领域中，国内外学者进行了许多研究，常用的方法包括支持向量回归[2]、人工神经网络[3-4]、模糊推理系统[5]、隐马尔科夫模型[6-7]等。然而这些方法首先需要对传感器信号进行特征提取，依赖于先验知识与专家经验。近年来，深度学习方法被广泛应用于各个领域，得益于深层的网络架构与一些特殊的网络单元，深度学习方法可以对相对原始的信号进行处理，克服对先验知识与专家经验的依赖，自适应提取特征[8-10]。AGHAZADEH等[9]将卷积神经网络应用于刀具磨损的预测，分别对力、振动、电流信号进行小波变换，建立起时频信号与刀具磨损量之间的映射关系。曹大理等[11]通过卷积神经网络，利用力、振动和声发射时域信号，对刀具磨损进行监测。刀具加工过程的监控信号是一种典型的时间序列信号，尽管卷积网络已经被较多地应用于处理过程监控信号，但其更多地适用于具有空间结构的数据(如图像)，而循环神经网络(Recurrent Neural Network, RNN)则更适用于时间序列信号的处理[12-14]。其中，长短时记忆网络(Long Short-Term Memory network, LSTM)是一种典型的RNN变体，最早由HOCHREITER等[15]于1997年提出，并有后续的学者进行改进。ZHENG等[12]采用长短时记忆网络对过程监控信号进行处理，对涡轮发动机与刀具的剩余寿命进行预测，相比传统方法有了更高的准确度。

然而，在新工艺条件下，基于原有工艺条件下的数据建立的预测模型准确度降低，模型失效，而重新训练预测模型则缺乏足够的带标签样本。采用迁移学习方法，可以基于少量的无标签样本，对原有的预测模型进行调整，从而实现预测模型在新工艺条件下的复用。Guo等[16]利用卷积神经网络训练源域数据集的轴承故障预测模型，再通过目标域数据集的无标签轴承振动信号，利用迁移学习方法进行目标域数据集的轴承故障诊断。雷亚国等[17]利用深度残差网络，从不同域的机械装备监测数据中提取迁移故障特征，然后在网络训练过程中施加领域适配正则项约束，形成深度迁移诊断模型，基于实验室滚动轴承的故障诊断模型，迁移预测铁路机车轴承的故障状态。SUN等[18]构建了一种深度迁移学习网络模型，首先利用稀疏编码器进行特征提取，以KL散度(也称为相对熵)为衡量标准，通过调整模型参数，降低不同刀具的信号数据特征的差异，实现不同刀具之间剩余预测模型的迁移。

采用深度学习方法构建刀具剩余寿命预测模型相比传统方法存在一定的优势，但其所需的数据量要求较多，训练时间相对较长。在新工艺条件下，缺乏带标签的历史样本，且从头开始训练预测模型耗时耗力。为此，本文提出一种基于迁移学习的刀具剩余寿命预测方法，在新工艺条件下逐步提高刀具剩余寿命预测的准确度。该方法首先在源域(历史工艺条件下)数据集上通过长短时记忆网络构建监测信号与剩余寿命之间的映射关系；然后，通过迁移学习的动态对抗域适应方法，将源域的预测模型进行调整，复用于目标域(新工艺条件下)数据集。

1 迁移学习

常规的数据挖掘与机器学习算法大多假设训练数据集与测试数据集属于同一分布，而迁移学习则主要考虑训练集与测试集数据分布不同的情况。常规方法从头开始训练一个模型，而迁移学习则尝试基于较少的数据从已有模型进行相关知识的迁移。

2 动态对抗域适应方法

以汽轮机转子轮槽加工为例，在新工艺条件下，为快速构建刀具剩余寿命预测模型，基于已有历史工艺条件下的刀具剩余寿命预测模型，采用动态对抗域适应方法进行模型的调整，实现加工刀具剩余寿命的预测。

2.1 刀具剩余寿命预测模型

刀具剩余寿命预测模型由LSTM与非线性回归器两部分组成。LSTM是循环神经网络的一种典型变体，用于提取时间序列特征，可将其按时间维度展开[20]：

h(t)=f(h(t-1),x(t);ω)=

f(f(h(t-2),x(t-1);ω),x(t);ω)

=…=g(t)(x(t),x(t-1),x(t-2)，…,x(2),x(1))。

(1)

其中：x(t)为网络在时刻t的输入，对应加工过程监控信号x在时刻t的取值；h(t)为时刻t网络的输出，即为所提取的时间序列特征；ω为网络节点的内部参数；函数g(t)表示将所有历史时刻的时间序列信号作为输入，计算当前时刻网络的输出。

(2)

(3)

(4)

(5)

(6)

其中：下标i代表第i个LSTM单元；bF,bI,bO,b为偏置项;UF,UI,UO,U为输入权重矩阵;WF,WI,WO,W为循环权重矩阵，即为式(1)中网络节点的内部参数ω。

将LSTM所提取的时间序列特征h(t)输入由全连接神经网络构成的非线性回归器，经过计算可得出剩余寿命预测值y：

y=f(h(t);θ)=σ(WRh(t)+bR)。

(7)

式中：θ为全连接神经网络内部单元节点的参数，包含权重WR和偏置项bR;σ为激活函数。

2.2 动态对抗域适应框架

动态对抗域适应框架如图2所示，包含4个过程。

(1)利用源域(历史工艺条件)带剩余寿命标签的刀具加工过程监控历史数据，训练源域的刀具剩余寿命预测模型。该预测模型由LSTMS与非线性回归器组成，LSTMS作为时间序列特征提取器MS(·)，包含三层LSTM网络，每层节点数为256；非线性回归器R(·)包含两层全连接层神经网络，节点数为(256,32)，以及最后一层输出层，输入为LSTMS所提取的时序特征，输出为预测寿命值。源域预训练的目标损失函数为

[(yS-R(MS(xS)))2]。

(8)

(2)对抗域适应。在该步骤中，源域(历史工艺条件)与目标域(新工艺条件)的监控信号分别经过LSTMS与LSTMT模型进行时间序列特征提取后，将MS(XS),MT(XT)分别输入域判别器D(·)，得出监控信号对应的域标签，1代表源域，0代表目标域。在训练过程中，源域的LSTMS模型保持不变，目标域的LSTMT模型结构与LSTMS相同，且由LSTMS的模型参数进行初始化。域判别器包含两层全连接层神经网络，节点数为(256,32)，以及最后一层输出层。在该步骤训练过程中，对域判别器D(·)进行训练的目的是为了判断出XS,XT各自对应的域，而对LSTMT进行训练的目的则是为了使域判别器无法区别XS,XT各自对应的域，通过二者的对抗训练，实现域适应的迁移操作，二者对应的目标损失函数分别如下[21]：

[logD(MS(xS))]-ExT～XT

[log(1-D(MT(xT)))];

(9)

[logD(MT(xT))]。

(10)

(3)目标域预测。在该步骤中，复用对抗域适应训练好的LSTMT模型与源域预训练的非线性回归器，输入目标域的过程监控信号，预测其对应的刀具剩余寿命。

(4)目标域样本更新。以新工艺条件下第一把加工刀具的建模为例，伪代码如下所示，依据刀具加工的过程，对模型进行动态的对抗域适应更新。首先利用历史工艺条件下带标签的数据样本进行源域预训练。为保证有一定的目标域样本量，当第一把刀具已加工5条轮槽后，将前5条轮槽的加工过程监控信号作为目标域信号，开始进行对抗域适应操作，并对目标域信号对应的刀具剩余寿命进行预测。完成预测后，将第6条轮槽的过程监控信号加入目标域数据样本集，重复进行对抗域适应操作，预测目标域信号对应的刀具剩余寿命，直至加工结束。

算法1新工艺条件下第一把加工刀具动态建模过程。

①源域预训练

while 加工未结束

if 加工轮槽数

前i条轮槽的过程监控信号作为目标域数据；

②对抗域适应操作；

③目标域剩余寿命预测；

i=i+1；

end if

end while

3 应用实例

3.1 实验数据

本系列实验于某汽轮机厂进行。汽轮机转子的枞树型轮槽加工在Ingersoll专用数控轮槽铣床上进行，精加工刀具采用J1类型精铣刀，加工过程采用美国物理声学公司的R15α声发射传感器进行加工过程监控，并由配套的AEwin软件输出对应的特征信号。R15α声发射传感器频率响应范围为100～450 kHz，峰值频率为146.48 kHz，为整体式传感器，在数据采集过程中通过前置放大器与数据采集卡相连。加工现场如图3所示，图中圆圈标记处为声发射传感器安装位置。同时，在不同的位置安装两个传感器，一方面是为了保证实验的顺利进行，另一方面可以测试不同安装位置对采集声发射信号的影响。经过实验测试，不同安装位置对声发射信号采集的影响可以忽略不计，后续分析中仅采用其中一个传感器信号的数据。

本案例中，数据来源于3次汽轮机转子轮槽加工实验的精加工刀具，加工对象的材料与几何特征相同，但刀具的性能存在明显差异，且实验1和实验3加工切削参数为：主轴转速200 r/min，进给量20 mm/min；实验2的加工切削参数则为：主轴转速200 r/min，进给量15 mm/min。考虑每把刀具对应加工部位的上、下游工序刀具的刀具供应商、修磨次数、修磨量(mm)等因素，如表1所示，即主半精刀供应商、修磨次数、修磨量、加工槽数(C1～C4)，次半精刀供应商、修磨次数、修磨量、加工槽数(C5～C8)，精刀供应商、修磨次数、修磨量、加工槽数(C9～C12)[22]。表1中:T表示实验批次，U为刀具编号。分别对实验1、3和实验2的加工刀具进行层次聚类，得到4类刀具，分别为U1={1,3,4,12,13,14}，U2={2,5,15}，U3={9,11}，U4={6,7,8,10}。这4类刀具的性能有着明显差异。考虑到不同的切削参数与刀具性能差异对加工系统的影响，使得源域与目标域的刀具样本有更明显的差异，选取源域数据U1={1,3,4,12,13,14}，目标域数据U3={9,11}为例，进行实例分析。

表1 各实验刀具信息以及对应的上游工序刀具信息

AEwin软件输出声发射信号的幅值、能量、计数、持续时间、均方根值(RMS)、平均信号电平(ASL)、上升时间、峰值计数、平均频率、反算频率、初始频率、信号强度、绝对能量等多个特征信号，其中包含了与刀具的状态无关或者弱相关的信息。计算所有特征信号与刀具剩余寿命相关系数如表2所示，本案例中选取声发射监测信号中6个与刀具剩余寿命具有较强相关性的特征信号：能量、幅值、RMS、ASL、信号强度和绝对能量，作为模型输入。

表2 声发射信号各特征与刀具剩余寿命的相关系数

图4a所示为源域中一把刀具在加工过程中的声发射监控信号的RMS输出，该刀具共加工12条轮槽，每条轮槽的监控数据长度为6 000数据点，对监控数据按时间顺序进行分段，每300采样点为一单位加工时刻，则共有240个加工时刻，其对应的刀具剩余寿命(RUL)如图4b所示。图4b中，“线性

寿命”表示刀具的寿命随加工的进行稳定减少，即若刀具总加工寿命为12条轮槽，在加工完成3条轮槽后，其剩余寿命为9条轮槽；而“分段寿命”则将刀具寿命的衰退分成两个过程，加工前期衰退过程较为平稳，加工后期刀具性能衰退加剧，在本案例中采用了分段寿命函数[12,23]，即设置剩余寿命最大值为5。

综上所述，每个带标签的数据样本(x,y)，x为六维时间序列，时间序列长度为300，对应唯一的剩余寿命值y。需要注意的是，由于6种特征信号的数量级大小及量纲差异较大，在输入模型之前，需对其进行归一化处理：

(11)

式中：μi与σi分布为x中第i个特征信号xi的均值的标准差。

3.2 结果分析

对新工艺条件下第一把刀具进行分析。如图5所示为该刀具随加工轮槽数的增多进行动态对抗域适应的剩余寿命预测结果，图中虚线为RUL理论值，实线为直接采用历史工艺条件下的预训练模型对新工艺下该刀具进行RUL预测的结果，加粗实线为动态更新的对抗域适应模型的RUL预测结果。为更好地量化动态对抗域适应方法对刀具剩余寿命预测结果的改善，采用平均绝对误差(MAE)、均方根误差(RMSE)与平均准确率(A)[9]作为预测结果的评价指标：

(12)

(13)

(14)

表3所示为新工艺条件下第一把刀具经迁移训练后的RUL预测结果与直接采用历史工艺条件下的预训练模型进行预测的结果对比。可以看出，经过迁移训练后，模型预测结果的MAE与RMSE二者有了显著的降低，而平均准确率则有了明显的提升，在图5中也直观地表明了预测结果的改善。图5中，“RUL预测值0”为未经迁移训练的源域模型直接对目标域刀具进行RUL预测的结果，该预测值与RUL理论值曲线的规律类似，但其偏离量较大。“RUL预测值1”为源域模型经过迁移训练后得出的目标域模型，图5a～图5f分别代表从加工六条轮槽开始，每更新一条轮槽的数据，进行对抗域适应操作后，目标域模型的预测效果，是一个目标域样本逐渐增加从而动态更新模型的过程。在相同加工时刻，对“RUL预测值0”与“RUL预测值1”进行比对，大多数情况下“RUL预测值1”都取得了更好的效果。而在部分情况下，如图5b和图5d的前半部分，模型的预测结果存在较大波动，这也表明尽管对抗域适应的迁移方法能够依据数据的不同分布规律对模型参数进行调整，在较大程度上改善模型的预测结果，但其仍然不够稳定。

表3 新工艺条件下加工刀具1动态对抗域适应结果

新工艺条件下，在完成第一把刀具的动态对抗域适应训练后，采用最新的模型直接对第二把刀具进行RUL预测，其结果如图6a所示。基于最新的模型，使用第一把刀具带寿命标签的样本进行监督训练，对LSTMT和非线性回归器的模型参数进行微调，预测第二把刀具的RUL，结果如图6b所示。在第一把刀具的基础上，对第二把刀具进行动态对抗域适应训练，最终得到的RUL预测结果如图6c所示。3个模型的结果对比如表4所示，可以看出，相比用历史工艺条件下预训练模型的RUL预测结果，3个模型的预测结果均有改善，但其中，图6a所示模型在加工前半段的RUL预测值偏低且较为波动，后半段预测结果则偏高；图6b所示模型经由带寿命标签的数据样本进行微调，在前半段的预测值与理论值基本吻合，但后半段预测结果相比图6a所示模型有更大的偏离，这是由于，尽管在相同的工艺条件下进行加工，刀具本身的性能也有一定差异，只采用一把刀的数据样本微调的模型，在另一把不同的刀具下不能给出很好地预测结果；图6c所示模型在三者中表现最好，原因在于该模型由包含第二把刀具在内的目标域样本进行对抗域适应训练得到，其他二者则是基于第一把刀的数据样本训练得出的模型。

表4 新工艺条件下加工刀具2不同模型预测结果对比

4 结束语

为保证汽轮机、航空发动机等高值关键零部件的服役安全性及可靠性，需要对加工过程中的刀具状态进行监测，预测刀具剩余寿命。而这些产品多为项目型制造产品，工艺条件多变，基于历史工艺条件下的过程监测数据样本训练得出的刀具剩余寿命预测模型在新的加工工艺条件下容易失效，并且在新工艺条件下缺乏足够的数据样本，难以快速构建新的刀具剩余寿命预测模型。为此，本文提出一种基于动态对抗域适应的迁移学习方法，实现在新工艺条件下刀具剩余寿命预测模型的快速构建，提高在新工艺条件下刀具剩余寿命预测的准确率。首先，基于历史工艺条件下的数据样本构建源域的刀具剩余寿命预测模型；其次，通过对抗域适应训练操作，对目标域(新工艺条件)的特征提取器LSTMT模型进行参数的调节；再次，复用对抗域适应训练得到的LSTMT模型与源域预训练的非线性回归器，进行新工艺条件下的刀具剩余寿命预测;最后，对目标域的数据样本进行更新，重复进行对抗域适应训练操作与目标域预测，直至该刀具加工结束。

本文以轮槽铣刀的加工过程为例，通过动态对抗域适应训练对历史工艺条件下的刀具剩余寿命预测模型进行调整，进行了新工艺条件下的刀具剩余寿命预测：第一把刀预测结果的MAE、RMSE与平均准确率分别从从1.669 4、2.106 7、56.66%提升至0.336 7、0.422 9、91.26%；第二把刀预测结果的MAE、RMSE与平均准确率分别从1.041 6、1.478 4、72.13%提升至0.400 8、0.548 4、89.28%。尽管通过迁移学习得出的刀具剩余寿命预测模型存在一定的波动，但相比直接利用历史工艺条件下的预测模型，在新工艺条件下的剩余寿命预测准确率有了较大的改善，同时该方法能在新工艺条件缺乏足够训练样本的情况下，快速构建预测模型。

本文主要研究了单一源域下的知识迁移问题，然而实际可能存在多个源域可以用于辅助目标域的学习。因此，如何充分利用多源域的知识用于目标域中刀具寿命的准确预测将是下一步的研究重点。