基于随机森林算法的打叶工艺参数优化

卢沛临，田 青，李瑞东，吴 箭，邓绍坤，范茂青，李 强，逄 涛

(1.云南烟叶复烤有限责任公司，云南昆明 650000；2.云南烟叶复烤有限责任公司泸西复烤厂，云南红河 652400；3.云南省烟草农业科学研究院，云南昆明 650000)

打叶复烤是卷烟工业企业进行原料初挑、模块配方、均匀性提升的重要环节[1]。近年来，随着各卷烟企业重点品牌对成品片烟核心质量指标均匀性水平要求的不断提高，打叶复烤企业在参数设置和优化管控方面进行了大量研究。杨凯等[2]通过烟碱值的组配模式，探索出基于烟碱变异系数的均质化控制模式。皮亮等[3]结合历史数据，以过程工艺和参数标准化为切入点， 有效控制过程质量稳定性， 从而使最终产品质量指标稳定性显著提升。杨洋等[4]通过多指标权重分析和正交试验对遵义复烤新线工艺参数进行优化。黄小艳等[5]通过Scikit_learn中的决策树算法和正交试验，根据加工历史数据，使用机器学习方式对打叶复烤的水分参数进行了优化。通过以上研究使产品的化学成分指标、叶片结构指标的均匀性有了明显提升，但在过程质量管控和数据价值的利用上仍有待加强。

2001年，Breiman[6]将决策树集成组合成随机森林。随机森林算法是一种非常具有代表性的机器学习Bagging集成算法[7]，它以决策树作为基评估器，多棵树随机组成的森林也叫随机森林，包括随机森林分类器和随机森林回归器(random forest regressor)。成浩科等[8]使用随机森林算法建立了河流总磷的预测模型，分析了河流总磷的影响因素。苏志同等[9]也使用随机森林算法对铝电解煅烧工艺参数进行了研究。由于决策树算法本身存在的局限性，决策树模型预测效果比随机森林模型容易过拟合且受异常值的影响更大。张莉等[10]使用随机森林和逻辑回归分类模型，对各类烟叶样品的外观质量指标和感官质量指标进行关联分析，使精选效率大幅度提升，选出的烟叶工业适用性也明显提高。 为适应卷烟工业企业对片烟中片率的要求，进一步分析中片率与打叶复烤工艺参数之间的相关性，笔者采用随机森林回归器对2021年叶梗分离工艺参数和片烟中片率进行回归建模，以期找到打叶复烤打叶工艺参数优化调控的方向。

1 研究数据与方法

1.1 研究数据选取2021年泸西复烤厂配方烟叶产地相近、产品质量指标要求相同的出口备货烟叶模块共计43个，从17 646个数据中筛选出涉及叶梗分离段一打、二打、三打、四打、五打和一至十二风分共计33项工艺参数及中片率数据，共9 792个数据。相关数据来自泸西复烤厂2021年中控系统的操作日志。将选取的数据集记为D={xij}(i=1,2,…,n;j=1,2,…,m)，其中n和m分别表示样本数和指标数。

1.2 随机森林回归算法随机森林是一种集成学习算法，集成多个决策树算法对相同现象产生重复的预测结果，利用bootstrap 重抽样方法从原始样本中抽取多个样本,对每个bootstrap 样本构建决策树,然后将所有决策树预测平均值作为最终预测结果。随机森林回归可以看成是由多个弱预测器(决策树)集成的强预测器，抵消了部分随机误差，对异常值和噪声具有很好的容忍度。

随机森林回归算法步骤可归纳如下：

设从独立分布的随机向量(X,Y)中抽取训练集,输入向量为X,输出向量为Y,则预测输出h(X)的均方泛化误差为EX，Y[Y-h(X)]2。

设θ为随机参数向量,则对应的决策树为T(θ)。

(2)特征的随机选取。在每棵回归树的每个节点处从m个特征中随机抽取mtrain个特征(mtrain

(3)随机森林的生成。每棵回归树开始自顶向下的递归分枝，直到满足分割终止条件。

(4)OOB估计及模型评价。将生成的k棵回归树组成随机森林回归模型，回归的效果评价采用袋外数据(OOB)预测的残差均方(MSE)和拟合系数(R2)。计算公式如下：

(5)模型优化。通过多次循环生成随机森林回归模型，求出每次循环的模型拟合系数和均方根误差值，得到最优决策树大小参数、决策树最大深度参数、内部节点再划分所需的最小样本参数、叶子节点最小样本数、最大特征数。

(6)特征重要性评价。特征重要性评价通常使用基尼指数(Gini index)或者袋外数据(OOB)错误率作为评估指标来衡量，采用袋外数据(OOB)错误率作为评估指标。对于随机森林回归中的变量重要性评分(variable importance measure，VIM)，使用基于permutation随机置换的残差均方减小量进行衡量。具体过程如下：

a.每一个自助样本建立一个回归树模型，同时使用该模型对相应的袋外数据OOB进行预测，得到k个袋外数据的残差均方，记为MSE1，MSE2，…,MSEk。

b.变量Xi在k个OOB样本中随机置换，形成新的OOB测试样本，然后用已建立的随机森林对新的OOB进行预测，与第一步的计算方法相同，得到随机置换后的OOB残差均方，得到以下矩阵：

c.用MSE1，MSE2，…，MSEk与OOB残差均方矩阵对应的第i行向量相减，平均后再除以标准误差得到变量Xi的重要性评分，即

2 结果与分析

2.1 随机森林规模参数及其他参数的优化模型规模参数(n_estimators)代表随机森林中树木的数量，即基评估器的数量。这个参数对随机森林模型精确度的影响是单向的，模型规模参数越大，模型的效果往往越好。同时，任何模型都具有决策边界，当模型规模参数达到一定数值后，随机森林的精确度往往不再上升。为了获取最优的模型效果，使用300次循环，计算不断调试模型规模参数(得到学习曲线)，求出每次循环的模型拟合系数和均方根误差，并以可视化形式进行展现，便于求得最优参数值。

经过循环计算得出的最优拟合系数和均方根误差见表1。当模型规模参数为93时，以最优拟合系数作为衡量标准时，随机森林模型精确度最大；当模型规模参数为17时，均方根误差最小。

表1 随机森林规模参数

通过观察学习曲线(图1)发现，当模型规模参数为93时，曲线均处于平稳状态，此时均方根误差为7.21，均方根误差稍有增加。为了保障模型精确且稳定可靠，选择93作为随机森林规模参数(Scikit_learn中均方根误差被认定为一种误差，因此显示为负值，真实的均方根误差为其显示的绝对值)。

图1 随机森林模型规模参数学习曲线

随机森林模型在模型规模参数为93时，采用循环算法绘制出的树最大深度(Max_depth)学习曲线见图2。表2为优化后模型拟合系数与均方根误差的变化。由于拟合系数和均方根误差的最优值不同，根据参数变化百分比选择对损失百分比最小的参数模型，并建立随机森林回归模型。

表2 模型优化前后参数的变化

图2 优化后的随机森林模型参数学习曲线

2.2 随机森林模型模拟结果随机森林对中片率的模拟结果见图3。图3显示出坐标点距离直线越近，表明预测值与实际值越接近。对预测值和实际值进行相关性分析，相关系数为0.782,预测值与实际值存在较强的非线性相关性。在多因素影响、非线性关系且关系复杂的情况下，随机森林仍然可以较好地预测不同叶梗分离参数下的中片率。

图3 随机森林模型中片率模拟结果

2.3 模型的重要特征因素评价在兼顾模型精确性和稳定性，实现综合性能最好时，将剩余的70%测试集数据导入模型，选取决策影响度大于5%的因素作为重要特征参数，得出影响模型决策的参数特征重要度排序，见表3。从表3可以看出，针对此次建模所采用的参数指标，二打一联打辊转速、五打打辊转速、三打打辊转速和一打打辊转速是叶梗分离参数中影响最大的4个工艺参数指标，其中二打一联打辊转速和五打打辊转速对中片率的影响最大，分别占比18.01%和18.31%。

表3 模型中片率与梗叶分离工艺参数特征重要度排序

2.4 基于重要特征因素和回归关系的试验验证利用Values语法读取出测试集数据，选取测试集中的9个重要特征因素进行预测，结果如表4所示。然后，再将中片率的预测值与真实值进行对比，结果见图4。

图4 中片率预测值与实际值的比较

表4 测试集数据及中片率预测值

使用Scikit_learn回归模型中的3个重要评判指标对预测效果进行评价，模型回归评分为0.622(评分越接近1，则模型预测准确度越好；当评分为负数时，表示模型预测效果较差)。该回归模型MSE为1.824，预测值与真实值相比存在1.428 的平均误差。在相对误差方面，平均相对误差为3.93%，说明随机森林回归模型准确度能够满足现场参数调控需求。

3 结论与讨论

目前打叶复烤企业的工艺参数选择往往是依靠现场操作人员的经验来确定，热风润叶和叶梗分离参数的调控对片烟的叶片结构具有较为明显的调节作用,但在实际生产中负责不同工段的操作人员很可能不同，依靠经验进行调控的方式难以形成固有的规律。针对加工出口烟叶梗叶分离段的工艺参数，建立随机森林回归模型，初步筛选出9个影响中片率的重要特征参数，模型回归评分达到0.622，回归模型预测效果较好。该方法可为打叶复烤打叶工艺参数的调控优化提供技术支持。

随着烟草行业数字化转型的逐步推进，在未来还需要进一步打通工商业相关业务的数据链条，获取更多高质量的业务数据，通过包括随机森林算法在内的大数据分析和机器学习算法，建立更加准确、适用的预测模型，实现烟叶复烤的数字化和智能化，支撑行业高质量发展。