卷积神经网络在药品冷链监控系统中的应用

2017-11-03 08:14王红霞董冲冲
沈阳理工大学学报 2017年5期
关键词:错误率库房温湿度

王红霞,董冲冲,陈 亮

(沈阳理工大学 a.信息科学与工程学院;b.自动化与电气工程学院,沈阳 110159)

卷积神经网络在药品冷链监控系统中的应用

王红霞a,董冲冲b,陈 亮b

(沈阳理工大学 a.信息科学与工程学院;b.自动化与电气工程学院,沈阳 110159)

为了低温药品在仓储、运输等所有医药冷链环节中,能够保证药品的疗效,即针对药品的环境敏感性强、保存期限短、追溯需求大等问题,基于卷积神经网络算法,设计了药品冷链监控系统。通过不断改变卷积神经网络中的卷积核和抽取比例来得出最适合本系统的网络参数,从而能够更加准确地判断出药品库房中的温湿度数据是否存在人为干扰日常记录及故障现象。实验结果表明:选取的输入数据为2×160,第一层的卷积核为2×17,抽取比例为1∶3;第二层选取的卷积核为1×11,抽取比例为1∶2,这时得出的错误率最低为1.2%。

药品冷链监控系统;卷积神经网络;卷积核;抽取比例;人为干扰日常记录

在医药产品中,人们越来越关注冷藏药品的安全,它直接关系着民生和社会稳定[1]。疫苗、血液、生物药剂等冷链药品市场不断扩大,对药品冷链的要求也逐步提高,药品冷链质量管理面临着重大的机遇和挑战[2]。然而由于药品库房(冷库、阴凉库、常温库、冷藏车、保温箱…)种类较多,当用户进入药品库房现场查看温湿度数据时,需要把每个库房都检查一次,这样不仅浪费了大量的时间,而且管理水平较低,效果也不是很明显,由此可见人为操作不易达到随时随地监控的目的。在此情形下发展起来的药品冷链监控系统成为人们热点关注的应用技术之一,它不仅节省了时间,效率变得更高,而且适应性更强,以方便、直观、信息内容全面而被广泛应用于各种药品库房当中。

近年来,卷积神经网络(Convolutional Neural Network)是广泛应用的一种高效识别方法,已经成为许多科学领域的研究热点之一,尤其是在二维图像处理、机器视觉和模式识别中[3-4]。卷积神经网络是计算机深度学习的一种算法,是一种前馈神经网络。CNN包括比权重更多的连接,这时结构本身就类似于实现了一种形式的正则化[5]。另外因为CNN本身结构的复杂关系,还有某种程度上的平移不变性。在输入过程中,这种特别的CNN以数据驱动的形式通过自动学习过滤器的方法来提取图像特征[6]。本文采用传统的卷积神经网络结构,包括输入层、卷积层、子采样层、全连接层、输出层[7],在温湿度数据适度预处理条件下,通过不断训练卷积核和抽取比例使卷积神经网络能够更加有效地提取特征,获得更好的识别效果。

1 药品库房的温度和湿度数据预处理

常见的5种药品库房的温度和湿度的数据标准范围如表1所示。

表1 温湿度标准数据

在某段时间内采集到的药品常温库的温湿度数据如表2所示,其中T和H表示的是温度和湿度。

表2 温湿度数据

以药品常温库库房为例,在现场每2min采集一次温湿度数据,然后选取某一段时间的温度和湿度数据作为输入数据。标准输出结果(故障诊断情况)如表3所示。正常数据指在药品库房里测到的无任何改动的原始数据;人为干扰数据指药品库房内的温湿度在不达标的情况下,库房的管理者在测量温湿度表的附近采取一些能够调整数据的措施,来使这些数据达标,这时测到的数据为人为干扰数据。

表3 标准输出结果

2 卷积神经网络的基本概念

卷积神经网络是一个多层的神经网络,每层由多个二维平面组成,每个平面由多个独立神经元组成[8]。卷积神经网络的特征检测层通过训练数据来进行学习,避免了显式的特征提取,是隐式地从训练数据中进行学习特征,且由于同一特征映射面上的神经元权值相同,所以网络可以并行学习[9]。

将经过预处理的大量的药品库房的温湿度数据输入卷积神经网络中,采用与LeNet-5[10]结构类似的网络,通过对卷积层和子采样层的优化,诊断出人为干扰日常记录状况。对应特征的提取与分类的模型[11],如图1所示。

图1 卷积神经网络模型

卷积神经网络有许多种网络结构,药品冷链监控系统用到的卷积神经网络的卷积过程如图2所示,其主要由输入层、卷积层、子采样层、全连接层、输出层组成。

图2 CNN的卷积过程

2.1 卷积层

在一个卷积层中,前层的特征映射数据是先进行卷积核运算,然后再放入一个激活函数来得到特征映射数据作为输出,每个输出数据由许多个数据的卷积组合而成,如式(1)所示。

(1)

2.2 子采样层

一个子采样层可以生成输入数据的下采样版本。如图2所示,在第一次卷积(C1层)有M个特征数据输入,那么在第一次采样(S1层)就有M个特征数据输出;在第二次卷积(C2层)有N个特征数据输入,那么在第二次采样(S2层)就有N个特征数据输出。M和N可以相等,子采样层的公式为

(2)

式中down(·)为一个子采样函数。通常这个函数会在第一个子采样层(C1层到S1层之间的子采样层)输入数据中每个不同的1×m的块上执行加操作,这样这个输出数据在时间维度上就达到原来的1/m;这个函数会在第二个子采样层(C2层到S2层之间的子采样层)输入数据中每个不同的1×n的块上执行操作,这时这个输出数据在时间维度上就是原来的1/n。每个输出数据都有自己相对应的乘性偏置参数β和一个加性偏置参数b。第一次卷积完之后得到的数据,在经过C1层到S1层之间的子采样层时,抽取数据的比例为1∶m,这个比例表明在每m个数据当中选取最大的一个数据,作为子采样层的输出,经过该层后压缩了时间维度上的数据。在第二次卷积完之后,经过C2层到S2层之间的二次子采样时,抽取的比例为1∶n,此时这个比例表明在每n个数据当中选取最大的一个数据,m和n可以相等,然后一直循环下去,最后输出训练的结果。

3 网络参数选取

3.1 损失函数

经过数据预处理和权重初始化之后,需要有一个评估准则去评估预测值和真实结果之间的吻合度,也就是损失函数。实际上是计算出了每个样本上的Loss,再求平均之后的一个形式,如式(3)所示。

(3)

式中N是训练数据的个数。由于系统中的数据集中每个样本都有一一对应的标签,所以选择的损失函数为Softmax分类器中的互熵损失,如式(4)所示。

(4)

式中f表示激活函数。

3.2 网络结构参数

卷积层当中的卷积核和子采样层中的抽取比例的选取决定着训练温湿度数据结果的错误率。针对三种不同大小的样本,分别选取不同的卷积核和抽取比例,训练网络并计算输出结果的错误率。每种温湿度数据样本包含人为干扰数据样本和正常数据样本各1000个,从中任意选取1400个样本作为训练集,再从这1400个样本当中任意选取400个样本作为验证集,剩下的600个样本作为测试集。

由于在现场是2min记录一次数据,所以一天24h记录720个数据,图3为某药品常温库房某一整天的人为干扰的温湿度走势图,1代表湿度,变化的范围为50~70,2代表温度,变化的范围为10~20。

图3 24h的温湿度走势图

方案一:保存药品库房的温湿度会随着外界环境的温湿度变化而变化,所以人为干扰有可能发生在全天或在某个时间段内,并且为了把开门取药这一时间段的微小扰动和一些正常的扰动及发生故障的扰动囊括进来,选取一个样本集为2×40,每个样本里有温度和湿度数据各40个。选取不同的卷积核和抽取比例训练的错误率如表4所示。错误率的公式为

(5)

式中FP(False positives)指被错误地划分为正例的个数,即实际为负例但被分类器划分为正例的实例数;FN(False negatives)指被错误地划分为负例的个数,即实际为正例但被分类器划分为负例的实例数;P表示所有正例的个数;N表示所有负例的个数。正确率的公式为

accuracy=1-errorrate

(6)

表4 方案一卷积核和抽取比例的选取

由表4得出:在方案一里,C1层选取的卷积核为2×5,S1层选取的抽取比例为1∶3;C2层选取的卷积核为1×3,S2层选取的抽取比例为1∶2,这时得出的错误率最低为3.3%。

方案二:选取一个样本集为2×160,每个样本里有温度和湿度数据各160个。为了能够更加清楚地表示出一天不同的时间段所对应的温湿度的变化情况,这个样本集主要在早上、中午和晚上这三个时间段内选取。选取不同的卷积核和抽取比例训练的错误率如表5所示。

表5 方案二卷积核和抽取比例的选取

由表5得出:在方案二里,C1层选取的卷积核为2×17,S1层选取的抽取比例为1∶3;C2层选取的卷积核为1×11,S2层选取的抽取比例为1∶2,这时得出的错误率最低为1.2%。

方案三:考虑到每天的温湿度都在变化,选取一个样本集为2×720,每个样本里有温度和湿度数据各720个,这样既表明了白天的变化也了解了晚上的情况。选取不同的卷积核和抽取比例训练的错误率如表6所示。

表6 方案三卷积核和抽取比例的选取

由表6得出:在方案三里,C1层选取的卷积核为2×79,S1层选取的抽取比例为1∶3;C2层选取的卷积核为1×55,S2层选取的抽取比例为1∶2,这时得出的错误率最低为4.3%。

通过比较以上三个方案的结果得出,方案二的结果比较理想。由图3可以得出24h的温湿度变化情况,其中每160个数据既能包含不同阶段的变化情况,又能包括正常的扰动情况和发生故障的情况。考虑到药品库房的温湿度数据样本采集不易,选取一个样本集为2×160。方案二不仅在采集样本上节约了时间,而且既能包括方案一所涉及到的问题又能包括方案三所考虑的问题,所以选用这一方案用来测试某一时间段内的数据是否存在人为干扰较为准确。如果测试某一天或连续几天时,这时方案三比较简捷,但方案三的准确率不是很高。另外样本的数据量比较大;采集数据花费的时间比较多;样本不易获取。因此本系统选择方案二中所设计的参数为C1层选取的卷积核2×17,S1层选取的抽取比例1∶3;C2层选取的卷积核1×11,S2层选取的抽取比例1∶2。本方案的错误率不是很理想,对实验的条件和方法还有待提高。C1(卷积)层的训练结果如图4所示,x轴表示卷积核内数值变化的范围,y轴表示训练的次数,z轴表示经过训练之后卷积核内某一数值的个数。

图4 C1层的卷积结果

关于损失函数(吻合度)的训练结果如图5所示,x轴代表训练的次数,y轴代表loss的值,值越小表示吻合度越高,从而错误率越低,网络的识别效果就越好。

图5 损失函数的训练结果

4 结论

本文设计的药品冷链监控系统主要是通过卷积神经网络算法辨别出药品库房中的温湿度数据是否存在人为干扰现象及故障情况,从而保证药品库房中的温湿度能够达到保存药品的指标。通过以上三个方案得出,方案二当中的卷积核和抽取比例,能够使此算法达到最佳的理想效果,更加准确地判断出是否出现故障或是正常的干扰。缺点:方案二所达到的错误率不是很理想,中间出的差错较多,另外在采集样本时要考虑多方条件,所以本方案还有待提高。

本系统利用卷积神经网络算法快速、高效地分类压缩温度、湿度数据,提取有效特征,从而诊断出不同的故障情况。此算法在本文中是用来对药品冷链的温湿度数据的处理,这与以往在图像当中的应用有所不同,完善了药品冷链监控系统。

[1] 郭莉莎.第三方冷链物流企业营销策略研究[J].中国科技信息,2010(20):194-195.

[2] 张晓欢.我国医药冷链物流的发展状况与对策研究[J].管理观察,2015(8):151-154.

[3] 蔡娟,蔡坚勇,廖晓东,等.基于卷积神经网络的手势识别初探[J].计算机系统应用,2015,24(4):113-117.

[4] Lawrence S,Giles C L,Tsoi A C,et al.Face recognition:A convolutional neural network approach[J].IEEE Trans.on Neural Networks,1997,8(1):98-113.

[5] 吕国豪,罗四维,黄雅平,等.基于卷积神经网络的正则化方法[J].计算机研究与发展,2014,51(9):1891-1900.

[6] Ji S,Yang M,Yu K.3D Convolutional Neural Networks for Human Action Recognition[J].IEEE Transactions on Pattern Analysis & Machine Intelligence,2013,35(1):221-231.

[7] 费建超,芮挺,周遊,等.基于梯度的多输入卷积神经网络[J].光电工程,2015,42(3):33-38.

[8] Silver D,Huang A,Maddison C J,et al.Mastering the game of Go with deep neural networks and tree search.[J].Nature,2016,57(6):484-489.

[9] 王力,王小华,王莉.神经网络在车牌识别中的应用[J].微型机与应用,2011,30(5):38-40.

[10] Lecun Y,Bottou L,Bengio Y,et al.Gradient-based learning applied to document recognition[J].Proceedings of the IEEE,1998,86(11):351-356.

[11] 赵志宏,杨绍普,马增强.基于卷积神经网络 LeNet-5 的车牌字符识别研究[J].系统仿真学报,2010,22(3):638-641.

[12] Bouvrie J.Notes on Convolutional Neural Networks[J].Neural Nets,2006(6):123-127.

(责任编辑:马金发)

ApplicationofConvolutionNeuralNetworkinDrugColdChainMonitoringSystem

WANG Hongxia,DONG Chongchong,CHEN Liang

(Shenyang Ligong University,Shenyang 110159,China)

For low-temperature drugs in storage,transportation and all pharmaceutical cold chain links,drug cold chain monitoring system is designed to ensure drug efficacy by the convolution neural network algorithm,which could solve proktems of strong environmental sensitivity,short shelf life and large traceability.Through changing the convolution kernel and decimation ratio in the convolution neural network,the convolution neural network parameters to be obtained are the most suitable for system,which means that the temperature and humidity data can be judged more accurately for existence of human disturbance daily record and false phenomenon in drug storehouse.The experimental results show that the input data is 2×160,the convolution kernel of the first layer is 2×17 and the extraction ratio is 1∶3;the convolution kernel of the second layer is 1×11 and the extraction ratio is 1∶2,the error rate is 1.2%.

drug cold chain monitoring system;convolution neural network;convolution kernel;extraction proportion;human disturbance daily record

TP274.5

A

2017-04-01

王红霞(1977—),女,教授,博士,研究方向:网络管理技术、信息安全技术、信息栅格及系统仿真技术。

1003-1251(2017)05-0034-05

猜你喜欢
错误率库房温湿度
石化某库房建设项目的全要素管理要点
化学品库房施工组织设计分析
基于AT89C51的数字型蚕用温湿度计的设计
基于DSP的多路温湿度监测系统
小学生分数计算高错误率成因及对策
基于温湿度控制的天气预测装置
正视错误,寻求策略
典当行库房被盗案
蒸发冷却温湿度独立控制空调系统的应用
解析小学高段学生英语单词抄写作业错误原因