基于VGG16卷积神经网络的5G高噪调制识别技术

封 晨 纪腾飞 杨 琳

（天津光电通信技术有限公司，天津 300211）

0 引言

随着人工智能与信息技术的发展，传统的数字调制识别技术远不能满足当代5G通信的需求，如何在低信噪比下提高数字调制识别率成为信号处理领域的一个研究热点。

国内专家学者在非协作通信的条件下，利用卷积神经网络自动学习各种数字调制信号的星座图特征，并对4-正交振幅调制（4-Quadrature Amplitude Modulation，4QAM）、16-正交振幅调制（16-Quadrature Amplitude Modulation，16QAM）和64-正交振幅调制（64-Quadrature Amplitude Modulation，64QAM）3种典型的数字调制方式进行仿真试验。王建新等人利用盲均衡技术克服信道的多径效应与系统同步误差，对信号减法聚类，将提取聚类中心与理想星座图模型进行匹配，实现识别多进制振幅键控（M-Ary Amplitude Shift Keying，MASK）、多进制相移键控（M-Ary Phase Shift Keying，MPSK）以及多进制正交振幅调制（M-Ary Quadrature Amplitude Modulation，MQAM）等调制功能。史蕴豪等人采用VGG16深度卷积神经网络提取信号小波变换后的系数图像特征，利用自编码器对高维特征进行降维处理，引入域适应技术提高待测信号识别的准确率。徐旭东等人对VGG16卷积神经网络进行迁移，完成特征提取任务，改善了网络的泛化能力，与后向传播（Back Propagation，BP）神经网络相比，其识别准确率有所提高。

虽然以上研究人员改进了数字通信调制识别技术，但是在实际工程应用中，信道电磁环境极其复杂，识别率会比理想情况低。因此，需要结合其他领域的相关技术来提高识别率，以满足工程应用的实际需求。

1 数字调制识别

数字调制识别一直是信号截获处理方面的热点话题，也是信号筛选和解调的基础，在通信对抗中具有重要意义。数字调制识别位于数字通信系统的接收端，在信号解调前须对信号的调制类型进行识别。通过提取接收端信号的某种特征来识别数字调制信号，从而选择合适的分类器对信号分类进行识别，进而根据识别的调制方式选择相应的解调器进行解调，以恢复原始信号。

在5G-新射频（New Radio，NR）通信场景中，数字调制方式更丰富，主要包括载波的相位改变、幅度不变的二进制相移键控（π/2-Binary Phase Shift Keying，π/2-BPSK）和四进制相移键控（Quaternary Phase Shift Keying，QPSK）的PSK调制方式以及载波相位和幅度均改变的16QAM、64QAM和256QAM等QAM调制方式。其中，下行链路支持的调制方式主要为QPSK、16QAM、64QAM及256QAM，上行链路支持的调制方式包括2种：对（正交频分复用Orthogonal Frequency Division Multiplexing，OFDM）+循环前缀（Cycle Prefix，CP）来说，调制方式主要为QPSK、16QAM、64QAM及256QAM。对离散傅里叶变换扩频的正交频分复用（Orthogonal Frequency Division Multiplexing with Discrete Fourier Transform Spread Spectrum，DFT-S-OFDM）+CP来说，调制方式主要为π/2-BPSK、QPSK、16QAM、64QAM及256QAM。

2 VGG16卷积神经网络

2.1 VGG16网络结构

根据卷积核大小和卷积层数可以将VGG网络模型分为A、A-局部有响应正则化（A-Local Responsive Regularization，A-LRN）、B、C、D和E共6个卷积神经网络配置（Convolutional Net -Configuration，ConvNet- Configuration）。其中，D、E配置较为常用，分别为VGG16和VGG19。由于5G数字调制方式仅涉及5种，因此采用结构简单、层数较少的VGG16网络进行分析。

VGG16卷积神经网络模型包括13个卷积层、3个全连接层及5个池化层。其中，卷积层和全连接层具有权重系数，因此也称权重层（池化层不涉及权重，因此不属于权重层，不被计数）。

由图1可知，VGG16网络模型由若干卷积层和池化层堆叠而成，并且具有简单的模型结构（卷积层均采用相同的卷积核参数，池化层均采用相同的池化参数）。

图1 VGG16卷积神经网络模型Model_Init

2.2 VGG16调制识别算法

基于VGG16卷积神经网络实现5G高噪背景下的调制识别，设计算法如下。

步骤1，制作5G高噪数字调制星座图数据集；步骤2，星座图数据集预处理；步骤3，基于Tensorflow 2.0平台搭建VGG16卷积神经网络模型Model；步骤4，设定识别率阈值；步骤5，设置迭代次数，基于Kfolder方法对星座图数据集进行交叉训练；步骤6，训练识别率满足阈值时训练完成，保存训练模型Model并进行测试；步骤7，测试识别率满足阈值时测试完成，保存最终模型Model并统计各调制方式识别率。

步骤1的详细描述如下。

基于种数字通信调制原理，每种数字调制方式制作个无噪星座图数据集，如公式（1）所示。

式中：Δ为第种调制方式的第个星座图。

确定低信噪比种类，如公式（2）所示。

为数据集添加种信噪比，得到最终的带噪星座图数据集，如公式（3）所示。

式中：λΔ为给第种调制方式的第个星座图添加第种信噪比。

步骤2的详细描述如下。

为提高星座图的识别率，将带噪星座图数据集预处理为背景黑色，星座点绿色的新星座图数据集为。由步骤1中的公式（3）可知，中的星座图数量共计张，按照信噪比分类均匀提出80%的作为训练验证集α，20%的作为测试集。

步骤5的详细描述如下。

设置迭代次数，如公式（4）所示。

式中：为设置的最高迭代次数。

基于Kfolder交叉验证法，将训练验证集打乱后平均分成份，如公式（5）所示。

每次从中拿出β（1≤≤）用于验证，其他数据集用于训练。

3 仿真及验证

制作5G高噪背景下数字调制星座图数据集。

基于π/2-BPSK、QPSK、16QAM、64QAM及256QAM等5种数字通信调制原理，每种数字调制方式制作1 000个无噪星座图数据集，如公式（6）所示。

确定低信噪比种类，如公式（7）所示。

式中：-6dB: 3dB: 12dB为初始信噪比为-6 dB，以3 dB为步长递增，最大信噪比为12 dB。为数据集添加7种信噪比得到最终的带噪星座图数据集，如公式（8）所示。

如图2所示，为提高星座图的识别率，将带噪星座图数据集预处理为背景黑色，星座点绿色的新星座图数据集为。

图2 添加0 dB高斯白噪声预处理后的星座图

中的星座图数量共计510007=35000张，按照信噪比分类均匀提出80%的（共计350000.8=28000张）作为训练验证集，20%的α_new（共计350000.2=7000张）作为测试集；设定识别率阈值=90%，设置迭代次数，如公式（9）所示。

基于Kfolder交叉验证法，将训练验证集打乱后平均分成5份，如公式（10）所示。

每次从中拿出β（1≤≤5）用于验证，其他数据集用于训练。

由于预处理星座图数据为图像数据集，计算机在仿真推理时的耗时将会增加，因此，为了更高效地测试算法模型VGG16的有效性，制定少量的数据集进行模拟训练。为避免出现欠拟合情况，根据工程经验，将训练验证集数据分为5份，每次让模型在其他4份数据上训练，剩下1份进行验证。最后取5次验证分数的平均数，尽可能客观地评价算法模型的性能，从而充分利用现有的预处理星座图数据集。采用Kfolder-5次交叉训练验证的模型精确率（包括训练精确率、验证精确率）与损耗（包括训练损耗、验证损耗）曲线如图3、图4所示。

图3 Kfolder-5次交叉训练验证识别率η曲线

图4 Kfolder-5次交叉训练验证损耗Loss曲线

由图3可知，经过5次交叉训练取平均后发现，模型精确率在第一轮迭代时逐渐平缓向上至98.25%，在第二、第三轮迭代训练后，模型精确率出现小幅波动±2.5%，而经过最后两轮的迭代训练，模型精确率逐渐趋向收敛，训练与验证精确率达到了理想的100%。训练数据集多次对模型进行迭代训练，发现在第三轮迭代时，验证集的精确率要远高于训练精确率，证明VGG16模型在第三轮迭代中期逐渐趋于可靠。由图4可知，经过一轮迭代，损耗值逐渐平缓衰减到0.01，第二轮迭代后，损耗值收敛至0.000 1。因此，考量模型精确率与损耗值的收敛情况，验证了VGG16算法模型的可靠性。

采用Kfolder方法训练模型，可提高模型的泛化能力，训练识别率满足阈值，保存训练模型Model并进行测试；将测试集中-6 dB~12 dB下经π/2-BPSK、QPSK、16QAM、64QAM及256QAM预处理后的星座图集送入训练好的模型Model，测试不同分贝下各调制方式的识别率。

当测试识别率满足阈值时测试完成，保存最终模型Model并统计各调制方式识别率。

如图5所示，π/2-BPSK、QPSK、16QAM、64QAM及256QAM的识别率与信噪比成正比，综合5种调制方式的识别率发现，经训练后的VGG16算法模型对π/2-BPSK调制方式较为敏感，整体识别率较高，而对16QAM调制方式不太敏感，整体识别率较低。作为5G高速通信的256QAM调制方式，模型对其具有很好的识别效果。当低信噪比大约为3 dB时，5G通信各调制方式均能达到90%以上。验证了VGG16卷积神经网络技术在高噪环境下提高5G调制识别准确率的可行性。

图5 5G通信各数字调制方式识别率η

4 结语

通过VGG16卷积神经网络对模拟的5G高噪调制数据集进行分类识别，当信噪比为3 dB时，5种调制方式的识别率均达到了90%以上。因此，基于深度学习技术可提高5G低信噪比下多种数字调制方式的识别率，有利于对各种通信信号进行有效识别。此外，还可以监测低信噪比无线电，避免非法电台占用有效通信频带。