基于深度学习的无线通信接收方法研究进展与趋势

李攀攀，谢正霞，乐光学，刘鑫

综述

基于深度学习的无线通信接收方法研究进展与趋势

李攀攀1，谢正霞2，乐光学1，刘鑫3

（1.嘉兴学院信息科学与工程学院，浙江 嘉兴 314001；2.嘉兴学院建筑工程学院，浙江 嘉兴 314001；3.大连理工大学信息与通信工程学院，辽宁 大连 116024）

随着无线通信应用边界的不断扩展，无线通信应用环境也日趋复杂多样，面临射频损伤、信道衰落、干扰和噪声等负面影响，给接收端恢复原始信息带来挑战。借鉴深度学习方法在计算机视觉、模式识别、自然语言处理等领域取得的研究成果，基于深度学习的无线通信接收技术受到学术界和产业界的广泛关注。首先阐述了国内外基于深度学习无线通信接收技术的研究现状；接着概述了信号大数据背景下无线通信接收所面临的技术挑战，并提出基于深度神经网络的无线通信智能接收参考架构；最后探讨了信号大数据背景下无线通信智能接收方法的发展趋势。为基于深度学习无线通信技术的研究和发展提供借鉴。

无线通信；信号大数据；深度学习；深度神经网络；信号接收

0 引言

通信系统是利用自然界的基本规律和人类的基础感官可达性建立的信息系统，通信手段和技术的提升是人类不断探索的动力[1]。近年来，以5G、6G、物联网、边缘计算等为代表的新一代信息技术拓展了无线通信应用场景，特别是在以高密度无线网络（high density wireless network，HDWN）技术、大规模多输入多输出（multiple input multiple output，MIMO）技术、毫米波技术等为代表的新兴技术的推动下，无线通信技术得到了迅猛发展[2-4]。

无线通信技术始终围绕着如何提高传输速率和通信质量展开，作为信息接收的关键，无线通信接收技术是构建整个无线通信系统的基础之一[5]。但是，当前信号体制种类及数量呈指数级增长、信息系统结构愈加复杂、电磁应用环境愈发恶劣，无线电在开放环境中亦面临着射频损伤、信道衰落、干扰和噪声等因素的影响，无线通信接收端如何从各种复杂因素及其相互叠加影响的含噪声和干扰的海量信号中精确地恢复得到原始信息，逐渐成为当前无线通信接收所面临的严峻挑战。因此，无线通信系统中能够有效抑制干扰的智能接收技术备受学术界和产业界的关注[6-7]。

近年来，以深度神经网络为代表的人工智能技术（如监督学习、无监督学习、强化学习、迁移学习等）在计算机视觉、自然语言处理、模式识别等领域取得了巨大成功。深度神经网络具有自组织、自适应和自学习等能力，适合处理因素众多（特别是涉及信息模糊和不精确）的问题。将深度神经网络应用于无线通信系统接收成为探索智能通信的有效方法，将给智能通信信号接收与处理技术的发展带来活力[8]。借鉴深度学习方法中自动特征提取、可持续学习的思想，部署在接收端的深度神经网络能够使用海量射频数据样本集自动提取信号特征，识别射频信号在开放、复杂信道环境中所受到的噪声和干扰，并感知信道时变，提升无线通信接收端恢复信息的能力[9-13]。

1 无线通信接收模型与深度学习

传统的无线通信系统发射端完成信号信源编码、信道编码等工作。无线通信系统框架结构如图1所示，将基带信号经过调制后，以射频载波形式发射出去，射频信号经过无线信道后由接收端经过解调、信道译码、信源译码等流程恢复得到比特流信息。

图1 无线通信系统框架结构

从图1可以看出，信号从发射端经过含噪声的无线信道到达接收端，电磁波不可避免会受射频损伤、信道衰落、噪声和干扰等因素的影响，到达接收端的信号将失真[14]；从理论方面看，现有的通信理论体系结构在利用信号大数据和深度学习方面有着固有的局限性，难以从信号大数据中深层次挖掘隐藏的、有价值的信息，这都给接收端精确地恢复得到原始信息带来了理论和技术上的挑战[15]，特别是在当前大带宽、高速率、低时延的应用场景下。因此，将神经网络应用到接收端是解决上述问题的关键技术之一。

近年来，深度学习已成功应用到无线通信领域，如信道估计[15]、信道状态信息（channel state information，CSI）反馈与信号检测[16]、端到端联合优化[17]等。神经网络应用在无线通信接收端的发展历程如图2所示，从2015年至今，深度学习在计算机视觉、模式识别等领域取得的成果给无线通信智能接收研究带来了新的机遇。

基于深度学习的无线通信接收端框架如图3所示。把I/Q（in-phase/quadrature）信号描述为二维或三维图像，使用深度神经网络部分或全部替代传统接收端中信道估计、均衡、信号检测与译码、CSI检测与反馈等步骤，恢复得到原始信息。随着深度学习取得的大量研究成果及其在各领域的广泛应用，将深度学习应用于通信系统的接收端并精确处理复杂信号已成为学术界和产业界关注的重点[13]。

2 研究现状及关键技术

近年来，深度学习及其衍生技术的出现为信号处理注入了新的活力，基于深度学习的无线通信接收技术呈现出神经网络替代接收端单模块、多模块，乃至接收端整个端到端的联合优化趋势。根据神经网络模型层数不同，应用到无线通信接收端的深度学习模型可分为人工神经网络（artificial neural network，ANN）、卷积神经网络（convolutional neural network，CNN）以及循环神经网络（recurrent neural network，RNN）等。

2.1 接收端信道估计、均衡、解调、解码技术

2.1.1 信道估计

能否准确地获取CSI直接影响无线通信系统的整体性能，现代无线通信系统的能量效率、频谱利用率和系统容量获得了前所未有的提升，但是通信系统导频污染严重，通信环境复杂多变导致信道快时变、非平稳特性等因素，这都导致难以获取精确的CSI。因此，在接收端研究基于深度学习的信道估计变得极为重要[18-19]。

图2 神经网络在无线通信接收端的发展历程

图3 基于深度学习的无线通信接收端框架

文献[20]借鉴深度学习模型特征提取的能力，较早将深度学习引入信道估计研究，在信道向量为条件高斯随机变量的情况下，为了消除协方差矩阵不具备平移不变性所导致的信道估计复杂度高的问题，采用最小均方误差（minimum mean squared error，MMSE）并利用CNN模型补偿误差，将信道估计复杂度降低到(log)。文献[21]基于DNN模型的自适应信道估计方法，在有信噪比（signal-to-noise ratio，SNR）先验知识的前提下，使用归一化最小平方误差方法解决了传统基于线性最小均方误差信道估计精确度低的问题。与文献[21]的假设条件不同，文献[22]在无须信道模型和统计性先验知识的情况下，针对时变瑞利衰落信道环境，提出了基于深度学习的信道估计，能够以较小的均方误差动态追踪信道状态。

文献[23]针对正交频分复用（orthogonal frequency division multiplexing，OFDM）信道估计研究提出一种基于DNN的双选择性信道衰落估算方法：首先采用模拟数据离线训练DNN模型，然后在线动态调整以提高DNN学习模型的泛化能力，之后将训练模型的参数具体化，以减少DNN模型随机初始化所导致的性能下降。该方法无须信道的先验统计知识，适用于有模型误差或非平稳信道的通信系统。借鉴深度学习在图像与模式识别领域取得的研究成果，ChannelNet[24]将时频响应视为二维图像，将导频值视为低分辨率图像，使用基于深度神经网络的超分辨率图像修复去噪技术进行信道估计。

传统DNN训练时间过长，难以适用于时变性较强的OFDM信道估计。为降低DNN模型的训练复杂度，RoemNet[25]采用多元学习器（meta-learner）的信道估计方法，这些元学习器能并行、跨渠道地从多个环境中学习信道状态特征。随着各元学习器的更新，RoemNet具有足够的鲁棒性，仅用少量的导频数据就可实现对无先验知识信道估计的学习，在减轻普勒扩展带来的负面影响的同时还能降低不同信道环境下的比特误码率（bit error rate，BER）。针对OFDM信道环境下信道频域选择性衰落导致下行链路信道估计性能受限的问题，DL-CE（deep learning-based channel estimation，基于深度学习的信道估计）方法[26]采用自回归方法对信道建模，利用深度学习模型求解信道响应函数及其相关频域系数。通过迭代训练，DL-CE能够学习到自回归方法的最优估计系数。进一步，文献[27]采用生成对抗网络（generative adversarial network，GAN）模型近似表示无线信道响应冲击函数，通过训练GAN模型得到更准确的信道随机特征概率分布函数。

在MIMO信道估计领域，高计算复杂度和高空间复杂度给提升MIMO系统信道特征估计准确性带来了极大的挑战[28]。针对此，文献[29]对DNN进行离线辅助训练和在线学习相结合的方法，实现了较高精度的超分辨率信道估计和波达方向估计。在高速移动环境中，无线信道受多径效应和多普勒效应共同影响，信道响应具有时/频域选择性衰落（双衰落）和非平稳的特性，传统信道估计方法通常需要大量的导频和前同步码，性能不高。为解决此问题，决策导向信道估计（decision directed channel estimation，DD-CE）方法[30]使用了两个DNN分别用于训练和学习MIMO信道衰落函数的实部和虚部，并预测空时分组码的步信道，能在无须精确信道数学模型的情况下，以低时间复杂度实现对高速MIMO信道衰落的估计。为进一步提高信道估计的效率，ChanEstNet[31]首先使用CNN模型提取信道响应特征矢量，接着再使用RNN模型进行信道估计，最后使用最大池化（max-pooling）网络对待训练的参数进行二次降维，提高信道估计的性能。

此外，基于去噪的近似消息传递（denoising- based approximate message passing，D-AMP）算法在图像压缩恢复领域的优越性能[32]，部分文献利用D-AMP进行信道估计。文献[33]较早将深度学习技术用于波束空间信道估计，它把信道矩阵视作二维图像，并将其作为训练集训练LDAMP（learned D-AMP，一种基于D-AMP算法的神经网络模型）进行信道估计。进一步地，将去噪CNN（denoising CNN，DnCNN）[34]融合到稀疏信号重构算法中进行信道估计，其性能优于传统基于压缩感知的信道估计方法。CSI反馈是影响通信系统性能的重要指标之一，DNNet[35]通过深度学习方法将CSI降维，以获得更好的反馈链路性能，采用类似思路的还有CsiFBnet[36]、AnciNet[37]、BCsiNet[38]以及ENet[39]等方法。

2.1.2 信道均衡

无线电信号传播过程中不可避免地受到符号间干扰（inter symbol interference，ISI）和加性高斯白噪声（additive white Gaussian noise，AWGN）的影响，这些干扰会使信号到达接收端时发生畸变，不仅影响信号的解调和解码性能，还会严重降低通信系统容量。传统信道均衡技术主要用来消除信道对信号的各种干扰，提高通信质量。从深度学习的视角来看，无线信道均衡可被看成如何将接收端符号（存在各种因素干扰的数据集）尽可能精确地恢复出发射符号集（原始发送比特流）的问题。

文献[40]较早将人工神经网络技术应用到信道均衡，其核心是将多层感知机应用到非线性信道的自适应均衡过程。文献[41]将信道均衡视为二分类问题，并使用函数连接型人工神经网络解决该问题。针对传统的判决反馈均衡器（decision feedback equalizer，DFE）收敛缓慢的问题，文献[42]将多层神经网络应用到DEF，不仅加快了DFE的收敛性，还能较好地处理信道均衡中各种非线性因素的影响。Chebyshev均衡器[43]是面向4-QAM信号星座图的自适应信道均衡方法，与基于多层感知器（multi-layer perceptron，MLP）以及基于线性最小均方（least mean square，LMS）的均衡器相比，Chebyshev因CNN单层结构具有较好的收敛性和较低的计算复杂度。文献[44]将改进的CNN模型用于低分辨率的MIMO系统的信道均衡和估计，通过引入多标签的前置分类架构，使用隐式均衡和数据规模线性扩展的方法，进一步加快了深度神经网络的收敛性，在高SNR环境下该方法仍有较好的性能表现。此外，文献[45]提出了采用极限学习机（extreme learning machine，ELM）信道均衡方法，将毫米波信号作为ELM的输入，训练ELM在接收端直接获得均衡符号，该方法优于传统基于MLP的信道均衡方法。

不同于仅从接收端考虑信道均衡，有些方法从收发双方的符号映射来解决信道均衡问题。如CRNN信道均衡器[46]将信道均衡过程表示成条件概率分布模型，使用数据驱动的CNN学习得到匹配滤波器，然后将训练好的CNN模型置入后续的RNN模型中进行时域建模，实现对信号的分类。类似的数据驱动信道均衡的方法还有文献[47]所提方法。

2.1.3 信号解调

无线通信应用环境复杂、服务类型多样，其所面临的多径衰落（包含快衰落、频率选择性衰落等）、ISI影响亦日益严重，传统的解调方法难以适用于当前复杂的无线信道。而DNN模型拥有对强时变信号的自适应性，能有效补偿数字调制信号的失真。因此，学术界和产业界已广泛展开了基于深度学习的信号解调的研究。

针对近距离多径信道中信号解调的问题，文献[48]提出了基于深度信任网络和堆叠式自编码器的信号解调方法，由数据采集、特征提取和深度学习检测器3个关键步骤组成，并在BPSK（binary phase shift keying）通信体制下通过仿真实验验证了该方法的可行性。针对信号在超奈奎斯特（faster-than-Nyquist，FTN）速率传输过程中所产生严重的ISI问题，文献[49]利用CNN局部感受视野、池化和权值共享的方法，提出了6层的CNN解调器来解调扩展的二进制相移键控（bipolar EBPSK）调制信号，解决严重的ISI问题，提高了信号在高速传播环境中频谱资源的利用率。文献[50]在AWGN瑞利衰落信道上使用深度卷积神经网络（deep convolutional neural network，DCNN）模拟了FSK（frequency shift key）解调方法，与标准解调方法和传统基于机器学习的解调方法相比，该方法具有较低的符号误码率（symbol error rate，SER）。自动调制分类（automatic modulation classification，AMC）在动态频谱接入中发挥着重要的作用。不同于传统基于CNN的AMC方法中针对时域或频域的单模模式，文献[51]利用波形—频谱多模态融合的策略实现了基于深度残差网络（ResNet）的AMC方法，在使用ResNet从多模态调制信号中提取特征后，采用特征融合的方法实现多模态信号的识别，实验结果验证了该方法可以实现16种调制信号的分类。类似的方法还有文献[52]，采用了基于CNN的逼零均衡（zero-forcing equalization）AMC方法，取得了较好的实验效果。

文献[53]将信号变换为特定表征序列，以此构建完备的训练集，对深度置信网络进行逐层的无监督学习和全局有监督的微调反馈学习，在深度置信网络的权重参数优化过程中实现对信号的特征提取与识别。文献[54]提出了基于栈式稀疏自编码器（stacked sparse auto-encoder，SSAE）网络的码元判决方法，从信号中提取特征信息并识别码间干扰，并使用深度学习方法训练SSAE网络，提升了SSAE网络在恶劣信道环境下对码元进行正确分类与解调的能力。此外，它还将“多码元联合判决”策略引入SSAE网络的训练中，提升了解调的性能。

高阶正交振幅调制（quadrature amplitude modulation，QAM）信号所面临的多径衰落一直是调制识别领域中具有挑战性的问题。文献[55]所提方法采用了1个盲均衡辅助模块和1个ResNet，其中盲均衡辅助模块根据调制格式预设搜索步长，ResNet在多径信道中进行训练。实验结果表明：与没有均衡化的传统DL方法相比，在多径以及高SNR情况下，该方法提高了30%左右的识别精度，并减少了对训练集的依赖。类似的研究方法还有采用双路径网络（dual path network，DPN）的调制模式识别方法[56]。

与上述方法不同，深度神经网络可用于软解调[57]，在降低计算复杂度的同时还能提高解调性能。为了进一步提升信号解调的性能，文献[58]使用AlexNet[59]和GoogLeNet[60]两种CNN提升调制分类的精度，并用软件无线电实现了该方法[61]。借鉴深度学习在图形图像领域强大的特征提取能力，FEM[62]方法的主要思想是将待处理的无线电信号映射成图像，使用LSTM提取无线电信号的特征后，再使用自学习的GAN神经网络将特征集映射成图像实现调制模式分类。实验结果表明该方法优于传统方法。

2.1.4 信道解码

无线通信中的编码和解码技术主要用来抵抗信息传输过程中的噪声和干扰的影响，降低误码率。编码与解码通常作为一个整体研究，信道编码通常研究如何在原始信息中随机地加入冗余信息来提高信息传递过程中的可靠性，信道解码则是编码的逆过程，以尽可能地还原得到原始信息为主要研究目标。

在深度神经网络或深度学习兴起之前，受算力和技术等方面的限制，传统的信道解码研究往往侧重于理论研究，如高斯回归过程（Gaussian processes for regression，GRP）贝叶斯机器学习方法。文献[63]将GPR方法引入均衡器中，通过最大似然估计来优化模型中的超参数，从而极大地提高了训练性能。大多数通道均衡器专注于降低误码率，而忽视后验概率估计的问题，文献[64]又将高斯分类过程（Gaussian processes for classification，GPC）贝叶斯非线性分类方法引入信道均衡过程，发挥GPC方法所具有的贝叶斯非线性分类的能力，可使用较短的训练序列提供较为精确的后验概率估计。

与传统方法使用贝叶斯等进行信道解码不同，文献[65]将解码器视作“黑盒”，使用基于DNN的信道解码方法实现了从接收码字到信息比特的映射转换，对随机码和结构化码字进行译码，实现了最大后验概率（maximum a posteriori，MAP）的译码性能。在理想情况下，DNN取得了与传统方法类似的性能，但是随着训练次数的增加，DNN结构也变得非常复杂，特别是当码长发生改变时，DNN需要重新调整训练集并重新训练，导致该方法的复用性不高，难以适用于随机码及其较长的码字。文献[66]提出了一种新颖的神经解码器算法，该算法基于信念传播算法和自同构群方法，通过将信念传播与自同构组的置换相结合，提高了对高密度奇偶校验码（high density parity check，HDPC）的解码能力。

为解决传统的基于置信传播（belief propagation，BP）算法的译码性能普遍不高的问题，BP-DNN[67]通过给Tanner图的边缘节点分配不同的权重系数，并利用DNN训练这些参数，解决了传统BP算法在HDPC中解码性能低下的问题。进一步，BP-CNN[68]将CNN与标准BP解码器串联，构成一种迭代的信道解码方法，其性能比传统的BP算法具有更低的复杂度。仿真实验表明：在噪声高度相关的情况下，BP-CNN的性能表现更优，但是在噪声非相关的情况下，BP-CNN的性能则稍逊于BP算法。针对脉冲信道下BP算法对短码的低密度奇偶校验码（low density parity check code，LDPC）译码性能不高的问题，文献[69]提出了一种基于深度学习的BP译码方法，首先根据Tanner图构建两种深度神经网络模型，通过对Tanner图中边的权重重新赋值来提升译码性能，然后简化信道对数似然比（log-likelihood ratio，LLR）计算方法，通过模型训练优化参数，提升了译码模型的鲁棒性。

为进一步降低神经网络解码器的复杂度，文献[70]使用DNN模型在低BER环境下获得更快的收敛速度，并使用基于权重共享压缩DNN的通道解码器有效降低计算复杂度并加快收敛速度，能达到与传统方法接近的解码性能。此外，还有采用定制化硬件提升深度学习效率的方法[71]。为了进一步提升性能，BP-RNN方法[72]将RNN与BP算法结合，在BP-RNN算法中使用改进的随机冗余迭代算法（modified random redundant iterative algorithm，mRRD），能以较低的计算复杂度取得较好的纠错性能，且解码能力优于mRRD算法。

针对面向计算机视觉应用的专用MIMO系统，文献[73]为减少非线性通道效应（包括透视畸变、环境光和颜色混合）和增加系统吞吐量提出了基于DNN的解码方法。方法核心思想是使用DNN从海量的图像数据中找到用于均衡的最佳非线性内核，然后根据经过训练的非线性内核对增量获取的图像中的原始位进行解码，提升了该专用MIMO系统的性能。为了解决传统神经网络难以适用于长码的解码过程，文献[74]将编码图划分为若干较小的子块后，再使用神经网络对每个子块进行训练，提升神经网络解码器对长码的解码能力。

2.2 接收端多模块与端到端联合优化技术

理论上，接收端从带噪声或畸变的调制信号中尽可能精确地恢复发送的原始比特流信息。传统方法主要通过信道估计、信道均衡、信号解调与解码等关键步骤实现，但是每个步骤的性能达到最佳，并不意味着整个接收端的性能也达到最佳，更不用说各模块间依次迭代的累计误差。因此，接收端的端到端联合优化用统一的深度学习模型将整个接收端打通并进行端到端的联合统一优化，摒除传统的信道估计、均衡、解调、解码4个步骤依次独立优化或部分联合优化的思路，突破了单一模块独立优化所导致的固有弊端[17,75]。

文献[75]将发射端、信道和接收端作为一个自编码器，用DNN重建接收端中端到端的系统，自编码器能在没有先验知识的情况下具有自学习的能力，并使得DNN达到了与汉明码及最大似然译码相似的性能。文献[76]提出使用深度神经网络替代均衡和解码模块的方法，通过处理信道失真大幅提升多径信道的性能，将信道均衡和信道解码联合优化，其优点是一次性训练均衡和解码神经网络，无须迭代计算，更适用于并行计算的场景。基于此，FC-DNN[77]将OFDM接收端视为一个“黑盒”，用深度神经网络代替OFDM接收端中的信道均衡和符号检测模块，利用信道仿真数据离线训练深度学习模型，然后直接对在线传输数据进行恢复，获得了比传统方法更好的性能。文献[78]将训练好的滑动双向递归神经网络（sliding bidirectional recurrent neural network，SBRNN）检测器部署在接收端，用于实时检测接收的射频数据集并进行译码，其性能高于维特比（Viterbi）译码器的性能。此外，该研究成果指明：在强时变的信道环境下，特别是无须考虑信道模型或CSI的前提下，直接从信号大数据中开展通信系统的检测和译码成为可能。

FC-DNN方法[77]仅简单地将OFDM接收端视为一个“黑盒”，并用DNN来实现端到端联合优化。不同于FC-DNN数据驱动（data-driven）的方法，ComNet[79]引入了模型驱动（model-driven）的思想，使用深度学习简化传统的接收端模型，用于信道估计或信号检测，而不是用整个深度学习模型完全代替接收端。ComNet采用逐块信号处理方法，构建了基于RefineNet[80]的信号估计子网和基于双向LSTM（Bi-LSTM）网络[81]信号检测子网，按照模型驱动的思想，每个子网完成相对独立的功能，能有效缩小各子网参数的初始值区间，提升了收敛性能。需要指出的是，信号估计子网的输出不仅可以用于CSI监测，还支持发射端的拓展功能，扩大了子网的应用范围及并提高了其灵活性，这是FC-DNN方法所不具备的。从实验结果来看，ComNet接收端仅需少量的参数，即可达到与FC-DNN方法相近的误码率，且具有较好的收敛速度。但文献[79]仅在64QAM调制模式下做了仿真实验，其他调制模式的性能尚不明确。

与前述方法使用单个DL模型在接收端上处理随机非线性信道的问题不同，文献[82]首先在接收端使用CNN替代均衡器，并训练CNN模型学习得到信道衰落的趋势，接着再使用深度神经网络代替解码器恢复得到信息流，无须任何CSI即可实现盲均衡和解码，也能适用于复杂度为()的长序列。文献[83]使用基于无监督神经网络的变分自编码器（variational auto-encoder，VAE）方法实现均衡和解码，在不使用导频符号以及未知脉冲响应的情况下，对含有噪声和码间干扰的未编码数据集进行重构，使得计算复杂度不依赖于信道脉冲响应函数。在无监督深度学习端到端优化的探索领域，文献[84]使用自动编码器将编码和解码进行联合优化，用于优化无线信道损伤模型（瑞利衰落信道）。实验结果表明：当SNR>15 dB时，自动编码器系统的性能超过文献[85]的方法。

在信道估计和均衡联合优化方面，文献[86]提出了一种基于深度学习的FBMC（filter bank multi-carrier，滤波器组多载波）模型，使用DNN模型学习CSI以及星座图映射方法，实现对失真频域序列的隐式均衡，直接获得二进制比特信息。文献[87]研究了基于深度学习的FBMC系统的信道估计与检测方法，采用ResNet-DNN对信道符号检测模块建模，还采用“CNN+NN”模型对信道估计、均衡、符号检测模块进行统一建模和联合优化。但该方法仅适用于AWGN信道和时不变信道环境，不适用于时变信道。

与基于神经网络的自编码器解决端到端的优化方法不同，文献[88]提出了在接收端监督训练与发射端增强学习模型之间进行迭代优化的方法，无须精确的信道模型和先验知识实现端到端的联合优化。但是该方法在训练期间需要可靠的通道将损耗从接收端反馈到发射端，提高了使用成本并限制了应用场景。为了提升智能接收方法的灵活性，Deep-Waveform[89]将深度复杂卷积神经网络（deep complex convolutional network，DCCN）作为OFDM接收端，包含一个基本的OFDM接收器和一个独立的信道均衡器，在无须采用外部离散傅里叶变换的情况下，能在AWGN信道中8QAM和16QAM调制模式上达到与传统接收端接近的误码率。此外，与目前现有的由全连接层组成的深度神经元网络不同，Deep-Waveform使用了大量的线性卷积层。

在以信号数据为驱动的端到端联合优化方面，近年来也取得一定的研究进展。文献[90]使用条件生成对抗网络（conditional generative adversarial network，cGAN）对信道条件分布(|)进行建模，并在发射机编码过程中加入信号条件信息，为了获得用于接收端通过信号所检测的CSI，将导频数据及其接收信号也添加到条件信息中。从仿真结果来看，该方法对AWGN和瑞利衰落信道有显著效果。DeepReceiver方法[17]将一维密集连接卷积网络替代接收端信道估计、均衡、信号解调和解码的全过程。该模型的输入是接收I/Q信号，输出则是恢复得到的信息比特流，DeepReceiver使用接收的I/Q信号样本集进行训练，使得网络模型能够通过信号大数据感知通信系统所遭受的射频损伤、信道衰落、噪声和干扰等，在接收端实现了端到端的联合优化及信息恢复。与DeepReceiver思路类似，文献[91]提出的数据驱动的端到端无线通信系统，包括编码、解码、调制和解调过程，使用cGAN表示信道状态信息，设计了发射端DNN和接收端DNN，采用数据驱动的cGAN对信道效应建模，在AWGN、瑞利衰落信道以及频率选择信道模型环境下，取得了较好的端到端联合优化效果。类似的方法还有Deepwiphy[92]、DeepRx[93]、DeepRx MIMO[94]以及HybridDeepRx[95]等。

仿真实验通常难以模拟实际应用环境，许多细节容易被忽略，限制研究成果的可用性。因此，能支持在实际环境中在线自适应学习的端到端联合优化方法成为一个研究方向，SwitchNet方法[96]融合了数据驱动的FCDNN接收器[77]和模型驱动的ComNet接收器[79]，通过预处理大幅减少FCDNN和ComNet中待训练的参数，具备轻量级在线学习的能力，并在不同信道模型下提供了可离线脱机训练的子网，使得SwitchNet方法在不同实际环境中均具有自适应学习的能力。

此外，也有从语义级实现端到端联合优化的通信系统。不同于传统以降低误码率为目标的研究思路，面向文本通信的语义通信系统DeepSC[97-98]使用深度学习方法恢复语义，采用迁移学习来确保DeepSC能适用于不同的应用环境，并使用语句相似性指标量化了DeepSC系统的性能。实验表明：在低SNR环境下，DeepSC仍能取得较好的性能。

3 技术挑战

无线通信一直朝着高可靠性、高鲁棒性和超高容量的方向发展，特别是以当下5G、6G、毫米波、边缘计算为代表的新一代无线通信技术的广泛应用，作为无线通信的关键技术之一，无线通信接收技术也面临着新的挑战，具体来讲有以下几点。

（1）传统基于先验知识的方法限制复杂通信系统的信号接收

传统的基于先验知识、统计模型的信号接收方法通常以单一体制信号作为研究对象，如对单一体质信号的盲均衡技术、盲译码等。但是在多复杂体制信号情况下，电磁波之间的互相干扰、随机噪声等，使得传统使用先验知识特征工程的方法在无线通信智能接收领域难以适用。

目前的研究方法大多集中于浅层机器学习方法，在实现过程中往往存在着以下3个问题：其一，传统方法对人工特征依赖度较高，需要依赖复杂的人工特征提取技术以满足不同信号的识别需求；其二，在复杂电磁环境下，传统方法鲁棒性较低，复杂的电磁环境对识别结果影响较大；最后，传统方法模型复杂度较高，无法满足信号识别的轻量化部署需求。

（2）复杂环境给多业务模式、多体制信号的接收带来挑战

在多体制信号融合通信的场景下，难以设计得到适用性较强的接收端智能接收方法。无线通信呈现向多行业渗透和多标准集成的发展趋势，不断渗透到各个行业，成为一种不可或缺的功能，如物联网、边缘计算网络等。无线通信通常承载数据、图像、语音等业务需求，这些需求的服务目标不一，如超低时延通信、大通道容量通信等。当前无线通信场景多元化、多样性，服务要求个性化，特别是各种服务需求对通信保密性、安全性、鲁棒性需求不一，这些都给无线通信的智能接收带来技术挑战。

（3）用于特定场景接收端端到端的联合优化研究的实测数据缺失

在高速铁路无线通信、海洋无线通信、矿井无线通信等特定领域，信号的传播方式和衰减规律有各自独有的特征。接收端端到端的联合优化依赖于深度模型的学习及推理的能力，而学习能力的提升来自于大量实测数据，需要大量数据对DNN进行训练[11]。当前的成果大多基于仿真数据进行训练，仿真数据与实际应用环境有一定的差距[96]，这导致训练好的联合优化模型可用性、实用性和灵活性严重受限。因此，特定场景实测数据的缺失将会成为制约未来端到端的联合优化神经网络研究进一步发展的因素。

4 基于深度学习的无线通信接收端联合优化架构

目前，学术界对基于深度学习的无线通信接收端端到端的联合优化的研究仍处于起步阶段。针对该领域的挑战性问题，本文使用通用软件无线电外设（universal software radio peripheral，USRP），USRP是具有开放性、标准型、模块化的通用软件无线电平台，在信号发收、信号数据高速流盘等方面具有极高的灵活性。基于此，本节进一步尝试提出基于深度学习的无线通信接收端联合优化的参考架构。

在图4所提的基于深度学习的无线通信接收端联合优化参考架构中，由USRP发射端和USRP接收端在实际应用环境中发射和接收信号，并以此作为离线训练联合优化神经网络的训练集和测试集，利用离线平台的高性能存储和计算能力，使用信号大数据离线训练接收端中的DNN，将离线训练的DNN再部署到实际环境中运行的USRP接收端，进行二次在线训练和优化。因此，在算力、存储和能源均受限的USRP接收端中，通过在线数据实时、轻量地对DNN进行二次训练，提升端到端联合优化的DNN对无线通信环境的感知能力。

进一步，基于深度学习的无线信号智能接收离线训练参考架构如图5所示。在图5中，由虚拟化资源池将硬件平台的计算、存储等资源进行抽象化管理，形成统一的资源管理平台，服务上层的信号大数据管理层，再通过信号智能接收层对信号大数据进行训练和学习。

综合图4和图5可以看出，基于深度学习的无线通信智能接收参考架构主要由5个层次组成，包括：硬件平台、虚拟化资源池、资源管理层、信号大数据管理层与智能信号接收层。与已有的无线通信接收系统模型相比，本文提出的参考架构具有以下显著优势。

图4 基于深度学习的无线通信接收端联合优化参考架构

图5 基于深度学习的无线通信接收端神经网络离线训练参考架构

（1）本文参考架构具有更好的自适应性和可持续演进性

本架构以信号大数据为基础，具备开放式存储、计算和处理的能力，不仅能适应无线通信网络中强时变的信道环境，还能够整合不同的信号大数据处理模型，使得本架构能够适用于各类复杂应用场景，如海洋无线通信场景、矿井无线通信场景等。

（2）本文参考架构以信号数据为中心

考虑从信号大数据挖掘信道模型的特征，能从时空等多个特征维度，基于时空、环境上下文信息，从信号大数据的角度刻画和描述无线信道模型，而非传统基于统计方法或从信道局部特征出发展开研究的智能接收方法。通过对信号大数据的抽取—转换—加载（extract-transform-load，ETL）过程，本架构尽可能多地获取实测数据中的随机因素，提升信息接收与解码的准确性。

（3）本文参考架构能更好地利用存储、算力等IT资源

系统采用数据ETL方法对信号大数据进行清洗、转换、持久化存储等，使用Docker和虚拟机双资源管理池工具，可实现对资源的快速弹性负载均衡，特别是本架构中的信号大数据内存计算模型，能显著提升对信道全局特征处理和感知的能力。

（4）本文参考架构使得智能接收端DNN模型具备可持续学习的能力

随着新兴技术的不断发展，特别是无线通信技术向生产生活纵深领域全面渗透，无线通信系统应用场景愈加复杂，业务类型也愈加多样，本架构中的DNN模型具有自主学习能力，能感知新的应用场景和应用类型的特征，并自主调整模型相关参数，持续提升接收端中端到端联合优化过程信息恢复的能力。

本节提出的基于深度学习的无线信号智能接收参考架构，从无线通信接收端信号处理的全局视角出发，探究接收端端到端的联合优化，包括信号数据采集、规则化处理、持久化存储、弹性资源分配、基于深度学习的信号大数据处理等关键环节，期望本参考架构能为本领域学者提供一定的参考。

5 发展趋势与展望

深度学习理论与技术的突破推动了无线通信智能接收技术的发展，以当下新技术的研究成果探讨无线通信智能接收技术的发展趋势与展望，以期为本领域的学者、专家提供参考。

5.1 模型驱动的无线通信智能接收方法

数据驱动的深度学习方法在计算机视觉、模式识别等领域中取得了广泛的应用，因为在这些领域中，任务通常难以用精确的数学模型来描述，而深度学习方法将任务视作非依赖数学模型的“黑箱”，并靠大量数据训练深度神经网络解决问题，这通常需要海量的数据集及较高的时间复杂度。

但是在无线通信智能接收领域，完备的带标签数据集通常难以获取，模型驱动的无线通信智能接收方法需要综合考虑深度学习与通信领域知识的深度融合，从训练目标、通信领域知识、先验知识出发，形成一个学习代价函数，用最小化代价函数的方法解决问题[11,79,99]。通过接收端对海量信号的处理与恢复的过程建立足够精确的模型，使模型驱动的接收方法只需较少的训练数据集及较低的时间复杂度即可达到最优解。但是，从理论上，无线通信接收方法中的模型难以精确描述，如何面向深度学习精确地描述接收端的数学模型，并使之成为模型驱动的无线通信智能接收方法，将成为未来热点研究方向之一。

5.2 数据驱动的无线通信智能接收方法

当前，5G、6G、毫米波通信等广泛使用的高频段通信、大规模天线阵列等高复杂技术，为接收端实时接收和处理海量通信提供基础。但是，随着物联网、边缘计算等技术的发展，作为基础支撑技术，无线通信向着生产、生活领域快速全面渗透，多场景的极端差异化需求，使得以单一技术为基础通常难以形成面向所有应用场景的解决方法。因此，如何在开放复杂环境下，研究数据驱动，并支持多通信体制信号的智能接收方法，将成为未来一个热点研究方向。

开放复杂场景所带来的数据接收的挑战，主要表现在信号大数据集的无结构化、蕴含大量关联关系、噪声随机等因素，导致难以提出适用性强的智能通信接收方法，因此，在开放复杂场景中，图6所示的基于深度学习的跨场景数据驱动的无线通信智能接收方法，将成为未来智能通信领域研究的热点之一。

图6 跨场景特征融合驱动的无线通信智能接收方法

在图6中，基于数据驱动的无线通信智能接收方法主要涉及跨应用场景的信号统一特征描述、应用场景间知识表示方法等，实现不同应用场景的智能通信接收方法的技术共享，打破各特定场景下异构通信技术之间的壁垒。然而，当前深度学习一般适用于封闭的系统，因此，通过数据驱动迁移学习与对抗式信号样本生成技术拓展基于深度学习的无线通信的应用场景。针对多类型、复杂的无线通信环境，采用融合学习以及迁移学习为基础的信号智能接收方法，研究能针对未知场景的对抗式自主学习的无线通信智能接收方法将是未来的研究热点之一。此外，随着当前学术界对以深度学习为代表的人工智能技术研究的深入，将模型驱动和数据驱动相融合的无线通信智能接收方法或许成为未来一个重要的研究趋势。

6 结束语

随着移动互联网、边缘计算、智能通信等新一代无线通信技术的广泛应用，基于深度学习的无线通信接收技术在信道估计、均衡、解调、解码和联合优化方面等方面提升了无线通信的接收性能并促进了无线通信接收技术的智能化。本文对基于深度学习的无线通信接收技术进行了系统性的分析和总结，综述了无线通信接收技术的研究现状及关键技术，讨论了信号大数据背景下的无线通信接收技术的挑战和参考架构，并进一步指出了未来该研究的发展方向。

[1] RESTUCCIA F, MELODIA T. Physical-layer deep learning: challenges and applications to 5G and beyond[J]. arXiv preprint arXiv: 2004.10113, 2020.

[2] 谢维信, 陈曾平, 裴继红, 等. 大数据背景下的信号处理[J]. 中国科学: 信息科学, 2013, 43(12): 1525-1546.

XIE W X, CHEN Z P, PEI J H, et al. Signal processing in the context of big data[J]. Scientia Sinica (Informationis), 2013, 43(12): 1525-1546.

[3] 章坚武, 王路鑫, 孙玲芬, 等. 人工智能在5G系统中的应用综述[J]. 电信科学, 2021, 37(5): 14-31.

ZHANG J W, WANG L X, SUN L F, et al. An survey on application of artificial intelligence in 5G system[J]. Telecommunications Science, 2021, 37(5): 14-31.

[4] 夏明华, 朱又敏, 陈二虎, 等. 海洋通信的发展现状与时代挑战[J]. 中国科学: 信息科学, 2017, 47(6): 677-695.

XIA M H, ZHU Y M, CHEN E H, et al.The state of the art and challenges of marine communications[J]. Scientia Sinica (Informationis), 2017, 47(6): 677-695.

[5] WANG T Q, WEN C K, WANG H Q, et al. Deep learning for wireless physical layer: opportunities and challenges[J]. China Communications, 2017, 14(11): 92-111.

[6] WANG F X, ZHANG M, WANG X X, et al. Deep learning for edge computing applications: a state-of-the-art survey[J]. IEEE Access, 2020(8): 58322-58336.

[7] 尤肖虎, 张川, 谈晓思, 等. 基于AI的5G技术: 研究方向与范例[J]. 中国科学:信息科学, 2018, 48(12): 1589-1602.

YOU X H, ZHANG C, TAN X S, et al. AI for 5G: research directions and paradigms[J]. Scientia Sinica (Informationis), 2018, 48(12): 1589-1602.

[8] SALH A, AUDAH L, SHAH N S M, et al. A survey on deep learning for ultra-reliable and low-latency communications challenges on 6G wireless systems[J]. IEEE Access, 2021(9): 55098-55131.

[9] MAO Q, HU F, HAO Q. Deep learning for intelligent wireless networks: a comprehensive survey[J]. IEEE Communications Surveys & Tutorials, 2018, 20(4): 2595-2621.

[10] 张静, 金石, 温朝凯, 等. 基于人工智能的无线传输技术最新研究进展[J]. 电信科学, 2018, 34(8): 46-55.

ZHANG J, JIN S, WEN C K, et al. An overview of wireless transmission technology utilizing artificial intelligence[J]. Telecommunications Science, 2018, 34(8): 46-55.

[11] HEH T, JIN S, WENC K, et al. Model-driven deep learning for physical layer communications[J]. IEEE Wireless Communications, 2019, 26(5): 77-83.

[12] QIN Z J, YE H, LI G Y, et al. Deep learning in physical layer communications[J]. IEEE Wireless Communications, 2019, 26(2): 93-99.

[13] LEE W, JO O, KIM M. Application of end-to-end deep learning in wireless communications systems[J]. arXiv preprint arXiv: 1808.02394, 2018.

[14] 彭德义. 基于机器学习的5G无线通信物理层关键技术研究[J].湖南工程学院学报(自然科学版), 2019, 29(3): 37-43.

PENG D Y. Research for key technology of 5G wireless network PHY based on machine learning[J]. Journal of Hunan Institute of Engineering (Natural Science Edition), 2019, 29(3): 37-43.

[15] 高向堃. 基于深度学习的物理层无线通信技术机遇与挑战[J]. 中国新通信, 2019, 21(14): 96.

GAO X K. Opportunities and challenges of deep learning based physical layer wireless communication techniques[J]. China New Telecommunications, 2019, 21(14): 96.

[16] ZHANG C Y, PATRAS P, HADDADI H. Deep learning in mobile and wireless networking: a survey[J]. IEEE Communications Surveys & Tutorials, 2019, 21(3): 2224-2287.

[17] ZHENG S L, CHEN S C, YANG X N. DeepReceiver: a deep learning-based intelligent receiver for wireless communications in the physical layer[J]. IEEE Transactions on Cognitive Communications and Networking, 2020, 7(1): 5-20.

[18] 刘留, 张建华, 樊圆圆, 等. 机器学习在信道建模中的应用综述[J]. 通信学报, 2021, 42(2): 134-153.

LIU L, ZHANG J H, FAN Y Y, et al. Survey of application of machine learning in wireless channel modeling[J]. Journal on Communications, 2021, 42(2): 134-153.

[19] 王承祥, 黄杰, 王海明, 等. 面向6G的无线通信信道特性分析与建模[J]. 物联网学报, 2020, 4(1): 19-32.

WANG C X, HUANG J, WANG H M, et al. 6G oriented wireless communication channel characteristics analysis and modeling[J]. Chinese Journal on Internet of Things, 2020, 4(1): 19-32.

[20] NEUMANN D, WIESE T, UTSCHICK W. Learning the MMSE channel estimator[J]. IEEE Transactions on Signal Processing, 2018, 66(11): 2905-2917.

[21] GIZZINI A K, CHAFII M, NIMR A, et al. Adaptive channel estimation based on deep learning[C]//Proceedings of 2020 IEEE 92nd Vehicular Technology Conference. Piscataway: IEEE Press, 2020: 1-5.

[22] BAI Q B, WANG J T, ZHANG Y, et al. Deep learning-based channel estimation algorithm over time selective fading channels[J]. IEEE Transactions on Cognitive Communications and Networking, 2020, 6(1): 125-134.

[23] YANG Y W, GAO F F, MA X L, et al. Deep learning-based channel estimation for doubly selective fading channels[J]. IEEE Access, 2019(7): 36579-36589.

[24] SOLTANI M, POURAHMADI V, MIRZAEI A, et al. Deep learning-based channel estimation[J]. IEEE Communications Letters, 2019, 23(4): 652-655.

[25] MAO H X, LU H C, LU Y J, et al. RoemNet: robust meta learning based channel estimation in OFDM systems[C]// Proceedings of ICC 2019 - 2019 IEEE International Conference on Communications. Piscataway: IEEE Press, 2019: 1-6.

[26] 廖勇, 花远肖, 姚海梅. 基于深度学习的OFDM信道估计[J]. 重庆邮电大学学报(自然科学版), 2019, 31(3): 348-353.

LIAO Y, HUA Y X, YAO H M. Channel estimation based on deep learning for OFDM systems[J]. Journal of Chongqing University of Posts and Telecommunications (Natural Science Edition), 2019, 31(3): 348-353.

[27] O’SHEA T J, ROY T, WEST N. Approximating the void: learning stochastic channel models from observation with variational generative adversarial networks[C]//Proceedings of 2019 International Conference on Computing, Networking and Communications (ICNC). Piscataway: IEEE Press, 2019: 681-686.

[28] ZAMANIPOUR M. A survey on deep-learning based techniques for modeling and estimation of massive MIMO channels[J]. arXiv preprint arXiv: 1910.03390, 2019.

[29] HUANG H J, YANG J, HUANGH, et al. Deep learning for super-resolution channel estimation and DOA estimation based massive MIMO system[J]. IEEE Transactions on Vehicular Technology, 2018, 67(9): 8549-8560.

[30] MEHRABI M, MOHAMMADKARIMI M, ARDAKANI M, et al. Decision directed channel estimation based on deep neural network-step predictor for MIMO communications in 5G[J]. IEEE Journal on Selected Areas in Communications, 2019, 37(11): 2443-2456.

[31] 廖勇, 花远肖, 姚海梅, 等. 高速移动环境下基于深度学习的信道估计方法[J]. 电子学报, 2019, 47(8): 1701-1707.

LIAO Y, HUA Y X, YAO H M, et al. Channel estimation method based on deep learning in high-speed mobile environments[J]. Acta Electronica Sinica, 2019, 47(8): 1701-1707.

[32] METZLER C, MOUSAVI A, BARANIUK R. Learned D-AMP: principled neural network based compressive image recovery[C]//Proceedings of the 31st International Conference on Neural Information Processing Systems 2017. New York: ACM Press, 2017:1772-1783.

[33] HE H T, WEN C K, JIN S, et al. Deep learning-based channel estimation for beamspace mmWave massive MIMO systems[J]. IEEE Wireless Communications Letters, 2018, 7(5): 852-855.

[34] ZHANG K, ZUO W M, CHEN Y J, et al. Beyond a Gaussian denoiser: residual learning of deep CNN for image denoising[J]. IEEE Transactions on Image Processing, 2017, 26(7): 3142-3155.

[35] YE H Y, GAO FF, QIAN J, et al. Deep learning-based denoise network for CSI feedback in FDD massive MIMO systems[J]. IEEE Communications Letters, 2020, 24(8): 1742-1746.

[36] GUO J J, WEN C K, JIN S. Deep learning-based CSI feedback for beamforming in single- and multi-cell massive MIMO systems[J]. IEEE Journal on Selected Areas in Communications, 2021, 39(7): 1872-1884.

[37] SUN YY, XU W, FAN L S, et al. AnciNet: an efficient deep learning approach for feedback compression of estimated CSI in massive MIMO systems[J]. IEEE Wireless Communications Letters, 2020, 9(12): 2192-2196.

[38] LU Z L, WANG J T, SONG J. Binary neural network aided CSI feedback in massive MIMO system[J]. IEEE Wireless Communications Letters, 2021, 10(6): 1305-1308.

[39] SUN Y Y, XU W, LIANG L, et al. A lightweight deep network for efficient CSI feedback in massive MIMO systems[J]. IEEE Wireless Communications Letters, 2021, 10(8): 1840-1844.

[40] CHEN S, GIBSON G J, COWAN C F N, et al. Adaptive equalization of finite non-linear channels using multilayer perceptrons[J]. Signal Processing, 1990, 20(2): 107-119.

[41] PATRA J C, PAL R N. A functional link artificial neural network for adaptive channel equalization[J]. Signal Processing, 1995, 43(2): 181-195.

[42] CHANG P R, WANG B C. Adaptive decision feedback equalization for digital satellitechannels using multilayer neural networks[J]. IEEE Journal on Selected Areas in Communications, 1995, 13(2): 316-324.

[43] PATRA J C, POH W B, CHAUDHARI N S, et al. Nonlinear channel equalization with QAM signal using Chebyshev artificial neural network[C]//Proceedings of 2005 IEEE International Joint Conference on Neural Networks. Piscataway: IEEE Press, 2005: 3214-3219.

[44] KLAUTAU A, GONZÁLEZ-PRELCIC N, MEZGHANI A, et al. Detection and channel equalization with deep learning for low resolution MIMO systems[C]//Proceedings of 2018 52nd Asilomar Conference on Signals, Systems, and Computers. Piscataway: IEEE Press, 2018: 1836-1840.

[45] CARRERA D F, VARGAS-ROSALES C, YUNGAICELA- NAULA N M, et al. Comparative study of artificial neural network based channel equalization methods for mmWave communications[J]. IEEE Access, 2021(9): 41678-41687.

[46] 杨旸, 李扬, 周明拓. 基于数据驱动深度学习方法的无线信道均衡[J]. 中兴通讯技术, 2018, 24(2): 25-29.

YANG Y, LI Y, ZHOU M T. The wireless channel equalization based on data-driven deep learning method[J]. ZTE Technology Journal, 2018, 24(2): 25-29.

[47] KUMARI S, SRINIVAS K K, KUMAR P. Channel and carrier frequency offset equalization for OFDM based UAV communications using deep learning[J]. IEEE Communications Letters, 2020, 25(3): 850-853.

[48] FANG L T, WU L N. Deep learning detection method for signal demodulation in short range multipath channel[C]//Proceedings of 2017 IEEE 2nd International Conference on Opto-Electronic Information Processing. Piscataway: IEEE Press, 2017: 16-20.

[49] OUYANG X C, WU L N. Faster-than-Nyquist rate communication via convolutional neural networks-based demodulators[J]. Journal of Southeast University (English Edition), 2016, 32(1): 6-10.

[50] MOHAMMAD A S, REDDY N, JAMES F, et al. Demodulation of faded wireless signals using deep convolutional neural networks[C]//Proceedings of 2018 IEEE 8th Annual Computing and Communication Workshop and Conference. Piscataway: IEEE Press, 2018: 969-975.

[51] QI P H, ZHOU X Y, ZHENG S L, et al. Automatic modulation classification based on deep residual networks with multimodal information[J]. IEEE Transactions on Cognitive Communications and Networking, 2020, 7(1): 21-33.

[52] WANG Y, GUI J, YIN Y, et al. Automatic modulation classification for MIMO systems via deep learning and zero-forcing equalization[J]. IEEE Transactions on Vehicular Technology, 2020, 69(5): 5688-5692.

[53] 黄媛媛, 张剑, 周兴建, 等. 应用深度学习的信号解调[J]. 电讯技术, 2017, 57(7): 741-744.

HUANG Y Y, ZHANG J, ZHOU X J, et al. Demodulation with deep learning[J]. Telecommunication Engineering, 2017, 57(7): 741-744.

[54] 杨耀栋, 吴乐南. 相移键控信号的深度神经网络解调器[J]. 电子测量与仪器学报, 2018, 32(4): 144-150.

YANG Y D, WU L N. Realization of SSAE demodulator of MPPSK communication system[J]. Journal of Electronic Measurement and Instrumentation, 2018, 32(4): 144-150.

[55] JI X F, WANG J, LI Y, et al. Modulation recognition in maritime multipath channels: a blind equalization-aided deep learning approach[J]. China Communications, 2020, 17(3): 12-25.

[56] HANNA S, DICK C, CABRIC D. Signal processing based deep learning for blind symbol decoding and modulation classification[J]. arXiv preprint arXiv:2106.10543, 2021.

[57] SHENTAL O, HOYDIS J. “Machine LLRning”:learning to softly demodulate[J]. arXiv preprint arXiv:1907.01512, 2019.

[58] PENG S L, JIANG H Y, WANG H X, et al. Modulation classification based on signal constellation diagrams and deep learning[J]. IEEE Transactions on Neural Networks and Learning Systems, 2018, 30(3): 718-727.

[59] KRIZHEVSKY A, SUTSKEVER I, HINTON G E. Imagenetclassification with deep convolutional neural networks[C]//Advances in Neural Information Processing Systems. [S.l.:s.n.], 2012: 1097-1105.

[60] SZEGEDY C, LIU W, JIA Y Q, et al. Going deeper with convolutions[C]//Proceedings of 2015 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway: IEEE Press, 2015: 1-9.

[61] 陈铮, 彭盛亮, 李焕焕, 等. 基于深度学习与软件无线电的盲解调系统研究[J]. 信号处理, 2019, 35(4): 649-655.

CHEN Z, PENG S L, LI H H, et al. Research on blind demodulation system based on deep learning and software defined radio[J]. Journal of Signal Processing, 2019, 35(4): 649-655.

[62] CHEN J Y, CUI H, MIAO S H, et al. FEM: Feature extraction and mapping for radio modulation classification[J]. Physical Communication, 2021, 45: 101279.

[63] PEREZ-CRUZ F, MURILLO-FUENTES J J, CARO S. Nonlinear channel equalization with Gaussian processes for regression[J]. IEEE Transactions on Signal Processing, 2008, 56(10): 5283-5286.

[64] OLMOS P M, MURILLO-FUENTES J J, PEREZ-CRUZ F. Joint nonlinear channel equalization and soft LDPC decoding with Gaussian processes[J]. IEEE Transactions on Signal Processing, 2009, 58(3): 1183-1192.

[65] GRUBER T, CAMMERER S, HOYDIS J, et al. On deep learning-based channel decoding[C]//Proceedings of 2017 51st Annual Conference on Information Sciences and Systems (CISS). Piscataway: IEEE Press, 2017: 1-6.

[66] NACHMANI E, BACHAR Y, MARCIANO E, et al. Nearmaximum likelihood decoding with deep learning[J]. arXiv preprint arXiv:1801.02726, 2018.

[67] NACHMANI E, BE'ERY Y, BURSHTEIN D. Learning to decode linear codes using deep learning[C]//Proceedings of 2016 54th Annual Allerton Conference on Communication, Control, and Computing (Allerton). Piscataway: IEEE Press, 2016: 341-346.

[68] LIANG F, SHEN C, WU F. An iterative BP-CNN architecture for channel decoding[J]. IEEE Journal of Selected Topics in Signal Processing, 2018, 12(1): 144-159.

[69] 潘睿, 袁磊. 脉冲信道下基于深度学习的BP译码方法[J]. 系统工程与电子技术, 2020, 42(9): 2116-2122.

PAN R, YUAN L. BP decoding method based on deep learning in impulsive channels[J]. Systems Engineering and Electronics, 2020, 42(9): 2116-2122.

[70] DENG C H, YUANS B L. Reduced-complexity deep neural network-aided channel code decoder: a case study for BCH decoder[C]//Proceedings of ICASSP 2019-2019 IEEE International Conference on Acoustics, Speech and Signal Processing. Piscataway: IEEE Press, 2019: 1468-1472.

[71] LUGOSCH L, GROSS W J. Neural offset min-sum decoding[C]// Proceedings of 2017 IEEE International Symposium on Information Theory. Piscataway: IEEE Press, 2017: 1361-1365.

[72] NACHMANI E, MARCIANO E, LUGOSCH L, et al. Deep learning methods for improved decoding of linear codes[J]. IEEE Journal of Selected Topics in Signal Processing, 2018, 12(1): 119-131.

[73] FUJIHASHI T, KOIKE-AKINO T, WATANABE T, et al. Nonlinear equalization with deep learning for multi-purpose visual MIMO communications[C]//Proceedings of 2018 IEEE International Conference on Communications. Piscataway: IEEE Press, 2018: 1-6.

[74] CAMMERER S, GRUBER T, HOYDIS J, et al. Scaling deep learning-based decoding of polar codes via partitioning[C]//Pro- ceedings of GLOBECOM 2017-2017 IEEE Global Communications Conference. Piscataway: IEEE Press, 2017: 1-6.

[75] O’SHEA T, HOYDIS J. An introduction to deep learning for the physical layer[J]. IEEE Transactions on Cognitive Communications and Networking, 2017, 3(4): 563-575.

[76] YE H, LI G Y. Initial results on deep learning for joint channel equalization and decoding[C]//Proceedings of 2017 IEEE 86th Vehicular Technology Conference. Piscataway: IEEE Press, 2017: 1-5.

[77] YE H, LI G Y, JUANG B H. Power of deep learning for channel estimation and signal detection in OFDM systems[J]. IEEE Wireless Communications Letters, 2018, 7(1): 114-117.

[78] FARSAD N, GOLDSMITH A. Neural network detection of data sequences in communication systems[J]. IEEE Transactions on Signal Processing, 2018, 66(21): 5663-5678.

[79] GAO X X, JIN S, WEN C K, et al. ComNet: combination of deep learning and expert knowledge in OFDM receivers[J]. IEEE Communications Letters, 2018, 22(12): 2627-2630.

[80] LIN G S, MILAN A, SHEN C H, et al. RefineNet: multi-path refinement networks for high-resolution semantic segmentation[C]// Proceedings of 2017 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway: IEEE Press, 2017: 5168-5177.

[81] GRAVES A, SCHMIDHUBER J. Framewise phoneme classification with bidirectional LSTM and other neural network architectures[J]. Neural Networks, 2005, 18(5/6): 602-610.

[82] XU W H, ZHONG Z W, BE'ERY Y, et al. Joint neural network equalizer and decoder[C]//Proceedings of 2018 15th International Symposium on Wireless Communication Systems (ISWCS). Piscataway: IEEE Press, 2018: 1-5.

[83] CACIULARU A, BURSHTEIN D. Unsupervised linear and nonlinear channel equalization and decoding using variational autoencoders[J]. IEEE Transactions on Cognitive Communications and Networking, 2020, 6(3): 1003-1018.

[84] O'SHEA T J, ERPEK T, CLANCY T C. Deep learning based MIMO communications[J]. arXiv preprint arXiv: 1707.07980, 2017.

[85] ALAMOUTI S M. A simple transmit diversity technique for wireless communications[J]. IEEE Journal on Selected Areas in Communications, 1998, 16(8): 1451-1458.

[86] CHENG X, LIU D J, WANG C, et al. Deep learning-based channel estimation and equalization scheme for FBMC/OQAM systems[J]. IEEE Wireless Communications Letters, 2019, 8(3): 881-884.

[87] 汪周飞, 袁伟娜. 基于深度学习的多载波系统信道估计与检测[J]. 浙江大学学报(工学版), 2020, 54(4): 732-738.

WANG Z F, YUAN W N. Channel estimation and detection method for multicarrier system based on deep learning[J]. Journal of Zhejiang University (Engineering Science), 2020, 54(4): 732-738.

[88] AOUDIA F A, HOYDIS J. End-to-end learning of communications systems without a channel model[C]// Proceedings of 2018 52nd Asilomar Conference on Signals, Systems, and Computers. Piscataway: IEEE Press, 2018: 298-303.

[89] ZHAO Z Y, VURAN M C, GUO F J, et al. Deep-waveform: a learned OFDM receiver based on deep complex-valued convolutional networks[J]. IEEE Journal on Selected Areas in Communications, 2021, 39(8): 2407-2420.

[90] YE H, LI G Y, JUANG B H F, et al. Channel agnostic end-to-end learning based communication systems with conditional GAN[C]//Proceedings of 2018 IEEE Globecom Workshops. Piscataway: IEEE Press, 2018: 1-5.

[91] YE H, LIANG L, LI G Y, et al. Deep learning-based end-to-end wireless communication systems with conditional GANs as unknown channels[J]. IEEE Transactions on Wireless Communications, 2020, 19(5): 3133-3143.

[92] ZHANG Y, DOSHI A, LISTON R, et al. DeepWiPHY: deep learning-based receiver design and dataset for IEEE 802.11ax systems[J]. IEEE Transactions on Wireless Communications, 2020, 20(3): 1596-1611.

[93] HONKALA M, KORPI D, HUTTUNEN J M J. DeepRx: fully convolutional deep learning receiver[J]. IEEE Transactions on Wireless Communications, 2021, 20(6): 3925-3940.

[94] KORPI D, HONKALA M, HUTTUNEN J M J, et al. DeepRx MIMO: convolutional MIMO detection with learned multiplicative transformations[J]. arXiv preprint arXiv: 2010.16283, 2020.

[95] PIHLAJASALO J, KORPI D, HONKALA M, et al. HybridDeepRx: deep learning receiver for high-EVM signals[J]. arXiv preprint arXiv: 2106.16079, 2021.

[96] JIANG P, WANG T, HANB, et al. Artificial intelligence-aided OFDM receiver: design and experimental results[J]. arXiv preprint arXiv: 1812.06638, 2018.

[97] YE H, LI G Y, JUANG B H. Deep learning based end-to-end wireless communication systems without pilots[J]. IEEE Transactions on Cognitive Communications and Networking, 2021, 7(3): 702-714.

[98] XIE H Q, QIN Z J, LI G Y, et al. Deep learning enabled semantic communication systems[J]. IEEE Transactions on Signal Processing, 2021, 69: 2663-2675.

[99] XU Z B, SUN J. Model-driven deep-learning[J]. National Science Review, 2018, 5(1): 22-24.

Research progress and trends of deep learning based wireless communication receiving method

LI Panpan1, XIE Zhengxia2, YUE Guangxue1, LIU Xin3

1．College of Information Science and Technology, Jiaxing University, Jiaxing 314001, China 2．College of Civil Engineering and Architecture, Jiaxing University, Jiaxing 314001, China 3．School of Information and Communication Engineering,Dalian University of Technology, Dalian 116024, China

With the continues expansion of the application boundary for wireless communications, the application environment of wireless communications is becoming increasingly complex and diverse, which faces negative impacts such as radio frequency (RF) damage, channel fading, interference and noise. It brings difficulties to recover the original information at the receiver. Drawing from the research results of deep learning methods in computer vision, pattern recognition, natural language processing and other fields, wireless communication reception technology based on deep learning has

wide attentions from both academia and industry. Firstly, the current research status of wireless communication reception technology based on deep learning at home and abroad was described. Secondly, the current technical challenges of wireless communication reception in the context of signal big data were outlined, and a reference architecture of intelligent wireless communication reception based on deep neural network was proposed. Finally, the development trend of intelligent wireless communication reception method in the context of signal big data was discussed. It is expected to provide reference for the research and development of wireless communication technology based on deep learning.

wireless communication, signal big data, deep learning, deep neural network, signal reception

TN929.5

A

10.11959/j.issn.1000−0801.2022025

2021−12−01；

2022−02−04

国家自然科学基金资助项目（No.U19B2015, No.U1833102）

The National Natural Science Foundation of China (No.U19B2015, No.U1833102)

李攀攀（1983−），男，博士，嘉兴学院讲师，主要研究方向为智能通信、深度学习、网络空间安全等。

谢正霞（1982−），女，嘉兴学院工程师，主要研究方向为智能通信、网络空间安全等。

乐光学（1963−），男，博士，嘉兴学院教授，主要研究方向为多云融合与协同服务、无线mesh网络与移动云计算、嵌入式系统等。

刘鑫（1984−），男，博士，大连理工大学副教授，主要研究方向为认知无线电、无人机通信和卫星通信等。