面向星上目标提取的卷积神经网络优化技术

卢 丹，孙永岩，郑幸飞，齐保贵，师 皓

（1.上海卫星工程研究所，上海 201109；2.北京理工大学 信息与电子学院 雷达技术研究所，北京 100081；3.嵌入式实时信息处理技术北京市重点实验室，北京 100081）

0 引言

随着遥感成像和信息处理技术的发展，在星上实时完成目标检测、场景分类等任务，直接从遥感数据中获取有用信息，具有十分重要的意义。卷积神经网络凭借其强大的特征提取能力，在遥感数据处理任务中可显著提升信息提取的效率和精度，逐渐获得广泛应用［1］。

伴随着性能的提升，卷积神经网络的参数存储量和计算开销也越来越大，在低功耗、计算和存储资源有限的在轨场景中难以移植应用。因此，如何在不降低网络性能的条件下，缩小网络规模，减少计算消耗，成为当前亟待解决的问题。如果能将网络规模小型化，那么将卷积神经网络部署到机载、星载等遥感设备便成为可能，这无疑是从实验室走向应用的关键性进展。

通过模型压缩来降低存储量和计算成本已经有了大量的研究。目前提出的网络压缩方法主要可分为以下几类［2］：参数剪枝、权值量化、低秩分解、紧性卷积核设计和知识蒸馏。参数剪枝法通过对网络进行结构或非结构化的剪枝操作，将模型中冗余的参数进行裁剪，从而降低网络复杂度，并可在一定程度上防止过拟合。20 世纪末，CUN 等［3］和HASSIBI等［4］先后提出最优脑损伤（Optimal Brain Damage，OBD）和最优脑外科（Optimal Brain Surgeon，OBS）的参数剪枝方法，利用网络的二阶导数信息衡量参数的冗余性，从而对网络进行修剪。……