文章摘要:在传统知识蒸馏框架中，教师网络将自身的知识全盘传递给学生网络，而传递部分知识或者特定知识的研究几乎没有。考虑到工业现场具有场景单一、分类数目少的特点，将重点评估神经网络模型在特定类别领域的识别性能。基于注意力特征迁移蒸馏算法，提出了三种特定知识学习算法，目的为提升学生网络在特定类别分类的分类性能。首先，对训练数据集作特定类筛选以排除其他非特定类别训练数据；在此基础上，将其他非特定类别视为背景并在蒸馏过程中抑制背景知识，进一步减少其他无关类知识对特定类知识的影响；最终，更改网络结构，仅在网络高层抑制背景类知识，保留网络底层基础图形特征的学习。实验结果表明，通过特定知识学习算法训练的学生网络在特定类别分类中能够媲美甚至超越参数规模六倍于它的教师网络的分类性能。

文章关键词:

项目基金:《世界知识》 网址: http://www.sjzszzs.cn/qikandaodu/2021/1026/996.html