摘要:人类能从少量样本中学习新的概念且不会忘记以前的类别,为实现这一目标,作者提出:1、扩展一个具有注意力的目标识别系统,这种注意力来源于少样本分类权重生成器;2、重新设计卷积网络模型的分类器,作为特征表示和分类器权重向量之间的余弦相似函数。除了统一对新类和旧类的识别外,还能对新类进行更好概括的特征表示。实验结果显示该方法不牺牲旧类的准确率。同时这里用到了最新few-shot样本集,Bharath and Girshick。
1、介绍
卷积网络的三大问题:1、手动收集样本多;2、计算量大;3、类别固定。现有Few-shot算法问题:1、新类别的学习需要快速;2、不能牺牲初始类别的精度。
基于注意力的少样本分类权重生成器。典型的卷积网络提取一个高水平特征表示,然后对特征应用一组类别权重向量(每类一个)。为了识别新类,必须构造新的分类权重向量,称为少样本分类权重生成器。它通过在基本类别的分类权重向量上引入注意力机制,利用已经获得的视觉知识,提高新类别的识别性能,即便只有一个训练样本可供学习。
基于余弦相似度的卷积网络识别模型。基于点积的分类器无法灵活处理旧类和新类的分类权重向量。这里引入特征表示和分类权重向量之间的余弦相似度函数,在新类上有更好的泛化性能。
2、相关工作
元学习,一些代表性工作,这里将少样本分类权重生成器作为元学习的一个组件。
度量学习metric learning,度量学习方法学习保持类近邻的结构的特征表示,即同类目标的特征比异类特征更接近。
Dynamic Few-Shot Visual Learning without Forgetting
原文:https://www.cnblogs.com/xxdk/p/12009681.html