目标检测中的蒸馏
分类头与定位头要分别对待
本节你将能
指出检测蒸馏相对分类多出的挑战:正负样本、多头、匹配。
直觉模型
检测不仅要「认得出」,还要「框得准」——教师的框与分数都是教材。
核心要点
- 分类/回归/objectness 可分设蒸馏损失
- 特征与注意力蒸馏常更有效
- 匹配策略(哪张图的哪个目标)决定信号质量
常见误区
直接套分类 logits KD——忽略定位头。
动手
阅读一篇检测蒸馏论文目录,标出损失项。
互动
测验:检测蒸馏为何更难。
本节小结
下一节快速看 NLP/小模型侧直觉。
分类头与定位头要分别对待
指出检测蒸馏相对分类多出的挑战:正负样本、多头、匹配。
检测不仅要「认得出」,还要「框得准」——教师的框与分数都是教材。
直接套分类 logits KD——忽略定位头。
阅读一篇检测蒸馏论文目录,标出损失项。
测验:检测蒸馏为何更难。
下一节快速看 NLP/小模型侧直觉。