图像分类蒸馏案例
从 ResNet 教师到轻量学生
本节你将能
复述图像分类 logits KD 的标准流程与验收指标。
直觉模型
大 ResNet 当老师，MobileNet 当学生——先求 top-1 接近，再谈速度。
核心要点
- 基线：学生从头训；对照：蒸馏后
- 关注校准与混淆类（软标签价值所在）
- 导出前做完整验证与错误分析
常见误区
只报相对提升、不报绝对精度与速度。
动手
选定一对教师/学生架构，写实验记录模板。
互动
测验：分类蒸馏最常用的知识形态。
本节小结
下一节检测任务的额外难点。