硬标签与软标签权衡
α、数据与容量共同决定
本节你将能
根据标签噪声与容量差，选择更偏硬或更偏软的策略。
直觉模型
硬标签是「标准答案」；软标签是「老师的讲解」。讲解太少会死记，讲解太多可能偏离考纲。
核心要点
- 标签准、数据足：可提高硬损失权重
- 教师强、学生弱：软损失与合适 T 更重要
- 无标签数据：可仅用软损失做扩充蒸馏
常见误区
α 一次调死——应随训练阶段或课程学习调整。
动手
设计两组实验：α=0.1 vs 0.9，记录精度曲线。
互动
完成测验；第三章进入 PyTorch 实现。
本节小结
数学骨架已齐，下一章把它写成可跑代码。