应用场景与收益评估

本节你将能

定义蒸馏项目的成功指标：精度、延迟、吞吐、成本。

直觉模型

没有免费午餐：学生变快时，通常要谈「掉几个点精度换多少毫秒」。

核心要点

• 基线：教师精度、学生从零训练精度、蒸馏后精度
• 线上：P99 延迟、GPU 利用率、单位请求成本
• 数据：蒸馏常受益于与任务同分布的无标签/弱标签数据

常见误区

只在验证集好看——忽略分布偏移与校准。

动手

写一张评估表：指标、基线、目标、测量方法。

互动

完成测验；第二章进入数学原理。

本节小结

先定指标再调损失，避免「调参狂欢」。