上线监控清单
漂移、校准与回滚
本节你将能
列出蒸馏模型上线后的最小监控与回滚条件。
直觉模型
学生模型更「脆」时,要用监控当安全绳:漂了就拉回教师或上一版。
核心要点
- 在线指标:延迟分位、错误率、空结果率
- 定期用金标集回归;关注分布漂移
- 版本化:模型、预处理、阈值阈值一并归档
常见误区
上线后不再对比教师——静默掉点。
动手
写回滚触发条件(例如 P99>预算或准确率跌幅>阈值)。
互动
完成测验。恭喜走完从原理到部署的骨架。
本节小结
蒸馏价值在可上线的精度-成本曲线,而不只在论文数字。
漂移、校准与回滚
列出蒸馏模型上线后的最小监控与回滚条件。
学生模型更「脆」时,要用监控当安全绳:漂了就拉回教师或上一版。
上线后不再对比教师——静默掉点。
写回滚触发条件(例如 P99>预算或准确率跌幅>阈值)。
完成测验。恭喜走完从原理到部署的骨架。
蒸馏价值在可上线的精度-成本曲线,而不只在论文数字。