试题试做

共 10985 道。先按知识点进入练习，也可以从下面的最新题目直接试做。

最新试题 · 第 431 页

知识蒸馏中，为什么软标签比硬标签包含更多信息？

在 PyTorch 中，nn.KLDivLoss 期望的输入格式是什么？

在知识蒸馏中，KL 散度的数学定义是什么？

知识蒸馏的训练过程中，教师模型的参数是否更新？

在知识蒸馏中，学生模型的架构如何选择？

知识蒸馏的成功依赖于什么？

在知识蒸馏中，如果温度参数 T 设置得过大，会导致什么问题？

知识蒸馏与迁移学习（Transfer Learning）的区别是什么？

在知识蒸馏中，为什么学生模型能够达到接近教师模型的性能？

知识蒸馏通常需要的训练数据量如何？

在知识蒸馏的损失函数中，alpha 参数用于什么？

知识蒸馏中，教师模型的输出需要经过什么处理？

在 PyTorch 中，如何实现带温度的 Softmax？

知识蒸馏与模型剪枝（Pruning）的区别是什么？

在知识蒸馏中，学生模型的准确率通常会如何？

知识蒸馏可以应用于哪些任务？

在知识蒸馏中，"暗知识"（dark knowledge）指的是什么？

知识蒸馏的提出者是谁？

在知识蒸馏中，学生模型的参数量通常如何？

知识蒸馏通常适用于哪种场景？

试题试做第431页 - 生命科学与前沿科技学习平台 | 必学必会