试题试做

共 10635 道。先按知识点进入练习,也可以从下面的最新题目直接试做。

最新试题 · 第 233 页

除 logits 蒸馏外,常见的蒸馏信号还有?

当教师与学生的输出词表不一致时,蒸馏应?

教师分布在计算蒸馏损失时应?

PyTorch 中实现蒸馏损失常用的函数是?

KL 散度满足三角不等式,是一个真正的距离度量。

关于 KL 散度与交叉熵的关系,正确的有?

总损失通常写作 L = α·L_distill + (1-α)·L_CE(硬标签),其含义是?

为什么蒸馏损失常乘以 T²?

蒸馏损失中 KL 的典型方向是?

KL 散度衡量的是?

Softmax 输出被直接当作置信度使用时需谨慎,因为?

二分类时 Softmax 等价于?

数值稳定实现 Softmax 的常用技巧是?

关于 Softmax 的性质,正确的有?

标准 Softmax(T=1)的主要问题是?

温度 T 越低,Softmax 输出的概率分布越平滑。

训练学生时,蒸馏损失中的软标签通常用什么温度生成?

蒸馏中提高温度 T 的主要目的是?

带温度 T 的 Softmax 公式为 exp(z_i/T)/Σexp(z_j/T),T→∞ 时?

Softmax 的作用是?

试题试做 第233页 - 生命科学与前沿科技学习平台 | 必学必会