指令、采样与验证
比较生成设置,区分一致性与事实准确性。
学习目标
- 比较生成设置,区分一致性与事实准确性。
系统指令引导回答,但不保证服从或工具访问安全,权限必须由应用强制执行。温度在 softmax 前调整词元分数:较小正值使概率集中,较大值使分布平缓。top-k 保留固定数量的候选,top-p 按累计概率筛选。两者都不核实事实。贪心解码直接选择最高分词元而不采样。
深入一点
在构建器中多次比较贪心与采样。采样也可能重复同一结果。真实系统的模型版本、上下文、工具及数值计算也有影响,因此温度为零不保证完全相同的输出。再比较模糊问题与包含目标、背景、检查方式的问题。用原始来源核实事实,并借助提示用自己的话解释结果。
用自己的话解释
低温度模型会自信地重复错误答案吗?
对照解释
会。概率集中不是真实性的证据,必须独立核实。
这一栏由你自己标记,这里不打分。