贪心解码

greedy decoding

每一步选择概率最高的单个词元的最简单的语言模型解码方法。

1篇文章最近提及

贪心解码是最简单的文本生成解码方法:语言模型在每一步选择概率最高的单个词元。它是确定性的,相同输入总是产生相同输出,实际上等同于将temperature设为零。

由于每一步的最优选择未必是整句的最优,它容易产生重复或单调的文本。为此通常采用束搜索或top-k、top-p等采样技术加以弥补。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • 智能体开发者必懂的模型内部机制:采样、注意力与上下文工程AI应用 ·

    低温会让峰值更尖锐,使行为趋向贪心解码;高温会拉平分布,抬高低概率 token。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。