贪心解码是最简单的文本生成解码方法:语言模型在每一步选择概率最高的单个词元。它是确定性的,相同输入总是产生相同输出,实际上等同于将temperature设为零。
由于每一步的最优选择未必是整句的最优,它容易产生重复或单调的文本。为此通常采用束搜索或top-k、top-p等采样技术加以弥补。
greedy decoding
每一步选择概率最高的单个词元的最简单的语言模型解码方法。
贪心解码是最简单的文本生成解码方法:语言模型在每一步选择概率最高的单个词元。它是确定性的,相同输入总是产生相同输出,实际上等同于将temperature设为零。
由于每一步的最优选择未必是整句的最优,它容易产生重复或单调的文本。为此通常采用束搜索或top-k、top-p等采样技术加以弥补。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
低温会让峰值更尖锐,使行为趋向贪心解码;高温会拉平分布,抬高低概率 token。
阅读文章百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。