top-P

top-P又称核采样，是语言模型的一种生成设置。模型将下一个token的候选按概率从高到低排列，只在概率累加达到top-P值之前的候选中选择下一个token。数值越小，输出越保守、稳定；数值越大，输出越多样。

它常与控制随机性的temperature配合使用。temperature改变整个概率分布的平缓或尖锐程度，而top-P则截断可供选择的候选范围。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。