推理词元reasoning token
推理词元是推理模型在给出最终答案之前、于中间推理过程中生成的词元。
1篇文章
最近提及 推理词元是推理模型在拆解问题、检查思路的中间推理阶段生成的词元,与展示给用户的最终答案词元相区别。部分服务只显示其数量,不公开具体内容。
在API计费中,推理词元通常按输出词元计算。因此即使词元单价相同,推理过程较长的模型完成单项任务的成本也可能更高,推理量可通过reasoning effort等设置来调节。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。