推理模型reasoning model
推理模型是经过训练、在作答前先进行中间推理步骤的大语言模型。
7篇文章
最近提及 推理模型是一种经过训练的语言模型，收到问题后不会立即生成答案，而是先生成拆解和检验问题的中间推理，再给出最终答案。它在推理阶段投入更多计算，从而提高数学、编程和多步骤规划等复杂任务的准确度。
由于生成的token更多，推理模型通常比普通语言模型响应更慢、成本更高，因此常与小而快的模型搭配使用：简单任务交给小模型，只把困难任务交给推理模型。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。
涉及该条目的文章
推理模型在给出答案之前，会把中间步骤写在思维链中，这是一种草稿区。
该团队认为，现代推理模型不需要提示词技巧，需要的是充分、清晰的上下文和毫不含糊的目标。
自6.1 Sol Ultra-Fast这类超高速推理模型问世以来，同时管理几十个并行智能体的必要性大幅下降，因为一个响应迅速的智能体就能让他保持稳定的创作状态。
OpenAI和新思科技正在开发GPT-Synopsys，将推理模型引入芯片设计工作。
Salesforce已发布CRM推理模型Cora，该模型汇集了28年的CRM经验和约十年的数据与AI研究积累。
对于这类工作流，分工很直接：推理模型决定任务需要什么，Jev则从已识别的界面元素中作出选择。