微调fine-tuning
微调是使用特定任务或领域的数据,对已训练的AI模型进行进一步训练的方法。
6篇文章
最近提及 微调是利用特定任务或领域的数据,对已有AI模型继续训练的方法。它不从零开始训练模型,而是在预训练模型的基础上调整参数。
微调不同于检索增强生成(RAG):后者利用检索到的外部信息生成回答,但不改变模型参数。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
涉及该条目的文章
而现代模型的基础推理能力是通过预训练“培养”出来的,预训练是在海量数据上进行的大规模学习阶段;微调和后训练则是事后附加的步骤,用来塑造模型的行为。
不过罗素划了一条界线:通过提示词或微调让模型提问,并不等于让它在数学意义上真正对人们看重什么保持不确定。
Apache 2.0许可证允许商业使用、修改以及微调(即针对特定任务对模型进行进一步训练),且无需支付许可费用。
首个版本以零样本方式发布,以便OpenAI在训练专门的微调模型之前收集反馈;它还继承了Luna的视觉能力,无需额外的集成工作。
模型训练:成功完成的任务为微调提供样本;强化学习则通过进一步尝试测试并改进模型行为。