#模型蒸馏
带有“模型蒸馏”标签的文章2篇
标签文章
按从新到旧显示带有“模型蒸馏”标签的文章。
AI性能AI智能体优化指南:改提示词还是训练权重,如何取舍
提示词优化数百次试运行就可能收敛,闭源模型也能用。有数千条样本或需要更小模型时,再转向权重训练。先建评测:没有数据、系统和指标就无从优化。权重训练先做监督微调,强化学习胜出或无教师时再加。Qwen3案例中在策略蒸馏以约十分之一算力得分高于强化学习。
AI应用PewDiePie自制本地AI助手Ajax:开发者怎么看
PewDiePie发布自训小模型Ajax与开源工作区Odysseus。Ajax基于Qwen 3.5 9B微调,助手任务成功率约九成。蒸馏取数触犯OpenAI条款,账号两次被封。去审查模型会连带削弱安全性,须隔离沙箱运行。编程等正经工作仍应使用前沿模型,本地小模型差距明显。