幻觉hallucination
幻觉是指AI模型生成看似合理但并不真实或缺乏依据的内容的现象。
9篇文章
最近提及 幻觉指大语言模型等生成式AI自信地给出并无训练数据或所提供资料支撑的事实、数字、引文或出处。它源于模型预测下一个看似合理词语的方式，业界通常借助检索增强生成（RAG）和人工审核来减少幻觉。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。
涉及该条目的文章
拆分工作还能抑制幻觉，也就是模型生成看似合理但实际错误内容的倾向。
其中一些可能存在细微错误或幻觉，也就是看似合理但实际错误的内容。
原因往往并非幻觉，即模型编造出看似合理却错误的内容，而是查询在连接多张相关表时产生了重复行。
如果没有Greenlight规则，Claude常会把未经审看、甚至带有幻觉内容的视频直接接入网站代码，导致反复返工。
在金融、医疗等受到严格监管的领域，幻觉和对抗性输入会带来真实后果，自我修复循环如何才能安全使用？
但堆砌缺乏结构的文案会让语义检索变得模糊，在部分测试中还让智能体更频繁地出现幻觉。
OpenAI在早期ChatGPT频繁出现幻觉（即自信却错误的回答）的情况下仍将其推出，并根据用户反馈不断改进。
大语言模型，即根据提示词生成文本的AI系统，可能出现幻觉：它们会自信地给出错误信息。