ハルシネーションhallucination
ハルシネーションは、AIモデルが事実ではない内容をもっともらしく生成してしまう現象。
記事9本
最終言及 ハルシネーションは、大規模言語モデルなどの生成AIが、学習データや与えられた資料に根拠のない事実、数値、引用、出典を自信ありげに答える現象を指す。もっともらしい次の語を予測するモデルの仕組みから生じ、検索で根拠を付けるRAGや人による確認で減らす取り組みが行われている。
この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。
この項目を扱った記事
作業を分けることは、ハルシネーション、つまりモデルがもっともらしいが誤った出力を生み出す傾向を抑えることにもつながります。
一部には微妙な誤りやハルシネーション、つまりもっともらしいが誤った内容が含まれている可能性があります。
原因の多くは、モデルがもっともらしいが誤った内容を作り出すハルシネーションではありません。
Greenlightルールがないと、Claudeは確認していない映像や幻覚（ハルシネーション）で生まれた映像をそのままサイトのコードに組み込むことが多く、無駄な手戻りにつながります。
ハルシネーションや敵対的な入力が現実の影響を持つ金融や医療のような規制分野で、自己修復ループを安全に使うにはどうすればよいのでしょうか。
一方で、整理されていない文章を積み増すとセマンティック検索の精度がぼやけ、一部のテストではエージェントのハルシネーションが増えました。
OpenAIは、もっともらしいが誤った答えを返すハルシネーションが多かった初期のChatGPTを公開し、ユーザーの反応をもとに改善を重ねました。
大規模言語モデル、つまりプロンプトに応じて文章を生成するAIシステムは、ハルシネーションを起こすことがあります。