ハルシネーション

ハルシネーション

ひと言で: AIが堂々と「嘘」をつく現象のことです。

ハルシネーションとは

ハルシネーション（Hallucination、幻覚）は、LLMが 存在しない事実・架空の引用・誤った数値 などを、あたかも真実であるかのように生成してしまう現象です。LLMは「次の単語を確率的に予測する」仕組みのため、本質的に事実かどうかを判定する能力を持たず、訓練データに似たパターンが見当たらない領域では「それっぽい嘘」を作り出してしまいます。

代表的なハルシネーション:

• 存在しない論文や本のタイトルを作り出す
• 実在の人物に架空のエピソードを付け加える
• コードでは実在しない関数を呼び出す

なぜ重要か

医療・法律・金融などYMYL分野でハルシネーションが発生すると深刻な被害につながります。対策として RAGによるグラウンディング、出典付き回答、ファクトチェックレイヤー などが業界標準になりつつあります。LLMO観点では「自社が正確な事実情報の供給源になる」ことで、AIに引用される確率が上がります。

例・具体例

• ChatGPTに「夏目漱石の代表作を10個挙げて」 → 実在する5作 + 架空の5作を混ぜて返すケース
• Bingが「○○判決の概要」を聞かれて、実在しない判決を作り出した事例（実例あり）

初心者向けまとめ

• ハルシネーション = AIの幻覚（=嘘）
• LLMの仕組み上、原理的に発生する
• RAG・出典明示で軽減可能

関連用語

• LLM（大規模言語モデル）
• RAG（検索拡張生成）
• グラウンディング

もっと詳しく

• 事実密度の高いライティング
• E-E-A-TとLLMO