ハルシネーション

一言で

ハルシネーションとは、LLMが事実と異なる情報を、まるで本当のことのように自信を持って出力してしまう現象のことです。

もう少し詳しく

日本語では「幻覚」と訳されます。AIは確率的に次の単語を選んで文章を組み立てるため、事実そのものを「知っている」わけではありません。学習データに含まれていない、もしくは曖昧な質問が投げられると、それらしい文章を生成してしまうことがあります。

研究上は2種類に分けられます。Intrinsic（内在的）ハルシネーションは、与えられた文書と直接矛盾するタイプ（例: 元文書に「2019年承認」と書かれているのに「2021年承認」と要約する）。Extrinsic（外在的）ハルシネーションは、入力からは真偽判断できない情報を勝手に付け足すタイプです。

軽減策としては、外部知識を検索して根拠を与えるRAG、専門ドメインへのファインチューニング、出力後に別モデルで整合性をチェックする手法などが組み合わされます。完全には消せず、「ゼロにはできない前提で運用設計する」のが2026年時点の主流の考え方です。

主な特徴

• 自信たっぷりに間違える: 「わかりません」と答えず、堂々と誤情報を出す
• 長文・専門分野で発生しやすい: 学習データが薄い領域ほどリスクが上がる
• 検出が難しい: 文章として自然なため、人間でも見抜きにくい

使われ方の例

• 存在しない判例・論文・人物をでっち上げる
• 数字や日付を微妙にズラして出力する
• 古いAPI仕様を最新版と偽って提示する

関連する話題

ハルシネーション対策の中核技術はRAG、推論時の挙動はInferenceを参照してください。実務での向き合い方はAIハルシネーション完全ガイドで詳しく解説しています。