ハルシネーションとは？
はるしねーしょん
ハルシネーションとは、AIが事実に反する情報をもっともらしく生成してしまう現象のことです。
ハルシネーション（Hallucination）とは、大規模言語モデル（LLM）などのAIシステムが、実際には存在しない事実・引用・人物・出来事などをあたかも正確な情報であるかのように生成してしまう現象です。日本語では「幻覚」と訳されることもあります。
発生の仕組みとして、LLMはテキストの統計的なパターンから次のトークン（単語・文字）を予測するよう訓練されています。このため「文脈として自然に続く文章」を生成する能力は高い一方で、その内容が事実と一致しているかどうかを直接確認する仕組みを持っていません。結果として、存在しない論文のタイトルや誤った歴史的事実をもっともらしい表現で出力することがあります。
ハルシネーションが問題となる主な場面は以下のとおりです。
- 医療・法律・金融など高精度が求められる専門情報の提供
- 引用・参考文献の自動生成（存在しない文献が挙げられる）
- ニュース要約や事実確認が必要なコンテンツ生成
対策として、検索拡張生成（RAG）によって外部のデータベースを参照させる手法や、出力に対して事実確認ステップを組み込む手法などが研究・実用化されています。AIを活用する際はハルシネーションの可能性を前提に、重要な情報は必ず一次情報で確認することが推奨されています。
使い方・例文
AIチャットに「ある学者の著書を教えて」と質問したところ、実際には存在しない書名と出版年が返ってきた——これがハルシネーションの典型的な例で、情報をそのまま信頼することの危険性を示しています。
この用語をシェア
最終更新: