II-B4 ハルシネーションを理解する

AIは時々、自信満々な口調のまま、事実と異なる内容を答えてしまうことがあります。これは学習データカットオフ（II-B3参照）による「知らない」情報とは別の現象で、ハルシネーションと呼ばれます。なぜこの現象が起きるのか、そして情報発信の現場で何に気をつければよいのかを、ここで具体的に整理していきます。

ハルシネーションとは何か

ハルシネーションとは、AIがもっともらしいが事実と異なる内容を、自信ありげな口調で生成してしまう現象のことです。II-B1で見たとおり、LLMの推論は「次に来る最も確率の高いトークンを予測する」という処理の繰り返しでした。この仕組みは、事実データベースを検索して正誤を確認しているわけではなく、あくまで統計的にもっともらしい文章を作り続けているだけという性質を持っています。ハルシネーションは、この推論方式そのものに起因する現象だとされています（出典: Goodie, 2026年7月確認）。

なぜ「知らない」と「間違える」は別問題なのか

II-B3で扱った学習データカットオフは「AIがその情報をそもそも学習していない」という問題でした。一方でハルシネーションは、学習していたはずの情報についてすら、もっともらしく間違った内容を作ってしまうという、別種の問題です。知らないことを「知りません」と答えられればまだよいのですが、統計的にそれらしい単語を並べる性質上、AIは「知らないこと」に対しても、もっともらしい答えを作ってしまうことがあります。

発生率を一つの数字で語れない理由

ハルシネーションの発生率は、どんなタスクを対象にするか、どう測定するかによって結果が大きく変わるとされ、単一の割合で語れるものではないと指摘されています（出典: SQ Magazine, 2026年7月確認）。「AIの精度は○%」という一言でまとめる語り方は、実態を単純化しすぎている可能性が高いということです。ぶっちゃけ、この手の「AIはどのくらい間違えるのか」という問いに、きれいな一つの数字で答えようとすること自体が危ういと考えておいたほうが安全です。

情報発信の現場でできること

ハルシネーションを完全になくす方法は今のところありませんが、AIが根拠として使いやすい情報源になっておくことで、間違われるリスクを下げることはできます。これは次のII-B5で扱うRAGや、II-B10で扱うgrounding（根拠づけ）の考え方につながります。実務側でできることは、自社に関する数字や事実を、出典・更新日つきで明確に発信しておくことです。特に、統計的にもっともらしい文章を作るという仕組み上、学習データの中であまり言及されていない固有名詞ほど、事実と異なる説明で埋め合わされてしまうリスクが相対的に高くなると考えられます。知名度がまだ低い新商品・新サービスほど、この点への注意が必要です。

実践ステップ

1. 1
   自社名や主要サービス名について、ChatGPTやPerplexityに質問し、事実と異なる内容が含まれていないか確認する
2. 2
   事実と異なる回答を見つけたら、どの部分がどう間違っているかを具体的に記録する
3. 3
   自社サイト内の該当情報が、出典・更新日つきで明確に書かれているか確認する
4. 4
   断定的すぎる自社の表現（根拠のない実績・数字）がないか見直し、誇張を避ける
5. 5
   月次など定期的なタイミングで同じ質問を繰り返し、AIの回答が改善したか（または悪化していないか）を追跡する
6. 6
   知名度がまだ低い新商品・新サービスほど優先的にチェックし、AIが根拠にできる情報を厚めに用意しておく

このレッスンはテキストとスライドで学べます。スライドは上のビューアからご覧ください。