【はるしねーしょん】
ハルシネーション とは？
最終更新:
💡 AIが「自信満々にまちがえる」現象
生成AIが事実と異なる情報や入力と食い違う内容を、もっともらしく自信ありげに出力してしまう現象。存在しない論文・人物・出来事などを作り上げてしまうことがある。
📌 このページのポイント
ひよこ ハルシネーションってどうして起きるの？
ペンギン先生 大規模言語モデルは、学習データの統計的なパターンをもとに「次に来そうなトークン」を予測して文章を作るんだ。その予測で正しい文章ができることも多いけど、「正しいかどうか」を直接確かめているわけではないから、それらしく見える誤りも生まれてしまうんだよ。
ひよこ どんなときにハルシネーションが起きやすいの？
ペンギン先生 長い文章を自由に書かせるときや、専門知識が必要な分野で起きやすいとされているよ。「〇〇についての論文を教えて」と聞くと、実在しない論文タイトルと著者名を作り出すことがあるんだ。
ひよこ 完全になくすことはできないの？
ペンギン先生 ひよこ AIが「わからない」って言えばいいじゃないの？なんで間違えるの？
ペンギン先生 そこが難しいところでね。言語モデルは確信が持てないときにも、「わからない」と認める代わりに推測で答えてしまうことがあるんだ。正解数だけで採点するテストでは、「わからない」と答えるより当てずっぽうで答えたほうが点が上がるよね。2025年のKalaiらの論文は、こうした学習や評価のやり方が推測を促していると指摘していて、「わからない」と答えることが不利にならないよう、評価の採点方法を見直すことを提案しているよ。
まとめ：ざっくりこれだけ覚えればOK！
「ハルシネーション」って出てきたら「AIがもっともらしく自信ありげにまちがえる現象」と思えればだいたいOK！
📖 おまけ：英語の意味
「hallucination」 ＝ 幻覚
💬 実際にはないものが「あるように見える」幻覚になぞらえた呼び名だよ。NISTなどは「作話」を意味するconfabulationという言葉も使っていて、ハルシネーションはその俗称として紹介されているんだ