最終更新:
AIの架空引用が裁判で問題に — ハルシネーションと出典確認の落とし穴
この記事は時点のニュースです。現在の提供状況とは異なる場合があります。誤りの訂正は随時行います。
ひよこ AIが書いた判例を使って、裁判で問題になったの？
ペンギン先生 うん。ネブラスカ州最高裁は2026年3月20日のPrososki v. Regan判決で、提出書面の架空の典拠や誤引用を問題にした。書面を排除してその当事者の控訴を退け、弁護士の懲戒を扱う機関へ調査を求めたんだ。
ひよこ 引用された判例は、全部でたらめだったの？
ペンギン先生 問題は一種類ではないよ。存在しない典拠だけでなく、実在する判例に書かれていない結論や文章を載せた例もあった。「判例名が検索で見つかった」だけでは確認が終わらないんだ。
ひよこ こういう間違いがハルシネーション？
ペンギン先生 生成AIが、事実と異なる内容や根拠のない内容を、もっともらしく出力する現象だよ。自然な文章を作れることと、内容が正しいことは別なんだ。「嘘」という比喩を使うこともあるけれど、だます意図があると決めつける言葉ではないよ。
ひよこ 文章がきれいだと信用しちゃいそう。
ペンギン先生 そうだね。日付や番号、専門用語が整っていても、それ自体は証拠にならない。レポートなら、見た目を整える作業と、根拠を確認する作業を分けると見落としを減らせるよ。
ペンギン先生 確認の入口にはなるよ。でもリンクを開いて、発行元・日付・原文の該当箇所まで確かめよう。実在するページでも、本文がAIの説明を裏付けていなかったり、古い条件の話だったりするからね。
ひよこ AIに『本当に正しい？』と聞き直すのは？
ペンギン先生 見直すきっかけにはなるけれど、同じ回答が返ってきても裏取りにはならない。重要な引用は原資料と照合し、分からなければ確認できていないと残そう。専門的な判断が必要な文書なら、その分野の担当者に確認してもらうんだ。
ひよこ 仕事の資料を作るときは、どう進めればいい？
ペンギン先生 たとえば『主張・出典・該当箇所・確認日』をセットでメモする。AIには下書きや確認候補の整理を頼み、公開前に数値・引用・固有名詞を点検する。文章を生成する工程に、検証する工程を足すイメージだね。
ひよこ AIを使ったこと自体が問題だったのかな？
この事例で確認できた範囲
本記事は2026年3月20日の判決を基準に説明しています。判決による書面の排除・控訴の棄却・懲戒調査への付託と、その後の懲戒手続きの結論は別です。今回の確認では後者の最終処分を確定できないため、現在の資格状態は断定していません。
以前の「63件中57件が存在しない判例」という説明は、架空の典拠と実在資料の誤引用を混同していたため撤回しました。出典と集計条件を確認できなかった全米の制裁金総額も削除しています。
一般的な用語の説明はハルシネーションを参照してください。
参考資料
確認日：2026年9月20日。
- Nebraska Supreme Court — Prososki v. Regan（2026年3月20日） — 問題になった引用の種類、書面の排除・控訴棄却・懲戒調査への付託。
- NIST AI 600-1 — Generative AI Profile（2024年7月確定版） — 生成AIのconfabulationと、人による評価・検証のリスク管理。