【せつめいかのうえーあい】
説明可能AI（XAI） とは？
最終更新:
💡 AIの結果に「どうして？」を確かめる手掛かりを
説明可能AI（XAI）とは、AIの出力や処理に関する理由・根拠を、人が理解し確認できるようにする技術や研究。説明の分かりやすさと、実際の判断を正しく表しているかを両方評価する。
📌 このページのポイント
- 出力だけでなく、理由や根拠を人が理解できる形で示すことを目指す
- SHAPやLIMEなど、入力の要素とモデルの出力の関係を調べる手法がある
- 説明が分かりやすいことと、実際の処理を正しく表すことは別
- 説明が付いても、出力の正確さや公平さを自動で保証するわけではない
ひよこ なんでAIに説明が必要なの？
ペンギン先生 出力だけでは、入力を適切に扱ったか、想定した条件で使えたかを確かめにくいからだよ。説明は利用者の理解や、開発者の不具合調査を助ける手掛かりになる。ただし、説明だけで判断の正しさが決まるわけではないんだ。
ひよこ どうやって説明するの？
ペンギン先生 分かりやすいルールや決定木を使う方法もあれば、複雑なモデルを後から調べる方法もあるよ。たとえばSHAPは、基準となる予測との比較で入力の各要素の寄与を表す。LIMEは、対象の入力の近くでモデルの挙動を分かりやすいモデルで近似するんだ。
ひよこ 「築年数が効いた」と分かれば原因が分かったの？
ペンギン先生 それはモデルの出力との関係を説明する手掛かりで、現実の因果関係を証明したことにはならないよ。説明に使う基準や近似の仕方でも結果は変わり得るので、何をどう説明しているか確認するんだ。
ひよこ 分かりやすい説明があれば十分？
ペンギン先生 実際の出力や処理を正しく表しているかも必要だよ。NISTは、説明があること、受け手が理解できること、説明が正確であること、利用できる範囲の限界を認識することを、四つの原則として示しているんだ。
ひよこ 説明しやすいAIは精度が低いの？
ペンギン先生 単純には決められないよ。課題やデータ、モデルによって変わるんだ。予測の正確さと説明の正確さは別に評価し、誰が何のために説明を読むのかに合わせよう。利用してよい条件かどうかの確認も大切だね。
📖 おまけ：英語の意味
「Explainable AI（XAI）」 ＝ 説明可能な人工知能
💬 Explainableは「説明できる」、AIは「人工知能」。利用者や開発者が、結果に関する理由や根拠を理解できるようにする考え方だよ。