説明可能AI（XAI） とは？

たとえば病院でAIが「この患者はがんの可能性が高い」と判定したとき、医師は理由がわからないまま患者に告知できないよね。「なぜそう判断したか」がわからないと、医師も患者も信用できない。金融でもローン審査AIが「理由は不明だけど却下」では法的にも問題になるんだ。

代表的な手法にSHAPやLIMEがあるよ。SHAPは「この特徴量がどれくらい判断に影響したか」を数値で示すんだ。たとえば住宅価格の予測で「築年数が-200万円、駅近が+300万円の影響」というように、各要素の貢献度がわかるようになるよ。

これが難しいところで、ディープラーニングは特に「ブラックボックス」と呼ばれるくらい内部が複雑なんだ。でもAttention（注目度）の可視化やGrad-CAMという技術で「画像のどこを見て判断したか」を示すことはできるようになってきているよ。完全な説明はまだ研究途上だけどね。

EUのAI規制法（AI Act）では、高リスクAIシステムに対して透明性と説明責任を義務付けているよ。日本でも金融庁がAIを使った融資審査に説明根拠を求めるガイドラインを出している。「AIが判断しました」だけでは法的に通用しなくなってきているんだ。

一般的にはそうだけど、工夫次第で両立できるケースも増えているよ。決定木やルールベースは説明しやすいけど精度は限定的。ディープラーニングは高精度だけど説明が難しい。最近は「精度は高いモデルを使い、SHAPで事後的に説明を付ける」というアプローチが実務では主流になってきているんだ。