【かいしゃくかのうせい】
解釈可能性（AI） とは？
公開:
💡 AIの「なぜ？」を人間の言葉に翻訳する辞書
AIモデルがどのような根拠で判断を下しているかを人間が理解・説明できるかどうかを表す概念。ブラックボックスなAIの信頼性・安全性を高めるために注目されている。
📌 このページのポイント
ひよこ ペンギン先生、AIが「この画像は猫です」って言ったとき、なんで猫だってわかったの？って聞いても教えてくれないの？
ペンギン先生 ひよこ じゃあ「なんとなく猫っぽい」って感じで答えてるってこと？
ペンギン先生 人間の直感に近いかもしれないね。解釈可能性が高いモデルは、判断の根拠を「耳の形が△だから」みたいに説明できるんだ。反対に解釈可能性が低い——いわゆるブラックボックスなモデルは、正解率は高くても理由が追えない状態だよ。
ひよこ でも正確に答えてくれるなら理由はどうでもよくない？
ペンギン先生 日常的な場面ならそれでもいいかもしれないけど、ローン審査や医療診断で「AIがそう言ったから」だけでは怖いよね。なぜ却下されたのか、患者に説明できなければ信頼も法的責任も問えないんだ。
ひよこ なるほど！じゃあ解釈可能性を上げる方法ってあるの？
ペンギン先生 ひよこ 精度と解釈可能性、どっちも100点にはできないってこと？
ペンギン先生 一般的にはトレードオフがあるといわれてきたよ。シンプルなモデルは説明しやすいけど精度に限界があって、大規模な深層学習モデルは高精度だけど内部が複雑すぎる。ただ最近はメカニスティック解釈可能性という手法で、大型モデルの内部回路レベルで解析しようという研究も進んでいるんだ。
まとめ：ざっくりこれだけ覚えればOK！
「解釈可能性」って出てきたら「AIの判断に人間がついていけるかどうか」と思えばだいたいOK！
📖 おまけ：英語の意味
「Interpretability」 ＝ 解釈可能性・説明可能性
💬 interpret（解釈する）＋ ability（能力）から来ていて、「理解・解釈できる度合い」を指す言葉だよ