メンバーシップ推論攻撃 とは？

特定のデータがAIモデルの学習に使われたかどうかを推測する攻撃だよ。例えば、ある人の記録が医療データの学習に含まれたかを狙う。推測なので、モデルやデータによって当たりやすさが変わり、間違うこともあるんだ。

モデルの予測の確信度や誤り方などを分析するんだ。学習したデータとそれ以外への応答に差が出ることがあるから、それを手掛かりにするよ。高い確信度の応答だけで学習済みと確定できるわけではないし、確信度以外の情報を使う攻撃もあるんだ。

学習への所属そのものが秘密になる場合があるよ。特定の病院の患者だけを集めたデータに記録が含まれたと推測されれば、その病院の利用が知られるおそれがある。病歴の中身を復元する攻撃とは別だけれど、所属だけでもプライバシーに関わるんだ。

差分プライバシーを満たす学習は、個々の記録の影響を抑える対策になるよ。保護の強さとモデルの性能を考えて設定する必要がある。正則化で過学習を抑えたり、出力する情報を減らしたりする方法もあるけれど、それだけで攻撃を完全に防げるとは限らないんだ。