【ばっくどあこうげき】
バックドア攻撃 とは？
最終更新:
💡 隠れた入口や、特定の条件で働く不正な仕掛け
通常の入口とは別の、隠れたアクセス経路をシステムに仕込む・利用する攻撃。機械学習では、特定の入力条件で狙った誤判断を起こす仕掛けもバックドアと呼ぶ。両者の仕組みは区別して考える。
📌 このページのポイント
ひよこ どんな裏口なの？
ペンギン先生 ひよこ パスワードを変えれば消える？
ひよこ AIではログインを回避するの？
ペンギン先生 機械学習でいうバックドアは別の仕組みだよ。特定の模様などをきっかけに、モデルが攻撃者の狙う誤判断をするよう細工する。認証を省略してログインするという意味ではないんだ。
ひよこ 学習データだけに仕込むの？
ペンギン先生 ひよこ 普通の入力で試せば見つかる？
ペンギン先生 仕掛けの条件がない入力では、正常に動くよう狙って作られる場合があるよ。普段の入力での結果だけでは見落とすおそれがある。学習データやモデルの入手・保存・受け渡しも含め、検証する範囲を考える必要があるんだ。
まとめ：ざっくりこれだけ覚えればOK！
「バックドア攻撃」って出てきたら「隠れた入口や、特定の条件で働く不正な仕掛け」と思えばだいたいOK！
📖 おまけ：英語の意味
「Backdoor Attack」 ＝ 裏口攻撃
💬 Back doorは裏口。一般のシステムでは隠れた入口を表すイメージだよ。機械学習では、特定条件で働く不正な仕掛けという意味でも使われるんだ。