【えーあいさぷらいちぇーんこうげき】
AIサプライチェーン攻撃 とは？
公開:
💡 食材に毒を混ぜて料理ごと乗っ取る手口
ひよこ ペンギン先生、AIサプライチェーン攻撃って何なの？
ペンギン先生 AIを作るために必要な「材料」、つまりモデルファイルや学習データ、ライブラリなどに悪意ある改ざんを仕込む攻撃だよ。
ひよこ 材料を汚染しておけば、完成したAIまで汚染されちゃうんだね！
ペンギン先生 そうだよ。代表的な例がHugging Faceで公開されているモデルファイルへの攻撃だね。PyTorchのPickle形式は任意コードを埋め込めるから、ダウンロードして読み込むだけでサーバーを乗っ取られることもあるんだ。
ひよこ 有名なモデル共有サイトでも危険があるんだね！
ペンギン先生 そうなんだ。学習データへのポイズニング（毒入れ）も深刻でね。Webからデータを収集するとき、攻撃者があらかじめ公開サイトに悪意あるサンプルを仕込んでおくと、そのデータを取り込んだモデルが意図しない動作をするようになるよ。
ひよこ 防ぐにはどうしたらいいの？
ペンギン先生 ひよこ AIを使う側も、どこから来たモデルか確認しないといけないんだね！
ペンギン先生 まさにそうだよ。便利に使えるオープンソースモデルが増えるほど、その安全性を確認するプロセスが重要になってくるんだ。
まとめ：ざっくりこれだけ覚えればOK！
「AIサプライチェーン攻撃」って出てきたら「AIの材料（モデルやデータ）に毒を仕込む攻撃」と思えればだいたいOK！
📖 おまけ：英語の意味
「ML Supply Chain Attack」 ＝ 機械学習サプライチェーン攻撃
💬 ソフトウェアの「サプライチェーン攻撃」をML（機械学習）の文脈に適用した呼び方だよ