【せつどう】
摂動（パータベーション） とは？
💡 人間には見えない小さなノイズが、AIの判断を狂わせる
📌 このページのポイント
ひよこ 摂動って難しそうな名前だけど、どういうこと？
ペンギン先生 簡単に言うと、AIに見せるデータにごく小さなノイズを混ぜて、AIの判断を狂わせることだよ。たとえばパンダの写真にほんの少しノイズを足すだけで、AIが「テナガザル」と判定しちゃうんだ
ひよこ え、人間が見てもわからないくらい小さな変化で？
ペンギン先生 そうなんだよ。人間の目には全く同じに見える2枚の画像でも、AIにとっては全然違うものに見えることがある。これがAIの弱点の一つで、敵対的攻撃（Adversarial Attack）と呼ばれる攻撃の基本原理だね
ひよこ それって実際に危険なこともあるの？
ひよこ 対策はあるの？
ペンギン先生 代表的なのは敵対的訓練といって、わざと摂動を加えたデータでAIを訓練して耐性をつける方法だよ。ワクチンみたいなイメージだね。ただし完璧な防御は難しくて、AIセキュリティの最前線では攻撃と防御の研究が今も続いているんだ
まとめ：ざっくりこれだけ覚えればOK！
「摂動」って出てきたら「AIを騙すための微小なデータの変化」と思えればだいたいOK！
📖 おまけ：英語の意味
「Perturbation」 ＝ 摂動、微小な乱れ
💬 ラテン語のperturbatio（混乱させる）が語源だよ。もともとは天文学や物理学で軌道のわずかなズレを表す用語だったんだ