エージェンティックセキュリティ とは？

AIエージェントが自律的に動くことで生まれる固有のセキュリティリスクと、その対策体系のことだよ。普通のソフトウェアのセキュリティとは違う問題が起きるんだ。

一番の問題は「プロンプトインジェクション」だよ。WebサイトやメールにAIへの指示を隠しておいて、それを読んだAIが「この情報を攻撃者に送れ」という指示に従ってしまうことが起きうるんだ。

そうなんだよ。人間なら怪しいと気づけるような「偽の指示」を、AIは見分けられないことがある。しかもAIエージェントはファイル操作・コード実行・外部APIの呼び出しといった強い権限を持つことがあるから、被害が大きくなりやすいんだ。

さらに危険で、一つのエージェントが感染すると「次のエージェントに悪意ある指示を渡す」という連鎖攻撃が起きうるよ。人間の組織で言うと、一人が騙されて社内全員にフィッシングメールを転送してしまうようなイメージだね。

主な対策は三つあるよ。まず「最小権限の原則」で必要最低限の権限だけ与える。次に「Human-in-the-loop」で重要な操作には人間の確認を入れる。そして「エージェントの行動ログを全部取って監視する」ことだね。