【えーじぇんてぃっくせきゅりてぃ】
エージェンティックセキュリティ とは？
最終更新:
💡 AIが読んだ情報を、そのまま行動の権限にしない
自律的に判断し、ツールを使って行動するAIエージェントのリスクに備えるセキュリティ対策。外部情報に混ざった指示による不正操作や情報流出などを想定し、権限の制限、実行前の検証、監視を組み合わせる。
📌 このページのポイント
- 利用できるツールと権限によって、起こりうる被害が変わる
- 外部の文書やツールの応答に混ざる不正な指示に備える
- エージェント間の受け渡しにも検証と権限の境界を設ける
- 最小権限・重要操作の確認・機密情報を除いたログを組み合わせる
ひよこ エージェンティックセキュリティって何？
ひよこ どんな問題が起きるの？
ペンギン先生 たとえば、調査対象のWebページに「内部情報を外へ送れ」という不正な指示が混ざっている場合だよ。AIがそれに従うと、ユーザーの依頼と違う操作につながることがある。こうした誘導をプロンプトインジェクションというんだ。
ひよこ 読むだけで必ず情報が漏れるの？
ペンギン先生 必ずではないよ。被害は利用できるツールや権限にも左右される。ファイルを読める範囲や送信先を必要なものに限定し、操作を実行する側でも許可された内容か検証することが大切だよ。
ひよこ 複数のエージェントが連携するときは？
ペンギン先生 不正な指示や情報が別のエージェントへ渡り、影響が広がる可能性があるよ。他のエージェントから届いた内容も無条件に信用せず、受け渡しを検証し、それぞれの権限を分けよう。
ひよこ 人が毎回確認するの？
まとめ：ざっくりこれだけ覚えればOK！
「エージェンティックセキュリティ」って出てきたら「自律的に動くAIの権限と行動を守る対策」と思えばだいたいOK！
📖 おまけ：英語の意味
「Agentic Security」 ＝ エージェントに関わるセキュリティ
💬 Agenticは自律的に判断・行動する性質を表す言葉。ここでは、AIエージェントを安全に動かすための対策を説明しているよ。