AIが「自分でOKを出す」時代へ — Claude CodeがAutoモードをデフォルト化した理由

プログラムを書いてくれるAIツールだよ。指示すると、コードを書いたりファイルを編集したりしてくれるんだ。ターミナル上で動くから、普段の開発作業をAIが代わりにやってくれるイメージだよ。

8月14日から「autoモード」がデフォルトになったんだよ。今まではAIが何か操作するたびに「これやっていい？」って確認を求めてきたんだけど、autoモードは確認なしに進んでくれるんだ。

そう思うよね。でもデータがあるんだ。1,053人のユーザーを調べたら、AIが出す確認リクエストの97%をほぼ反射的にOKしてたんだって。何も考えずにひたすら「OK」を押し続けてたってこと。

これを「承認疲れ」と言うよ。確認ポップアップが多すぎると、人間は考えるのをやめて反射的にOKするようになるんだ。MFAファティーグ攻撃と同じ原理だね。で、結果として危険なコマンドを人間が実際に止められたのはたった13.6%だったんだよ。

autoモードは89%の危険な行為を検出できたんだよ。さらに、外部からの「プロンプトインジェクション」攻撃72件を全件ブロックしたというテスト結果もある。別のAIコーディングツールは5.83%を通してしまったのに、ね。

「取り消せない操作」「システムを壊す可能性がある操作」「開発環境の外への操作」の3つは今でも確認を求めるよ。ファイルの削除とか、外部サービスへのデータ送信とかね。加えて「絶対にやらせない操作リスト」を自分で設定することもできるんだ。

いい質問だよ。企業向けの「Enterpriseプラン」はまだ任意のままで、APIを直接使う開発者向けは9月以降に変更が来る予定なんだ。もちろん自分でautoモードをオフにすることも引き続きできるよ。

そうだね。これは「AIをどこまで自律的に動かすか」という問いに、感覚じゃなくデータで答えを出した大事な一歩だよ。ただ、「何を絶対にやらせないか」のルールを自分で理解して設定しておくことは、autoモードになった今でも大切なことだよ。AIを信頼するほど、人間側の設計責任も重くなるからね。