最強のAIが政府に"2週間止められた"理由 — Claude Mythos 5停止事件の全貌

6月12日に、AnthropicはClaude Mythos 5とClaude Fable 5という2つの強力なAIへのアクセスを突然全部止めたんだ。「米国政府と協力して調査中」とだけ発表して、詳しい理由はなかったよ。

きっかけはAmazonのCEO、アンディ・ジャシーが米国財務長官に「AnthropicのモデルにAIジェイルブレイクの脆弱性がある」と報告したことだよ。政府が「国家安全保障上のリスクがある」と判断して、Anthropicに停止を求めたんだ。

発想は似てるね。AIのジェイルブレイクは、「絶対に教えません」という安全フィルターを巧みな言葉で突破して、危険な情報を引き出す手法のことだよ。Mythos 5はサイバーセキュリティに特化した超強力なモデルだから、突破された場合のリスクが特に大きかったんだ。

以前コラムで紹介したProject Glasswingを覚えてる？何千ものゼロデイ脆弱性を自動発見したAnthropicの特別なAIがそれだよ。攻撃の穴を見つける能力が桁違いに高いから、悪用された場合のダメージも想像を絶するものになるんだ。

6月26日に、米国商務長官のハワード・ラトニックが「適切な安全対策が整った」と判断して、約100の米国組織への提供を再開したんだ。フォーチュン500企業、重要インフラ企業、政府機関など「信頼できるパートナー」だけが対象だよ。

Fable 5は今も停止中で、一般ユーザーは引き続き使えないんだ。「特定の組織だけが使える強力なAI」という、これまでにない状態になってるよ。強すぎるAIは誰でも使えるわけじゃないという現実が、初めて公式に突きつけられた出来事とも言えるね。

重要な視点だね。これはAI規制の歴史で初めての「政府によるAI強制停止」ケースと言われてるんだ。今年のホワイトハウスのAI大統領令では、フロンティアモデルを公開前に政府が最長30日間審査できる仕組みも作られたよ。核兵器や生物兵器を管理するように、「一定の能力を超えたAIは政府の監督が必要」という考え方が現実になりつつあるんだ。

そうなんだ。「AIは自由に作って誰でも使える」という時代が変わってきてる。でも同時に「どうすれば安全に使えるか」を丁寧に考えることで、AIの恩恵をより多くの人に届けられるという側面もあるよ。Mythos 5事件は、その最初の試練として世界中から注目されているんだ。