OpenAI、新モデル「Astra」を自ら封印 — 史上初の「Critical」判定が意味すること

本当だよ。2026年8月7日に、OpenAIが開発中のモデル「Astra」について、「自社の安全評価で史上初めてCritical（重大）水準に達する可能性がある」と自ら発表したんだ。リリース前に自分たちで封印した形だね。

そうだよ。OpenAIには「Preparedness Framework」という安全評価の仕組みがあってね。AIの危険度を「Low・Medium・High・Critical」の4段階で評価するんだ。Criticalは最高危険水準で、「人間の助けを借りずに、実際のシステムに対して高度なサイバー攻撃を自律的に実行できる」能力が確認された場合に付けられるんだよ。

例えば、今まで人間のハッカーが数週間かけて探していたような、誰も知らない未発見のセキュリティ穴（ゼロデイ脆弱性）を、AIが自分で発見して、そのまま侵入まで自動でやってしまう——そういうレベルのことだよ。「目標だけ与えれば、計画も実行も全部AIがやる」というイメージだね。

まだ「可能性がある」という段階なんだ。予備テストで兆候が見えたから、OpenAIが最終認定より前に先手を打って公表した、という流れだよ。ただ、このフレームワークが作られてから「Critical水準が視野に入った」のは史上初めてで、それだけ大きな出来事なんだよ。

3つの対策を発表しているよ。まず、安全対策が整っていないAstra関連の社内活動をすべて停止。次に、モデルのあらゆる使用を常時モニタリング。そして、政府機関やAI安全組織と連携してさらに能力を検証する、というものだね。自社の研究ペースを自分たちで落とすのは、ビジネス的にも勇気のいる決断だよ。

似た仕組みはあるよ。AnthropicはRSP（Responsible Scaling Policy）、Google DeepMindはFrontier Safety Frameworkと呼んでいて、どれも「AIが一定の危険水準に達したら開発を制限する」という約束を公表しているんだ。ただ、実際にCriticalに相当する水準が視野に入ったと公式発表したのは今回が初めてなんだよ。

OpenAIのポリシーでは「Critical認定されたモデルはリリースしてはならない」と定めているんだ。もし確定すれば、どれだけ性能が高くても世に出せないことになる。AIの能力が上がるほど「どこで止めるか」という問いが重くなっていく——私たちは今、その最前線を目撃しているんだよ。