OpenAI、新モデル「Astra」を自ら封印 — 史上初の「Critical」判定が意味すること
この記事は時点のニュースです。現在の提供状況とは異なる場合があります。誤りの訂正は随時行います。
「Critical」って何なの?危険度の段階があるってこと?
そうだよ。OpenAIには「Preparedness Framework」という安全評価の仕組みがあってね。AIの危険度を「Low・Medium・High・Critical」の4段階で評価するんだ。Criticalは最高危険水準で、「人間の助けを借りずに、実際のシステムに対して高度なサイバー攻撃を自律的に実行できる」能力が確認された場合に付けられるんだよ。
「自律的に攻撃」ってどういうことなの?普通のAIとどう違うの?
それって……Astraはもうそれができるようになったの?
OpenAIはどんな対策をとったの?
似た仕組みはあるよ。AnthropicはRSP(Responsible Scaling Policy)、Google DeepMindはFrontier Safety Frameworkと呼んでいて、どれも「AIが一定の危険水準に達したら開発を制限する」という約束を公表しているんだ。ただ、実際にCriticalに相当する水準が視野に入ったと公式発表したのは今回が初めてなんだよ。
じゃあ、もしCriticalに確定したらAstraは出てこないの?