【ぷれぱれどねすふれーむわーく】
Preparedness Framework(準備フレームワーク) とは?
最終更新:
💡 高度なAI能力を測り、安全対策と開発・公開の判断につなぐ
OpenAIが、深刻な被害につながり得る高度なAI能力を評価し、安全対策と開発・公開の判断につなげる枠組み。2025年の改訂ではHighとCriticalの能力閾値を定め、能力の評価と対策後のリスクを区別する。
📌 このページのポイント
Preparedness Frameworkは、何をするの?
LowからCriticalまでの4段階なの?
Criticalなら、必ずリリース禁止?
能力の高さだけで、一律の出荷停止ラベルにする説明ではないよ。Highでは公開前に十分な安全対策が必要で、Criticalでは開発中にも対策が必要。安全諮問グループが能力と対策を検討し、経営側の判断へ提言するんだ
実際のモデルでは、どう使われた?
2026年8月のAstraについて、OpenAIはCriticalなサイバー能力を否定できないとして、強化した管理条件を満たさない内部活動を停止したと発表した。その後のシステムカードではサイバー能力をCriticalと評価している。可能性の発表と後の評価を分けて読もう
この評価で、AIの安全性が全部分かる?
対象は深刻な被害につながり得る能力で、あらゆる誤回答や日常の安全問題を一つの点数にするものではないよ。能力の測定と安全対策の効果を別々に確かめる枠組み。報告を読むときは、版、対象領域、評価時点を確認しよう
📖 おまけ:英語の意味
「Preparedness Framework」 = 準備態勢の枠組み
💬 preparednessは脅威などへの備え、frameworkは枠組みだよ。高度な能力が現れる前から評価と対策を用意する趣旨なんだ