【ぷれぱれどねすふれーむわーく】

Preparedness Framework(準備フレームワーク) とは?

最終更新:
💡 高度なAI能力を測り、安全対策と開発・公開の判断につなぐ

OpenAIが、深刻な被害につながり得る高度なAI能力を評価し、安全対策と開発・公開の判断につなげる枠組み。2025年の改訂ではHighとCriticalの能力閾値を定め、能力の評価と対策後のリスクを区別する。

📌 このページのポイント
高度なAI能力を測り、安全対策へ 2025年改訂:継続して追跡する領域生物・化学サイバーAIの自己改善二つの能力閾値と、必要な安全対策High公開前に十分な安全対策Critical開発中にも十分な安全対策能力の評価報告安全対策の検証報告SAG能力と対策後のリスクを検討提言 → 経営側が開発・公開を判断
2025年改訂の概要。HighとCriticalは能力閾値で、すべての安全問題の点数ではありません。Criticalなら無条件に公開禁止という表でもありません。
ひよこ ひよこ
Preparedness Frameworkは、何をするの?
ペンギン先生 ペンギン先生
OpenAIが、高度なAIの能力から生じる深刻な被害に備える枠組みだよ。能力を測り、安全対策を検討して開発や公開の判断につなげる。2023年に初めて公表され、その後も改訂されているんだ
ひよこ ひよこ
LowからCriticalまでの4段階なの?
ペンギン先生 ペンギン先生
旧版と2025年の改訂を分けよう。改訂版はHighとCriticalという二つの能力閾値を使う。継続して追跡するのは生物・化学、サイバー、AIの自己改善で、研究中の領域もある。説得のリスクは別の取り組みで扱うんだ
ひよこ ひよこ
Criticalなら、必ずリリース禁止?
ペンギン先生 ペンギン先生
能力の高さだけで、一律の出荷停止ラベルにする説明ではないよ。Highでは公開前に十分な安全対策が必要で、Criticalでは開発中にも対策が必要。安全諮問グループが能力と対策を検討し、経営側の判断へ提言するんだ
ひよこ ひよこ
実際のモデルでは、どう使われた?
ペンギン先生 ペンギン先生
2026年8月のAstraについて、OpenAIはCriticalなサイバー能力を否定できないとして、強化した管理条件を満たさない内部活動を停止したと発表した。その後のシステムカードではサイバー能力をCriticalと評価している。可能性の発表と後の評価を分けて読もう
ひよこ ひよこ
この評価で、AIの安全性が全部分かる?
ペンギン先生 ペンギン先生
対象は深刻な被害につながり得る能力で、あらゆる誤回答や日常の安全問題を一つの点数にするものではないよ。能力の測定と安全対策の効果を別々に確かめる枠組み。報告を読むときは、版、対象領域、評価時点を確認しよう
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「Preparedness Framework」って出てきたら「高度なAI能力を評価し、安全対策と開発・公開の判断につなげるOpenAIの枠組み」と思えばだいたいOK!
📖 おまけ:英語の意味
「Preparedness Framework」 = 準備態勢の枠組み
💬 preparednessは脅威などへの備え、frameworkは枠組みだよ。高度な能力が現れる前から評価と対策を用意する趣旨なんだ

参考資料

← 用語集にもどる