【ふれーむもんだい】
フレーム問題 とは？
💡 世界のすべてを考慮しようとしてフリーズするAIの宿命的な悩み
📌 このページのポイント
- ある行動の影響範囲を限定できず、無関係な事柄まで再計算してしまう問題
- 人間は常識で「関係ないことは変わらない」と判断できるがAIにはそれが難しい
- 古典的AIの記号推論で特に深刻で、ロボット工学や自動計画の壁となった
- LLMは学習データから常識を獲得することで部分的にフレーム問題を回避している
ひよこ フレーム問題って何がそんなに難しいの？
ペンギン先生 ひよこ 人間はそんなこと考えなくてもできるよね？
ペンギン先生 そう、人間は無意識に「台車を動かしてもドアの色は変わらない」と判断できる。でもAIにとっては「なぜドアの色が変わらないか」を論理的に証明する必要があって、世界中のすべての事象について確認しなきゃいけないんだ
ひよこ じゃあAIには一生解けない問題なの？
ペンギン先生 完全な解決は難しいけど、実用的な回避策はいくつかあるよ。例えばディープラーニングは大量のデータから暗黙的に「関係ある/なし」を学習するから、古典的なフレーム問題を迂回できているとも言えるんだ
ひよこ おもしろい！ChatGPTみたいなLLMはフレーム問題を克服したの？
ペンギン先生 完全に克服したとは言えないけど、膨大なテキストから常識的な因果関係を学習しているから、実用レベルでは多くの場面で適切に「枠」を絞れているよ。ただしハルシネーションは、ある意味フレーム問題の変形とも考えられるね
ひよこ AGIを目指す上ではまだ壁になるの？
ペンギン先生 AGIでは未知の状況に汎用的に対応する必要があるから、フレーム問題は依然として本質的な課題だよ。哲学者のダニエル・デネットは「フレーム問題はAIだけでなく認知科学全体の問題だ」と指摘していて、人間がどうやって解いているかすら完全には分かっていないんだ
まとめ：ざっくりこれだけ覚えればOK！
「フレーム問題」って出てきたら「AIが関係ないことまで考えすぎて動けなくなる問題」と思えればだいたいOK！
📖 おまけ：英語の意味
「Frame Problem」 ＝ 枠組み問題
💬 Frameは「枠」のことで、行動の影響を受ける範囲（枠）をどう決めるかという問題だからこう呼ばれるんだよ