【ふれーむもんだい】
フレーム問題 とは？
最終更新:
💡 行動しても変わらないことを、どう表す？
行動で変わることだけでなく、変わらないことをどう簡潔に表現するかというAIの問題。論理上の問題と、関連する情報を選ぶ広い議論を分けて解説します。
📌 このページのポイント
ひよこ フレーム問題は、AIが固まること？
ペンギン先生 本来は、行動で変わらない事実をどう表すかという、論理ベースAIの問題だよ。例えば箱を動かすと位置は変わる。でも、箱の色まで変わるとは限らないね。
ひよこ 色が変わらないなら、何もしなくてよい？
ペンギン先生 人には自然でも、論理の規則で推論するなら、位置だけが変わり、色はそのままだと導ける仕組みが必要になる。行動で何が変わるかだけを書くと、変わらないことが自動的に導けるとは限らないんだ。
ひよこ 変わらないことも、全部書けば？
ペンギン先生 行動と状態の種類が増えると、変わらないことの規則も大量に必要になる。できるだけ簡潔に、必要な結果を導く表現を考えるのが課題だよ。
ひよこ 関係ないことを考えすぎる、という話も聞くよ。
ペンギン先生 その説明は、どの情報が行動に関係するかを選ぶ、広い議論につながる。本来の論理上の問題と、常識や判断全体の問題を分けて読むと分かりやすいよ。
ひよこ ChatGPTの間違いも、フレーム問題？
ペンギン先生 LLMの誤りをすべてフレーム問題と呼ぶのは適切ではないよ。仕組みや問いが違うからね。学習した常識が役立つことと、この問題を完全に解決したという主張も分けて考えよう。
もっと詳しく知りたい人へ
すべてのAIで、必ず起きる問題？
本来の問題は、行動や状態を論理で表現する方法に関わります。すべてのAIが世界中の事実を検査しなければならない、という意味ではありません。
図の箱は、実際の世界でも必ず色が変わらない？
図は、箱を移動させるだけで色を変える作用はないとした説明用の例です。塗装や光など、色の扱いに関係する別の作用がある場合は、その条件もモデルに含めます。
まとめ：ざっくりこれだけ覚えればOK！
「フレーム問題」って出てきたら「行動しても変わらないことを、どう無駄なく表すかという問題」と思えばだいたいOK！
📖 おまけ：英語の意味
「Frame Problem」 ＝ フレーム問題
💬 McCarthyとHayesの1969年の論文で、行動によって変わらない状態を表す負担が議論されています。