【そうはつのうりょく】
創発能力 とは？
💡 ある日突然、AIが新しいワザを覚える不思議
📌 このページのポイント
- モデルの規模を大きくしていくと、ある時点で急に新しい能力が出現する現象
- 算術推論やジョークの理解などが創発能力の例として報告されている
- 出現のタイミングを事前に予測するのが難しい
- 評価指標の選び方で「突然出現」に見えるだけという反論もある
ひよこ 創発能力って、AIが勝手に新しいことを覚えるの？
ペンギン先生 明示的に教えたわけじゃないのに、モデルを大きくしていったら急にできるようになる能力のことだよ。たとえば小さいモデルでは全くできなかった3桁の足し算が、ある規模を超えたら急に正解率が跳ね上がる、みたいな現象だね
ひよこ なんで急にできるようになるの？
ペンギン先生 実はこれ、まだ完全には解明されていないんだ。一つの説は、小さいモデルでも内部的には少しずつ能力が蓄積されていて、閾値を超えた瞬間に一気に表面化するというもの。水が99度から100度で突然沸騰するイメージに近いね
ひよこ でも本当に「突然」なのかな？
ペンギン先生 いい疑問だね。実は2023年にスタンフォードの研究者が「評価指標の選び方次第で突然に見えるだけで、連続的に性能が上がっている場合もある」と反論しているよ。創発が本物かどうかは今もホットな議論なんだ
ひよこ 創発能力があるとどんな影響があるの？
ペンギン先生 次世代モデルにどんな能力が現れるか予測しにくいという点でAI安全性の議論に直結するよ。予想外の能力が突然出てくる可能性があるから、モデルを大きくするたびに慎重な評価が必要になる。逆に言えば、まだ誰も見たことのない能力が次のスケールで生まれるかもしれないというワクワク感もあるんだ
まとめ：ざっくりこれだけ覚えればOK！
「創発能力」って出てきたら「AIが大きくなると突然できるようになる予想外のスキル」と思えればだいたいOK！
📖 おまけ：英語の意味
「Emergent Ability」 ＝ 創発的な能力
💬 emergentは「突然現れる」という意味。もともと複雑系科学で使われていた概念がAI分野に持ち込まれたんだよ