【カリキュラムがくしゅう】

カリキュラム学習 とは?

💡 足し算から始めて微分まで教える、段階的な教育プログラム
📌 このページのポイント
カリキュラム学習:簡単 → 難しい順で訓練 簡単 中程度 難しい フェーズ1 明瞭な画像 短いテキスト ノイズなし フェーズ2 やや曖昧な画像 中程度の文 少量ノイズ フェーズ3 難解な画像 長文テキスト 高ノイズ 効果:収束速度と最終精度の向上 ランダム カリキュラム 0 エポック → 精度
カリキュラム学習:人間の教育と同様に簡単→難しい順でAIを訓練
ひよこ ひよこ

カリキュラム学習って学校みたいな話なの?

ペンギン先生 ペンギン先生

まさにそうだよ。足し算から始めて掛け算、そして方程式という順番で教えるように、AIにも簡単なデータから難しいデータへと順番に学ばせるんだ。

ひよこ ひよこ

ランダムに学ばせるのと何が違うの?

ペンギン先生 ペンギン先生

ランダムだと最初から難しい問題に当たって、学習がなかなか進まないことがあるんだよ。簡単なものから始めると基礎がしっかりして、後半の難問にも対応しやすくなるんだ。

ひよこ ひよこ

「簡単なデータ」って、どうやって見分けるの?

ペンギン先生 ペンギン先生

それが一番の課題でね。短い文章・ノイズが少ない画像・正解率が高いサンプルなど、タスクによって定義が異なるんだよ。この「難しさスコア」の設計が腕の見せ所なんだ。

ひよこ ひよこ

自動で難しさを決める方法はないの?

ペンギン先生 ペンギン先生

あるよ。Self-Paced Learningといって、モデル自身が「今の自分には難しすぎる」サンプルを飛ばしながら学ぶ方法が提案されているんだ。

ひよこ ひよこ

どんな分野で使われているの?

ペンギン先生 ペンギン先生

機械翻訳音声認識強化学習など幅広く使われているよ。特に大規模言語モデル事前学習でも、簡単なテキストから複雑なテキストへという順序付けが研究されているんだ。

ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「カリキュラム学習」って出てきたら「簡単な問題から順番に学ばせる訓練の工夫」と思えればだいたいOK!
📖 おまけ:英語の意味
「Curriculum Learning」 = カリキュラム学習
💬 Curriculum(カリキュラム・教育課程)をそのままAIの訓練に取り込んだ名前だよ。2009年にYoshua Bengioらが提唱した概念で、「意味のある順序で学ぶ」という人間教育の知恵から着想を得ているんだよ。
← 用語集にもどる