メタ学習 とは？

普通の機械学習は1つのタスクに対して大量のデータで学習するよね。メタ学習はそれとは違って、たくさんの種類のタスクを経験することで「新しいタスクに素早く適応する能力」を身につけるんだ。人間で言えば、数学の問題を1万題解くのが普通の学習で、いろんな教科を勉強して「効率的な勉強法」を身につけるのがメタ学習だよ。

代表的なのはMAML（マムル）という手法だよ。まず複数の小さなタスクを用意して、各タスクで数ステップだけ学習した結果を使って「初期パラメータ」を最適化するんだ。この初期パラメータから始めると、新しいタスクに対してほんの数回の更新で高い精度が出せるようになるよ。

厳密には違うよ。Few-shot学習は「少数の例から学ぶ」という課題設定で、メタ学習はそれを実現するためのアプローチの一つなんだ。Few-shot学習を実現する方法は他にもデータ拡張やプロンプトエンジニアリングなどがあるけど、メタ学習は最も体系的な方法として知られているよ。

データが少ない場面で特に威力を発揮するよ。たとえば希少疾患の診断では患者データが限られるよね。メタ学習を使えば、他の疾患の診断タスクで得た知識を活かして、少数の症例からでも新しい疾患の診断モデルを構築できるんだ。ロボットの新しい動作の習得や、新しい言語への対応なんかでも使われているよ。

実はそうなんだ。GPTなどのLLMがプロンプトに数個の例を与えるだけで新しいタスクをこなせるのは、事前学習の過程で暗黙的にメタ学習が起きていると考えられているよ。大量の多様なテキストで学習する中で、「文脈から素早くパターンを掴む能力」を獲得しているんだね。これは明示的なメタ学習とは違うけど、本質的には同じ現象だという研究もあるよ。