【いんこんてきすとがくしゅう】
インコンテキスト学習 とは?
最終更新:
💡 お手本を入力に入れて、答え方を伝える
入力に含めた指示や例を手掛かりに、モデルの重みを更新せず、その場のタスクへ応答を合わせる能力・方法。LLMでは、例の入力と望ましい出力をプロンプトに示す使い方が代表的。
📌 このページのポイント
- 入力の文脈や例を手掛かりに、答え方を合わせる
- 推論中にモデルの重みを更新する学習とは別
- 数例のお手本を示すフューショットは代表的な使い方
- 例の数だけでなく内容を選び、別の入力で結果を確かめる
普通の学習と、何が違うの?
フューショットって、そのこと?
入力に数例のお手本を入れる使い方だよ。例の入力と望ましい出力を組にして見せ、新しい入力への答えを求める。例が1つならワンショット、例なしで指示する設定はゼロショットと呼ぶね。例の数は少なければ必ずよい、多ければ必ずよいというものではないんだ。
お手本は、どれでもいいの?
実際にしてほしい仕事に近く、入力と正解の組がわかる例を選ぼう。同じパターンだけでなく、迷いやすい例も入れると、意図しない偏りを減らす助けになる。本文と例が混ざらないように区切り、出力の形式もそろえると伝わりやすいよ。
一度見せた例は、ずっと覚えている?
この方法でモデルの重みが書き換わるわけではないよ。次の呼び出しでも同じ例を使いたいなら、その入力に例を含める必要がある。サービスが会話の履歴や別の記憶機能で情報を渡すこととは、分けて考えよう。
例を増やせば、いつも正確になる?
正確になる保証はないよ。モデルやタスク、例の内容によって結果は変わるし、入力できる長さにも上限がある。使いたい仕事に近い別の入力で、間違い方と出力形式を確かめよう。うまくいかないときは、数だけ増やすより例や指示を見直すといいね。
まとめ:ざっくりこれだけ覚えればOK!
「インコンテキスト学習」って出てきたら「入力のお手本や文脈に合わせてAIが答えること」と思えばだいたいOK!
📖 おまけ:英語の意味
「In-Context Learning」 = 文脈内学習
💬 contextは文脈。入力の文脈の中で示した情報に合わせてタスクをこなすという意味だよ。