【いんこんてきすとがくしゅう】

インコンテキスト学習 とは?

最終更新:
💡 お手本を入力に入れて、答え方を伝える

入力に含めた指示や例を手掛かりに、モデルの重みを更新せず、その場のタスクへ応答を合わせる能力・方法。LLMでは、例の入力と望ましい出力をプロンプトに示す使い方が代表的。

📌 このページのポイント
入力のお手本から、答え方をつかむ入力に入れるお手本「うれしい」 → 肯定「悲しい」 → 否定では「がっかり」は?言語モデル否定(出力例)入力の工夫。モデルの重みは変えない
お手本と質問を一緒に渡す例。出力の正しさは、別の例でも確かめよう。
ひよこ ひよこ
普通の学習と、何が違うの?
ペンギン先生 ペンギン先生
モデルの重みを更新する学習とは違い、入力の中のお手本などを参考にして答えるんだ。たとえば「うれしい→肯定的」「悲しい→否定的」と例を示し、「がっかり」を分類させる。今回の入力から答え方を合わせるので、モデル自体を再学習させる必要はないよ。
ひよこ ひよこ
フューショットって、そのこと?
ペンギン先生 ペンギン先生
入力に数例のお手本を入れる使い方だよ。例の入力と望ましい出力を組にして見せ、新しい入力への答えを求める。例が1つならワンショット、例なしで指示する設定はゼロショットと呼ぶね。例の数は少なければ必ずよい、多ければ必ずよいというものではないんだ。
ひよこ ひよこ
お手本は、どれでもいいの?
ペンギン先生 ペンギン先生
実際にしてほしい仕事に近く、入力と正解の組がわかる例を選ぼう。同じパターンだけでなく、迷いやすい例も入れると、意図しない偏りを減らす助けになる。本文と例が混ざらないように区切り、出力の形式もそろえると伝わりやすいよ。
ひよこ ひよこ
一度見せた例は、ずっと覚えている?
ペンギン先生 ペンギン先生
この方法でモデルの重みが書き換わるわけではないよ。次の呼び出しでも同じ例を使いたいなら、その入力に例を含める必要がある。サービスが会話の履歴や別の記憶機能で情報を渡すこととは、分けて考えよう。
ひよこ ひよこ
例を増やせば、いつも正確になる?
ペンギン先生 ペンギン先生
正確になる保証はないよ。モデルやタスク、例の内容によって結果は変わるし、入力できる長さにも上限がある。使いたい仕事に近い別の入力で、間違い方と出力形式を確かめよう。うまくいかないときは、数だけ増やすより例や指示を見直すといいね。
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「インコンテキスト学習」って出てきたら「入力のお手本や文脈に合わせてAIが答えること」と思えばだいたいOK!
📖 おまけ:英語の意味
「In-Context Learning」 = 文脈内学習
💬 contextは文脈。入力の文脈の中で示した情報に合わせてタスクをこなすという意味だよ。

参考資料

← 用語集にもどる