【こんてきすとうぃんどう】
コンテキストウィンドウ とは？
最終更新:
💡 AIが一度に「見渡せる」文脈の範囲
言語モデルが1回の応答生成で扱える文脈の容量。通常はトークン数で表し、入力だけでなく生成する出力の分も考慮する。
📌 このページのポイント
- 指示・会話・資料など、その回に渡す文脈の容量を示す
- 通常は入力と生成する出力の合計で考える。詳細はモデルやAPIによる
- 過去の情報は、要約や検索で必要な部分を文脈に戻すこともできる
- 容量に収まっていても、すべての情報を正しく使える保証はない
ひよこ コンテキストウィンドウって何？AIの記憶のこと？
ペンギン先生 その回の応答を作るときに扱える文脈の容量だよ。学習で得た知識や、アプリが別に保存する会話履歴とは分けて考えるんだ。
ひよこ 質問の長さだけ数えればいいの？
ペンギン先生 指示や会話履歴、渡す資料なども入るよ。通常は生成する回答も容量を使うので、出力する分も見込む必要があるんだ。上限や数え方はモデルとAPIの仕様を確認するよ。
ひよこ 大きければ、長い文書を全部正しく読める？
ペンギン先生 長い入力を渡せるようになるけれど、内容を正しく使える保証にはならないよ。Lost in the Middleという研究では、調べたモデルと課題で、重要情報が途中にあると性能が下がる傾向が見られたんだ。
ひよこ 前の会話を忘れたら、この上限が原因なの？
ペンギン先生 履歴が今回の入力に入っていない場合もあるし、入っていてもうまく使えていない場合もあるよ。アプリが過去の要点をまとめたり、保存した資料を検索して渡したりすることもできるんだ。
もっと詳しく知りたい人へ
上限を超えたら、必ず古い会話から消えるの？
処理はアプリやAPIによります。長すぎる入力をエラーにするもの、履歴を選別するもの、過去の内容を要約して入れ直すものなどがあります。コンテキストウィンドウ自体は容量の制約であり、履歴管理の方法を一つに決めるものではありません。
まとめ：ざっくりこれだけ覚えればOK！
「コンテキストウィンドウ」って出てきたら「AIが一度に扱える文脈の容量」と思えばだいたいOK！
📖 おまけ：英語の意味
「Context Window」 ＝ 文脈の窓
💬 Windowは「窓」の意味。AIが覗ける「窓」の大きさが、どれだけの文脈を見渡せるかを決める、というイメージだよ