コンテキストエンジニアリング とは？

指示文を整えるプロンプトエンジニアリングも含め、LLMが使う入力全体を考える取り組みだよ。指示に加えて、会話履歴、参照資料、利用できるツールの説明や実行結果をどうそろえるかも設計する。指示文を改善する必要がなくなる、という意味ではないんだ。

「明日の天気」を答えるなら、対象の場所や日付に加えて、その地域の予報データが必要だね。場所と日付だけ渡しても最新の予報は分からない。取得した予報の対象日や更新時点も確認して、質問に合う情報を入力にそろえるんだ。

外部の資料を検索して回答に使わせるRAGは、その方法の一つだよ。どの資料を取得し、どの範囲を渡すかを考える。検索以外にも、会話の履歴を残す、ツールの結果を使うなどの選択肢があり、作業に応じて組み合わせるんだ。

一度に扱える文脈には上限があり、情報が多いほど必要な内容を使えるとは限らないよ。関係の薄い資料を除き、今の作業に必要な部分を選ぼう。長い作業では、必要になった時に追加の情報を取得する方法もあるんだ。

要約は入力を減らす方法だけれど、重要な条件や細部を落とすことがあるよ。決定事項を別に記録したり、必要な原文へ戻れるようにしたりする工夫が必要だ。情報を整えても誤回答がなくなる保証はないので、重要な出力は資料と照合しよう。