【ラフト（けんさくかくちょうファインチューニング）】
RAFT（検索拡張ファインチューニング） とは？
最終更新:
💡 文書を参照して答える力を、追加学習で鍛える
特定分野のRAGで、検索された文書を使って回答するLLMを調整する学習手法。質問・文書群・根拠を含む回答で訓練し、無関係な文書に惑わされにくくすることを目指す。
📌 このページのポイント
- 質問、答えの根拠があるoracle文書、無関係なdistractor文書、学習用回答を用意する
- 原論文ではoracle文書を含まない学習例も混ぜ、全例を単純な正解・不正解のペアにはしない
- 根拠の引用と説明を含むCoT形式の回答を学習に使い、回答時には検索文書を渡す
- 検索器そのものを学習する手法ではなく、効果は分野・モデル・学習データなどに依存する
ひよこ RAFTはRAGとどう関係するの？
ひよこ どんな問題集を使うの？
ペンギン先生 質問に加え、答えを導けるoracle文書と、答えに関係しないdistractor文書を用意するよ。distractorは内容が嘘という意味ではなく、その質問の答えには役立たない文書なんだ。
ひよこ 毎回、正解文書とダミーを一つずつ渡すの？
ひよこ 引用も訓練するんだね。
ペンギン先生 原論文では、根拠の文章を引用して説明するCoT形式の回答を学習に使っているよ。回答時にはRAGで検索した文書を渡す。引用が付いていても、内容や根拠の対応が正しいかは確認が必要だね。
ひよこ 普通のファインチューニングより必ず高精度？
ペンギン先生 原論文の複数の評価では改善が報告されているけど、全モデルや全分野への保証ではないよ。対象の質問や文書に合う学習データを作り、その環境で精度を評価する必要があるんだ。
まとめ：ざっくりこれだけ覚えればOK！
「RAFT」って出てきたら「検索文書を使って答えるLLMを追加学習で鍛える手法」と思えばだいたいOK！
📖 おまけ：英語の意味
「Retrieval Augmented Fine-Tuning」 ＝ 検索拡張ファインチューニング
💬 2024年のZhangらの論文で提案された手法だよ。検索器を訓練するというより、検索結果を参照して答えるLLMの調整を表す名前なんだ。