ファインチューニング とは？

料理で例えると、すでに料理ができる人が専門店のメニューを追加で練習する感じだよ。学習済みのモデルを出発点にして、目的に合ったデータで重みを調整するんだ。使える知識や特徴を活かせるけれど、必要なデータ量や計算量はモデルとタスクで変わるよ。

モデルに何をさせたいかに合ったデータだよ。例えば犬と猫を見分けたいなら、それぞれの画像と正しいラベルを用意するんだ。学習に使うデータと性能を確かめるデータを分けて、学習した例だけでなく新しい例でも役立つか確認するよ。

学習データにはよく合うのに、新しいデータではうまく働かない過学習があるよ。重みを大きく変更しすぎると、事前学習で得た特徴や能力を損なうこともあるんだ。学習率や更新する範囲などを調整し、目的の性能と維持したい能力を評価する必要があるね。

効率よくモデルを適応させる手法の一つだよ。元の重みを固定し、重みの更新分を小さな低ランク行列の組で表して、そこを学習するんだ。全ての重みを更新する方法より学習対象やメモリを減らせる。ただし通常の微調整にも一部の層だけを更新する方法があり、LoRAを使えばどんな大型モデルでも手元のGPUで学習できる、というわけではないよ。