【そふとぷろんぷとちゅーにんぐ】
ソフトプロンプトチューニング とは？
最終更新:
💡 モデル本体を固定し、入力に足す数値を学習
モデル本体の重みを固定し、入力へ加える数値ベクトルのプロンプトを学習する方法。文章の工夫やプレフィックスチューニングとの違いを説明します。
ひよこ AIの指示文を、上手に書く方法？
ひよこ 数値は、人が読める指示になる？
ペンギン先生 通常の単語と一対一で対応させるものではないので、そのまま指示文として読むことはできないよ。「仮想トークン」と呼ぶこともあるけれど、覚えた日本語の命令文が増えるという説明ではないんだ。
ひよこ どこへ、加えるの？
ひよこ モデルが固定なら、学習はしない？
ペンギン先生 ひよこ ペンギン先生 関連する方法だけれど、加える位置が違うよ。Hugging Faceの説明では、prompt tuningは入力の埋め込みへ加え、prefix tuningは各モデル層に関わるプレフィックスを使う。名前が似ていても、同じ実装ではないんだ。
もっと詳しく知りたい人へ
学習するパラメータが少なければ、計算も不要？
モデルを通して出力を求め、プロンプトを学習する処理は必要です。論文が示す学習・保存するパラメータの削減と、計算が全く要らなくなることは別です。
学習済みの数値を、チャット欄へ貼れば使える？
この手法は数値の埋め込みをモデル入力へ加える仕組みです。文章だけを受け取るチャット欄へ、ベクトルの数字を文字として貼る操作とは異なります。対応するモデルと実装が必要です。
まとめ：ざっくりこれだけ覚えればOK！
「ソフトプロンプトチューニング」って出てきたら「モデル本体を固定して、入力に加える数値のプロンプトを学習する方法」と思えばだいたいOK！
📖 おまけ：英語の意味
「Soft prompt tuning」 ＝ 学習可能な数値のプロンプトを調整する方法
💬 ここでは入力の埋め込みにソフトプロンプトを加えるprompt tuningを説明します。soft prompt methodsには、prefix tuningなどの関連手法も含まれます。