ソフトプロンプトチューニング とは？

いや、もっと軽い方法があるよ。その一つがソフトプロンプトチューニングで、モデルの重みはまったく変えずに「学習可能なプロンプト」だけを訓練するんだよ。

普通のプロンプトは「要約してください」みたいに人間が書く言葉（ハードプロンプト）だよね。ソフトプロンプトは意味のある言葉じゃなくて、数値ベクトルそのものを最適化するんだよ。

入力の先頭に付けるよ。例えば100次元のベクトルを20個、テキストの前に置いて、それをタスクに合わせて学習するんだ。モデルはそのベクトルを「隠れた指示書」として受け取るイメージだよ。

GPT-3で実験したところ、モデルが大きいほどハードプロンプトのファインチューニングに近い精度を出せることが分かったんだよ。しかも変えるパラメータがとても少ないから効率的なんだ。

プレフィックスチューニングは各Transformer層すべてにベクトルを挿入するのに対し、ソフトプロンプトチューニングは入力層だけに付けるシンプルな形だよ。その分パラメータが少なくて済むんだよ。