【ぴーちゅーにんぐ】
Pチューニング とは？
最終更新:
💡 文章で書く指示の代わりに、入力の数値ベクトルを学習する
学習可能な連続プロンプトを入力に組み込み、プロンプトエンコーダーを使ってタスクに適した埋め込みを学ぶ手法。元の研究には、言語モデル本体を固定する設定と、本体も更新する設定の両方がある。
📌 このページのポイント
ひよこ 普通の文章のプロンプトと何が違うの？
ひよこ その数値をどうやって決めるの？
ペンギン先生 ひよこ モデル本体は絶対に変えないの？
ペンギン先生 本体を固定して使う設定もあるけれど、元論文は本体も一緒に更新する設定を検証しているよ。だから「Pチューニングなら必ず本体を固定する」とは言えないんだ。
ひよこ GPT専用の方法？
ペンギン先生 ひよこ v2は何が違うの？
まとめ：ざっくりこれだけ覚えればOK！
「Pチューニング」って出てきたら「入力に加える連続プロンプトを学習して、タスクに合わせる方法」と思えばだいたいOK！
📖 おまけ：英語の意味
「P-Tuning」 ＝ プロンプトを調整する手法の名前
💬 人が単語を選んでプロンプトを書く代わりに、連続的な埋め込みを学習する手法として提案されたよ。