【ファイ】

Phi(ファイ) とは?

最終更新:
💡 データの質を重視したMicrosoftの言語モデル群

Microsoftが開発する言語モデルのシリーズ。合成データや選別したデータを使う学習を重視し、比較的小さなモデルでの性能向上を研究している。能力や実行条件はモデルごとに異なる。

📌 このページのポイント
データの質を重視して学習するモデル群 選別したデータ Web・教材など 合成データ 構成はモデル次第 Microsoft Phi Phi-3 Mini:38億 Phi-4:140億 パラメータの例 学習 端末実行ができる構成も メモリ・量子化・実行環境を確認 能力は課題と言語で評価 小さいだけで性能やプライバシーは保証しない
Phiはモデルごとにサイズや能力が異なります。パラメータ数は例で、端末実行にはモデルと機器に合う条件が必要です。
ひよこ ひよこ
Phiって小さいモデルなのに賢いって本当?
ペンギン先生 ペンギン先生
Phi-3 Miniは38億パラメータで、公式報告では一部の評価でより大きなモデルに近い成績を示しているよ。ただしベンチマークの条件での結果で、全ての用途で同等という意味ではない。Phiシリーズ全体が同じサイズや能力でもないんだ。
ひよこ ひよこ
なんでそんなに小さくても賢くなれるの?
ペンギン先生 ペンギン先生
学習データの選別や合成データの活用を重視しているよ。最初のphi-1では教科書のようなデータを使い、Phi-3やPhi-4でも選別したWebデータや合成データなどを組み合わせる。実際の教科書だけで学習するわけではなく、データ量やモデルの構成、追加学習も関係するんだ。
ひよこ ひよこ
小さいとどんないいことがあるの?
ペンギン先生 ペンギン先生
必要なメモリや計算量を抑えやすく、端末内で動かせる構成もあるよ。Phi-3 Miniには量子化したモデルやモバイル向けの実行方法もあるけれど、どのスマートフォンでも動くわけではない。端末内で推論しても、アプリが通信やログ送信をすれば情報は外に出るので、モデルだけでプライバシーが保証されるわけではないんだ。
ひよこ ひよこ
大きいモデルはもう要らないってこと?
ペンギン先生 ペンギン先生
用途に合うモデルを選ぶのが大切だよ。小さいモデルでも間違った回答は出るし、性能は言語や課題によって変わる。例えばPhi-4は主に英語を重視したモデルなので、日本語の実際の入力や必要な正確さ、速度、メモリ使用量を確かめてから使おう。
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「Phi」って出てきたら「データの質を重視したMicrosoftの言語モデルシリーズ」と思えばだいたいOK!
📖 おまけ:英語の意味
「Phi」 = Microsoftの言語モデルシリーズの名称
💬 phi-1の研究から続くモデル名。Phi-3 MiniやPhi-4など、世代と構成を区別する名前で公開されている。

参考資料

← 用語集にもどる