【きばんもでる】

基盤モデル(ファウンデーションモデル) とは?

最終更新:
💡 用途に合わせて使う、学習済みのAIの土台

幅広いデータで事前学習され、さまざまな後続タスクへ適応して使えるAIモデル。言語や画像などを扱い、プロンプトや追加学習で用途に合わせる。全てのタスクをそのまま正確にこなすという意味ではない。

📌 このページのポイント
学習済みモデルを、用途へ適応する基盤モデル幅広いデータで事前学習文章の要約文章の分類質問への回答指示や追加学習で適応する、言語モデルの例対応タスクと性能はモデル・用途ごとに確認
既存の基盤モデルから用途への分岐を保ち、言語モデルの三つの適応例へ絞りました。青は学習済みの土台、緑は用途への適応先。全モデルが全タスクに対応し、成功するという保証ではありません。
ひよこ ひよこ
LLMと基盤モデルってどう違うの?
ペンギン先生 ペンギン先生
言語を扱い、幅広いタスクへ適応できるLLMは基盤モデルの代表例だよ。基盤モデルは言語だけに限らず、画像などのデータを扱うものも含む。ただし全モデルが全種類のデータに対応しているわけではないんだ
ひよこ ひよこ
なぜ「基盤」なの?
ペンギン先生 ペンギン先生
先に学んだモデルを土台として、用途に合わせたAIの機能を作れるからだよ。例えば言語のモデルを、文章の要約や分類などへ適応させる。何でも無条件にできる、という意味の土台ではないんだ
ひよこ ひよこ
用途に合わせるって、学び直すの?
ペンギン先生 ペンギン先生
追加学習で調整するファインチューニングも、指示や例を入力するプロンプトも方法だよ。プロンプトを入力しただけなら、通常はモデルの学習済みパラメーターを書き換えることとは違う。モデルやタスクに合う方法を選ぶんだ
ひよこ ひよこ
2021年にAIそのものが発明された?
ペンギン先生 ペンギン先生
違うよ。スタンフォードのCRFMによる2021年の報告は、幅広いデータで学び後続タスクへ適応するモデルをfoundation modelsと呼んだ。以前からあった深層学習や転移学習などを背景に、その機会とリスクを整理したんだ
ひよこ ひよこ
そのまま使えば正確で安全?
ペンギン先生 ペンギン先生
保証はないよ。元のモデルの誤りや偏りが、用途に合わせたモデルへ受け継がれることもある。データ、適応方法、実際に行うタスクに対して評価する必要がある。学習や利用の計算資源も必要なので、何にでも無料で使える万能AIとは違うんだ
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「基盤モデル」って出てきたら「いろいろなタスクへ適応して使う、学習済みAIの土台」と思えばだいたいOK!
📖 おまけ:英語の意味
「Foundation Model」 = 基盤モデル
💬 建物の「Foundation(基礎・土台)」のように、様々なAIアプリの基盤になるモデルという意味だよ

参考資料

← 用語集にもどる