【えすえるえむ】
SLM（小規模言語モデル） とは？
最終更新:
💡 限られた計算資源でも使いやすい、小さな言語モデル
大規模な言語モデルと比べて、パラメータ数や必要な計算資源を抑えた言語モデルを指す呼び名。端末上での推論などに使われるが、動作条件や性能はモデルと用途によって異なる。
📌 このページのポイント
ひよこ 大きいモデルがあるのに、なぜ小さくするの？
ペンギン先生 限られたメモリや計算能力でも使いやすくするためだよ。端末内で動かす構成なら、推論のたびに入力を外部へ送らずに済む。ただし、小さいというだけで費用がゼロになったり、プライバシーが自動的に保証されたりするわけではないんだ。
ひよこ どれくらい小さければSLMなの？
ペンギン先生 ひよこ 小さいと性能はどうなる？
ペンギン先生 ひよこ どんなスマホやPCでも動くの？
ペンギン先生 必要なメモリ、処理装置、実行ソフトなどが合っている必要があるよ。量子化してモデルの数値の精度を抑えると必要なメモリを減らせることがある。ただし、速度や回答品質への影響も一緒に確かめるんだ。
ひよこ SLMはオフライン専用？
まとめ：ざっくりこれだけ覚えればOK！
「SLM」って出てきたら「計算資源を抑えて使う小さな言語モデル」と思えばだいたいOK！
📖 おまけ：英語の意味
「Small Language Model」 ＝ 小規模言語モデル
💬 Smallは小さい、Language Modelは言語モデル。大きさは主にパラメータ数などで比べるけれど、名前だけで性能や端末での動作が決まるわけではないよ。