SLM（小規模言語モデル）とは何ですか？

パラメータ数を抑えた軽量な言語モデル。スマホやPCなどのデバイス上で動作でき、プライバシーを守りつつ高速にAI処理を実行できる

SLM（小規模言語モデル）のポイントは？

数十億パラメータ以下の軽量な言語モデル（LLMの対義概念）。スマホやPC上で動作し、クラウドに接続せずにAI処理が可能。MicrosoftのPhi、GoogleのGemma、MetaのLlamaの小型版などが代表的。特定タスクに特化させることでLLMに匹敵する性能を発揮することもある

【えすえるえむ】

💡 小さくても賢い「手元で動く」AIモデル

📌 このページのポイント

小規模言語モデルのイメージ

ひよこ

LLMが大きいのがいいんじゃないの？なぜ小さくするの？

ペンギン先生

大きいモデルはクラウドの高価なGPUが必要でコストが高いし、データを外部に送る必要がある。SLMならスマホやPCで動くから、コストもかからずプライバシーも守れるんだ

ひよこ

小さいと性能が落ちるんじゃない？

ペンギン先生

汎用的な質問応答ではLLMに劣るけど、特定のタスク（コード補完、要約、分類など）に特化させると小さくても高い性能が出せるよ。蒸留やファインチューニングの技術が進化しているんだ

ひよこ

具体的にどんなモデルがあるの？

ペンギン先生

MicrosoftのPhiシリーズ、GoogleのGemma、MetaのLlama 3の8Bモデルなどが有名だよ。パラメータ数が1〜10B程度で、ノートPCでも動かせるサイズだね

ひよこ

どんな場面で使われるの？

ペンギン先生

スマホのキーボード予測、リアルタイム文字起こし、コーディング支援、IoT機器のエッジ推論など。ネットワーク接続なしでAIが使えるのが最大のメリットで、AI PCやスマホに搭載されるAIの中心的存在になってるよ

まとめ：ざっくりこれだけ覚えればOK！

「SLM」って出てきたら「スマホやPCで動く軽量なAIモデル」と思えればだいたいOK！

📖 おまけ：英語の意味

「Small Language Model」＝小規模言語モデル

💬 LLM（大規模言語モデル）に対して、パラメータ数を抑えたモデルのことだよ。小さいけど賢いのがポイントだよ