【えるえるえむ（だいきぼげんごもでる）】
LLM（大規模言語モデル） とは？
最終更新:
💡 たくさんの言葉から学び、文章の続きを作るモデル
大量の文章などから言葉のパターンを学習する大規模言語モデル。文章生成では文脈に続くトークンを予測し、対話・要約・翻訳などに使われる。自然な回答でも、正確さは保証されない。
📌 このページのポイント
- LLMはLarge Language Model（大規模言語モデル）の略
- 文章生成では、単語や単語の一部などのトークンを予測する
- Transformerは広く使われる構造。規模だけで性能は決まらない
- モデルと、それを利用する対話サービスは別。回答には誤りもある
ひよこ LLMって何の略？
ペンギン先生 Large Language Model、つまり大規模言語モデルだよ。大量の文章などから、言葉のつながりや文脈のパターンを学ぶモデルなんだ。人間と同じ仕組みで理解しているという意味ではないよ
ひよこ どうやって文章を作るの？
ペンギン先生 文章をトークンという単位に分け、与えられた文脈の続きになるトークンを予測して、文章をつないでいくよ。トークンは単語だけでなく、単語の一部や文字のこともある。Transformerは、文脈の中の言葉の関係を扱うために広く使われる構造なんだ
ひよこ 文章を丸暗記して返すの？
ペンギン先生 学んだパターンから新しい文章を作るけれど、学習した文章の一部を記憶することもあるよ。だから「全部を丸暗記」でも「絶対に記憶しない」でもないんだ。もっともらしい誤りを出すこともあるので、出典や数字は別に確認しようね
ひよこ 対話サービスそのものがLLMなの？
ペンギン先生 モデルは文章を扱う部品で、対話サービスはその部品を使って、会話画面や履歴、検索などを組み合わせた仕組みだよ。回答に最新情報が入るかどうかも、モデルだけでなく、外部情報を参照する機能や設定によるんだ
ひよこ 大きいモデルなら、何でも正しく答える？
まとめ：ざっくりこれだけ覚えればOK！
「LLM」って出てきたら「たくさんの文章から学び、言葉を扱うAIモデル」と思えばだいたいOK！
📖 おまけ：英語の意味
「Large Language Model」 ＝ 大規模言語モデル
💬 Large（大規模）+ Language Model（言語モデル）。パラメータ数や学習データが「大規模」なのが特徴だよ
参考資料
- Google Machine Learning Crash Course — Introduction to Large Language Models
- Google Machine Learning Crash Course — What’s a large language model?
- Google Machine Learning Crash Course — Fine-tuning, distillation, and prompt engineering
- Carlini et al. — Extracting Training Data from Large Language Models
- Google Cloud — Grounding overview（モデルへの外部情報の接続）