【じょうたいくうかんもでる】
状態空間モデル（SSM） とは？
💡 Transformerとは別の仕組みで、長い文章を効率よく処理するAI
📌 このページのポイント
- 時系列情報を「現在の状態」として圧縮して扱うことで長いシーケンスを効率処理
- Transformerより長文脈でメモリ使用量が少ない
- Mambaが代表的な実装で、音声・DNA・タンパク質解析等で強みを発揮
- TransformerとSSMのハイブリッドモデルも登場している
ひよこ ペンギン先生、「SSM（状態空間モデル）」って「Mamba」と一緒に聞くんだけど、何なの？
ひよこ Transformerと何が違うの？
ペンギン先生 Transformerは「全単語間の関係を一度に計算する」仕組みで、文章が長くなるとメモリと計算量が二乗で増える。SSMは「現在の状態」という圧縮した情報だけを持ち続けるので、長い文章でも線形にしか増えないんだ。
ひよこ じゃあSSMの方が優れてるの？
ペンギン先生 一長一短だよ。SSMは長いシーケンスをメモリ効率よく処理できるけど、「特定の単語を正確に思い出す」記憶想起はTransformerの方が得意な場合がある。だから最近はTransformerとSSMを組み合わせたハイブリッドモデルも登場しているよ。
ひよこ どんな場面でSSMが活躍するの？
ペンギン先生 非常に長いシーケンスが必要な場面だよ。たとえば1時間の音声をそのまま処理する、長大なゲノムDNA配列を解析する、といった用途で強みを発揮する。通常のテキストAIよりも科学・医療分野での活用が先行しているんだ。
ひよこ Mambaは今後LLMのメインになる可能性はあるの？
ペンギン先生 完全に置き換えるのは難しいと言われているけど、「TransformerとSSMのハイブリッド」という形で大型LLMに取り込まれていく可能性は高いよ。AI研究の最前線でTransformerの代替として真剣に研究されているんだ。
まとめ：ざっくりこれだけ覚えればOK！
「SSM（状態空間モデル）」って出てきたら「Transformerの代替候補の新しいAIアーキテクチャ」と思えばOK！
📖 おまけ：英語の意味
「State Space Model」 ＝ 状態空間モデル
💬 システムの動的な「状態（State）」を「空間（Space）」上で表現してモデル化する手法だよ。制御工学の古典的手法をAIに応用したものなんだ