【でぃーぷじぇむ】

DeepGEMM とは?

公開:
💡 AIの中の行列計算を、機器に合わせて支える

DeepGEMMは、DeepSeekが公開するAI計算向けのカーネルライブラリ。行列積など、大規模言語モデルで使う基本計算を支えます。NVIDIA向けの実装と、Huawei Ascend向けのDeepGEMM-Ascendは動作環境を分けて確認します。

📌 このページのポイント
計算のAPIと、機器ごとの実装を分ける 行列計算などの呼び出しDeepGEMMNVIDIA向けAscend版Ascend向け同じAPIでも、必要な実行環境は異なる
DeepGEMMとDeepGEMM-Ascendの使い分け。APIの整合と、機器・データ形式・実行基盤の条件は別に確認します。
ひよこ ひよこ
ペンギン先生、DeepGEMMに質問すると答えてくれる?
ペンギン先生 ペンギン先生
対話モデルではなく、AIの内部で必要な計算を実行するライブラリだよ。GEMMという行列積など、大規模言語モデルの基本的な計算を支えるんだ。
ひよこ ひよこ
GPUで速くする魔法なの?
ペンギン先生 ペンギン先生
対象の機器に合わせた計算カーネルを用意するよ。ただし、どの行列でもどの機器でも同じように速いとは限らない。形状、数値形式、対応ハードウェアなどの条件が重要なんだ。
ひよこ ひよこ
Ascend版はCUDAがそのまま動くということ?
ペンギン先生 ペンギン先生
違うよ。DeepGEMM-AscendはHuawei Ascend向けの実装で、元のライブラリとAPIをそろえる方針だよ。同じ呼び出し方を目指していても、下で使う機器や実行基盤は異なるんだ。
ひよこ ひよこ
使う前には何を見る?
ペンギン先生 ペンギン先生
対象の機器、コンパイラー、実行基盤、PyTorchとの組み合わせを公式の必要条件で確認しよう。Ascend版は確認時点で950シリーズを開発・検証対象としており、ほかの世代まで一律に対応すると考えないでね。
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「DeepGEMM」って出てきたら「AIの行列計算などを機器に合わせて実行するDeepSeekのライブラリ」と思えばだいたいOK!
📖 おまけ:英語の意味
「DeepGEMM」 = DeepSeekのGEMMなどの計算ライブラリ
💬 GEMMは行列同士の乗算。ライブラリの名前で、対話するAIモデルの名前ではないよ。

参考資料

← 用語集にもどる