【えいちびーえむ】

HBM(広帯域メモリ) とは?

最終更新:
💡 積んだDRAMと幅広い接続で、データをたくさん運ぶ

複数のDRAMチップを立体的に積み、多数の配線と幅広いインターフェースで大量のデータを転送するメモリ。GPUなどの近くに組み込み、AIや科学技術計算などで必要になる高いメモリ帯域幅を支えます。

📌 このページのポイント
積んだDRAMを、幅広い接続でつなぐHBMの積層DRAMDRAMDRAMDRAMTSVなどで接続GPUなど計算する側接続基盤(インターポーザーなど)同じパッケージ内で近くに配置する
積層したDRAMとGPUなどを接続する構成の模式図。積層数・部品・寸法は製品で異なります。
ひよこ ひよこ
HBMは、データを保存するSSDなの?
ペンギン先生 ペンギン先生
DRAMを使うメモリだよ。High Bandwidth Memory、つまり広帯域メモリの略なんだ。複数のDRAMチップを積み、たくさんの接続を使ってデータを転送するよ。
ひよこ ひよこ
縦に積むだけで、速くなるの?
ペンギン先生 ペンギン先生
積む形に加えて、TSVと呼ばれるチップを貫く配線などでつなぎ、幅広いインターフェースを使うことがポイントだよ。データを並行してたくさん運べる構成にするんだ。積む段数だけで、転送量が決まるわけではないね。
ひよこ ひよこ
GPUには、どうつながるの?
ペンギン先生 ペンギン先生
代表的には、同じパッケージの中でGPUなどの近くに配置し、インターポーザーと呼ばれる接続基盤などでつなぐよ。図はその考え方を簡略化したもの。GPUの中にDRAMを積むという意味ではないんだ。
ひよこ ひよこ
AIで使われるのは、なぜ?
ペンギン先生 ペンギン先生
大きなモデルのデータなどを何度も読み出す処理では、計算だけでなくデータの転送も性能に関わるからだよ。HBMは高い帯域幅で転送を支える。科学技術計算などにも使われるし、すべてのAI用機器に必須というわけではないね。
ひよこ ひよこ
DDR5より何倍速い、と覚えてよい?
ペンギン先生 ペンギン先生
帯域幅は一度に運べる量に関わる値で、一回の読み出しの待ち時間とは別だよ。比較するときは製品や世代、接続数、スタック単位か装置全体かをそろえよう。HBMにも複数の製品があり、容量や転送量、必要な費用は構成で変わるんだ。
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「HBM」って出てきたら「積み重ねたDRAMと幅広い接続で、大量のデータを運ぶメモリ」と思えばだいたいOK!
📖 おまけ:英語の意味
「High Bandwidth Memory」 = 広帯域メモリ
💬 Bandwidthは帯域幅。短い時間にたくさんのデータを転送するメモリ、と覚えよう。積層する形だけでなく、幅広い接続も大切なんだ。

参考資料

← 用語集にもどる