【えぬぶいりんく】

NVLink とは?

最終更新:
💡 GPUが協力するための、高速なつながり

NVIDIAの高速なプロセッサー間接続技術。GPU同士の通信やNVLink Switchによる複数GPUの接続に使われる。AIの学習・推論などを支え、通信帯域や接続構成は世代と製品によって異なる。

📌 このページのポイント
NVLink — GPUが協力するつながりGPU AGPU BGPU CNVLinkSwitchNVLinkNVLink対応製品・世代・構成を確かめる
NVLink Switchを使う複数GPUの構成例。線は双方向にデータをやり取りできる接続を示す。
ひよこ ひよこ
NVLinkは、何をつなぐの?
ペンギン先生 ペンギン先生
代表的なのはGPU同士だよ。複数のGPUが分担してAIの学習や推論をするとき、データを大量に交換するための接続に使う。NVLink Switchを通して、多くのGPUが通信できる構成もあるんだ。
ひよこ ひよこ
GPUはPCIeでつながるのに、なぜ別の接続があるの?
ペンギン先生 ペンギン先生
多くのGPUで計算を分担すると、GPU間の通信が全体の足を引っ張ることがある。NVLinkは、そうした大量のデータ交換を支える仕組みだよ。ただしPCIeの接続が必ずCPUを経由して遠回りする、というわけではなく、経路や性能はシステムの構成によるんだ。
ひよこ ひよこ
900GB/sという説明を見たよ。どの世代も同じ?
ペンギン先生 ペンギン先生
世代で違うよ。NVIDIAの仕様表では、GPUごとのNVLink帯域が第4世代のHopperで900GB/s、第5世代のBlackwellで1,800GB/sと記載されている。数字を見るときは、世代・製品・GPU1台分か全体分か・双方向かをそろえて比べよう。古い世代をずっと「最新」と書くと誤解しやすいね。
ひよこ ひよこ
帯域が2倍なら、学習時間も半分?
ペンギン先生 ペンギン先生
そうとは限らないよ。計算そのものやメモリ、データの読み込み、ソフトの処理も時間に関わる。通信が課題の仕事では役立つけれど、帯域の倍率を、そのまま学習・推論全体の速さとして扱わないようにしよう。
ひよこ ひよこ
GPUを買えば、後からNVLinkを足せる?
ペンギン先生 ペンギン先生
どんなGPUでも使える機能ではないよ。対応する製品、接続部品やスイッチ、システム構成を確認する必要がある。一般のPCで複数GPUを使うことと、NVLink接続を使うことは別なので、購入前に製品仕様で確かめよう。
もっと詳しく知りたい人へ

NVLink-C2Cは、GPU同士のNVLinkと同じ?

関連する技術ですが、NVLink-C2Cはチップ間の接続を担う方式です。たとえばGB200では、Grace CPUとBlackwell GPUをNVLink-C2Cでつなぎ、複数GPUをNVLinkで接続する構成が説明されています。CPU・GPU間の数字とGPU間の数字を混ぜず、どの接続の仕様かを確認しましょう。

ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「NVLink」って出てきたら「GPUなどを高速につなぐNVIDIAの接続技術」と思えばだいたいOK!
📖 おまけ:英語の意味
「NVLink」 = NVIDIAの接続技術名
💬 linkはつながり・接続という意味。NVIDIAの技術名で、NVLink-C2Cなど関連する接続方式もあるよ。

参考資料

← 用語集にもどる