InfiniBand（インフィニバンド） とは？

普通のEthernetが「一般道」だとしたら、InfiniBandは「専用高速道路」みたいなものだよ。レイテンシが1マイクロ秒以下で、帯域も400Gbps以上出るんだ。

RDMAという技術で、CPUを通さずにメモリ同士が直接データをやり取りできるんだ。荷物を倉庫から倉庫へ直送するイメージだね。CPUという「仲介業者」を通さないから速いんだよ。

大規模なAI学習が代表例だね。ChatGPTのような大規模言語モデルを学習するとき、数千台のGPUが一斉にデータをやり取りする必要があるから、InfiniBandが必須なんだよ。

最近は400GbEなどEthernetも高速化しているけど、レイテンシの低さではまだInfiniBandに軍配が上がるんだ。ただしコストが高いから、用途によって使い分けるのが現実的だね。

NVIDIAは2020年にMellanoxというInfiniBandの主要メーカーを買収したんだ。GPU＋InfiniBandを一体で提供することで、AIクラスタ全体の性能を最適化する戦略だよ。これがNVIDIAの「データセンター支配」の鍵になっているんだね。