RDMA（Remote Direct Memory Access） とは？

普通のデータ転送は「アプリ → CPU/OS → NIC → ネットワーク → NIC → CPU/OS → アプリ」って何段階もコピーが発生するんだ。RDMAはNIC（ネットワークカード）が直接メモリにアクセスするから、CPUやOSを一切通らなくていいんだよ。

2つのメリットがあるよ。ひとつは「速さ」で、CPUの処理待ちがなくなって遅延が1〜2マイクロ秒以下になる。もうひとつは「CPU負荷の軽減」で、CPUがデータ転送に使われない分、他の計算に使えるんだ。普通のEthernetが数百マイクロ秒かかるのと比べると、約100〜200倍速いよ。

大きく2つの分野で使われているよ。ひとつはAI分散学習。GPT-4クラスのモデルを何百台ものGPUで学習させるとき、RDMAで1秒間に何百回もパラメータを同期させるんだ。もうひとつは高頻度取引（HFT）で、マイクロ秒単位の価格差を狙う金融システムでも使われているよ。

RDMAは「仕組み」で、InfiniBandとRoCEv2（ロキーv2）はRDMAを実装するための「プロトコル」だよ。InfiniBandは専用ハードウェアが必要で超高性能、RoCEv2は普通のEthernetインフラの上でRDMAを実現できるのが特徴なんだ。最近はRoCEv2を採用するデータセンターが増えてきているよ。