【イーストウエストトラフィック】

East-Westトラフィック とは?

最終更新:
💡 職場の同僚たちの内線電話
📌 このページのポイント
通信の違いは境界で考える 外部の利用者内部の設備North-SouthWebサーバーDBEast-West内部同士DBへの問い合わせと応答外部との往復と、内部の往復を区別
利用者のアクセスはNorth-South、内部のWebサーバーとDBの通信はEast-West。実際の機器配置や地理的な方角を示す図ではありません。
ひよこ ひよこ
EastとWestって、方角のこと?
ペンギン先生 ペンギン先生
実際の方角ではないよ。データセンターの内部にあるサーバーやアプリケーション間の通信を指す。図では横方向の通信として表すことが多く、外部と内部をまたぐNorth-Southと区別するんだ。
ひよこ ひよこ
普通のWebサービスにもある?
ペンギン先生 ペンギン先生
あるよ。外部の利用者がWebサーバーへアクセスする往復の通信はNorth-South。同じデータセンター内でWebサーバーがDBへ問い合わせたり、内部の別サービスを呼んだりする通信はEast-Westだよ。1回のアクセスでも両方が生じるんだ。
ひよこ ひよこ
AIの学習とはどう関係するの?
ペンギン先生 ペンギン先生
複数サーバーにまたがって学習する構成では、GPU同士でデータを交換する必要があるよ。NCCLのようなライブラリはサーバー内外のGPU間通信を扱い、AllReduceなどの集合通信を支える。サーバー間に流れる部分がEast-Westに当たるんだ。
ひよこ ひよこ
全体の何割くらいになるの?
ペンギン先生 ペンギン先生
サービスの構成や処理によって変わるよ。一定の比率をすべてのデータセンターに当てはめることはできない。内部通信の量や遅延、どの経路に集中しているかを、そのシステムで調べる必要があるね。
ひよこ ひよこ
ネットワークの形もEast-Westと呼ぶの?
ペンギン先生 ペンギン先生
East-Westは通信の分類だよ。スパイン・リーフはサーバー間の通信を支えるネットワーク構成の一つ。通信の方向の呼び名と、機器をどう接続するかという設計は分けて考えよう。
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「East-Westトラフィック」って出てきたら「内部のサーバーやアプリケーション間を流れる通信」と思えばだいたいOK!
📖 おまけ:英語の意味
「East-West Traffic」 = 東西トラフィック
💬 図で内部同士の通信を横方向の「東西」、外部と内部の通信を縦方向の「南北」と表す呼び方だよ。実際の地理的な方角を指しているわけではないんだ。

参考資料

← 用語集にもどる