East-Westトラフィック とは？

データセンター内で横方向（サーバー←→サーバー）に流れる通信を「East-West」と呼ぶんだよ。昔はデータセンターの図でサーバーを横に並べて書いていたから、横方向を東西と表現したんだ。対義語は「North-South」で、インターネットからユーザーのリクエストが入ってくる縦方向の通信のことだよ。

分散学習が原因なんだ。GPT-4クラスの大規模AIを学習させるとき、何百台ものGPUが1秒間に何百回もパラメータ（重み）を互いに同期する必要があるんだよ。あのサイズのモデルは1台のサーバーには収まらないから、サーバー間通信が膨大に発生するんだ。昔はEast-Westは全体の30〜40%だったけど、今は70〜80%に逆転しているよ。

従来のデータセンターネットワークはNorth-South（外部リクエスト）を効率よく処理するように設計されていたんだ。だからEast-Westが急増すると帯域が足りなくなったり、遅延が不均一になったりする問題が出てくるよ。そのため今はスパイン-リーフというEast-Westに最適化された設計に移行が進んでいるんだ。

もちろんあるよ！マイクロサービスアーキテクチャで動いているサービスは、1回のユーザーリクエストに対して内部で何十ものサービス間通信（API呼び出し）が発生する。これも全部East-Westなんだよ。だから普通のWebアプリでもEast-Westの設計は大事で、サービスメッシュ（Istioなど）という技術で管理されることが多いね。