サンダリングハード問題 とは？

直訳すると「雷のように押し寄せる群れ」だよ。1つのイベントを待っていた大勢のプロセスやスレッドが一斉に起こされるのに、実際に仕事ができるのは1つだけで、残りは無駄に起きてまた眠る現象のことだね。

代表例は、複数のワーカーが同じ待ち受けソケットで新しい接続を待つ場面だよ。たとえば別々に作ったepollで同じソケットを、起床を絞る指定なしで監視すると、接続1件で複数の待ち手が起こされる場合がある。競合の結果acceptできた側以外は空振りになるよ。残りはCPU時間とコンテキストスイッチを無駄にするんだ。

少数なら影響が小さい場合もあるよ。でも、不要な起床が増えると、競合やコンテキストスイッチの処理が負担になり得る。実際のCPU負荷や待ち時間を見て、どこで余分な処理が起きているかを調べるんだ。

LinuxのEPOLLEXCLUSIVEは、同じ対象を、別々に作った複数のepollで待つときに、通知する待ち手を絞る指定だよ。1つ以上が通知されるので、必ず1つだけ起こす保証ではない。nginxのaccept_mutexは接続の受付をワーカーで順番に行う。SO_REUSEPORTで待ち受けソケットを分ける方法もあり、使い方や環境に合わせて選ぶんだ。

あるよ。同じキャッシュが使えなくなり、大勢が同時に元のデータを取りに行くと、取得先へ負荷が集中する。これはキャッシュスタンピードとも呼ばれるんだ。同じデータを同時に取りに行く処理を1回にまとめる方法がある。失敗後の再試行は、指数バックオフだけではタイミングがそろうことがあるので、ジッターも組み合わせるよ。