キャッシュミス とは？

そのとおり！キャッシュを探したけどデータが見つからなかった状態のことだよ。図書館で言えば、手元の棚に本がなくて、倉庫まで取りに行かなきゃいけない感じだね。

大きく3つあるよ。初めてアクセスするデータで起きる「コールドミス」、キャッシュの容量が足りなくて追い出された「キャパシティミス」、同じキャッシュ領域を複数データが奪い合う「コンフリクトミス」だね。

コールドミスは初回だから避けようがないけど、キャパシティミスやコンフリクトミスはキャッシュの設計やアルゴリズムで減らせるんだ。特にコンフリクトミスは、キャッシュの「連想度」を上げると改善できるよ。

CPUの場合、メインメモリまで取りに行くから100倍くらい遅くなることもあるよ。Webサーバーだと、キャッシュミスのたびにデータベースへ問い合わせが飛ぶから、アクセスが集中するとサーバーがパンクする原因にもなるんだ。

プログラミングでは「データの局所性」を意識することが大事だよ。近くのメモリを順番にアクセスする「空間的局所性」と、同じデータを短期間に繰り返し使う「時間的局所性」を高めると、ヒット率がグンと上がるんだ。