キャッシュメモリ とは？

CPUはすごく速いけど、メモリ（RAM）は相対的に遅い。その速度差を埋めるために、CPUのすぐそばに置く超高速な小さなメモリがキャッシュメモリだよ。よく使うデータをそこに置いておけば、CPUが待たずに済む。

階層構造になってて、L1が一番CPUに近くて最速・最小。L3が一番大きくて少し遅い。CPUはまずL1を探して、なければL2、それでもなければL3、最後にRAMを見に行く。速い順に探すから効率的なんだ。

ほとんど自動だよ。OSとCPUハードウェアが協力して、どのデータをキャッシュするか判断する。プログラマーが直接触ることは基本ない。ただ、パフォーマンスを突き詰めるときはキャッシュの使い方を意識したプログラミングをすることもある。

マルチコアCPUだと各コアが独自のL1・L2キャッシュを持つんだけど、複数のコアが同じメモリを読み書きするとき「それぞれのキャッシュの内容が一致しているか」を保証する問題がキャッシュコヒーレンシだよ。例えばコア1がある値を書き換えたのに、コア2のキャッシュには古い値が残ってたらバグになる。これをハードウェアレベルで解決するMESIプロトコルとかがあって、並列プログラミングのバグの原因になったりする結構深い問題なんだ。