性能分析XII(CPUキャッシュとメモリアクセス)

同じCPU・同じクロックでもプログラムの速さは何倍も変わります。その正体はキャッシュミスやメモリ待ちで生まれる「見えない停滞」です。perf stat のカウンタ(cycles/instructions/cache-misses/branch-misses)を読んでCPUバウンドかメモリバウンドかを切り分け、キャッシュ階層・NUMA・TLB・false sharingがなぜ遅さとして現れるかを測定の視点から理解します。