Cache性能分析

考情分析

Cache 性能综合计算题在 408 大题中出现频率高，常结合映射方式、替换算法、写策略一起考查，需要建立完整的分析框架。

大纲定位

考纲第三章（六）「高速缓冲存储器（Cache）」，性能计算贯穿全部四条。

要求到什么程度：能算命中率、平均访问时间、Cache 总容量，能处理多级 Cache。平均访问时间有两种模型，先判再算是本篇的核心。

单级 Cache 性能

符号与基本定义

先把符号钉死，后面所有公式都用这套：

符号	含义
$H$	命中率 $= \frac{N_{命中}}{N_{总访问}}$
$1 - H$	缺失率（miss rate）。命中率 $+$ 缺失率 $= 1$
$t_{c}$	Cache 命中时的访问时间（命中时间）
$t_{m}$	主存访问时间
$t_{a}$	平均访问时间（AMAT）
缺失损失	一次未命中相对命中多付出的时间，不含 $t_{c}$

编者注（易错）：题目给"缺失率 5%"时命中率是 95%，别直接把 5% 当命中率代进公式——这是选择题最常设的坑。

基本公式回顾

同时访问模型（CPU 同时启动 Cache 和主存，命中则取消主存访问）：

t_{a} = H \cdot t_{c} + (1 - H) \cdot t_{m}

先访问 Cache 模型（未命中时串行访问主存）：

t_{a} = t_{c} + (1 - H) \cdot t_{m}

做题第一步：从题面判用哪个模型

题目不一定明说，靠措辞识别：

题面出现	用哪条
「同时/并行启动 Cache 和主存」「命中则中止主存访问」	$t_{a} = H t_{c} + (1 - H) t_{m}$
「先访 Cache，未命中再访主存」「缺失后从主存调入」	$t_{a} = t_{c} + (1 - H) t_{m}$
只给「命中时间」和「缺失损失/缺失代价」	$t_{a} = 命中时间 + 缺失率 \times 缺失损失$ （即串行式）

第三行最常见于近年大题，且题干通常一句模型也不说。此时「缺失损失」是相对命中的额外开销，一次缺失总代价 $=$ 命中时间 $+$ 缺失损失。

性能加速比

S = \frac{t_{m}}{t_{a}}

表示加入 Cache 后，访存速度提高了多少倍。

例： $t_{c} = 5$ ns， $t_{m} = 100$ ns， $H = 0.98$ （同时访问模型）：

t_{a} = 0.98 \times 5 + 0.02 \times 100 = 4.9 + 2 = 6.9 ns

S = \frac{100}{6.9} \approx 14.5

多级 Cache

现代 CPU 通常有 L1、L2（甚至 L3）Cache。

双级 Cache 模型

设 L1 Cache 命中率 $H_{1}$ ，L2 Cache 命中率 $H_{2}$ （指在 L1 未命中的情况下，L2 的命中率），主存访问时间 $t_{m}$ 。

局部命中率与全局命中率：

$H_{1}$ ：全局命中率（所有访问中 L1 命中比例）
$H_{2}$ ：局部命中率（L1 未命中的访问中 L2 命中比例）
L2 全局命中率： $(1 - H_{1}) \cdot H_{2}$

反向换算也要会：题目若直接给出 L2 的全局命中率 $G_{2}$ ，代入公式前必须先还原成局部命中率：

H_{2} = \frac{G_{2}}{1 - H_{1}}

多级也分两种模型，和单级是同一回事：

同时访问： t_{a} = H_{1} t_{c 1} + (1 - H_{1}) [H_{2} t_{c 2} + (1 - H_{2}) t_{m}]

串行访问： t_{a} = t_{c 1} + (1 - H_{1}) [t_{c 2} + (1 - H_{2}) t_{m}]

编者注（易错）：区别就在 $t_{c 1}$ 是提在括号外（串行，每次访问都先付 L1 时间）还是乘在 $H_{1}$ 上（同时）。单级部分强调过要分模型，多级同样要分——别到多级就默认套一条。

平均访问时间：

t_{a} = H_{1} \cdot t_{c 1} + (1 - H_{1}) [H_{2} \cdot t_{c 2} + (1 - H_{2}) \cdot t_{m}]

或展开：

t_{a} = H_{1} \cdot t_{c 1} + (1 - H_{1}) H_{2} \cdot t_{c 2} + (1 - H_{1}) (1 - H_{2}) \cdot t_{m}

三级存储系统（含 L1/L2/主存）

层次	访问时间	命中率
L1 Cache	$t_{1}$ （~1 ns）	$H_{1}$ （~0.9）
L2 Cache	$t_{2}$ （~5 ns）	$H_{2}$ （~0.9，局部）
主存	$t_{m}$ （~100 ns）	—

例题： $t_{1} = 2$ ns， $t_{2} = 10$ ns， $t_{m} = 200$ ns， $H_{1} = 0.9$ ， $H_{2} = 0.8$ 。

t_{a} = 0.9 \times 2 + 0.1 \times (0.8 \times 10 + 0.2 \times 200)

= 1.8 + 0.1 \times (8 + 40) = 1.8 + 4.8 = 6.6 ns

综合计算题解题模板

408 中 Cache 综合题通常给出以下信息：

主存容量和地址位数
Cache 容量、行数、块大小
映射方式（直接/全相联/组相联）
替换算法
写策略

解题步骤：

第一步：确定地址分段（tag / index / offset 各多少位）

offset = \log_{2} (块大小（字节）)

index = {\begin{cases} \log_{2} (行数) & 直接映射 \\ \log_{2} (组数) & k 路组相联 \\ 0 & 全相联 \end{cases}

tag = 主存地址位数 - index - offset

算完位数还要写成位区间——真题问的常常是"这几个字段各占地址的哪几位"，只给位数不给区间会丢分。从第 0 位起由低到高排：

offset = [b - 1 : 0], index = [b + s - 1 : b], tag = [m - 1 : b + s]

（ $m$ 为地址总位数， $b$ 为 offset 位数， $s$ 为 index 位数。）

第二步：计算 Cache 总存储容量（含标记位）

每行存储内容：

\underset{有 效 位}{\underset{⏟}{1}} + \underset{tag}{\underset{⏟}{t}} + \underset{数 据}{\underset{⏟}{8 \times 块 大 小}} + \underset{脏 位 ， 仅 写 回}{\underset{⏟}{[1]}} + \underset{替 换 算 法 位}{\underset{⏟}{[⌈ \log_{2} k ⌉]}}

总容量 = 行数 × 每行位数

编者注（易漏）：替换算法位经常被忘。 $k$ 路组相联用计数器实现 LRU 时每行需 $⌈ \log_{2} k ⌉$ 位——8 路是 3 位（ $\log_{2} 8$ ），不是 8 位。题目提到替换算法就要算进去，没提就不加。

第三步：计算命中率或平均访问时间

第四步：分析地址映射关系（某个主存地址对应 Cache 的哪行/哪组）

常见例题类型

类型1：给定主存地址，判断 Cache 行号

直接映射：

Cache 行号 = ⌊ \frac{主存地址}{块大小} ⌋ mod N

类型2：计算 Cache 总容量（含标记）

这是大题中经常被忽略的部分，每行除了数据还有：

1 位有效位（Valid）
tag 位（标记）
1 位脏位（写回策略）

类型3：计算访问主存的次数

给定访问序列和 Cache 状态，按步骤模拟，统计未命中次数。

典型综合例题

Cache 容量 32 KB，4 路组相联，块大小 32 B，主存 32 位地址（字节寻址），写回策略。

offset = $\log_{2} 32 = 5$ 位
总行数 = $32 KB / 32 B = 1024$ 行；组数 = $1024 / 4 = 256$ 组
index = $\log_{2} 256 = 8$ 位
tag = $32 - 8 - 5 = 19$ 位
每行大小 = 1（有效位）+ 1（脏位）+ 19（tag）+ 32×8（数据）= 277 位
Cache 总存储容量 = 1024 × 277 bit = 283648 bit ≈ 34.6 KB（比数据容量 32 KB 多约 8%）

交互可视化

加载可视化中...

易混淆知识点

1. Cache 缺失和缺页是一回事吗？

不是。Cache 缺失（miss）是 CPU 访问 Cache 未命中，需要从主存调入数据块，由硬件自动处理，对程序透明，延迟约几十纳秒。缺页（page fault）是访问虚拟内存时页面不在主存中，需要从磁盘调入，由操作系统处理（触发缺页异常），延迟约几毫秒。二者层次不同，处理机制不同。

2. Cache 块大小越大越好吗？

不是。块大小增大的利：利用了空间局部性，一次调入更多相邻数据。弊：①总行数减少（Cache 容量固定），可能增加冲突缺失；②每次缺失的传输时间变长；③可能调入大量无用数据。实际设计需要在命中率和缺失代价之间权衡。

3. "同时访问"和"先 Cache 后主存"两个模型哪个更快？

同时访问模型更快——命中时等效访问时间就是 $t_{c}$ ，不命中时等效为 $t_{m}$ （因为主存访问已经同步启动）。但硬件代价更高。先 Cache 后主存模型更简单，但不命中时延迟为 $t_{c} + t_{m}$ 。做题时注意题目是哪种模型。

考点清单

同时访问模型与先访问 Cache 模型的区别，注意题目说明
多级 Cache：局部命中率用于逐级计算，全局命中率 = 到该级命中比例
Cache 总容量（含标记）= 行数 × (有效位 + tag位 + 数据位 + 脏位)
性能加速比 $S = t_{m} / t_{a}$ ，H 越高 S 越大
命中率从 0.9 提升到 0.99，性能提升显著，但从 0.99 提升到 0.999 边际效益递减
Cache 缺失由硬件处理，缺页由操作系统处理

Cache性能分析

考情分析

大纲定位

单级 Cache 性能

符号与基本定义

基本公式回顾

做题第一步：从题面判用哪个模型

性能加速比

多级 Cache

双级 Cache 模型

三级存储系统（含 L1/L2/主存）

综合计算题解题模板

常见例题类型

类型1：给定主存地址，判断 Cache 行号

类型2：计算 Cache 总容量（含标记）

类型3：计算访问主存的次数

典型综合例题

交互可视化

易混淆知识点

考点清单

真题练习

相关真题（25题）

Cache性能分析 ​

考情分析 ​

大纲定位 ​

单级 Cache 性能 ​

符号与基本定义 ​

基本公式回顾 ​

做题第一步：从题面判用哪个模型 ​

性能加速比 ​

多级 Cache ​

双级 Cache 模型 ​

三级存储系统（含 L1/L2/主存） ​

综合计算题解题模板 ​

常见例题类型 ​

类型1：给定主存地址，判断 Cache 行号 ​

类型2：计算 Cache 总容量（含标记） ​

类型3：计算访问主存的次数 ​

典型综合例题 ​

交互可视化 ​

易混淆知识点 ​

考点清单 ​

真题练习 ​

相关真题（25题）

Cache性能分析

考情分析

大纲定位

单级 Cache 性能

符号与基本定义

基本公式回顾

做题第一步：从题面判用哪个模型

性能加速比

多级 Cache

双级 Cache 模型

三级存储系统（含 L1/L2/主存）

综合计算题解题模板

常见例题类型

类型1：给定主存地址，判断 Cache 行号

类型2：计算 Cache 总容量（含标记）

类型3：计算访问主存的次数

典型综合例题

交互可视化

易混淆知识点

考点清单

真题练习