计算机系统课件-第6章- L2 高速缓冲器Cache.pptxVIP

1第六章 存储器层次结构第二部分 高速缓冲器Cache Carnegie Mellon2高速缓存存储器组织结构和操作高速缓存对程序性能的影响存储器山重新排列循环以提高空间局部性使用分块来提高时间局部性要点 Carnegie Mellon3局部性举例对数据的引用顺序访问数组元素 (步长为1的引用模式)变量sum在每次循环迭代中被引用一次对指令的引用顺序读取指令重复循环执行for循环体sum = 0;for (i = 0; i n; i++) sum += a[i];return sum;空间局部性 时间局部性空间局部性 时间局部性 Carnegie Mellon局部性局部性原理: 程序倾向于使用与最近使用过数据的地址接近或是相同的的数据和指令时间局部性:最近引用的项很可能在不久的 将来再次被引用 空间局部性:与被引用项相邻的项有可能在 不久的将来再次被引用4 Carnegie Mellon存储器层次结构寄存器L1 高速缓存 (SRAM)主存 (DRAM)本地二级存储 (本地磁盘) 更大 更慢和 （每字节）成本更低的存储设备远程二级存储 (分布式文件存储，Web服务器)本地磁盘保存着从远程网络服务器磁盘上取出的文件L1高速缓存保存着从L2高速缓存取出的缓存行CPU寄存器保存着从高速缓存存储器取出的字L2高速缓存保存着从L3高速缓存取出的缓存行L0:L1:L2:L3:L4:L5:更小更快和（每字节）成本更高的存储设备5L3 高速缓存保存着从主存高速缓存取出的缓存行L6:主存保存着从本地磁盘取出的磁盘块L2 高速缓存 (SRAM)L23高速缓存 (SRAM) 6存储器层次结构中的缓存缓存类型缓存什么被缓存在何处延迟(周期数)由谁管理寄存器4-8 字节字CPU 核心0编译器TLB地址译码片上 TLB0硬件MMUL1 高速缓存64字节块片上 L14硬件L2 高速缓存64字节块片上 L210硬件虚拟内存4KB 页主存100硬件 + OS缓冲区缓存部分文件主存100OS磁盘缓存磁盘扇区磁盘控制器100,000磁盘固件网络缓冲区缓存部分文件本地磁盘10,000,000NFS 客户浏览器缓存Web页本地磁盘10,000,000Web浏览器Web缓存Web 页远程服务器磁盘1,000,000,000Web 代理服务器 7高速缓存高速缓存(Cache): 一种更小、速度更快的存储设备。作为更大、更慢存储设备的缓存区。存储器层次结构的基本思想:对于每个 k，位于k层的更快更小存储设备作为位于k+1层的更大更慢存储设备的缓存。为什么存储器层次结构行的通?因为局部性原理，程序访问第k层的数据比访问第k+1层的数据要频繁因此，第k+1层的存储设备更慢、容量更大、价格更便宜妙策: 存储器层次结构构建了一个大容量的存储池，像底层存储器一样廉价，而又可以达到顶层存储器的速度。 高速缓存的基本概念4101591337111589143高速缓存存储器第K+1层更大、更慢、更便宜的设备被划分成块数据以块为传输单元在层与层之间复制第K层更小、更快、更昂贵的设备缓存着第K+1层块的一个子集048124426101481010 Carnegie Mellon高速缓存概念：缓存命中048121591326101437111589143高速缓存内存需要数据块 b请求: 14149块 b 在缓存中: 命中！ Carnegie Mellon高速缓存概念：缓存不命中121591326101437111589143高速缓存内存需要数据块 b请求: 12块 b不在缓存中: 不命中！块 b是从内存中提取出来请求: 1204812121210块 b 被存储到缓存放置策略 (Placement policy) ：确定b块b放在缓存中的位置替换策略(Replacement policy): 决定该替换-驱逐存储器中的哪一块（牺牲块） Carnegie Mellon11高速缓存概念： 缓存不命中的种类冷 (强制性) 不命中当缓存为空时，对任何数据的请求都会不命中，此类不命中称为冷不命中冲突不命中大多数缓存将第k+1层的某个块限制放置在第k层块的一个小的子集中（有时只是一个块）.例如.第k+1层的块i必须放置在第k层的块（i mod 4）中.冲突不命中发生在缓存足够大，但是这些多个数据对象会映射到同一个缓存块.例如.如果程序请求块0,8,0,8,0,8,…这样每次引用都会不命中.容量不命中发生在当活跃块集合（工作集working set)）的大小比缓存大. Carnegie Mellon高速缓存存储器高速缓存存储器是小型的、快速的基于SRAM的存储器，是在硬件中自动管理的（非用户程序访问的）保持经常访问主存的块CPU 首先查找缓存中的数据典型的系