53降低CACHE失效率的方法强制性失效.ppt

假设： 预取命中率＝25％  命中时间＝1个时钟周期 失效开销＝50个时钟周期 由表5.4可知，8KB指令Cache的失效率＝1.10％ 故平均访存时间预取 ＝1＋(1.10 %×25 %×1)＋ (1.10 %×(1－25 %)×50) ＝1＋0.00275＋0.4125  ＝1.415 由公式： 平均访问时间＝命中时间＋失效率×失效开销 5.3 降低Cache 失效率的方法 可得相应的失效率为： 失效率＝(平均访问时间－命中时间)/失效开销 ＝(1.451－1)/50＝0.83％ 8KB Cache 带预取的8kB Cache 失效率 1.10％ 0.83％ 16KB Cache 0.64％ 5.3 降低Cache 失效率的方法 5.3.6 由编译器控制的预取 1. 预取的类型 ◆ 寄存器预取：把数据取到寄存器中 ◆ Cache预取： 只将数据取到Cache中 ◆ 故障性预取：预取时，若出现虚地址故障 或违反访问权限，就会发生异常。 ◆ 非故障性预取：预取时，若出现虚地址故 障或违反访问权限，并不会导致异常，只 是转变为“不预取”。 由编译器加入预取指令，在数据被用到之前发出预取请求。 5.3 降低Cache 失效率的方法 4. 例题 2. 在预取数据的同时，处理器应能继续执行 只有这样，预取才有意义。 非阻塞Cache (非锁定Cache) 3. 循环是预取优化的主要对象 失效开销小时：循环体展开1～2次 失效开销大时：循环体展开许多次 5.3 降低Cache 失效率的方法 例 5.8 对于下面的程序，判断哪些访问可能会导致数据Cache失效。然后，加入预取指令以减少失效。最后，计算所执行的预取指令的条数以及通过预取避免的失效次数。假定： (1) 我们用的是一个容量为8KB、块大小为 16B的直接映象Cache，它采用写回法并 且按写分配。 (2) a、b分别为3×100(3行100列)和101×3 的双精度浮点数组，每个元素都是8个 字节。当程序开始执行时，这些数据都 不在Cache内。 5.3 降低Cache 失效率的方法 for (i＝0 ; i 3 ; i＝i＋1 ) for (j＝0 ; j 100 ; j＝j＋1 ) a[i][j]＝b[j][0]×b[j＋1][0]; 解： (1) 计算过程 (2) 失效情况 总的失效次数＝251次 (3) 改进后的程序 5.3 降低Cache 失效率的方法 *／51 *／51 (1) 强制性失效(Compulsory miss) 当第一次访问一个块时，该块不在 Cache中，需从下一级存储器中调入Cache， 这就是强制性失效。 (冷启动失效，首次访问失效。) (2) 容量失效(Capacity miss )  如果程序执行时所需的块不能全部调 入Cache中，则当某些块被替换后，若又 5.3 降低Cache失效率的方法 1. 三种失效(3C) 第五章 存储层次 重新被访问，就会发生失效。这种失效称 为容量失效。 (3) 冲突失效(Conflict miss) 在组相联或直接映象Cache中，若太多 的块映象到同一组(块)中，则会出现该组 中某个块被别的块替换(即使别的组或块有 空闲位置)，然后又被重新访问的情况。这 就是发生了冲突失效。 (碰撞失效，干扰失效) 5.3 降低Cache 失效率的方法 2. 三种失效所占的比例 (SPEC92)表5.5  5.3 降低Cache 失效率的方法 图示I(绝对值) 图示Ⅱ(相对值) 可以看出： (1) 相联度越高，冲突失效就越少； (2) 强制性失效和容量失效不受相联度的影响； (3) 强制性失效不受Cache容量的影响，但容 量失效却随着容量的增加而减少； (4) 表中的数据符合2:1的Cache经验规则，即 大小为N 的直接映象Cache的失效率约等于 大小为N/2 的两路组相联Cache的失效率。 强制性失效：增加块大小，预取 (本身很少) 容量失效：增加容量 (抖动现象) 冲突