高速缓冲存储器和虚拟存储器[精选].ppt

计算机组成与系统结构——流水线技术 第8章 本章主要内容 高速缓冲存储器（Cache） 高速缓存的基本运行原理 高速缓存的3种映像方式 高速缓存使用中的几个问题 虚拟存储器 虚拟存储器概述 段式存储管理 页式存储管理 微电子技术发展趋势 CPU与DRAM性能比较 程序的局部性原理 程序在一定时间段内通常只访问较小的地址空间 两种局部性：时间局部性和空间局部性 时间局部性：最近被访问的信息很可能还要被访问。 将最近被访问的信息项装入到Cache中。 空间局部性：最近被访问的信息临近的信息也可能被访问。 将最近被访问的信息项临近的信息一起装入到Cache中。 高速缓冲存储器（Cache） 用途：设置在 CPU 和 主存储器之间，完成高速与 CPU 交换信息，尽量避免 CPU不必要地多次直接访问慢速的主存储器，从而提高计算机系统的运行效率。 实现：这是一个存储容量很小，但读写速度更快的，以 关联存储器方式 运行、用静态存储器芯片实现的存储器系统。 要求：有足够高的命中率，既当 CPU需用主存中的数据时，多数情况可以直接从CACHE中得到，称二者之比为命中率。 CACHE的基本运行原理 Cache存储单元的组成部分 数据字段：保存从主存单元复制过来的数据 标志字段：保存相应主存单元的地址信息 有效位字段：标识数据字段和标志字段是否有效 提高Cache性能，降低成本 Cache单元的大小：cache line size（几个主存字，减少标志位位数，较少Cache总容量） Cache与主存交换数据的单位： cache line size（充分利用空间局部性） Cache单元与主存单元的对应关系，例如： 完全随意对应、一对多硬性对应和多对多有限随意对应 Cache的容量、分层组织、接入方式等方面 CACHE的基本运行原理 CACHE的3种映像方式 地址映像：把一主存单元的数据复制到CACHE中时，还要把该主存单元的地址，经过某种函数关系处理后写进CACHE的标志字段，这一过程被称为CACHE的地址映像。 地址变换：在程序执行时，还要把主存地址变换为访问CACHE的地址，这一过程被叫做CACHE的地址变换。 CACHE存储器通常使用3种映像方式，它们是全相联映像方式、直接映像方式、多路组相联映像方式，3种映像方式有各自的优缺点。 全相联映像方式 全相联映像方式：是指主存的一个字块可以映像到整个CACHE的任何一个字块中。 全相联映像方式特点： 主存的字块可以和Cache的任何字块对应，利用率高，方式灵活。 标志位较长，比较电路的成本太高。如果主存空间有2m块，则标志位要有m位。同时，如果Cache有n块，则需要有n个比较电路。 全相联映像方式 全相联硬件实现举例 直接映像方式 直接映像方式：是指主存的一个字块只能映像到CACHE的一个准确确定的字块中。 直接映像方式特点： 主存的字块只可以和固定的Cache字块对应，方式直接，利用率低。 标志位较短，比较电路的成本低。如果主存空间有2m块，Cache中字块有2c块，则标志位只要有m-c(2m/2c)位。且仅需要比较一次。 直接映像方式 直接映像硬件实现举例 多路组相联映像方式 多路组相联映像方式：是对全相联映像和直接映想象的一种折衷的处理方案。既不在主存和CACHE之间实现字块的完全随意对应，也不在主存和CACHE之间实现字块的多对一的硬性对应，而是实现一种有限度的随意对应。 多路组相联映像方式特点： 折衷方案。组间为全相连，组内为直接映像。 集中了两个方式的优点。成本也不太高。 两路组相联映像方式 多路组相联硬件实现举例 三种映像方式比较 全相联映射 主存中的一块可以映射到Cache中任何一个位置 直接映像 主存中的一块只能映射到Cache中唯一的一个位置 定位时，不需要判断，只需替换 多路组相联映射 主存中的一块可以选择映射到Cache中多个位置 全相联映射和多路组相联映射的失效处理 从主存中取出新块 为了腾出Cache空间，需要替换出一个Cache块 不唯一，则需要判断应替出哪块 CACHE使用中的几个问题 CACHE的重要技术指标：命中率 影响 CACHE 命中率的因素 CACHE 的容量，大一些好 CACHE 与主存储器每次交换信息的单位量(Cache Line Size)适中 CACHE 不同的组织方式，多路组相联更好 CACHE 的多级组织可提高命中率 CACHE 装满后的替换算法 cache的容量与命中率的关系  cache line size与缺失率的关系  cache 容