[工学]5-1 存储系统 Cache_v10.ppt

存储系统-Cache 张伟 计算机学院 大纲 1 存储体系的层次结构 2 Cache的基本知识 Cache 映象规则 Cache 查找方法 Cache 替换算法 Cache 写入策略 3 Cache性能分析 4 Cache优化策略 1 存储体系的层次结构 主存与CPU的速度差距 分析 CPU的发展一直以提高速度为核心 存储的发展一直以提高容量为核心 存储器访问对计算机性能的影响很大 大容量存储器速度慢, 快速存储器容量小 目标：大容量、高速度、低价格的存储器 层次存储器系统 采用并行技术 不光是技术问题、还是经济问题 层次存储器系统 演示　　　　　　 选用生产与运行成本不同的、存储容量不同的、读写速度不同的多种存储介质，组成一个统一的存储器系统，使每种介质都处于不同的地位，发挥不同的作用，充分发挥各自在速度　容量　成本方面的优势，从而达到最优性能价格比，以满足使用要求。 例如，用容量更小但速度最快的 SRAM芯片组成 CACHE，容量较大速度适中的 DRAM芯片组成 MAIN MEMORY，用容量特大但速度极慢的磁盘设备构成 VIRTUAL MEMORY。 程序的局部性原理 程序在一定时间段内通常只访问较小的地址空间 时间局部性 最近被访问的信息很可能还要被访问 将最近被访问的信息项装入到Cache中 空间局部性 最近被访问的信息临近的信息很可能被访问 将最近被访问的信息项临近的信息一起装入到Cache中 现代计算机的层次存储器系统  利用程序的局部性原理: 以最低廉的价格提供尽可能大的存储空间 以最快速的技术实现高速存储访问 Control Datapath Secondary Storage (Disk) Processor Registers Main Memory (DRAM) Second Level Cache (SRAM) 1ns Milliseconds GB Speed (ns): 1~10ns 50-100ns MB-GB 32*4B Size (bytes): KB-MB Tertiary Storage (Disk) Seconds Terabytes Instr Cache Data Cache 层次之间应满足的原则 一致性原则 处在不同层次存储器中的同一个信息应保持相同的值。 包含性原则 处在内层的信息一定被包含在其外层的存储器中，反之则不成立, 即内层存储器中的全部信息，是其相邻外层存储器中一部分信息的复制品 “Cache主存”和“主存辅存”层次 从主存的角度来看 “Cache－主存”层次：弥补主存速度的不足 “Cache - 主存”层次 “主存－辅存”层次： 弥补主存容量的不足 “主存－辅存”层次 “Cache－主存”与“主存－辅存”层次的区别 存储层次 CPU对第二级的访问方式 比较项目 目　　的 存储管理实现 访问速度的比值(第一级和第二级) 典型的块(页)大小 失效时CPU是否切换 “Cache －主存”层次 “主存－辅存”层次 为了弥补主存速度的不足 为了弥补主存容量的不足 主要由专用硬件实现 主要由软件实现 几比一 几百比一 几十个字节 几百到几千个字节 可直接访问 均通过第一级 不切换 切换到其他进程 存储层次的四个问题 1. 映象规则(block placement) Where can a block be placed in the upper level? 当把一个块调入高一层(靠近CPU)存储器时，可以放在哪些位置上? 2. 查找方法(block identification) How is a block found if it is in the upper level? 当所要访问的块在高一层存储器中时，如何找到该块? 3. 替换算法(block replacement) Which block should be replaced on a miss? 当发生失效时，应替换哪一块？ 4. 写入策略(write strategy) What happens on a write? 当进行写访问时，应进行哪些操作? 2 CacheCache和主存分块 Cache 基本知识 Cache 映象规则 Cache 查找方法 Cache 替换算法 Cache 写入策略 Cache基本知识 高速缓冲存储器：在相对容量较大而速度较慢的主存与高速处理器之间设置的少量但快速的存储器 基本工作原理： 把Cache和主存分成若干大小相同的块( block，行、线line，槽slot )，Cache由块目录表及快速存储器组成 对主存地址，根据映象规则生成标签和索引；根据标签和索引查找具体的Cache块 无（失效/