存储闸门理论： 解决存储墙问题的一种新方案 - Illinois Institute of.PDF

动态 第 12 卷  第1 期  2016 年 1 月 技术进展 存储闸门理论： 解决存储墙问题的一种新方案 在当今的计算机系统中，处理器(CPU) 与存储 lator) 去优化每一个水渠闸门的局部匹配。用一个新 之间存在着巨大的性能落差。这一日益增大的落差 提出的层次性能匹配(Layered Performance Matching, [4] 被人们称为存储墙(memory wall) 问题。存储墙是 LPM) 方法 找出存储层次系统的总体最佳系统匹 [1] 一个困扰业界多年的大问题 。解决存储墙问题对 配，并通过实例证明通过存储闸门理论的性能匹配 [2,4] 支持大数据的应用、对于研制新一代的E 级超级计 可以将某些程序的存储性能提高150 倍 ，彻底消 算机至关重要。在20 15 年 11 月 10~ 12 日召开的中 除了存储墙的影响。一个应用程序的运行时间(total 国计算机学会全国高性能计算学术年会 (CCF HPC- running time) 是其纯粹计算时间加上其存储停顿时间 China 20 15) 上，来自美国伊利诺理工大学(Illinois (memory stall time)。存储停顿时间是处理器等待存储 Institute of Technology) 的孙贤和(Xian-He Sun) 教授 系统把数据输送上来的时间。如果一个应用程序的 在主题演讲中报告了其必威体育精装版研究成果 ：存储闸门理 存储停顿时间占运行时间的60% ，那么纯粹计算时 论(memory sluice gate theory) [2] ，给出了一个解决 间仅占运行时间的40% ，此时存储停顿时间是纯粹 存储墙问题的新方案。 计算时间的1.5 倍。如果在优化后，此应用程序的存 存储闸门理论将层次存储系统形象地比喻为水 储停顿时间降到仅占纯粹计算时间的1% ，那么它的 渠，将各级存储层次的数据操作类比为水闸，每个 存储停顿时间就减少了150 倍，也就是说存储系统 存储层次都能支持一部分访存操作。但是它也会将 的性能提高了150 倍。在科学计算中，现在的存储 一些访存发送给下一级，并且通过存储的并发性控 停顿时间平均占运行时间的50%~70%。对大数据的 制流量。就像水闸能够阻挡一部分水流，并在适当 应用程序，存储停顿时间所占比例会高达90% ，或 的时机通过排洪道加快流量一样。存储闸门理论的 90% 以上。孙贤和教授认为，通过存储闸门理论的 核心内容是匹配，即在每级存储层次上都能达到软 性能匹配，科学计算的存储停顿时间应当可以减少 件需求与硬件性能的匹配，从而降低甚至完全消除 到总运行时间的20%~40%。现在的存储系统是以优 访存开销。这种匹配包括最佳存储层次数的制定， 化数据局部性为主导的。存储闸门理论的优化是以 每个层次上的软、硬件配置，也包括访存局部性和 数据局部性和数据并发性双主导的，加了一个优化 访存并发性的最佳调配，从而将数据不断地输送给 的新维度，还加了一个硬件动态支持新力度。他认 处理器。进而消除存储墙的影响。 为如果硬件动态支持完全到位，存储闸门优化把存 难能可贵的是孙贤和教授还提出了一整套具 储停顿时间减少到计算时间的10 ％，甚至1％是完 体可行的方法去实现存储闸门理论。他用C-AMAT 全可能的。把存储停顿时间减少到总体运算时间的 (Concurrent-AMAT, 并发式平均存储访问时间) [3] ，一 20%~40% 是一个非常合理、略带保守的推断。 个新的存储性能优化模型，做闸门调度器(gate calcu- 孙贤和教授说，水渠(sluice) 和闸门(gate) 这两 72 第 12 卷