计算机系统结构课件第5章.pptx

第5章 指令级并行及其开发——硬件方法5.1 指令级并行的概念5.2 相关与指令级并行5.3 指令的动态调度5.4 动态分支预测技术5.5 多指令流出技术指令级并行：指指令之间存在的一种并行性，利用它，计算机可以并行执行两条或两条以上的指令。 （ILP：Instruction-Level Parallelism）开发ILP的途径有两种 资源重复，重复设置多个处理部件，让它们同时执行相邻或相近的多条指令； 采用流水线技术，使指令重叠并行执行。 本章研究：如何利用各种技术来开发更多的指令级并行 （硬件的方法） 5.1 指令级并行的概念开发ILP的方法可以分为两大类主要基于硬件的动态开发方法基于软件的静态开发方法流水线处理机的实际CPI理想流水线的CPI加上各类停顿的时钟周期数： CPI流水线 = CPI理想 + 停顿结构冲突 + 停顿数据冲突 + 停顿控制冲突理想CPI是衡量流水线最高性能的一个指标。IPC：Instructions Per Cycle （每个时钟周期完成的指令条数）5.1 指令级并行的概念基本程序块基本程序块：一串连续的代码除了入口和出口以外，没有其他的分支指令和转入点 。程序平均每4～7条指令就会有一个分支。循环级并行：使一个循环中的不同循环体并行执行。开发循环的不同叠代之间存在的并行性 最常见、最基本是指令级并行研究的重点之一5.1 指令级并行的概念例如，考虑下述语句： for （i=1； i=500； i=i＋1） a[i]=a[i]＋s；每一次循环都可以与其它的循环重叠并行执行；在每一次循环的内部，却没有任何的并行性。 最基本的开发循环级并行的技术循环展开（loop unrolling）技术采用向量指令和向量数据表示5.2 相关与指令级并行相关与流水线冲突相关有三种类型：数据相关、名相关、控制相关流水线冲突是指对于具体的流水线来说，由于相关的存在，使得指令流中的下一条指令不能在指定的时钟周期执行。流水线冲突有三种类型：结构冲突、数据冲突、控制冲突5.2 相关与指令级并行相关是程序固有的一种属性，它反映了程序中指令之间的相互依赖关系。具体的一次相关是否会导致实际冲突的发生以及该冲突会带来多长的停顿，则是流水线的属性。可以从两个方面来解决相关问题：保持相关，但避免发生冲突。 指令调度 通过代码变换，消除相关。程序顺序：由原来程序确定的在完全串行方式下指令的执行顺序。只有在可能会导致错误的情况下，才保持程序顺序。 5.2 相关与指令级并行控制相关并不是一个必须严格保持的关键属性。对于正确地执行程序来说，必须保持的最关键的两个属性是：数据流和异常行为。保持异常行为是指：无论怎么改变指令的执行顺序，都不能改变程序中异常的发生情况。即原来程序中是怎么发生的，改变执行顺序后还是怎么发生。弱化为：指令执行顺序的改变不能导致程序中发生新的异常。数据流：指数据值从其产生者指令到其消费者指令的实际流动。5.2 相关与指令级并行分支指令使得数据流具有动态性，因为一条指令有可能数据相关于多条先前的指令。分支指令的执行结果决定了哪条指令真正是所需数据的产生者。 有时，不遵守控制相关既不影响异常行为，也不改变数据流。可以大胆地进行指令调度，把失败分支中的指令调度到分支指令之前。 5.2 相关与指令级并行举例： DADDU R1，R2，R3 BEQZ R12，Skipnext DSUBU R4，R5，R6 DADDU R5，R4，R9Skipnext：OR R7，R8，R95.3 指令的动态调度静态调度(Static Scheduling)依靠编译器对代码进行静态调度，以减少相关和冲突。它不是在程序执行的过程中、而是在编译期间进行代码调度和优化。通过把相关的指令拉开距离来减少可能产生的停顿。动态调度(Dynamic Scheduling)在程序的执行过程中，依靠专门硬件对代码进行调度，减少数据相关导致的停顿。5.3 指令的动态调度 优点：能够处理一些在编译时情况不明的相关（比如涉及到存储器访问的相关），并简化了编译器；能够使本来是面向某一流水线优化编译的代码在其它的流水线（动态调度）上也能高效地执行。以硬件复杂性的显著增加为代价5.3 指令的动态调度5.3.1 动态调度的基本思想到目前为止我们所使用流水线的最大的局限性:指令是按序流出(In-order Issue)和按序执行(In-order Execution)的考虑下面一段代码：DIV.D F4，F0，F2ADD.D F10，F4，F6 SUB.D F12，F6，F14 ADD.D指令与DIV.D指令关于F4相关，导致流水线停顿。 SUB.D指令与流水线中的任何指令都没有关系，但也因此受阻。5.3 指令的动态调度在前面的基本流水线中：ID检测结构冲突检测数据冲突 一旦