第03章 流水线技术.ppt

2．条件分支转移成功的概率 ◆ 平均值 整数程序 向前：13％　　　无条件：4％ 向后：3％ 浮点程序 向前：7％　　　 无条件：1％ 向右：3％ 所有条件分支：67％ 向前：60％　　　　　向后：85％ 　（向后分支一般形成循环） 3.3 流水线中的相关 3.3 流水线中的相关 三、减少流水线分支损失的方法 （４种简单的静态方法，编译时预测） 1. “冻结”或“排空”流水线 　　在流水线中停住或删除分支后的指令，　　直到知道转移目标地址。 优点：简单。 2．预测分支失败 ◆ 流水线继续照常流动，就像没发生什么似的。 3.3 流水线中的相关 ◆ 在知道分支结果之前，分支指令后的指令不 能改变机器状态，或者改变了之后能够回退。◆ 若分支失败，则照常执行；否则，从转移目 标处开始取指令执行。 MIPS流水线的处理过程 3.3 流水线中的相关 以没有修改举例 3. 预测分支成功 ◆ 假设分支转移成功，并开始从分支目标地址 处取指令执行。 ◆ 起作用的前题：先知道分支目标地址，后知 道分支是否成功。 ◆ 对MIPS流水线没有任何好处。 3.3 流水线中的相关 3.3 流水线中的相关 某程序有20%的分支指令, 其中80%的分支指令分支成功. 试比较分支预测失败和成功是的平均CPI 预测失败策略: 1+0.2?0.8?1=1.16 预测成功策略: 1+0.2?1=1.2 4. 延迟分支 (delayed branch) (1) 基本概念 从逻辑上延长分支的执行时间. 所有顺序后继指令都处于“分支延迟槽 branch-delay slots”中, 无论分支是否成功, 流水线都会执行这些指令. 选择放入延迟槽中的指令, 必须遵循有效和有用两个原则. 是否降低分支损失受制于延迟槽中的指令和编译器预测分 支是否成功的能力. 3.3 流水线中的相关 (2) 具有一个分支延迟槽的MIPS流水线的执行过程 　　　　　分支延迟槽中的指令“掩盖”了流水线原来 必需插入的暂停周期。 3.3 流水线中的相关 (3) 分支延迟指令的调度（编译器） 　　任务：在延迟槽中放入有用的指令 ◆ 三种调度方法 P82 从前调度 (最好) 从目标(成功)处调度 从失败处调度 If R2=0 then ADD R1, R2, R3 ADD R1, R2, R3 If R2=0 then SUB R4, R5, R6 If R1=0 then ADD R1, R2, R3 ADD R1, R2, R3 SUB R4, R5, R6 If R1=0 then SUB R4, R5, R6 SUB R4, R5, R6 If R1=0 then ADD R1, R2, R3 SUB R4, R5, R6 If R2=0 then ADD R1, R2, R3 调 度 策 略 对调度的要求 什么情况下起作用？ 从 前 调 度 从目标处调度 从失败处调度 必须保证在分支失败时执行被调度的指令不会导致错误。有可能需要复制指令。 被调度的指令必须与分支无关 必须保证在分支成功时执行被调度的指令不会导致错误。 任何情况 分支成功时 (但由于复制指令，有可能会增大程序空间) 分支失败时 ◆ 三种方法的要求及效果 对放入延迟槽的指令有限制 编译器预测分支是否成功的能力 ◆ 延迟分支调度受到的限制 ◆ 进一步改进：引入“取消分支” 　 若预测方向(成功或者失败)正确，正常执行延迟槽中的指令； 否则，将之变为no-op指令。 3.3 流水线中的相关 3.3 流水线中的相关 从失败处调度 “预测成功-取消”分支的执行过程 (3) 当定向硬件检测到前面某条指令的结果寄存 器就是当前指令的源寄存器时，控制逻辑会 将前面那条指令的结果直接从其产生的地方 定向到当前指令所需的位置。 (4) 一个功能单元的输出不仅可以定向到其自身  的输入，而且还可以定向到其它单元的输入。 3.3 流水线中的相关 3.3 流水线中的相关 30 (5) 在MIPS中，任何流水寄存器到任何功能单元的 输入都可能需要定向路径。 (6) 当两条指令对存储器同一单元进行读写时， 也可能发生数据相关。但本章仅讨论有关寄 存器的数据相关。 3. 数据相关的分类 按照指令对寄存器的读写顺序，可以将数据相关分为以下三种类型：（考虑两条指令i和j，假设i 先进入