第四章(流水处理和ILP).ppt

流水处理和指令级并行 流水线基本概念 相关性分析技术 多指令发射技术 流水线基本概念 引入 流水线工作原理 流水线的分类 流水线的性能分析 非线性流水线的调度技术 引 入 标量处理机 具有标量数据表示和标量指令系统的处理机称为标量处理机。 提高指令执行速度的主要途径 提高处理机的工作主频； 采用更好的算法和设计更好的功能部件； 采用指令级并行（ILP）技术（本章介绍）。 流水线工作原理 基本思想 表示方法 主要特点 流水线基本思想 基本思想： 以指令流水线为例进行介绍： 流水线基本思想 顺序执行 流水线基本思想 一次重叠 流水线基本思想 二次重叠 流水线表示方法 流水线的表示方法通常有三种： 连接图 时空图 预约表 连接图 连接图 功能段 流水线的每一个阶段称为流水步、流水步骤、流水段、流水线阶段、流水功能段、流水级、流水节拍等。 流水寄存器 在每一个流水段的末尾或开头必须设置一个寄存器，称为流水寄存器、流水锁存器、流水闸门寄存器等。加入流水寄存器，会增加指令的执行时间。在一般流水线中不画出流水寄存器。 时空图 流水线主要特点 只有连续提供同类任务才能发挥流水线效率 尽量减少因条件分支造成的“断流”，可通过编译技术提供连续的相同类型操作。 每个流水线段都要设置一个流水寄存器 用于保存本流水线段的执行结果，会使流水线的执行时间加长，是流水线中需要增加的主要硬件。 各流水段的时间应尽量相等 流水线处理机的基本时钟周期等于时间最长的流水段的时间长度。 流水线需要有“装入时间”和“排空时间” 流水线的分类 从不同的角度，按照不同的观点，可以将流水线分成多种不同的种类。 分类一 单功能流水线 只能完成一种固定功能的流水线。例如：Cray-1计算机中有12条；YH-1计算机有18条；Pentium有一条5段定点和一条8段浮点流水线；PentiumⅢ有两条定点和一条浮点指令流水线。 多功能流水线 流水线的各段通过不同连接实现不同功能。例如：Texas公司的ASC机，8段流水线，能够实现：定点加减法、定点乘法、浮点加法、浮点乘法、逻辑运算、移位操作、数据转换、向量运算等。 分类二 在多功能流水线中，按照在同一时间内是否能够连接成多种方式，同时执行多种功能，可以将多功能流水线分为： 静态流水线 同一段时间内，各个功能段只能按照一种方式连接，实现一种固定的功能。 动态流水线 在同一段时间内，各段可以按照不同的方式连接，同时执行多种功能。 分类三 按照流水线的各个功能段之间是否有反馈信号，可以将流水线分为： 非线性流水线 提 示 线性流水线能够用连接图唯一表示，非线性流水线必须用连接图和预约表共同表示。 一条非线性流水线可以对应有很多张预约表，同样，一张预约表实际上仅表示了一条非线性流水线的一种工作方式 线性流水线实际上也有预约表，只不过它的预约表是固定的（一张对角线为×的正方形的表格） 分类四 按照流水线使用的不同级别，可以将流水线分为： 部件级流水线 是指构成部件内的各子部件之间的流水。例如：浮点加法器流水线。 处理机级流水线 又称为指令流水线 ，例如：在采用先行控制器的处理机中，各功能部件之间的流水线。 系统级流水线 也称为宏流水线，是处理机之间的流水线 。例如：每个处理机对同一个数据流的不同部分分别进行处理。 其 它 按照不同的数据表示方式分： 标量流水线 对标量数据进行处理。 向量流水线 对向量数据进行处理。 按照流水线中信息流动顺序的控制方式分： 顺序流水线 流水线输出端的任务流出顺序与输入端的任务流入顺序完全相同。 异步流水线 流水线输出端的任务流出顺序与输入端的任务流入顺序可以不一样。 流水线的性能分析 吞吐率 加速比 效 率 流水线最佳段数的选择 性能分析举例 吞吐率 定义 单位时间内能流出的任务数或能流出的结果数。 公式 n ：任务数； Tm：处理完成n个任务所用的时间。 案例1：理想情况(1) 假设在流水线各段的执行时间均相等，输入到流水线中的任务是连续的理想情况下，一条单功能m段线性流水线能够在m+n-1个时钟周期内完成n个任务。 案例1：理想情况(2) 实际吞吐率 最大吞吐率 两者之间的关系 案例2：实际情况 假设在流水线各段的执行时间不相等，输入到流水线中的任务是连续的理想情况下。 实际吞吐率 最大吞吐率 问题及解决 问题 流水线的