第7章__多处理机分解.ppt

第7章 多处理机 7.1 多处理机的特点及主要技术问题 7.2 多处理机的硬件结构 7.3 程序并行性 7.4 多处理机的性能 7.5 多处理机的操作系统 ?本章重点： 多处理机结构特点，程序并行性，并行任务的派生与汇合。 ?本章难点： 并行算法的研究思路，程序中并行任务的派生与汇合。 7.1 多处理机的特点及主要技术问题 多处理机具有两台以上的处理机，在操作系统控制下通过共享的主存或输入输出子系统或高速通讯网络进行通讯。多处理机属MIMD系统。 一、多处理机与并行处理机的差别 1、结构灵活性：并行处理机结构主要针对向量、数组处理设计，专用性强，互连形式简单；多处理机系统实现多作业、多任务并行，结构灵活，互连形式复杂，MIMD机结构上具有更大灵活性和更强的通用性 。 2、程序并行性：并行处理机是操作级并行，并行性存在于指令内部，识别比较容易；多处理机系统是作业级并行。存在于指令外部，较难识别。 3、并行任务派生：并行处理机由指令反映数据间能否并行计算，并启动多个处理单元并行工作；多处理机系统需专用语句来指明。一个任务在执行时可派生另外的任务与之并行。 4、进程同步：并行处理机的处理单元在同一控制器控制下执行同一条指令，工作显然同步。多处理机系统中处理可能执行不同指令，工作进度不一致，必须用同步机制来控制。 5、资源分配和调度：并行处理机主要执行向量、数组运算，处理单元数目是固定的，并行处理机任务调度较易，用屏蔽手段就可以改变实际参加并行工作的处理单元数。多处理机系统需用的处理机数不固定，需解决好资源分配和任务调度，负荷平衡问题。尽可能提高系统硬件资源的利用率，防止系统死锁。 二、 多处理机存在的主要技术问题 1、硬件上处理好处理机、I/O通道、存储模块的互连问题。 2、软件上最大限度开发系统的并行性，以实现多处理机各级的全面并行。 3、确定任务粒度问题，即如何选择任务和子任务的大小。 4、进程同步问题。 5、任务分配，资源分配，防止死锁问题。 6、当系统中某个处理机发生故障后的恢复问题。 7、多处理机机数增多后，如何能给编程者提供良好的编程环境问题。 7.2 多处理机的硬件结构 7.2.1 紧耦合和松耦合 多处理机有紧耦合和松耦合两种。 1、紧耦合多处理机 紧耦合多处理机是通过共享主存实现处理机间通讯的,其通讯速率受限于主存频宽。各处理机与主存经互连网络连接，处理机数受限于互连网络带宽及各处理机访主存冲突的概率。 为减少访主存冲突，主存采用模m交叉存取。处理机还可自带高速缓冲存储器Cache以减少访主存次数。184页图7.1是紧耦合多处理机的两种构形。它们的主要差别是处理机是否自带专用Cache。 为了减少各处理机同时访问同一存储器模块的冲突，存储器模块数m应等于或略大于处理机数p。 每台处理机自带局部存储器，不仅可以减少访主存信息量，降低访主存冲突概率，也可以减少处理机---存储器互连网络的冲突。如果再自带专用Cache就可以进一步减少这类冲突。 处理机间通过中断信号互连网络，由一台处理机向另一台处理机发生中断信号来实现处理机间的进程同步。 多数多处理机采用非对称互连。 紧耦合多处理机常用于并行执行作业中的多个任务，以提高系统的速度性能。因此各处理机一般是同构形的。 同构/异构--PE类型相同/不同； 对称/非对称—每个PE与部分/全部的I/O通道连接。 常见结构：同构对称式和异构非对称式多机系统。 互连网络：实现PE←→PEM、PE←→I/O通道、 PE←→中断信号间的连接。 互连网络控制—分布式控制(消息传递机制)。 思考1：为什么每个PE可自带小容量局部存储器？ 思考2：为什么每个PE可自带一个Cache？ 系统规模：PE数量不能很多。为什么？ 通信与同步：通过共享存储器地址进行通信； 通过共享地址或PPIN进行同步。 1、松耦合多处理机 松耦合多处理机中，每台处理机都有一个容量较大的局部存储器，用于存储经常用的指令和数据，以减少紧耦合系统中存在的访主存冲突。 不同处理机间或者通过通道互连实现通讯，以共享某些外部设备；或者通过消息传送系统MTS来交换信息，各台处理机可带有自己的外部设备。 消息传送系统常采用分时总线或环形、星形、树形等拓扑结构。松耦合多处理机较适合做粗粒度的并行计算。 互连网络：实现结点(非PE与PSM)间互连。 控制—分布式控制(消息传递机制)。 结点结构：是完整的处理机系统； 当结点为