并行计算综述并行计算综述.pdf

并行计算综述 姓名：尹航 学号：S131020012 专业：计算机科学与技术 摘 要：本文对并行计算的基本概念和基本理论进行了分析和研究。主要内容有：并行计算提出的背 景，目前国内外的研究现状，并行计算概念和并行计算机类型，并行计算的性能评价，并行计算模型，并 行编程环境与并行编程语言。 关键词：并行计算；性能评价；并行计算模型；并行编程 1. 前言 网络并行计算是近几年国际上并行计算新出现的一个重要研究方向，也是热门课题。网 络并行计算就是利用互联网上的计算机资源实现其它问题的计算，这种并行计算环境的显著 优点是投资少、见效快、灵活性强等。由于科学计算的要求，越来越多的用户希望能具有并 行计算的环境，但除了少数计算机大户（石油、天气预报等）外，很多用户由于工业资金的 不足而不能使用并行计算机。一旦实现并行计算，就可以通过网络实现超级计算。这样，就 不必要购买昂贵的并行计算机。 目前，国内一般的应用单位都具有局域网或广域网的结点，基本上具备网络计算的硬件 环境。其次，网络并行计算的系统软件PVM 是当前国际上公认的一种消息传递标准软件系 统。有了该软件系统，可以在不具备并行机的情况下进行并行计算。该软件是美国国家基金 资助的开放软件，没有版权问题。可以从国际互联网上获得其源代码及其相应的辅助工具程 序。这无疑给人们对计算大问题带来了良好的机遇。这种计算环境特别适合我国国情。 近几年国内一些高校和科研院所投入了一些力量来进行并行计算软件的应用理论和方 法的研究，并取得了可喜的成绩。到目前为止，网络并行计算已经在勘探地球物理、机械制 造、计算数学、石油资源、数字模拟等许多应用领域开展研究。这将在计算机的应用的各应 用领域科学开创一个崭新的环境。 2. 并行计算简介[1] 2.1 并行计算与科学计算 并行计算（Parallel Computing ），简单地讲，就是在并行计算机上所作的计算，它和常 说的高性能计算（High Performance Computing ）、超级计算（Super Computing ）是同义词， 因为任何高性能计算和超级计算都离不开并行技术。 2.1. 1 科学与工程计算的需求 在应用需求方面，人类对计算机性能的需求总是永无止境的，在诸如预测模型的构造和 模拟、工程设计和自动化、能源勘探、医学、军事以及基础理论研究等领域中都对计算提出 了极高的具有挑战性的要求。例如，在作数值气象预报时，要提高全球气象预报的准确性， 据估计在经度、纬度和大气层方向上至少要取200*100*20 ＝40 万各网格点。 并行计算机产生和发展的目的就是为了满足日益增长的大规模科学和工程计算、事务处 理和商业计算的需求。问题求解最大规模是并行计算机的最重要的指标之一，也是一个国家 高新技术发展的重要标志。 一般地，问题规模分解为输入输出规模、计算规模、内存需求、通信（同步）规模，分 别表示问题求解所需的I/O 量、计算量、内存大小和通信量（包括通信次数和通信数据量）。 根据在求解中所消耗资源的程度，问题由相应分为CPU 密集型应用、Memory 密集型应用、 Disk 密集型应用和网络密集型应用。针对不同类型的问题，性能瓶颈也往往不同，并行算 法就是有针对性地消除相应的瓶颈，从而达到缩短计算时间的目的。 对并行计算的需求是广泛的，但归纳起来主要有三种类型的应用需求：计算密集 （Compute-Intensive ）型应用，如大型科学工程计算与数值模拟；数据密集(Data-Intensive) 型应用,如数值图书馆、数据仓库、数据开采和计算可视化等；网络密集（Network-Intensive ） 型应用，如协同工作、遥控和远程医疗诊断等。 2.2 目前国内外的研究现状 随着科学技术的进步和并行计算机的计算速度和容量的迅速增长，以前无法实现的大型 计算问题得到了很快的解决。许多科技工作者在解释自己研究的科技领域中出现的物理现象 时提出了一些现代复杂数学和计算技术问题，而这些理论和方法都要解决大问题的计算，最 后归结到求解大型方程组等。不少应用软件，在求解方程组方面耗费的实际时间占 80 ％以 上，因而研究高效并行算法及其计算环境在国内外引起了许多科学家的注意。 预测模型的构造和模拟、工程设计和自动化、能源勘探、医学、军事、机械制造、计算 数学、石油资源数学模拟问题，常常涉及到现代的复杂数学问题和计算方法，又具有很强的 实用性。这些领域的许多现象的描