第1讲并行计算概述1.ppt

* * Floating Point Operations Per Second，浮点操作/秒 * 并行计算是相对于串行计算来说的，所谓并行计算分为时间上的并行和空间上的并行。 时间上的并行就是指流水线技术，而空间上的并行则是指用多个处理器并发的执行计算。 * * * 典型情况M=200,000，R=5,000，using 2000 workers * 向量运算是一种较简单的并行计算，适用面很广，机器实现比较容易，使用也比较方便，因此向量处理机(向量机)获得了迅速发展。 对一个向量的各分量执行同一运算，或对同样维数的两个向量的对应分量执行同一运算，或一个向量的各分量都与同一标量执行同一运算，均可产生一个新的向量，这些是基本的向量运算 向量机适用于线性规划、傅里叶变换、滤波计算以及矩阵、线性代数、偏微分方程、积分等数学问题的求解，主要解决气象研究与天气预报、航空航天飞行器设计、原子能与核反应研究、地球物理研究、地震分析、大型工程设计，以及社会和经济现象大规模模拟等领域的大型计算问题。 * Rpeak 40960, Linpack 87.5% 5120 processor, 8Gflops/P, 640 processor nodes, each consisting of eight vector processors are connected as a high speed interconnection network. Lawrence Livermore National Laboratory 〈美国〉劳伦斯利弗莫尔国家实验室 1996年 曙光1000获中国科学院科技进步特等奖 1997年 曙光1000获国家科技进步一等奖 * Roadrunner：走鹃 * * 当前高性能计算机 2008 年 06 月排名第一的 Roadrunner 走鹃 IBM Cluster / BladeCenter 122400 Cores / 98 T / RedHat Linux / 每天耗电5.6万度 理论峰值 1375780 GFlops, 测试峰值 1026000 GFlops 世界上首台千万亿次计算机 在2009年6月的必威体育精装版排行榜上仍然名列第一（129600 Cores, 1105000 GFlops） * 当前高性能计算机 2009年6月必威体育精装版统计结果 美国占 58.2 %（前10占8个） 中国大陆有 21 台 最高排名第 15 香港、台湾各一台 曙光5000A排在 15 位 30720个CPU（AMD） 122T内存 理论计算峰值233万亿次/秒 实测180万亿次/秒 深腾7000排在 31 位 13600个CPU（Intel），66T内存 理论计算峰值145万亿次/秒，实测102万亿次/秒 * 当前高性能计算机 并行机类型 Architecture share for 06/2009 * 当前高性能计算机 并行机采用的操作系统 Operating system Family share for 06/2009 * 当前高性能计算机 并行机采用的网络链接 * 并行计算机发展趋势 * 国内高性能计算机 Top 100 in China：/ 曙光公司 中国科学院计算技术研究所 国家智能计算机研究开发中心 国家高性能计算中心 合作伙伴：AMD、上海超级计算中心 必威体育精装版产品：曙光 5000A （百万亿次） 联想公司 合作伙伴：Intel、中科院计算机网络中心（超级计算中心） 必威体育精装版产品：深腾 7000 （百万亿次） * 国内超级计算中心 国家高性能计算中心 国家高性能计算中心（北京） 1995年5月成立，第一个高性能计算中心 国家高性能计算中心（合肥）：1995年9月，中科大 国家高性能计算中心（成都）：1997年11月，西南交大 国家高性能计算中心（武汉）：1997年12月，华中科技 国家高性能计算中心（上海）：1998年4月，复旦大学 国家高性能计算中心（杭州）：2001年4月，浙江大学 国家高性能计算中心（西安）：2002年4月，西安交大 * 国内超级计算中心 上海超级计算中心 2000年成立，曙光4000A/5000A，浦东张江 中科院超级计算中心：1996年 北京九所高性能计算中心 山东大学高性能计算中心：2004年 天津高性能计算中心：2004年8月，南开大学 复旦大学分中心 上海交通大学分中心 同济大学分中心 云南大学分中心 宝钢分中心 技术物理所分中心 兰州分中心 * 微处理器的多级存储结构 微机机群的一次消息传递延迟相当于 5000