并行计算Paralelcomputing.ppt

并行计算Parallel Computing 集群技术 Outline 集群技术基础 Linux 集群实例：Cluster1350 体系结构 CSM Outline 集群技术基础 Linux 集群实例：Cluster1350 体系结构 CSM 集群技术 集群概念最早由IBM于20世纪60年代提出 集群一般由高速网络连接起来的高性能工作站或PC机组成。集群在工作中像一个统一的整合资源，所有节点使用单一界面。 集群 专用集群 非专用集群 集群计算系统体系结构 集群体系结构：结点 可以是多种高性能组件 PC机 工作站 SMP 这些节点可以是不同的体系结构，可以运行不同的操作系统 集群体系结构：处理器 支持多种(CISC/RISC/VLIW/Vector..) Intel: Pentiums Sun: SPARC, ULTRASPARC HP PA IBM RS6000/PowerPC SGI MPIS …… 集群体系结构：操作系统 同样支持多种类型的操作系统 Linux (Beowulf) Microsoft NT (Illinois HPVM) Sun Solaris (Berkeley NOW) IBM AIX (IBM SP2) Cluster Operating Systems (Solaris MC, MOSIX (academic project) ) OS gluing layers: (Berkeley Glunix) 集群体系结构：高性能网络 Ethernet (10Mbps，很少用), Fast Ethernet (100Mbps，比较少用), Gigabit Ethernet (1Gbps) SCI (Dolphin - MPI- 12micro-sec latency) Myrinet Digital Memory Channel FDDI 集群体系结构：通信组件 Traditional OS supported facilities (heavy weight due to protocol processing).. Sockets (TCP/IP), Pipes, etc. Light weight protocols (User Level) Active Messages (Berkeley) Fast Messages (Illinois) U-net (Cornell) XTP (Virginia) System can be built on top of the above protocols 集群体系结构：集群中间件 Resides Between OS and Applications and offers in infrastructure for supporting: Single System Image (SSI) System Availability (SA) SSI makes clusters appear as single machine (globalizes view of system resources). SA - Check pointing and process migration. 集群体系结构：编程环境 Shared Memory Based DSM OpenMP (enabled for clusters) Message Passing Based PVM MPI (portable to SM based as well) 集群体系结构：开发工具 Compilers C/C++/Java/ ; Parallel programming with C++ (MIT Press book) Debuggers Performance Analysis Tools Visualization Tools Linux 集群上可用的任务调度系统 Mosix（Multicomputer Operating System for UnIX ） 可以自动完成节点间进程迁移 需要重新编译Linux内核 对用户来说是透明的 PBS（Portable Batch System） 由NASA的Ames研究中心开发 为了达到集群系统整体上的负载平衡，对各个节点上的任务进行调度，但不进行节点间任务迁移 不需要重新编译内核 集群上的应用程序（计算）开发 适于开发基于消息传递的并行应用程序 可以使用PVM/MPI 步骤： 配置并行计算的编译与运行环境 主要是rsh/ssh 设计、编写、编译程序 使用PVM/MPI提供的程序库及编译环境 部署应用程序 ftp、rcp、scp、CSM、NFS、GPFS等方式 运行程序 配置高可用集群 最大程度地减少服务中断