并行计算：第三章 典型并行计算机系统介绍.pdf

并行计算 Parallel Computing 主讲人主讲人 徐徐云云 Spring, 2014Spring, 2014 并行计算并行计算—— 结构结构•算法算法• 编编程  第一篇第一篇 并行计算的基础并行计算的基础  第第第第一一章章章章 并行计算与并行计算机结构模型并行计算与并行计算机结构模型并行计算与并行计算机结构模型并行计算与并行计算机结构模型  第二章第二章 并行计算机系统互连与基本通信操作并行计算机系统互连与基本通信操作  第三章第三章第三章第三章 典型并行计算机系统介绍典型并行计算机系统介绍典型并行计算机系统介绍典型并行计算机系统介绍  第四章第四章 并行计算性能评测并行计算性能评测 国家高性能计算中心（合肥） 2 第三章典型并行计算机系统介绍  3.13.1 共享存储多处理机系统共享存储多处理机系统  3.1.13.1.1 对称多处理机对称多处理机SMPSMP结构特性结构特性  3.23.2 分布存储多计算机系统分布存储多计算机系统  3.2.13.2.1 大规模并行机大规模并行机MPPMPP结构特性结构特性  3.33.3 分布共享存储多计算机系统分布共享存储多计算机系统  3.3.13.3.1 分布共享存储计算机系统特性分布共享存储计算机系统特性  3333..4444 机群系统机群系统机群系统机群系统  3.4.13.4.1 大规模并行处理系统大规模并行处理系统MPPMPP机群机群SP2SP2  3333..4444..2222 工作站机群工作站机群工作站机群工作站机群COWCOWCOWCOW 国家高性能计算中心（合肥） 3 对称多处理机SMPP （1）  SMP:SMP: 采用商用微处理器，通常有片上和片外采用商用微处理器，通常有片上和片外CacheCache，，基于总线连基于总线连 接，集中式共享存储，接，集中式共享存储，UMAUMA结构结构  例子例子例子例子：：SGI PSGI PSGI PSGI Powerower Ch Ch Ch Chaallllllllenge,enge, DEC Al DEC Al DEC Al DEC Alpphhhhaa Server,Dawning 1Server,Dawning 1 P / C P / C … P / C 总 线 或 交 叉 开 关 S M S M I / O 国家高性能计算中心（合肥） 4 对称多处理机SMPP （2）  优点优点  对称性对称性:: 任何处理器均可访问任何存储单元和任何处理器均可访问任何存储单元和I/OI/O设备设备  单地址空间单地址空间单地址空间单地址空间:: 易编程性易编程性易编程性易编程性，，动态负载平衡动态负载平衡动态负载平衡动态负载平衡，，无需显示数据分配无需显示数据分配无需显示数据分配无需显示数据分配  高速缓存及其一致性高速缓存及其一致性:: 支持数据的局部性，数据一致性由硬件维持支持数据的局部性，数据一致性由硬件维持  低通信延迟低通信延迟:: 可由简单的可由简单的Load/StoreLoad/Store指令完成指令完成  问题问题  欠可靠欠可靠: BUS,OS,SM: BUS,OS,SM失效均会造成系统的崩溃失效均会造成系统的崩溃  可观的通信延迟可观的通信延迟可观的通信延迟可观的通信延迟 （（（（相对于相对于相对于