PVM编程指南.doc

PVM编程指南
工作站机群的发展和应用
第1节并行机和工作站机群的介绍
计算机系统不应只限于裸机硬件的概念,这一点早已经为人所接受。现代计算机是一种包括机器硬件、指令系统、系统软件、应用程序和用户接口的集成系统。这一章将对工作站机群的硬件构成和支撑软件环境做一个比较详细的叙述。
并行机的发展
随着现代科学技术的发展,大规模数据处理向人们提出了新的挑战。为了解决诸如此类的问题,大规模巨型机的研制被提上了日程。并行计算机的出现为成功地解决这些问题开辟了一个可行的途径。在工作站机群投入研究应用以前,并行机的发展基本上可以分为四个阶段:
第一个阶段是阵列机的研制与发展,这个阶段开始于60年代后期,主要代表是ILLIAC IV阵列机。
第二个阶段是向量多处理机系统的研制与发展,这个时期主要从70年代开始,以CRAY YMP-90、NEC SX-3和FUJITSU VP-2000等为代表。在这个阶段,向量多处理机的体系结构有了重大的发展,同时,向量识别和自动编译技术也有所突破。
第三个阶段的系统主要是基于共享存储的多处理机系统,如SGI Challenge和Sun Sparc Center 2000,同时,分布存储多计算机系统也开始出现。在这期间,并行设计技术方面有了进一步的提高和完善。体系结构也日趋成熟。当然,由于共享结构的限制,系统的规模不可能很大,因而系统的可扩展性受到了一定的限制。
第四个阶段开始于80年代末,90年代初。在这个阶段,基于分布存储的大规模并行处理系统(MPP)成为并行机家族的佼佼者。自1993年以来,典型的产品如Intel Paragon、CM-5E、Cray T3D、IBM SP2等并行机相继问世,标志着新一代MPP系统已经进入实用阶段。
今天,大规模并行计算机已经被用在国防、航天和科学研究等各个领域。除了用于数学计算以外,在复杂的事务处理、逻辑推理和符号处理中也得到了广泛的应用。而且,后面几种应用比单纯的数学计算还要广泛。大规模并行计算机的具体应用有地震数据处理、数值天气预报、CAD图像处理等。
在研制上述并行和分布计算系统的过程中,人们逐渐认识到,系统的规模可伸缩性(Scalability)和可编程性(Programmability)已成为促使这两者进一步发展的关键问题。系统规模只有在具有可伸缩性的前提下,并行计算机系统才可能以尽可能低的成本向用户提供尽可能高的性能。虽然专用的MPP系统一般都是基于市场上的微处理器,但支持通信和同步的机制却是高性能超级计算机专用的部件,这使得MPP系统性能非常卓越但价格也十分昂贵。另外,由于高性能工作站和高性能网络设施的出现,为工作站机群的发展提供了新的契机。并行工作站机群已经进入并行计算和分布式计算技术发展的主流。
工作站机群的发展
机群系统是利用通用的高速网络将一组高性能工作站或高档PC机,按某种结构连接起来,在并行程序设计以及可视化人机交互集成开发环境的支持下,统一调度,协调处理,实现高效并行处理的系统。系统的资源管理及相互协作一般由操作系统之上的并行编程环境完成,因而如果设计合理,系统就可以屏蔽底层硬件(包括工作站和网络)的异构性,从而具有相当好的跨平台性能,同时也使得NOW的可扩展性更强。
NOW的发展与兴起,是与现代体系结构、RISC技术、网络技术以及并行编程环境的发展直接相关的。
首先,计算机体系结构的发展已经比较成熟。从向量多处理机系统、共享存储的多处理机(包括对称和非对称两种)到MPP结构,人们积累了相当丰富的经验,发展了一套比较完整的理论,这都为NOW的发展提供了理论基础。
其次,由于RISC技术的发展,使得微处理器的性能不断提高。高档芯片的运算能力平均每年增长30%,而价格不断降低,直接使用商用工作站或PC机作为运算节点的机群系统在节点性能上能够同处理器的发展保持同步增长。
同时,网络技术的进步使得松散耦合系统的通信瓶颈逐步得到缓解。网络传输速度的提高,有效地提高了应用程序之间的通信带宽。快速以太网的速率为100Mbps,ATM局域网的带宽达到155Mbps,622Mbps的产品也已经投入市场。而交换技术的发展则大幅度地降低了传输延迟,使得许多高速局域网的性能和MPP专用互连网络的性能相当。例如,,,已经和专用网络的带宽接近,它的开关延迟每级只有1μs。采用这种网络的机群系统加上新的协议控制机制,点点的往返延迟只有十几微秒到几十微秒。UIUC研制的Fast Message平均往返延迟只有12μs,UC Berkeley的Active Message为36μs,与CM-5的专用网络相当,比Meiko CS-2的延迟还要小。
最后,并行编程环境的开发使得编制并行程序更为