多核时代对软件设计的挑战

《多核时代对软件设计的挑战》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、多核时代对软件设计的挑战---张云泉                  [编者按]在处理器主频进一步提升越来越难的时候，多核处理器的引入让摩尔定律再放异彩。然而，当我们在为多核化时代大声欢呼的同时，也不得不面对随之而来的问题。今天，甚至普通用户也不得不面临并行计算的问题，而多核处理器更是对系统和程序设计等都提出了诸多挑战。在本文中，笔者首先介绍了并行计算的基本概念，在简单分析多核处理器发展趋势的基础上，介绍了在高性能计算领域常用的两个并行程序开发环境MPI和OpenMP。结合多核处理器的特点，探讨了将来的软件设计面临的挑战？此外，介绍

2、了目前在国际上正在研发的针对千万亿次并行机和多核处理器的新一代并行程序设计语言，最后进行了趋势分析和展望。历史悠久的并行计算实际上，对于信息技术来说，并行机的发展历史已经算比较长的了。20世纪60年代初期美国就出现了全世界最早的并行计算机。70年代之后还出现过向量机、并行向量机（以Cray公司为代表，中国的则是银河系列），以及20世纪90年代初的SIMD并行机，其代表作就是ThinkMachine公司的CM系列并行机。ThinkMachine公司通过将大量体系结构简单、功能较弱的处理器用网络连接实现大规模的并行计算系统，但由于应用领域

3、有限等原因，这类系统很快就消亡了。曾经一度流行且目前还占有一席之地的并行计算机是分布式存储的MPP机和基于SMP的共享存储小型机。但目前市场上占据主流位置的应该是Cluster集群系统。在高端计算里我们需要通过并行去更快更好的解决挑战性的问题。另外一个必须并行的原因是电路设计的物理极限。单个处理器的线宽总有一天要达到物理极限，所以不得不转向多核，把痛苦的事情转嫁到大众身上。这就像我们人体的生长，人青年时期会不断地长高（与处理器主频的增长类似），但长到一定程度时就要向宽的方向发展（多处理器，多核）。并行处理的精确定义是用多个计算部件共同

4、快速完成挑战性的任务。这里有几个关键词，要多个计算部件（或计算机）、要共同（互相配合）、要快速、还要完成挑战性的任务。其好处就是提高性能，缩短解题时间，求解规模更大的问题。如果造一个主频极高成本也极高的单处理器，还不如把几个低主频的处理器一起使用，而且还可以容错。比较常见的并行机就是SMP（对称多处理），但现在新的选项是多核处理器（在一个处理器内实现，不可分割，打包销售，买一送多），且普通大众将来都会逐渐接触和使用到。此外，并行计算还可以分为处理器内（最新的还包括多个处理器核）和处理器之间的两种并行层次。而根据不同的处理器间互联网络，

5、也可以分成不同类型，而且研究如何进行互联也曾经是一个极其热门的研究课题。实际上，现在多处理器核之间也是需要互联网络的。我们甚至可以把多处理器核之间的互连模式看成原来的SMP多处理甚至多个并行计算节点之间互联在单个处理器内的缩小版。从存储模型上，并行处理还也可以分为分布式存储和共享存储两大类。并行算法基本上就是一个浅而宽的算法结构，实际上就是把长而高的串行算法的时间复杂度通过增加空间复杂度的方式进行压缩，把以前一个周期一个操作去执行的算法结构改造成一个周期可以进行多个操作的并行算法，这就是并行化要做的主要工作。说白了，并行就是在一个时刻

6、或者时间段里有一个以上的事件发生。在并行计算领域里，最有名的两个定律是Amdahl定律[1]和Gustafson定律[2]。Amdahl定律指出，如果一个算法里不能并行的部分所占的比重是10％的话，那么并行化算法所能达到的最大加速比超不过10。这个定理出来以后，对并行计算打击很大。后来Gustafson发现，实际上Amdahl定理存在的问题是只假定并行系统处理一个固定规模的问题，在这种情况下，再增加处理器当然没有意义。但如果把问题规模随着机器规模一起变大，加速比仍然可以变大。Gustafson定理出现以后，并行机的发展前途豁然开阔。在

7、并行计算领域里，人们常常提到并行加速比（求解问题的串行执行时间与并行执行时间的比）。并行计算追求的最理想情况是用P个处理器，就能得到P倍的速度提升。但这通常很难达到,因为并行会引入通讯和调度等额外开销。当然在极个别情况下，也会出现超线性加速比的情况。多核处理器：计算方式的革命多核处理器的出现实际上是一次计算方式的革命。国外有些专家说，大家的免费午餐没有了(FreeLunchisOver!)，我们不得不面对并发和并行操作这些通常是并行计算的专业人员和高端用户才需要面对的问题。对于从事IT的人来说，摩尔定律一直是一个圣经，当然对存储和价格

8、来说目前它仍然成立，但对处理器性能来说，目前我们只能用多核的方式让它继续沿着摩尔定律上升。散热和漏电是两个迫使我们不得不转向多核处理的深层次的工业原因，工业界在2006年突然要面临一个拐点，从单核向多核处理器急速拐弯，这