基于软RAID+的Lustre+性能影响要素简析.pdf

《基于软RAID+的Lustre+性能影响要素简析.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、2008年伞围高性能计算学术年会基于软RAID的Lustre性能影响要素简析张丹丹姚继锋(上海超级计算中“上海20121)3(Email：ddzhang@Mnetc11)摘要：Lustre是目前应用范围最广的并行文件系统之一，本文对软RAID上影响Lustre的诸多性能影响要素进行了考量，分析了性能差异的原因并寻求优化配置方案，对获得Lustre文件系统的高I／O性能有重要的参照意思。关键词：Lustre软RAID性能分析PerfbrmanceFactorsAnalysisofLustreBasedOilSoftwareRAIDZHANGDan—danYAoJi—ie

2、ng(ShanghaiSupercomputingCenter,Shanghai．201203)Abstract：LUS[reisoneofthemostpopularparallelfilesystem，thispaperevaluatesmanyperlbrmancefactorsforLUS[rebasedonsoftRAID．analyzestheditterencesandseeksoptimalconfigurationscheme．TheresultshaveanimportantguidingroleonobtaininghighI／Operlorma

3、nceforlus[reKeywords：Lusire．softRAID．Performance，Analysis．0ptimization1引言Lustre”是目前最有影响、应用范围最广的并行文件系统之一，从2008年6月世界商降能计算T()P5001的前10台系统来看，Sun的对象存储文件系统Lustre就占了6台、Lustre是由(]lusterFileSystems公一j(现被Sun收购)开发的开源的、基于对象的并行全局文件系统。Lustre针对大文件的读／写做了优化，可以为集群系统提供高性能的I／(／吞吐率、全局数据共享环境、数据存储位置独立性和列节点的失效

4、提供了冗余机制，以及当集群重新配置或服务器和网关失效时的快速恢复服务，较好地满足了高性能计算集群系统的需要。通常，Lustre的服务器端使用RAID技术来增加磁盘的存取速度，防止数掂凶磁盘的故障而427丢失，有效地利用磁盘空间。软RAID”】又称为基于操作系统的RAID，无需硬件上的投资，利用软件把若干同等容量大小的硬盘或分区聚合成一个大的虚拟RAID设备，配置方便，易于实现。Lustre并行文件系统的并发I／0一阽能能否得到充分地发挥，取决于诸多凶索：网络技术直接影响lustre系统的性能；服务器端RAID的配置不同影响到Lustre系统中对磁盘的读写速度；Lust

5、re的条块化配置影响到Lustre的可扩展件；客户端访问时每次文件读写块的大小Lustre的性能也有很大的不同等等。本文对软RAID上的Lustre性能影响要索进行考量，分析了产生性能差异的原凶，并给m了取得良好性能的Lustre优化配置方案，文章结构如下：第二节介绍Lustre并行文件系统；第三节列影响Lustre性能的要索进行测试分析；最后一节总结了本文1柞，并介绍了下一步]：作的方向。2Lustre并行文件系统架构Lustre针对传统分布式文件系统中所存在的高性能、高可用性，以及可扩展性问题，利用linux操作系统提供标准的POSIX兼容的文件系统，采用基于意图

6、的分布式锁管理机制，以及元数据和存储数据相分离的解决方案，提供了全局的命名空间，并融合了传统分布式文件系统的特色和传统共享存储集群文件系统的设计思想，形成了一个可靠的、与网络无关的数据存储及恢复方案。Lustre并行文件系统由客户端(client)、存储服务器(ObjectStorageServer，0SS)和元数据服务器(MetaDataServer，MDS)三个主要部分组成。Lustre的客户端运行Lustre文件系统，它和OSS进行文件数掂I／0的交互，和MDS进行命名空间操作的交换，如图1所示。基于软RAID的Lustre性能影响要素简析客P端l九引——1<一

7、j罄l／、、一t-，*一：’”1}／＼一tt／、＼。．——I——，——j——一“黛”__———叫Ⅻ§☆镕m*#n1十+#fw“、========二／元数据服务器MDS管理Lustre文件系统的名宁空间、Lustre系统中文件名和文件控制块都存储在元数据服务器中，但元数掂服务器中不包含文件数据。事实上Lustre的文件数据被分开存储在对象存储服务器中。在目前版本中，一个Lustre文件系统只能配置两个元数据服务器(一个用于failover)，它统一管理整个文件系统，用户看到的是一个单一的、一致的、同步的名宁空间、列象存储服务器OSS管理存储设备，这些存