一种优化mapreduce系统能耗的数据布局算法

在云计算技术和大数据技术的推动下,it资源的规模不断扩大,其能耗问题日益显著.研究表明:节点资源利用率不高、资源空闲导致的能源浪费,是目前大规模分布式系统的主要问题之一.研究了mapreduce系统的能耗优化.传统的基于软件技术的能耗优化方法多采用负载集中和节点开关算法,但由于mapreduce任务的特点,集群节点不仅要完成运算,还需要存储数据,因此,传统方法难以应用到mapreduce集群.提出了良好的数据布局可以优化集群能耗.基于此,首先定义了数据布局的能耗优化目标,并提出相应的数据布局算法;接着,从理论上证明该算法能够实现数据布局的能耗优化目标;最后,在异构集群中部署3种数据布局不同的mapreduce系统,通过对比三者在执行cpu密集型、i/o密集型和交互型这3种典型运算时的集群能耗,验证了所提出的数据布局算法的能耗优化效果.理论和实验结果均表明,所提出的布局算法能够有效地降低mapreduce集群的能耗.上述工作都将促进高能耗计算和大数据分析的应用.