全部 标题 作者
关键词 摘要

OALib Journal期刊
ISSN: 2333-9721
费用:99美元

查看量下载量

相关文章

更多...

hadoop任务分配策略的改进

Keywords: hadoop,mapreduce,任务分配,异构环境,最小费用最大流

Full-Text   Cite this paper   Add to My Lib

Abstract:

?hadoop广泛应用于大数据的并行处理,其现有的任务分配策略多面向同构环境,或者没有充分利用集群的全局信息,或者在异构环境下无法兼顾执行效率与算法复杂度。针对这些问题,提出异构环境下的任务分配算法λ-flow算法,将原先一次完成的任务分配过程划分成多轮,每轮基于当前集群状态,以及上轮任务的执行情况,动态进行任务分配,直至全部任务分配结束,以期达到最优执行效率。通过与其他算法对比实验表明,λ-flow算法能够更好地适应集群的动态变化,有效减少作业执行时间。

Full-Text

Contact Us

service@oalib.com

QQ:3279437679

WhatsApp +8615387084133