基于纠删码和动态副本策略的hdfs改进系统

？为了让hadoop分布式文件系统(hdfs)达到更高的存储效率以及更加优化的负载均衡能力，针对hdfs的多副本存储技术提出了改进方案——noah。noah引入了编码和译码模块，对hdfs中的block进行编码分解，生成更多数量的数据分片(section)，并随机地分散保存到集群当中，替代原有系统的多副本容灾策略；在集群出现节点失效的情况下，通过收集与失效block相关的任意70%左右的section进行原始数据的恢复；同时根据分布式集群运行情况以及对副本数目需求的不同采用动态副本策略。通过相关的集群实验，表明noah在容灾效率、负载均衡、存储成本以及安全性上对hdfs作了相应的优化。