面向hadoop分布式文件系统的小文件存取优化方法

？为提高hadoop分布式文件系统(hdfs)的小文件处理效率,提出了一种面向hdfs的智能小文件存取优化方法——smartfs。smartfs通过分析小文件访问日志,获取用户访问行为,建立文件关联概率模型,并根据基于文件关联关系的合并算法将小文件组装成大文件之后存至hdfs;当从hdfs获取文件时,根据基于文件关联关系的预取算法来提高文件访问效率,并提出基于预取的缓存替换算法来管理缓存空间,从而提高文件的命中率。实验结果表明,smartfs有效减少了hdfs中namenode的元数据空间,减少了用户与hdfs的交互次数,提高了小文件的存储效率和访问速度。