%0 Journal Article
%T 云平台下输变电设备状态监测大数据存储优化与并行处理
%A 宋亚奇
%A 周国亮
%A 朱永利
%A 李莉
%A 王刘旺
%A 王德文
%J 中国电机工程学报
%P 255-267
%D 2015
%R 10.13334/j.0258-8013.pcsee.2015.02.001
%X 结合大数据技术提升输变电设备状态评价的广度和深度,并解决实际应用问题成为目前电力行业新的挑战。针对输变电设备状态监测大数据可靠存储和快速访问两方面大数据处理核心问题,基于开源的Hadoop云计算实验平台进行了数据分布策略、数据块尺寸调优、集群网络拓扑规划三方面的存储优化研究和大数据并行分析的研究。提出计及数据相关性的多副本一致哈希数据存储算法,能将具有相关性的数据在集群中聚集,提升数据处理执行效率。基于数据相关性多副本一致哈希数据分布,应用MapReduce并行编程模型设计实现了多数据源并行连接查询算法和多通道数据融合并行特征提取算法。将两种算法在实验室搭建的集群上测试运行,结果表明,多数据源并行连接查询的执行时间仅为标准Hadoop方案的32%,多通道数据融合并行特征提取算法执行时间仅为标准Hadoop方案的35%。
%K 大数据
%K 输变电设备
%K 状态监测
%K 一致哈希
%K 云计算
%U http://www.pcsee.org/CN/abstract/abstract27481.shtml