LCDJ:面向内存集群计算的局部感知连接算法

等值连接是数据库系统中最为重要的操作之一，哈希连接在处理等值连接时，表现出较高的性能.在分布式内存数据库系统中，数据即已分布式地存储于多个节点上，哈希连接通常情况需要将参与连接的两个关系表在连接属性上按照相同的哈希函数进行数据重分区，从而保证连接属性值相同的元组被传输到同一个节点上进行本地连接操作.由于内存数据处理速率远远高于网络的数据传输速率，因此数据重分区占据了连接算法的绝大部分时间，成为分布式内存数据库系统中等值连接操作的性能瓶颈.本文提出了一种新颖的分布式内存数据库环境下的等值连接算法LCDJ(LocalityConsciousDistributedJoin)，在充分利用高效的内存计算的同时尽量减少网络数据传输量.算法首先对每个表连接属性的数据分布进行精确的统计，并结合并行度和计算负载均衡因素，进而建立代价模型来衡量不同调度策略下的时间开销，并求出最优的调度策略.LCDJ实现于基于内存的分布式原型系统Claims中.实验结果表明，本文所提算法有效地降低了网络传输代价，大幅度减少了响应时间，比起当前流行的Hive和Shark等系统有明显的性能提升.