并行推理任务的分配方法及其实验分析

如何将并行推理任务分配到并行推理部件上去是解决并行推理系统的执行功效的一个重要问题。本文对已提出的三种分配策略进行实验分析并对我们提出的一个新的策略进行理论和实验分析