随着人工智能的发展，大型语言模型（LLM）的应用越来越广泛，但目前的推理方式仍然存在不少局限性。传统的自回归生成方式需要逐个生成 token，效率较低且无法充分利用现代硬件的并行计算能力。为了解决这一问题，卡耐基梅隆大学(CMU)与英伟达的研究团队推出了一种名为 Multiverse 的新型生成模型，旨在实现原生并行生成，从根本上改变我们对 LLM 推理的理解。
Multiverse 并不仅仅是加快生成速度，而是重新思考了模型的架构。研究者们发现，当前主流的大语言模型在生成过程中其实暗含了一种并行性。通过这一发现，Multiverse 框架采用了类似 MapReduce 的结构，将生成过程分为三个阶段:任务的自适应分解、子任务的并行执行，以及无损结果的合并。这样的设计能够充分发挥计算资源的潜力，实现更高效的推理过程。
根据实验数据显示，Multiverse-32B 模型在相同的上下文长度下，性能较自回归模型提高了近2%。这表明 Multiverse 不仅在速度上有显著提升，还在扩展性上表现优越，能够在不同的批量大小下实现最高两倍的速度提升。为了让这一成果能够更广泛应用，研究团队还开源了整个 Multiverse 生态系统，包括数据、模型权重和训练细节，方便其他研究者进行进一步探索。
在实际应用中，Multiverse 能够根据生成需求灵活调整，并通过一种专用的控制标签实现顺序与并行生成的动态切换，确保生成内容的连贯性和逻辑性。这项技术的推出无疑为自然语言处理领域注入了新的活力，让我们期待它在实际应用中的表现。
