近年来，大型语言模型（LLM）在多模态任务中展现出强大潜力，但现有模型在架构统一性与后训练（Post-Training）方法上仍面临显著挑战。

这是Google DeepMind推出Gemini Diffusion：不同于以往大多数语言模型“从左到右”预测文本的生成方式，而是通过逐步优化噪声来学习生成输出。

过去很多尝试将扩散模型用于文本生成都以失败告终。Mercury之所以成功，是因为我们在训练和推理算法方面做出了专有的创新。图像可以模糊地「看个大概」再逐步优化，但语言却必须严守语法规则，这使得迭代优化的过程更加复杂。

扩散模型（Diffusion Model）通过利用大规模离线数据对轨迹分布进行建模，能够生成复杂的轨迹。与传统的自回归transformer规划方法不同，基于扩散的 ...