← 返回 Token雷达 首页

上海交大邓志杰:扩散语言模型,怎样才能又快又好

来源:雷锋网  ·  发布时间:2026-11-05  ·  热度:0 分

从基础路线到系统优化,讲解如何将并行潜力,转化为实际速度。 作者丨张璐 编辑丨张驰 写作往往伴随着整体构思、局部推敲和反复修改。一句话中的用词,既取决于前文,也可能受到后文的影响。由此出发,语言模型的生成过程,是否也可以在多个位置同时展开,再逐步补全文本?在前不久的CNCC 2026上,上海交通大学副教授邓志杰以“扩散大语言模型方法及应用”为题,围绕一个核心问题展开讨论:能否在保证生成质量的同时,让扩散语言模型生成得更快?从LLaDA、Dream的基础路线,到跨块并行生成、后训练和推理系统优化,邓志杰梳理了将并行潜力转化为实际速度的多种方法。他强调,评价效率既要看每轮能够生成多少token,也要计入每轮耗时,并结合答案正确率、代码通过率考察生成质量。演讲最后,他介绍了相关方法在流式视频、语音修复、多模态与智能体中的应用探索。雷峰网以下为演讲主要内容。01语言生成可以在多个位置展开我们写一本

阅读原文 →