用PI控制器在去噪过程中闭环调节激活导向强度,把冻结扩散语言模型的答案推向指定人群
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
多模态
长上下文
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
评测基准
高效推理
自监督学习
工具调用
对比学习
扩散语言模型
参数高效微调
视觉-语言-动作模型
Transformer
工具使用
LoRA
持续学习
自蒸馏
LLM评估
多模态推理
RAG
模仿学习
综述
信息检索
LLM推理
信用分配
在线策略蒸馏
合成数据
模型压缩
分层连续扩散语言模型
👍 71连续潜轨迹持续去噪,每步从中读出token并回喂作支架,让并行解码不再边际独立。
复用MoE路由为离散共享潜变量,混合因子化专家,突破扩散语言模型因子化误差,大幅改善少步生成。
缩放与蒸馏文本嵌入以提升扩散性
👍 24缩放T5Gemma-2嵌入并蒸馏解码概率,使连续扩散语言模型生成更有效。
面向量子增强扩散语言模型的电路超网络
👍 35用超网络为每个 token 生成专属量子电路,使冻结扩散语言模型随比特数增加持续提升
IO 感知融合 KV 缓存与免训练自草稿自验证并行解码,让扩散 LLM 推理最高提速 148 倍
用少量固定位置的连续寄存器令牌,让扩散语言模型在清除已生成文本后继续推理。
投机解码的“无损”取决于精度:BF16 仅45%轨迹一致,FP32 则完全一致。
首个开源分块扩散视觉语言 GUI 智能体,性能与速度双超同级自回归模型
基于离散扩散解锁大语言模型的无损加速
👍 105冻结AR权重、外挂LoRA扩散权重并行起草,AR验证实现全批量无损提速
可扩展的内在可解释语言模型
👍 19把可解释性作为训练约束内建于模型,Steerling-8B 证明解释能力随规模提升而不牺牲性能
用高容量、可解码的连续文本潜变量桥接扩散生成与离散解码
系统刻画MoE扩散语言模型的缩放规律,据此训出30B-A3B模型逼近Qwen3
潜意识时钟:扩散语言模型中的隐式时间建模
👍 39扩散语言模型内部潜藏去噪进度信号,可被探针读取与因果引导
为每个 token 分配独立的去噪进度时间,连续扩散在高加速比下超越离散方法。
通过学习自适应选择块大小来优化基于扩散的投机解码效率
多块扩散语言模型
👍 40通过MultiTF后训练和Block Buffer机制实现块间并行解码,提升扩散语言模型推理效率
改进的大型语言扩散模型
👍 47iLLaDA通过12T预训练和多项改进显著提升扩散语言模型性能
基于多模态扩散语言模型的并行区域感知框架
👍 62利用扩散语言模型的并行解码特性,实现单次前向传播同时描述多个图像区域
提出TIE框架:通过置信度动态追踪可靠解码轨迹,在生成过程中实现MDLM的中间阶段集成