找到 88 条结果

通过双层优化引入参数记忆机制,解决扩散语言模型训练与推理不匹配和长上下文注意力稀释问题

Zehua Pei, Hui-Ling Zhen, Weizhe Lin, Sinno Jialin Pan, Yunhe Wang, Mingxuan... 2026-03-24
参数记忆 双层优化 快速权重 扩散语言模型 长上下文

提出StableDRL,通过无条件裁剪和自归一化解决dLLM强化学习中的奖励崩溃问题

Jianyuan Zhong, Kaibo Wang, Ding Ding, Zijin Feng, Haoli Bai, Yang Xiang,... 2026-03-09
GRPO 后训练优化 强化学习 扩散语言模型 训练稳定性

统一扩散语言模型训练、推理与评估的开源框架,并提供从BERT/AR模型转换为DLM的实用配方

Zhanhui Zhou, Lingjie Chen, Hanghang Tong, Dawn Song 2026-03-02
块扩散 开源框架 扩散语言模型 掩码扩散 模型转换

针对扩散语言模型中注意力汇聚不稳定的特点,提出感知汇聚的剪枝方法

Aidar Myrzakhan, Tianyi Li, Bowei Guo, Shengkun Tang, Zhiqiang Shen 2026-02-23
后训练剪枝 扩散语言模型 推理加速 模型压缩 注意力汇聚