利用分块间静音空闲预解码下一块,音频到达时一次前向验证,提速2.6-2.8倍、工具调用最高23.4倍
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
用提案树并行化在线蒸馏的采样与打分,草稿验收长度最高提升41.45%。
让每层直接复用上一层索引选择、扫描与注意力并行,DSA 解码提速最高 14.5%
Wave Forcing:迈向光速的流式视频生成
👍 127用波前流水线并行块级去噪与缓存刷新,每轮前向产出一块视频,动稳兼顾。
按需看图:证书引导的视觉路由加速扩散视觉语言模型
👍 116免训练的预测一致性证书决定每步是否读图:0.35×FLOPs保住99.6%分数
用 BPE 无损压缩语音 token 并后训练适配 SDM,解码器不变实现约 1.7 倍生成加速
0.62M小模型学习DLM提交顺序构建草稿树,共享噪声验证实现最高3.4倍无损加速
编码器离线压缩物品为单向量、排序器在线个性化打分,共享前缀推理使吞吐达全文教师60倍。
用10倍小的Mamba动作专家替换π0.5,去噪延迟降64.8%,LIBERO成功率反升1.08点
受控研究揭示去掩码策略设计规律,提出轨迹收缩监督,856K小策略显著加速dLLM解码
降低舍入频率并按通道对齐分组,免训练实现四比特线性注意力状态量化
以最终视频误差标定各层各步的稀疏敏感度,在延迟预算下联合求解密度分配表
深度研究智能体换扩散骨干后端到端提速约6倍,报告质量不降
复用被丢弃的动作尾部,自适应分配去噪预算,让VLA更快更准
复用主干最后一层预测未来token,监督直接落到生成参数,训练省一半还能深度外推。
交互式视频生成中的投机采样
👍 49把大块双向预测缓存为可撤销的未来,兼顾大窗口质量与细粒度低延迟交互。
首个在完全离散空间用多码本视觉token统一图像/视频/3D理解与图像生成编辑的扩散语言模型
训练无关的联合查询-键子空间打分加免聚集逐头注意力,逼近全KV精度并最高提速6.43倍
用轻量潜空间自编码器对齐异构生成器的状态与去噪速度,实现冻结模型间无缝轨迹交接
以token级KV选择加锚点缓存残差补偿,免训练实现视频/3D扩散生成2.32倍提速且画质无损