可学习路由+QAT优化稀疏线性注意力,97%稀疏下18.6倍加速
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
视觉语言模型
世界模型
GRPO
多模态大模型
多智能体系统
多模态学习
智能体
知识蒸馏
图像生成
代码生成
LLM智能体
注意力机制
具身智能
流匹配
LLM Agent
多模态大语言模型
视频理解
数学推理
检索增强生成
可解释性
图像编辑
多模态
机器人学习
机器人操作
基准评测
工具使用
自监督学习
Transformer
对比学习
长上下文
RLVR
多模态推理
计算机视觉
数据合成
LLM评估
信息检索
推理加速
视觉推理
扩散语言模型
3D重建
Flow Matching
RAG
自回归模型
参数高效微调
LoRA
视觉-语言-动作模型
模型压缩
自回归生成
视觉-语言模型
后训练
工具调用
持续学习
高效推理
RLHF
策略优化
提出Nexus适配器,通过跨注意力融合文本与结构,实现高效条件生成
用二值扩散头替换 softmax,大幅扩展词表并行生成
小红书团队通过系统优化数据工程与训练方法,实现开源SOTA指令图像编辑
通过分离局部编码器与全局嵌入器,实现计算量与编辑区域成正比的高效视频编辑框架
整合600万+轨迹构建统一流形学习VLA模型,实现跨具身通用机器人操作
提出UniDFlow统一框架,用离散流匹配同时实现图像理解、生成和编辑
无需训练框架,在极端视角变化下实现4D视频重光照
发现音频扩散模型存在语义瓶颈层,局部激活转向实现最优音乐概念控制
惊喜之笔:矢量草图中的渐进式语义错觉
👍 34通过联合优化矢量笔画,在绘制过程中实现语义幻觉
提出视频扩散模型PISCO,用稀疏关键帧控制实现精确的视频物体插入
基于扩散模型的多音轨同步生成框架,推理速度提升25-50%
用户通过绘制2D骨骼线稿和输入文本提示,即可生成可动画化的3D骨骼绑定模型
用最优传输理论修正自回归扩散模型中的条件误差,在ImageNet上达到SOTA
统一VLA框架交错语言规划、视觉预测与动作生成
提出600万高质量图文对数据集,弥合开源与商用文生图模型的数据鸿沟
将无用的池化文本嵌入变为免费的质量提升器
黎曼流匹配+雅可比正则化,解决扩散Transformer在表征空间收敛失败的几何问题
稳定速度场:从方差视角理解流匹配
👍 3通过方差分析揭示流匹配的双区间结构,提出无偏降方差训练和免微调加速采样
通过耦合配对时间步的速度预测,降低流匹配训练方差并提升采样效率