提出Latent Memory,将每条多模态证据压缩为一个高维潜在token,实现高效的问答系统
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
视觉语言模型
世界模型
GRPO
多模态大模型
多智能体系统
多模态学习
智能体
知识蒸馏
图像生成
代码生成
LLM智能体
注意力机制
LLM Agent
具身智能
流匹配
多模态大语言模型
视频理解
数学推理
检索增强生成
可解释性
图像编辑
多模态
机器人学习
机器人操作
自监督学习
工具使用
Transformer
基准评测
对比学习
长上下文
RLVR
多模态推理
计算机视觉
数据合成
LLM评估
信息检索
推理加速
3D重建
扩散语言模型
自回归模型
视觉推理
RAG
参数高效微调
LoRA
视觉-语言-动作模型
Flow Matching
模型压缩
自回归生成
视觉-语言模型
后训练
工具调用
持续学习
高效推理
RLHF
策略优化
LoRA 联合训练实现按输入类型自适应跳过层
将RAT+的指数衰减记忆模块应用于Quest、MoBA、SnapKV等稀疏推理方法,大幅提升精度
将视频编码的I/P帧思想引入MLLM,用运动-残差token大幅降低视觉token成本
内省式识别冗余步骤并以掩码偏好学习折叠推理链,token减半
ACTS框架通过控制器代理策略级引导推理器,在保持精度的同时大幅降低推理成本
同一权重暴露两条等价解码路径,让模型在 H100 与 H20 上同时达 roofline 最优。
用在线动态奖励权重与每题目标长度,兼顾正确性与简洁性
切片编码+ViT内早期压缩,55.75%降算力且精度持平
SPEED 让 prefill 只走前 K 层、decode 全层走,配 BoS 锚点降本。
在短上下文GRPO中按推理步置信度屏蔽优势,稳定高效压缩推理链。
Sol-RL 用 FP4 探索候选池,BF16 再生成关键样本,加速扩散 RL 4.64×。
查询感知的两阶段自适应框架,让MLLM按需细化局部细节
用预 RoPE 空间的 Q/K 中心点估计 KV 重要性,匹配全注意力的同时吞吐提升 2.5 倍。
TAPS:面向任务感知的推测采样提议分布
👍 146任务专属草稿模型+推理时组合显著提升推测解码接受长度
通过动态混合精度量化与时间增量缓存,实现视频DiT 1.92倍加速和3.32倍内存缩减
将推测解码从token级提升到智能体级,用轻量模型跳过不必要的工具调用链
AutoGaze:3M参数前置模块裁剪冗余patch,实现19×加速
通过工具调用按需检索高分辨率裁剪区域,实现VLM高效推理
用信息瓶颈理论压缩推理链,Token减48%准确率基本不变