聚合外部批评与组内对比两种NL反馈,以离策略脚手架引导RL探索,实现2.2倍样本效率提升
Lei Huang, Xiang Cheng, Chenxiao Zhao, Guobin Shen, Junjie Yang, Xiaocheng...
GRPO
大语言模型
强化学习
探索效率
自然语言反馈
利用用户交互的下一状态信号在线优化个人和通用智能体的RL框架
Yinjie Wang, Xuyang Chen, Xiaolong Jin, Mengdi Wang, Ling Yang
人机交互
在线学习
强化学习
智能体
知识蒸馏
IO感知GPU K-means,融合距离计算与argmin实现17.9倍加速
Shuo Yang, Haocheng Xi, Yilong Zhao, Muyang Li, Xiaoze Fan, Jintao Zhang,...
GPU优化
机器学习系统
系统优化
聚类算法
通过压缩LLM潜在响应生成输出空间嵌入,无需标注数据
Parishad BehnamGhader, Vaibhav Adlakha, Fabian David Schmidt, Nicolas...
信息检索
大语言模型
文本嵌入
自监督学习
表征学习
ICRL:纯RL框架实现LLM工具调用,无需SFT,渐进消除少样本提示
Yaoqi Ye, Yiran Zhao, Keyu Duan, Zeyu Zheng, Kenji Kawaguchi, Cihang Xie,...
GRPO
上下文学习
多轮推理
大语言模型
工具使用
首个评估多智能体长时序第一人称视频理解能力的问答基准及基线模型
Kangsan Kim, Yanlai Yang, Suji Kim, Woongyeong Yeo, Youngwan Lee, Mengye...
具身AI
基准测试
多智能体系统
第一人称视频理解
视频问答
通过强化学习训练路由器,解决LoRA混合模型中路由权重塌陷问题
Ruizhong Qiu, Hanqing Zeng, Yinglong Xia, Yiwen Meng, Ren Chen, Jiarui Feng,...
LoRA
参数高效微调
大语言模型
强化学习
混合专家
首个通过In-Context LoRA联合生成个性化音频和视频的方法
Aviad Dahan, Moran Yanuka, Noa Kraicer, Lior Wolf, Raja Giryes
LoRA
个性化
扩散模型
语音克隆
说话人身份
提出OAKS基准,评估LLM在流式动态知识更新下的在线适应能力
Jiyeon Kim, Hyunji Lee, Dylan Zhou, Sue Hyun Park, Seunghyun Yoon, Trung...
在线适应
基准测试
持续学习
知识追踪
长上下文
用预训练的泛化价值模型V0作为先验,自适应融合稀疏采样经验均值,实现低方差基线估计
Yi-Kai Zhang, Yueqing Sun, Hongyan Hao, Qi Gu, Xunliang Cai, De-Chuan Zhan,...
基线估计
大语言模型
强化学习
数学推理
策略梯度
通过误差感知路由和无参数线性补偿,高效加速视频扩散Transformer注意力计算
Xuanyi Zhou, Qiuyang Mang, Shuo Yang, Haocheng Xi, Jintao Zhang, Huanzhi...
扩散Transformer
无训练方法
注意力加速
稀疏注意力
视频生成
通过可执行代码作为感知媒介,系统性提升多模态大模型在STEM领域的视觉理解能力
Tongkun Guan, Zhibo Yang, Jianqiang Wan, Mingkun Yang, Zhengtao Guo, Zijian...
STEM推理
代码生成
多模态学习
强化学习
视觉感知
语言模型的输出层在反向传播时压缩95-99%梯度,成为训练效率的根本瓶颈
Nathan Godey, Yoav Artzi
softmax瓶颈
优化理论
梯度流
训练效率
语言模型
提出回顾性双重内在反馈框架,通过数值探索奖励和语言经验复用提升LLM智能体强化学习效果
Xiaoying Zhang, Zichen Liu, Yipeng Zhang, Xia Hu, Wenqi Shao
LLM智能体
内在反馈
多轮交互
强化学习
经验学习
差分子空间分解与双通道软加权注意力,实现精准提示词高亮
Yuyao Ge, Shenghua Liu, Yiwei Wang, Tianyu Liu, Baolong Bi, Lingrui Mei,...
大语言模型
提示工程
注意力机制
表征工程
长上下文
通过空间稀疏化和动态token激活实现DiT免训练7倍加速
Wenhao Sun, Ji Li, Zhaoqiang Liu
Transformer
免训练优化
图像生成
扩散模型
推理加速
利用作者反驳作为偏好监督,训练模型生成可操作的审稿反馈
Sihong Wu, Yiling Ma, Yilun Zhao, Tiansheng Hu, Owen Jiang, Manasi...
DPO
偏好优化
同行评审
大语言模型
学术写作
通过对比学习对齐成功推理轨迹,增强RLVR泛化能力
Sijia Cui, Pengyu Cheng, Jiajun Song, Yongbo Gai, Guojun Zhang, Zhechao Yu,...
大语言模型
对比学习
强化学习
推理优化
策略优化
多智能体竞争框架自动生成1-2分钟喜剧小品视频
Susung Hong, Brian Curless, Ira Kemelmacher-Shlizerman, Steve Seitz
创意AI
多智能体系统
幽默计算
视频生成
进化算法
4B参数医疗智能体通过行为蒸馏实现离线部署,性能媲美前沿大模型
Yixiong Chen, Xinyi Bai, Yue Pan, Zongwei Zhou, Alan Yuille
医疗AI
多模态
工具调用
智能体
知识蒸馏
HCAPO:用 LLM 自身做后视评分,把稀疏终局奖励拆解到关键步骤上。
Hui-Ze Tan, Xiao-Wen Yang, Hao Chen, Jie-Jing Shao, Yi Wen, Yuteng Shen,...
GRPO改进
LLM Agent
信用分配
强化学习
长程任务
首个多模态多源个性化记忆问答基准 ATM-Bench,SGM 显著优于传统 DM。
Jingbiao Mei, Jinghong Chen, Guangyu Yang, Xinyu Hou, Margaret Li, Bill Byrne
LLM Agent
RAG
个性化AI
多模态
长时记忆
腾讯混元提出压缩通道维度的连续语义表示,打通统一多模态理解与生成。
Yaqi Zhao, Wang Lin, Zijian Zhang, Miles Yang, Jingyuan Chen, Wentao Zhang,...
Transfusion
图像生成
图像编辑
扩散模型
统一多模态模型
零配对视频生音乐,事件曲线解耦时间与语义。
Yan-Bo Lin, Jonah Casebeer, Long Mai, Aniruddha Mahapatra, Gedas Bertasius,...
AIGC
扩散模型
时间对齐
视频到音乐生成
跨模态生成
Md Muntaqim Meherab, Noor Islam S. Mohammad, Faiza Feroz
LLM 写代码替代 PSRO 的深度 RL 预言机,生成可读可审计的多智能体博弈策略。
Daniel Hennes, Zun Li, John Schultz, Marc Lanctot
PSRO
博弈论
可解释AI
多智能体强化学习
大语言模型
把深度补全重构为对 MDE 的单阶段尺度提示任务。
Zhiyuan Zhou, Ruofeng Liu, Taichi Liu, Weijian Zuo, Shanshan Wang, Zhiqing...
ViT
单目深度估计
提示学习
机器人感知
深度补全
用VLM提取组合约束,分两阶段过滤视频生成候选并优化机器人轨迹
Gehao Zhang, Zhenyang Ni, Payal Mohapatra, Han Liu, Ruohan Zhang, Qi Zhu
机器人操控
约束优化
视觉语言模型
视频生成模型
零样本学习
物理信息混合损失驱动的4B VLM微调框架实现五种驾驶风格可控轨迹生成
Yuan Gao, Dengyuan Hua, Mattia Piccinini, Finn Rasmus Schäfer, Korbinian...
QLoRA微调
物理信息损失
自动驾驶
视觉-语言-动作模型
轨迹生成