首个从卫星图像生成行星尺度无缝3D环境的生成式框架
Ming Qian, Tianjian Ouyang, Mingchao Sun, Zijian Wang, Jincheng Xiong,...
3D Gaussian Splatting
3D生成
具身AI
卫星图像
数字孪生
首个支持256K上下文的开源MoE多模态大模型,专注于长视频理解和智能体能力
Kwai Keye Team, Bin Wen, Changyi Liu, Chengru Song, Chongling Rao, Guowang...
RLHF
多模态大模型
智能体
混合专家
稀疏注意力
提出使用单个LLM同时扮演Agent和环境两个角色,实现自举式协同进化,在多任务基准中平均提升超过4%
Xucong Wang, Ziyu Ma, Shidong Yang, Tongwen Huang, Pengkun Wang, Yong Wang,...
Agent-环境协同进化
LLM智能体
世界模型
强化学习
自举学习
RHO方法通过分析过去轨迹自监督优化工具链,无需标注数据,显著提升性能。
Wenbo Pan, Shujie Liu, Chin-Yew Lin, Jingying Zeng, Xianfeng Tang, Xiangyang...
工具链优化
智能体优化
自我偏好
自我监督学习
轨迹分析
通过训练委托智能让 LLM 代理在长周期任务中有效管理有限上下文
Pu Ning, Quan Chen, Kun Tao, Xinyu Tang, Tianshu Wang, Qianggang Cao, Xinyu...
上下文管理
代理系统
多代理协作
委托智能
深度研究
提出端到端角色动画范式,统一多种子任务,通过MotionPair-60K数据集和Bias-Aware DPO实现业界领先性能
Wenhao Yan, Fengjia Guo, Zhuoyi Yang, Jie Tang
多角色交互
扩散模型
端到端学习
视频生成
角色动画
CPPO通过位置加权阈值和累积前缀预算解决LLM强化学习中自回归生成的不对称性
Renjie Mao, Xiangxin Zhou, Lvfang Tao, Yixin Ding, Yu Shi, Yongguang Lin,...
信任区域策略优化
大语言模型
强化学习
数学推理
自回归生成
用精确KL散度替代噪声比率裁剪,提升Flow模型RL微调效率
Bowen Ping, Xiangxin Zhou, Penghui Qi, Minnan Luo, Liefeng Bo, Tianyu Pang
信任区域方法
强化学习
流匹配模型
生成模型
策略优化
提出分层图记忆与智能检索机制,将长视频理解转化为多步智能探索任务,实现感知与推理解耦
Cong Chen, Guo Gan, Kaixiang Ji, ChaoYang Zhang, Zhen Yang, Guangming Yao,...
分层记忆
多模态
智能体
视频理解
长视频
首个支持实时推理的唇形同步扩散模型,通过分析驱动的蒸馏框架将14B教师压缩为两步自回归学生,实现31 FPS流式生成
Paul Hyunbin Cho, Jinhyuk Jang, SeokYoung Lee, Joungbin Lee, Siyoon Jin,...
唇形同步
实时推理
扩散模型
模型蒸馏
自回归生成
提出DRPO方法,用平滑正则化替代硬mask,改进LLM RL训练稳定性
Jiarui Yao, Xiangxin Zhou, Penghui Qi, Wee Sun Lee, Liefeng Bo, Tianyu Pang
信任区域
大语言模型
强化学习
离策略学习
策略优化
首个统一评估视频世界模型物理、几何、交互能力的综合基准测试
Yuke Zhao, Wangbo Zhao, Weijie Wang, Zeyu Zhang, Dakai An, Akide Liu,...
世界模型
基准测试
多维度评估
视频生成
用统一离散视觉token实现图像理解、生成和编辑的自回归模型
Junke Wang, Xiao Wang, Jiacheng Pan, Xuefeng Hu, Feng Li, Jingxiang Sun,...
图像生成
图像编辑
多模态学习
强化学习
自回归模型
首个评估GUI智能体在专业软件中完成长时序工作流能力的基准
Liya Zhu, Jingzhe Ding, Jian Zhang, Jianbo Xue, Shihao Liang, Ge Zhang,...
GUI智能体
专业工作流
基准测试
多模态Agent
长时序任务
首个多数据集测试时提示学习框架,通过路由器减少跨数据集干扰
Weixian Xu, Shilong Liu, Mengdi Wang
多任务学习
大语言模型
提示学习
自适应代理
路由器
提出Latent Memory,将每条多模态证据压缩为一个高维潜在token,实现高效的问答系统
Zhi Zheng, Ziqiao Meng, Hao Luan, Wei Liu, Wee Sun Lee
RAG
多模态学习
对比学习
知识蒸馏
记忆压缩
发现CoT微调破坏混合模型长上下文召回能力,提出QK-Restore零训练修复方法
Xinyu Zhou, Boyu Zhu, Yi Xu, Zhiwei Li, Yingfa Chen, Huiming Wang, Zhijiang Guo
CoT微调
模型修复
注意力机制
混合注意力模型
长上下文
首次将SAE应用于TTS语言模型,发现可解释特征并能因果控制语音生成
Nikita Koriagin, Georgii Aparin, Nikita Balagansky, Daniil Gavrilov
TTS interpretability
feature steering
mechanistic interpretability
multimodal analysis
sparse autoencoder
提出状态锚定动态检索(SGDR)方法,实现Web智能体在多步任务中的步骤级技能复用与动态状态匹配。
Jiaxi Li, Ke Deng, Yun Wang, Jingyuan Huang, Yucheng Shi, Qiaoyu Tan, Jin...
Web智能体
动态检索
在线技能学习
技能复用
语言智能体
首个覆盖技能使用生命周期的agent安全基准,揭示当前AI代理对技能攻击高度脆弱
Yuting Ning, Zhehao Zhang, Yash Kumar Lal, Boyu Gou, Junyi Li, Weitong Ruan,...
AI安全
Agent安全
对抗攻击
技能 poisoning
自动化攻击构建
基于信息感知的自适应状态合并,提升线性注意力的长上下文建模能力
Xin Wang, Hui Shen, Boyuan Zheng, Xueshen Liu, Minkyoung Cho, Zhongwei Wan,...
动态内存管理
大语言模型
状态空间模型
线性注意力
长上下文建模
通过声明式YAML计划对神经网络检查点进行可复现、可验证的权重操作
Gianluca Barmina, Annemette Broch Pirchert, Andrea Blasi Núñez, Lukas Galke...
低秩分解
工具开发
检查点操作
模型合并
模型编辑
系统综述文本世界模型的构建方法、训练与推理应用及评估挑战
Yixia Li, Hongru Wang, Peng Lai, Zhiwen Ruan, He Zhu, Youxin Zhu, Ganlong...
LLM智能体
世界模型
仿真
用户模拟
规划
提出FlowTracer框架,通过注意力图谱追踪信息流实现token级别的精准信用分配
Zhichen Dong, Yang Li, Yuhan Sun, Weixun Wang, Yijia Luo, Zinian Peng,...
信用分配
强化学习
推理优化
注意力机制
基于心理学干预策略的LLM拒绝框架,将拒绝转化为支持性沟通
Gianluca Barmina, Federico Torrielli, Sven Harms, Jacob Nielsen, Felix...
AI对齐
人机交互
大模型安全
心理健康
拒绝策略
多块预测框架解决自回归视频世界模型训练中的短视监督问题
Gangwei Xu, Qihang Zhang, Jiaming Zhou, Xing Zhu, Yujun Shen, Xin Yang, Yinghao Xu
世界模型
强化学习
自回归建模
视频生成
通过分层token化和粗到细rollout实现长视频生成的一致性
Ishaan Preetam Chandratreya, David Charatan, Basile Van Hoorick, Sergey...
Transformer
分层表示
扩散模型
视频生成
长期一致性
通过域泛化技术实现跨不同DRF的通用PET图像高质量去噪
Zhiwen Yang, Yang Zhou, Haowei Chen, Hui Zhang, Dan Zhao, Bingzheng Wei, Yan Xu
GAN
PET图像去噪
域泛化
通用模型
风格对齐
基于AGM信念修订的结构思维框架解决跨模态冲突
Fan Zhang, Vireo Zhang, Shengju Qian, Haoxuan Li, Zheng Lian, Hao Wu, Yuan...
信念修订
信息检索
多模态学习
智能代理
结构思维
CapCode框架检测和防止编码代理作弊
Thanawat Lodkaew, Johannes Ackermann, Soichiro Nishimori, Nontawat...
代码生成
作弊检测
奖励设计
强化学习
机器学习评估
提出PACT协议,通过结构化动作状态消息减少多智能体系统的token消耗并提升性能
Chen Huang, Yuhao Wu, Wenxuan Zhang
LLM推理
Token优化
协作AI
多智能体系统
通信协议
提出结合双域测试时训练层的 U 形网络,实现 PET 图像去噪的跨扫描仪泛化
Zhiwen Yang, Jiayin Li, Hao Lu, Hui Zhang, Zihua Wang, Bingzheng Wei, Yan Xu
PET去噪
医学图像处理
域泛化
测试时训练
深度学习
发现奉承微调会引发严重失对齐,提出无需训练的对齐门控逆转方法
Sicheng Wang, Xiangyang Zhu, Han Wang, Zongrui Wang, Yuan Tian, Kaiwei...
大模型安全
失对齐
训练免费
跨域泛化
门控机制
IR3DE提出基于岭回归的线性路由器,无需训练即可高效选择最合适的领域专家大模型。
Eros Fanì, Oğuzhan Ersoy
多专家系统
岭回归
模型路由
线性路由器
研究揭示 LLM 判别器在评估研究问题新颖性时存在严重不可靠性,与人类专家判断存在系统性偏差。
Soumitra Sinhahajari, Navonil Majumder, Soujanya Poria
LLM-as-Judge
人工对齐
基准测试
研究问题生成
科学创新性评估
DELM通过共享验证上下文去中心化多智能体协调,提升测试时扩展和长上下文推理性能
Yuzhen Mao, Azalia Mirhoseini
共享上下文
去中心化协调
多智能体系统
长上下文推理
验证机制
研究反馈结构对自蒸馏效果的影响,发现步骤对齐的反馈显著优于二值奖励和参考解
Semih Kara, Oğuzhan Ersoy
反馈设计
强化学习
数学推理
自蒸馏
过程监督
QGF算法:测试时用Critic梯度引导流策略,避免反向传播
Zhiyuan Zhou, Andy Peng, Charles Xu, Qiyang Li, Tobias Springenberg, Kevin...
强化学习
流匹配
测试时优化
离线强化学习
连续控制
发现视觉 token 在中间层饱和,提出双路径路由架构节省 25-30% 计算
Siyuan Liu, Jinyang Wu
多模态大语言模型
架构设计
视觉-语言融合
计算效率
揭示了开源推理模型在多轮对抗对话中的对齐伪造和上下文注入失败两种新型安全漏洞
Sai Kartheek Reddy Kasu, Nils Lukas, Samuele Poppi
AI安全
多轮对话
对齐伪造
思维链
推理模型
PaperMentor通过专家技能库指导的多智能体系统,在Overleaf中提供可操作的学术写作建议
Jiarui Liu, Terry Jingchen Zhang, Ryan Faulkner, X. Angelo Huang, Vilém...
AI写作导师
Overleaf集成
专家知识库
多智能体系统
学术写作辅助
揭示LLM行为安全评估的盲区,提出表示层脆弱性度量框架
Enyi Jiang, Anders Gjølbye, Yibo Jacky Zhang, Sanmi Koyejo
大模型安全
安全评估
对抗鲁棒性
表示学习
提出基于时间距离的自适应KV缓存压缩方法,在固定预算下实现长视频的一致性生成
Yu Lu, Junjie Yang, Piotr Koniusz, YuXin Song, Yi Yang
KV缓存
内存管理
自回归生成
视频生成
长视频
首个评估孟加拉语社交媒体对话中阿谀奉承行为的基准,揭示LLM难以区分情感支持与有害强化。
Kazi Noshin, Sajib Acharjee Dip, Ranat Das Prangon, Fardin Hassan Tamim,...
多语言评估
对话安全
文化对齐
社会推理
阿谀奉承
通过合成数据预训练实现少量标签下的零梯度更新多实例分类
Alexander Möllers, Marvin Sextro, Julius Hense, Gabriel Dernbach, Klaus-Robert Müller
Prior-data Fitted Networks
上下文学习
元学习
多实例学习
少样本学习