通过Focal加权缓解群相对RLVR在中等组大小下的分布锐化问题,无需额外计算
Daniil Plyusov, Alexey Gorbatovski, Boris Shaposhnikov, Viacheslav Sinii,...
GRPO
RLVR
分布锐化
大语言模型
强化学习
首次将稀疏自编码器系统性应用于音频模型,实现Whisper和HuBERT的可解释性分析与幻觉消除。
Georgii Aparin, Tasnima Sadekova, Alexey Rukhovich, Assel Yermekova, Laida...
HuBERT
Whisper
特征解耦
稀疏自编码器
音频模型可解释性
百川医疗大模型通过三阶段训练统一对话问诊与可靠诊断,在多个基准上超越GPT-5.2
Baichuan-M3 Team, Chengfeng Dou, Fan Yang, Fei Li, Jiyuan Jia, Qiang Ju,...
临床决策支持
医疗AI
大语言模型
幻觉抑制
强化学习
提出归纳式交互基准OdysseyArena,揭示LLM在自主发现隐藏规则方面的瓶颈
Fangzhi Xu, Hang Yan, Qiushi Sun, Jinyang Wu, Zixian Huang, Muye Huang,...
LLM基准测试
归纳推理
智能体评测
自主探索
长程交互
从单 token 对数更新出发,建立 RFT 熵变化的理论框架并推导出实用的熵裁剪方法
Shumin Wang, Yuexiang Xie, Wenhao Zhang, Yuchang Sun, Yanxi Chen, Yaliang...
GRPO
LLM 训练理论
强化微调
熵动力学
策略优化
用44k小时人类视频预训练机器人世界模型,实现零样本泛化
Shenyuan Gao, William Liang, Kaiyuan Zheng, Ayaan Malik, Seonghyeon Ye,...
世界模型
人类视频
机器人学习
潜动作
视频生成
三组件架构(Wav2Vec2+AST+Whisper)提升俄语长音频转录质量
Ivan Bondarenko, Daniil Grebenkin, Oleg Sedukhin, Mikhail Klementev, Roman...
Wav2Vec2
Whisper
不确定性建模
俄语
语音活动检测
通过周期性矩阵符号操作恢复权重稳定秩,防止LLM训练中的梯度爆炸
Lianhai Ren, Yucheng Ding, Xiao Liu, Qianxiao Li, Peng Cheng, Yeyun Gong
优化器
大语言模型
梯度爆炸
稳定秩
训练稳定性
将动作视为潜在变量,通过前向-逆向模型交替优化实现无标注世界建模
Yifu Qiu, Zheng Zhao, Waylon Li, Yftah Ziser, Anna Korhonen, Shay B. Cohen,...
GRPO
世界模型
强化学习
潜在变量
自改进学习
通过测量候选解在邻域问题上的转移能力来评估其正确性,无需真实答案
Guijin Son, Donghun Yang, Hitesh Laxmichand Patel, Hyunwoo Ko, Amit Agarwal,...
LLM-as-a-Judge
上下文学习
数学推理验证
无预言机评估
研究级数学
解耦逻辑优化任务与物理参数分布,实现矩阵优化器在分布式训练中的高效部署
Liangyu Wang, Siqi Zhang, Junjie Wang, Yiming Dong, Bo Zheng, Zihan Qiu,...
优化器
分布式训练
大语言模型
矩阵优化
负载均衡
从基础模型出发,通过数据工程、训练策略和强化学习三大支柱构建SOTA级GUI定位能力
Zhongyin Zhao, Yuan Liu, Yikun Liu, Haicheng Wang, Le Tian, Xiao Zhou,...
GUI grounding
data engineering
multimodal
reinforcement learning
vision-language models
TRIT框架通过翻译与推理的相互强化,无需外部数据即可提升多语言长推理能力。
Junxiao Liu, Zhijun Wang, Yixiao Li, Zhejian Lai, Liqian Huang, Xin Huang,...
多语言推理
强化学习
数学推理
机器翻译
语言对齐
用强化学习优化迭代式推理的摘要时机、内容和续接策略,同时提升准确率与效率
Yuchen Yan, Liang Jiang, Jin Jiang, Shuaicheng Li, Zujie Wen, Zhiqiang...
大语言模型
强化学习
推理效率
迭代推理
长链推理
ProGRPO通过置信度重加权解决RLVR训练中的熵崩溃问题
Pengyi Li, Elizaveta Goncharova, Andrey Kuznetsov, Ivan Oseledets
GRPO
大语言模型
强化学习
探索-利用权衡
推理优化
首个系统评估移动GUI代理记忆能力的基准,揭示现有代理存在4-10倍能力差距
Guangyi Liu, Pengxiang Zhao, Yaozhen Liang, Qinyi Luo, Shunye Tang, Yuxiang...
GUI代理
基准测试
大语言模型
移动自动化
记忆能力
原子级专家+笛卡尔积路由+专家中心调度,10.9倍加速MoE推理
Jingze Shi, Zhangyang Peng, Yizhang Zhu, Yifan Wu, Guang Liu, Yuyu Luo
MoE
大语言模型
推理加速
模型架构
混合专家模型
提出推理一致性指标和MetaJudge,解决GenRM欺骗对齐
Binghai Wang, Yantao Liu, Yuxuan Liu, Tianyi Tang, Shenzhi Wang, Chang Gao,...
LLM评判
RLHF
奖励模型
强化学习
推理对齐
首份LLM推理失败综述,提出推理类型×失败类型的双轴分类框架
Peiyang Song, Pengrui Han, Noah Goodman
LLM推理
具身推理
心智理论
推理失败
综述
构建自动化数据引擎生成自我中心音视频问答数据,解决现有MLLMs音视频联合理解不足的问题
Ashish Seth, Xinhao Mei, Changsheng Zhao, Varun Nagaraja, Ernie Chang,...
多模态学习
指令微调
数据引擎
自我中心视频
音视频理解
首个基于强化学习的混合模态推理框架,显著提升音视频理解能力
Zhangquan Chen, Jiale Tao, Ruihuang Li, Yihao Hu, Ruitao Chen, Zhantao Yang,...
多模态学习
对比学习
强化学习
推理增强
音视频理解
利用微调中的权重更新信号优化大推理模型的3-bit量化
Nan Zhang, Eugene Kwek, Yusen Zhang, Muyu Pan, Suhang Wang, Prasenjit Mitra,...
后训练量化
大语言模型
推理模型
模型压缩
模型量化
将智能体群组作为进化单元,通过组内经验共享实现开放式自我改进
Zhaotian Weng, Antonis Antoniades, Deepak Nathani, Zhen Zhang, Xiao Pu, Xin Eric Wang
AI智能体
代码生成
元学习
开放式探索
自我进化
通过算法强制执行残差层级结构,解决2-bit量化中的路径共适应问题
Youngcheon You, Banseok Lee, Minseop Choi, Seonyoung Kim, Hyochan Chong,...
二值化
大语言模型
推理加速
模型压缩
模型量化
法国政府搭建开源LLM竞技场,收集60万+法语提示词和25万+偏好投票,填补非英语偏好数据空白
Lucie Termignon, Simonas Zilinskas, Hadrien Pélissier, Aurélien Barrot,...
RLHF
众包评估
偏好学习
公共数据基础设施
多语言AI
用RL模型动态加权mid-training阶段的关键token,建立预训练与后训练的双向飞轮
Junjie Huang, Jiarui Qin, Di Yin, Weiwen Liu, Yong Yu, Xing Sun, Weinan Zhang
Token重加权
中期训练
大语言模型预训练
强化学习
迭代自我进化
首次系统研究多目标LLM对齐中的跨目标干扰问题,并提出基于协方差的权重自适应方法CTWA
Yining Lu, Meng Jiang
LLM对齐
多任务学习
多目标优化
奖励函数
强化学习
通过预填充自调优和意图漂移感知强化学习,训练无需外部数据的多轮越狱攻击模型
Mingqian Feng, Xiaodong Liu, Weiwei Yang, Jialin Song, Xuekai Zhu, Chenliang...
LLM安全
多轮对话
强化学习
红队测试
越狱攻击
提出SeeUPO算法,通过逆序顺序更新解决多轮智能体RL的收敛性问题
Tianyi Hu, Qingxu Fu, Yanxi Chen, Zhaoyang Liu, Bolin Ding
多轮交互
大语言模型
强化学习
收敛性分析
智能体训练
首个评估统一多模态模型在计算机使用任务中规划能力的基准
Junxian Li, Kai Liu, Leyang Chen, Weida Wang, Zhixin Wang, Jiaqi Xu, Fan Li,...
图像生成
多模态
统一多模态模型
计算机视觉
评估基准
用扩散模型学习LLM激活分布,作为先验提升引导干预和可解释性
Grace Luo, Jiahai Feng, Trevor Darrell, Alec Radford, Jacob Steinhardt
元学习
可解释性
大语言模型
扩散模型
激活建模
ViT微调时应优先更新注意力和前馈层,因为它们的高可塑性带来更好性能
Ambroise Odonnat, Laetitia Chapel, Romain Tavenard, Ievgen Redko
Vision Transformer
可塑性
平滑性
微调
迁移学习
用宽-窄-宽(沙漏)FFN 替代传统窄-宽-窄 FFN,在 1B 以内参数规模达到更优或相当的性能
Feng-Ting Liao, Meng-Hsi Chen, Guan-Ting Yi, Da-shan Shiu
FFN设计
Transformer架构
参数效率
架构搜索
语言模型
基于SAM2微调的缩略图级组织检测+高通量切片提取,预处理速度提升16倍且下游性能无损
Ahmed Alagha, Christopher Leclerc, Yousef Kotp, Omar Metwally, Calvin Moras,...
全切片图像预处理
基础模型微调
多实例学习
组织检测
计算病理学
解耦用户建模为Profile控制器与角色扮演模型,实现零数据自进化服务对话训练
Yuqin Dai, Ning Gao, Wei Zhang, Jie Wang, Zichen Luo, Jinpeng Wang, Yujie...
GRPO
对话系统
强化学习
服务对话
用户模拟
让分割模型像人一样边搜边想,突破 MLLM 内部知识瓶颈
Tianming Liang, Qirui Du, Jian-Fang Hu, Haichao Jiang, Zicheng Lin, Wei-Shi Zheng
外部搜索
多模态大语言模型
强化学习
推理分割
视频目标分割
将视觉感知与语言推理解耦为两阶段流水线,以更少token实现更强视觉推理
Niccolo Avogaro, Nayanika Debnath, Li Mi, Thomas Frick, Junling Wang, Zexue...
感知-推理解耦
模块化架构
测试时扩展
视觉推理
视觉语言模型
用结构化表格管理搜索状态,统一解决深度/广度/深广混合信息搜索
Tian Lan, Felix Henry, Bin Zhu, Qianghuai Jia, Junyang Ren, Qihang Pu,...
Agent
信息检索
多智能体系统
大语言模型
结构化规划
混淆NumPy库构建伪新知识域,诊断LLM智能体的知识内化与自进化能力
Jiarui Yuan, Tailin Jin, Weize Chen, Zeyuan Liu, Zhiyuan Liu, Maosong Sun
LLM Agent
SFT
基准测试
强化学习
知识内化
将多教师LLM的知识通过五种净化方法整合为单一推理链,缓解冲突并提升蒸馏效果
Ruihan Jin, Pengpeng Shao, Zhengqi Wen, Jinyang Wu, Mingkuan Feng, Shuo...
LLM路由
多教师学习
大语言模型
模型压缩
知识蒸馏
量化后LLM偏见变化由不确定性驱动,聚合指标掩盖21%响应翻转
Stanley Z. Hua, Sanae Lotfi, Irene Y. Chen
不确定性量化
公平性评估
大语言模型
模型量化
社会偏见
提出扩散变换器框架Skjold-DiT,整合多模态城市数据预测建筑级气候风险并支持交通可达性分析
Olaf Yunus Laitinen Imanov, Derya Umut Kulali, Taner Yilmaz
城市计算
多模态融合
扩散变换器
智能交通
气候风险预测
自适应退火防止熵正则化推理中的过早坍缩
Yizhi Liu
Sinkhorn算法
最优传输
熵正则化
理论分析
结构预测