用大规模合成数据训练专精小模型,攻克忠实上下文问答
Maksim Savkin, Mikhail Goncharov, Alexander Gambashidze, Alla Chepurova,...
中训练
合成数据
多跳推理
小语言模型
忠实问答
方差归一化加 Hadamard 旋转抑制 KV-cache 误差累积,2-bit 下刷新推理基准。
Lorenz K. Muller, Philippe Bich, Chiara Boretti, Hyun-Min Chang, Jiawei...
Hadamard 旋转
KV-Cache 量化
LLM 推理加速
低比特量化
方差归一化
BrainCause用反事实因果测试取代激活最大化来发现脑视觉表征。
Yuval Golbari, Navve Wasserman, Matias Cosarinsky, Roman Beliy, Aude Oliva,...
fMRI
反事实编辑
因果推断
生成式模型
脑神经科学
VSTAT:834视频1500问题诊断MLLM的视觉状态跟踪能力
Sihyun Yu, Nanye Ma, Pinzhi Huang, Hyunseok Lee, Shusheng Yang, June Suk...
MLLM评测
基准测试
多模态大模型
视觉状态跟踪
视频理解
用信任域分割策略梯度可靠区,稳定蒸馏推理小模型。
Xingrun Xing, Haoqing Wang, Boyan Gao, Ziheng Li, Yehui Tang
在线策略蒸馏
小语言模型
强化学习
推理模型
知识蒸馏
用20亿帧语料训练GPT风格因果Transformer,实现人形机器人零样本动作跟踪
Zekun Qi, Xuchuan Chen, Dairu Liu, Chenghuai Lin, Yunrui Lian, Sikai Liang,...
GPT式Transformer
人形机器人
全身控制
动作跟踪
强化学习蒸馏
让MLLM学会何时调用、验证、信任世界模型的视频推演来预测未来。
Yucheng Zhou, Wei Tao, Yiwen Guo, Jianbing Shen
世界模型
多模态大模型
工具调用
强化学习
推理
提出受人类睡眠启发的范式,让LLM通过知识蒸馏与做梦实现持续学习与自我改进。
Ali Behrouz, Farnoosh Hashemi, Vahab Mirrokni
大语言模型
持续学习
知识蒸馏
自我改进
记忆巩固
工作流感知的医疗AI自主研究智能体基准,五阶段拆解失败根因
Junqi Liu, Selena Song, Yuhan Wang, Jiawei Mao, Hardy Chen, Xiaoke Huang,...
AutoResearch
医疗AI智能体
工作流评估
智能体基准测试
错误诊断
用局部扰动理论解释多域RL跨域干扰,短时刷新可选择性恢复受损域
Lei Yang, Siyu Ding, Deyi Xiong
LLM后训练
多域强化学习
局部扰动理论
灾难性遗忘
跨域干扰
以欠优化区域挖掘与CPT-SFT-RL渐进训练把0.9B文档解析模型推至新SOTA。
Zelun Zhang, Hongen Liu, Suyin Liang, Yubo Zhang, Yiqing Xiang, Jiaxuan Liu,...
GRPO
OCR
PaddleOCR
后训练
强化学习
用语义事件而非固定时间块作为学习单元,解决语言-视觉-动作粒度失配问题
Shalfun Li, Victor Yao, Charles Yang, Truth Qu, Regis Cheng, Ryan Yu, Howard...
世界动作模型
事件中心学习
多模态预训练
机器人操作
视觉-语言-动作模型
基于Cosmos的实时生成式世界模型,用于自动驾驶闭环仿真与策略训练
NVIDIA, Aarti Basant, Amlan Kar, Despoina Paschalidou, Fangyin Wei,...
世界-动作模型
世界模型
模型蒸馏
自动驾驶
视频扩散
通过源感知评分标准自动发现与蒸馏,提升异构中期训练数据的选择效率
Haowen Wang, Yaxin Du, Jian Yang, Jiajun Wu, Shukai Liu, Yuxuan Zhang,...
LLM训练
中期训练
代码生成
数据选择
源感知学习
无需成对数据,利用预训练模型自举训练流匹配编辑模型
Yoad Tewel, Yuval Atzmon, Gal Chechik, Lior Wolf
图像编辑
梯度路由
流匹配
自监督学习
视频编辑
通过PCA感知数据冲突分割独立训练后权重合并,解决多任务梯度冲突和通信瓶颈
Minsik Choi, Geewook Kim
去中心化训练
多任务学习
指令调优
梯度冲突
模型合并
通过学习最小充分域表示,从少量参考样本生成高质量领域特定数据
Tong Ye, Hang Yu, Tengfei Ma, Xuhong Zhang, Jianguo Li, Peng Di, Peiyu Liu,...
对比学习
提示调优
数据合成
领域适应
用 DFL-free 双头架构+MuSGD/渐进损失/STAL 训练,统一多任务实时检测。
Glenn Jocher, Jing Qiu, Mengyu Liu, Shuai Lyu, Fatih Cagatay Akyon, Muhammet...
MuSGD优化器
NMS-free
YOLO
姿态估计
实例分割
用520个可规则验证的在线生成器-验证器环境,为视觉推理RL提供无限新鲜训练信号。
Tianze Yang, Yucheng Shi, Ruitong Sun, Jingyuan Huang, Ninghao Liu, Jin Sun
DAPO
VLM后训练
多模态大模型
强化学习RLVR
程序化生成
把自适应采样建模为MDP,用四层MLP强化学习控制器平衡答案精度、延迟与算力开销。
Runpeng Dai, Tong Zheng, Rui Liu, Chengsong Huang, Hongtu Zhu
MDP/PPO
adaptive sampling
constrained optimization
reinforcement learning
self-consistency
把扩散过程拆成噪声域协调与残差映射两阶段,实现统一高效的图像翻译
Ziyue Lin, Jiahe Hou, Hongyu Xia, Xinrui Xie, Feifei Wang, Yuyin Zhou, Wei...
DDPM
图像修复
图像到图像翻译
扩散模型
数据高效
提出评测个性化说服力的基准,发现用户画像建模是关键瓶颈
Peixuan Han, Hongyi Du, Jiayu Liu, Yihang Sun, Yutong Liu, Jiaxuan You
Benchmark
LLM Agent
个性化
强化学习
说服评估
用进化损失+适配损失的分解框架,结合多智能体进化、分支树路由与人机介入,实现开放式任务流上的持续自改进线束部署。
Zewen Liu, Zhan Shi, Yisi Sang, Bing He, Minhua Lin, Tianxin Wei, Dakuo...
LLM智能体
人机协作
持续学习
测试时适配
自动线束进化
无需配对视觉-语言数据,靠盲匹配把语言目标接进纯视觉拓扑地图。
Junlin Long, Zeyu Zhang, Xu Deng, Yiran Wang, Yue Yang, Luke Borgnolo,...
DINOv3
具身导航
对象目标导航
拓扑地图
柏拉图表示假说
诊断答案正确长CoT轨迹中答完仍续写的有害续写,并用0.5B轻量HCC代理切除它
Chen He, Yuhao Wu, Lei Wang, Wenxuan Zhang, Fumin Shen
信息瓶颈
可解释性
强化学习
推理模型训练
数据质量
用 chunk 级语义验证替代 teacher logits,实现黑盒模型蒸馏并超越白盒 OPD
Yuhang Zhou, Lizhu Zhang, Yifan Wu, Mingyi Wang, Peng Bo, Jiayi Liu,...
On-Policy Distillation
推理模型
数学推理
知识蒸馏
蒙特卡洛估计
在视觉编码器内注入跨图交叉注意力,使每张图编码依赖历史视觉特征。
Zirui Wang, Junwei Yu, Adam Yala, David M. Chan, Joseph E. Gonzalez, Trevor Darrell
交叉注意力
停止梯度
多图像推理
监督微调
视觉编码器
保护大值状态并用随机采样提升多样性的训练免 KV 缓存驱逐方法。
Ting-Yun Chang, Harvey Yiyun Fu, Deqing Fu, Chenghao Yang, Jesse Thomason, Robin Jia
KV Cache驱逐
KV缓存压缩
大语言模型推理
推理模型
稀疏注意力
提出αDepth分层表示,单次前向分解软边界实现高保真立体转换。
Xiang Zhang, Yang Zhang, Lukas Mehl, Karlis Martins Briedis, Markus Gross,...
Alpha抠图
分层表示
单目深度估计
无需手动引导
立体转换
在冻结MERT上训练旋律/节奏/音色三解耦头,实现可控可解释的音乐相似度。
Abhinaba Roy, Junyi Liang, Dorien Herremans
对比学习
条件音乐生成
解耦表示
音乐信息检索
音频相似度
在SAE特征选择中引入协变量,让LLM假设生成聚焦研究者关心的子群差异。
Paiheng Xu, Jing Liu, Wei Ai
LASSO
假设生成
协变量调整
可解释性
稀疏自编码器
用感知扰动构造数据集并经GRPO批排序奖励训练判官,缓解其重文本轻视觉的偏差。
Seojeong Park, Jiho Choi, Junyong Kang, Seonho Lee, Jaeyo Shin, Hyunjung Shim
GRPO
反事实数据构造
多模态大模型评判
奖励建模
强化学习
AbaqusAgent用六个智能体+RAG把自然语言转成端到端有限元仿真。
Titu Ranjan Sarker, Muhammed Jawaad Zulqernine, Ling Yue, Shaowu Pan, Chenxi...
AI智能体
Abaqus
RAG检索增强
固体力学
大语言模型
提出受控任务流与可塑性/稳定性/泛化三类增益指标,严格评估智能体的持续学习。
Yiheng Shu, Bernal Jiménez Gutiérrez, Saisri Padmaja Jonnalagedda, Yuguang...
可塑性-稳定性权衡
基准评测
持续学习
语言智能体
非参数记忆
用梯度-激活显著性重加权GRPO的token级优势,提升数学推理。
Tej Deep Pala, Vernon Toh, Soujanya Poria
GRPO
RLHF
信用分配
可验证奖励
强化学习
发布67,453个代理技能安全数据集,揭示三类扫描器攻击面上罕见重叠、分歧结构化,主张分层治理。
Vincent Koc, Patrick Erichsen, Jacob Tomlinson, Agustin Rivera, Michael...
AI代理技能
安全扫描
弱监督
扫描器一致性
数据集
评测模型能否自主设计构建任务专用智能体系统的基准框架
Xinyu Lu, Tianshu Wang, Pengbo Wang, zujie wen, Zhiqiang Zhang, Jun Zhou,...
Agent评测
Reward Hacking
代码智能体
元智能体
智能体自改进
以动作误差为触发信号,让机器人记忆在恒定4224字节下稀疏写入。
Josef Chen
O(1)推理状态
VLA策略
信息瓶颈
写带宽优化
快权重记忆
以CAD几何先验是否可用为轴综述工业视觉sim-to-real迁移
Chenxi Tao, Seung-Kyum Choi
6D位姿估计
CAD几何先验
仿真到现实迁移
工业异常检测
工业视觉
构建合成可信度基准,揭示现有检测器与人类在此新威胁上普遍失效。
Junxiao Yang, Minghao Zhang, Xiaoce Wang, Haoran Liu, Shiyao Cui, Hongning...
AIGC检测
内容溯源
基准测试
多模态大模型
视觉安全
用可重复的BA启发迭代层在隐空间细化相机位姿与几何
Ganlin Zhang, Weirong Chen, Daniel Cremers, Xi Wang
Transformer
三维重建
光束法平差
前馈重建
双视图几何
用四类可证伪假设系统检验LLM欺骗探针,发现其脆弱性源于训练分布而非架构,可经风格增强修复。
Sachin Kumar
可解释性
机制可解释性
模型安全
模型扩展性
欺骗检测