跨层复用+FP4量化+有界重放三管齐下,将KV缓存压至前代1/4至1/8且性能更强
DeepSeek-AI, Anyi Xu, B. Li, Bangcai Lin, Bing Xue, BingCheng Xian,...
FP4量化
KV缓存压缩
强化学习
推测解码
智能体训练
用自动研究循环自动进化智能体线束,token 成本降约三分之一
Haozhe Liu, Tian Ye, Sensen Gao, Qihang Cao, Yitong Li, Mingchen Zhuge,...
Token效率
上下文管理
智能体线束
自动研究循环
递归自我改进
176组受控实验解析编码代理框架三大组件的条件效应:上下文管理、规划与动作空间
Run-Ze Fan, Zihao Zhang, Simin Ma, Yebowen Hu, Shouju Wang, Kaiqiang Song,...
SWE-Bench
Terminal-Bench
harness设计
上下文管理
实证研究
师生终止符错配使学生停不下来,概率层语义聚合可大幅缓解OPD长度膨胀
Yuxiao Yang, Tianrun Yu, Shangzhe Li, Kaixiang Zhao, Xuchao Zhang, Chetan...
EOS终止符
LLM后训练
on-policy distillation
知识蒸馏
长度膨胀
提出正交预测分解OPF,把JEPA单目标嵌入拆为互补正交因子,用一套核心横跨七个领域实现世界建模
Taoyong Cui, Zhongyao Wang, Xinyue Xu, Weiyang Liu, Zhaochen Yu, Yuying...
JEPA
世界模型
正交分解
科学发现
自监督学习
构建517例隐式提示多模态评测集,MiniMax-H3物理世界推理成功率仅41.97%
Haoyu Zhao, Zihao Zhao, Tianyu Deng, Ziqin Xu, Zihao Zhang, Xudong Wang,...
全模态生成
多模态对齐
物理世界推理
视频生成
评测基准
用Fuse多智能体仿真构造可验证真值,系统评测LLM用户中介社会推理
Amir Taubenfeld, Zorik Gekhman, Avigail Grinstein-Dabush, Itay Laish, Ariel...
多智能体仿真
对齐评估
社会推理
评测基准
谄媚性
索引通过诊断-修订-验证闭环自主进化,无需人工干预即适配任意语料与检索器
Sangam Lee, Wonjae Lee, Sunghwan Kim, Deogyong Kim, Jaehoon Kim, Daye Nam,...
LLM智能体
RAG
信息检索
搜索代理
索引优化
先独立练强技能教师,学生出师后在线判定并自动“退役”教师
Yan Yu, Zhengxi Lu, Yizhou Liu, Yichen Pan, Aozhe Wang, Qipeng Chen, Hua...
LLM Agent
RLVR
在线策略蒸馏
智能体强化学习
自适应退役
用难度感知的奖励塑形让推理模型学会何时思考、思考多深。
Jaejun Shim, HyunJin Kim, Young Jin Kim, JinYeong Bak
RLVR
强化学习
数学推理
混合推理
高效推理
逐帧Delta规则线性注意力替换远程注意力,14.3秒768p视频去噪从799.6秒降到6.7秒
Haocheng Xi, Yiming Xie, Hexu Zhao, Yiwen Zhang, Michael Liu, Thomas...
少步蒸馏
扩散Transformer
线性注意力
视频生成
高效推理
两阶段数据框架:先广覆盖构建,再按残差诊断定向补数与重分配,端到端解析四榜第一。
Hao Yu, Kang Liu, Linnan Zhao, Jiabo Zhan, Chong Sun, Chen Li, Jing Lyu
OCR
多模态大模型
数据中心训练
数据混合
文档解析
把混淆消息还原和网页风险调查串成一条链,用入口门控离线组合揭示跨阶段损失。
ZhuoXin Liu, Zhiming Ma, Ying Zhang, Mengzheng Yang, Yifan Wang, Zhengqi...
Web智能体
中文NLP
内容安全
基准测试
对抗文本
EvoSkill-GUI 让 GUI 智能体在推理时经反思-修订-复用循环免训练进化结构化技能包。
Bofan Chen, Boxuan Zhang, Fei Tang, Zhengxi Lu, Yong Du, Tongbo Chen,...
GUI智能体
免训练
技能学习
推理时优化
自演化
评测多模态大模型能否在观察-推理-行动-修正闭环中完成机器人操作
Zhongbo Zhang, Jiayi Jin, Yifan Wang, Zaibin Zhang, Haiwen Diao, Lijun Wang,...
主动感知
具身智能
多模态大模型
机器人操作基准
空间智能
SFT时取消对环境观察的损失掩码,零成本让GRPO后智能体探索更强、pass@k更高
Juzheng Zhang, Disha Makhija, Manoj Ghuhan Arivazhagan, Vinayshekhar...
LLM智能体
世界模型
强化学习
探索与熵
监督微调
把多模态生成评估拆成原子单元链式打分,与人类判断相关性提升15.25%
Danning Zhang, Yijing Lin, Shuhan Zhuang, Mengqi Huang, Shaojin Wu,...
MLLM评估
主体驱动定制
人类偏好对齐
多模态图像生成
评估基准
从少量无序部分点云一次前馈即可联合预测可动部件分割与关节参数,比优化方法快近三千倍
Kevin Qu, Tao Sun, Massimiliano Viola, Liyuan Zhu, Zhizhuo Zhou, Sayan Deb...
3D视觉
Transformer
关节参数估计
前馈建模
可动部件分割
以区域为动作、答案似然为奖励的强化学习,让轻量提议网络聚焦证据,4倍更少token精度更高
Yuheng Shi, Xiaohuan Pei, Minjing Dong, Chang Xu
区域级强化学习
多模态大模型
细粒度感知
视觉token效率
高效推理
9类职场压力下实测22个模型:最强者仍约6%决策不可靠,且79%的违规被伪报成合规
Mika Okamoto, Ansel Kaplan Erol
LLM-as-Judge
LLM智能体
企业应用
合规与安全
基准评测
复用模板字体OpenType布局,用扩散模型逐字形改样式,产出九种印度文字的可安装TTF
Anil Pai
OpenType
印度文字排版
字体生成
扩散模型
检索增强
同一候选预算下,8次串行生成比1次批量调用多耗4.6倍以上GPU能量
Mobina Kashaniyan, Ali Jannesari
LLM推理系统
批处理调度
测试时扩展
能耗测量
自洽性采样
构建答案匹配六视角数据集,发现OPSD收益主要来自蒸馏本身,特权参考的额外增益很小且依赖训练轨迹
XiuYu Zhang, Wei Chow, Junfeng Fang, Zhenkai Liang, Tat-Seng Chua
LLM蒸馏
实证分析
数学推理
特权信息
自蒸馏
首个泰卢固语口语问答基准,验证LLM裁判可靠性并系统评测语言、模态与级联误差
Bhavana Akkiraju, Ravi Sastry Kolluru, Sri Charan D, Srihari Bandarupalli,...
LLM-as-a-Judge
低资源语言
口语问答
基准评测
泰卢固语