Flide解耦决策请求的逻辑树与物理执行,精确分叉状态,最快提速9.5倍
Bobo Li, Jiajia Song, Hao Fei, Wynne Hsu, Mong Li Lee
2026-11-10
LLM Agent
决策模型
推理引擎
状态分叉
高效推理
随机采样中间块并共享最终层分类头监督,使 ViT 每个深度都能直接匹配全深度画廊
Guray Ozgur, Tahar Chettaoui, Eduarda Caldeira, Naser Damer, Fadi Boutros
2026-11-10
人脸识别
早退推理
深度监督
视觉Transformer
高效推理
用闭式岭回归从分割层状态预测各深层输入并填充缓存,无需训练即可加速预填充
Dylan Johnston, Robert P. Smith
2026-11-10
KV缓存
免训练方法
岭回归
投机解码
长上下文
模态感知的免训练MoE专家剪枝,让58GB多模态模型塞进单张40GB GPU
Donggeun Kim
2026-11-10
MoE
专家剪枝
免训练方法
多模态大语言模型
模型压缩
让模型在潜空间思考、只在工具调用和答案处显式输出,智能体推理更快更准。
Juseon Do, Sangmin Bae, Jeesu Jung, Hwanjun Song
2026-11-05
LLM智能体
工具调用
自蒸馏
隐式思维链
高效推理
无需重训,把模型自身的历史推理改写成紧凑记录,即可显著缩短后续推理并降低智能体成本
Anton Hristov
2026-11-05
LLM智能体
上下文压缩
因果推断
推理成本
高效推理
定位模型推理中的过度思考状态,从同一状态重生成更短续写,用局部偏好对训练模型学会何时停止。
Muyao Yuan, Liyan Xu, Weizhan Zhang, Muyan Jiao, Jiangnan Li, Jinchao Zhang, Jie Zhou
2026-11-04
DPO
偏好学习
大型推理模型
推理压缩
数学推理
用终端速度匹配在冻结Tiny-VAE潜空间一步完成低光增强,单NFE仅34–48 GFLOPs
Ariel Lapid, Yuval Haitman, Reuven Peretz, Arnon Netzer, Idit Diamant
2026-11-02
一步生成
低光图像增强
图像修复
流匹配
高效推理
低分辨率传播筛选需细查的查询与记忆,仅对选中对做高分辨率匹配,4K提速7.4倍且省13倍显存
Shuyun Wang, Shangchen Zhou, Peiqing Yang, Yuekun Dai, Xin Yu, Chen Change Loy
2026-10-28
知识蒸馏
稀疏计算
视频抠图
记忆传播
高效推理
把每个权重写成树上共享离散决策的乘积,统一模型压缩、加法器电路与离散优化三种视角
Ammar Ali, Stamatis Lefkimmiatis
2026-10-26
后训练量化
权重表示
模型压缩
硬件电路
离散优化
量化敏感度随任务与去噪步而变,T2Quant按时序分配激活精度,同预算最高提升6.7个百分点。
Ofek Avivi, Eliron Rahimi, Avi Mendelson, Chaim Baskin
2026-10-23
任务感知校准
后训练量化
扩散语言模型
混合精度
高效推理
用共享高斯trellis解码器加逐行范数恢复,把条件记忆查找表压到2比特且性能几乎不掉
Donghoon Han, Minseop Jung, Dong Woo Kwak, SeungJae Lee, Junhoo Lee
2026-10-20
Trellis量化
条件记忆
查找表量化
模型压缩
高效推理
用32个潜在桥接查询取代稠密MoT耦合,解耦专家深度,兼顾性能、泛化与推理效率
Jiaxin Fang, Ruitong Liu, Zeyu Lai, Xingyu Wang, Mingyuan Jia, Pingyue...
2026-10-19
世界动作模型
机器人操作
架构设计
视觉-语言-动作
高效推理
把三类空间任务统一为候选分类,复用预训练注意力投影直接决策,比自回归快5.6倍。
Luozheng Qin, Yuhan Zhu, Changhai Zhou, Qian Qiao, Jun Gao, Yuhua Zhou,...
2026-10-16
分类解码
多模态大模型
空间智能
粗到细细化
高效推理
单次前向传播完成多字段结构化决策的多模态模型,兼顾精度、延迟与概率校准。
Tong Zhu, Zhe Xu, Zefeng He, Yunkai Chai, Xuyang Hu, Dehong Zheng, Yun Luo,...
2026-10-16
决策模型
多模态
智能体系统
概率校准
结构化输出
两个可折叠的线性变换让 GQA-2 同时赢下 KV 缓存、FLOPs 与质量的不可能三角
Xibo Ding, Guoxia Wang, Jinle Zeng, Jiabin Yang, Sirui Tao, Chao Yang, Dianhai Yu
2026-10-16
KV缓存压缩
MoE
注意力机制
结构重参数化
长上下文
0.8B–27B 决策模型家族:单遍预测+置信度引导推理,RLCD2 大幅提升推理终止率与效率
Xialie Zhuang, Zunhai Su, Jia Pan, Ngai Wong, Guanhua Chen, Chuan-Wei Kuo
2026-10-15
决策模型
强化学习
概率校准
自适应推理
高效推理
冻结模型权重,测试时训练文档专属KV缓存,32×压缩下RULER达96.7%
Yingfa Chen, Xingyu Shen, Chaojun Xiao, Xu Han
2026-10-15
KV缓存压缩
测试时训练
知识蒸馏
长上下文
高效推理
用共享打分头替代自回归解码,统一时序定位与视频问答,推理提速最高129倍
Yuhan Zhu, Xiangyu Zeng, Qingyi Si, Chenxu Yang, Yifei Li, Luozheng Qin,...
2026-10-14
System One
多模态大模型
时序定位
视频理解
视频问答
用分数上界证书无损剪枝稀疏注意力索引器,Indexer最高加速2.74倍
Fanxu Meng, Taosong Fang
2026-10-14
GPU内核优化
无损加速
稀疏注意力
长上下文
高效推理