首个系统综述:LLM 元认知的测量、赋予、应用与未来方向
Gabrielle Kaili-May Liu, Areeb Gani, Jacqueline Lu, Jordan Thomas, Mark...
2026-07-14
不确定性校准
信号检测理论
元认知
大语言模型
综述
通过动态构造近端教师解决OPD优化不稳定性,零计算开销实现数学推理性能大幅提升
Zhengpeng Xie, Li Lyna Zhang, Zeke Xie, Mao Yang
2026-07-13
信任区域方法
大语言模型
强化学习
数学推理
知识蒸馏
引入梯度协方差改进PTQ,在2-bit量化LLaMA-3-70B上达7.93困惑度
Donghyun Lee, Yuhang Li, Ruokai Yin, Priyadarshini Panda
2026-07-13
Hessian
Kronecker分解
后训练量化
大语言模型
模型量化
通过停止梯度算子实现无界正向更新的非对称优化框架,解决RL中探索与稳定性的矛盾
Chongyu Fan, Pengfei Liu, Jingjia Huang, Sijia Liu, Yi Lin
2026-07-10
RLHF
大语言模型
强化学习
策略优化
重要性采样
提出端到端可学习的层级稀疏注意力机制,实现超长上下文外推和高效推理
Xiang Hu, Xinyu Wei, Hao Gu, Minshen Zhang, Tian Liang, Huayang Li, Lei Zhu,...
2026-07-08
大语言模型
推理加速
注意力机制优化
稀疏注意力
长上下文建模
通过半自回归生成和硬件感知调度,将LLM推理速度提升60%-85%
Xin Cheng, Xingkai Yu, Chenze Shao, Jiashi Li, Yunfan Xiong, Yi Qian, Jiaqi...
2026-07-08
大语言模型
并行生成
投机解码
推理加速
系统优化
TREK扩展GRPO探索支持,提升数学和Agent性能
Yuanda Xu, Zhengze Zhou, Kayhan Behdin, Jelena Markovic-Voronov, Hejian...
2026-07-08
Agent
大语言模型
强化学习
数学推理
知识蒸馏
结合学习性与梯度对齐的多领域强化学习课程调度方法
Yongjin Yang, Jiarui Liu, Yinghui He, Lechen Zhang, Bernhard Schölkopf, Zhijing Jin
2026-07-03
多任务学习
大语言模型
强化学习
课程学习
课程调度
字节跳动Seed2.0系列模型,专注处理真实世界复杂任务的多尺寸大语言模型
Bytedance Seed
2026-07-02
多模态理解
大语言模型
智能体系统
真实世界任务
研究表明读者难以区分 AI 翻译,但更偏好人类译作的流畅性和沉浸感。
Yves Ferstler, Adam Podoxin, Ty Brassington, Roman Grundkiewicz, Maite...
2026-07-02
大语言模型
文学翻译
沉浸式阅读
翻译评估
读者研究
提出RLMF方法,通过元认知反馈强化学习实现LLM数值和语言不确定性的忠实校准
Gabrielle Kaili-May Liu, Avi Caciularu, Gal Yona, Idan Szpektor, Arman Cohan
2026-07-01
不确定性校准
元认知
大语言模型
强化学习
忠实性
异步OPD中陈旧数据影响分析与高效训练流水线
Wonjun Kang, Kevin Galim, Seunghyuk Oh, Minjun Kang, Sanghyun Park, Donghoon...
2026-06-30
大语言模型
异步训练
强化学习
知识蒸馏
通过分离确定性计算与语言层,实现硬件感知的七通道EEG智能代理系统
Zhiyuan Xu, Yueqing Dai, Junling Li, Junwen Luo
2026-06-29
大语言模型
科学软件
脑电信号处理
边界感知
隐私保护
研究编码 Agent 训练中的奖励信号设计问题,提出验证器与生成器协同进化的框架
Binghai Wang, Chenlong Zhang, Dayiheng Liu, Jiajun Zhang, Jiawei Chen,...
2026-06-26
Agent 评估
代码生成
大语言模型
奖励设计
强化学习
ViQ实现高质量量化视觉表示,兼顾语义与细节,支持任意分辨率。
Xumin Yu, Zuyan Liu, Zhenyu Yang, Yuhao Dong, Shengsheng Qian, Jiwen Lu, Han...
2026-06-26
向量量化
多模态学习
大语言模型
视觉量化
从LLM架构、强化学习训练到代理系统设计的全栈指南
Haggai Roitman
2026-06-25
代理式AI
大语言模型
强化学习
系统架构
训练优化
通过学生-教师概率比识别高价值负样本轨迹,提升 LLM 策略蒸馏效果
Chen Lin, Kedi Chen, Wei Zhang
2026-06-25
大语言模型
推理能力提升
知识蒸馏
策略蒸馏
负样本学习
首个大规模中文精神科诊断基准,通过多智能体框架评估LLM在精神科咨询和诊断中的能力
Shihao Xu, Tiancheng Zhou, Jiatong Ma, Yanli Ding, Yiming Yan, Ming Xiao,...
2026-06-24
中文医疗对话
临床AI
基准评测
多智能体系统
大语言模型
通过动态选择熵谷层而非最终层,缓解 RLHF 对齐训练对复杂推理任务的负面影响
Xuanming Zhang, Sining Zhoubian, Yuxuan Chen, Tianyi Tang, An Yang, Sean Du,...
2026-06-23
大语言模型
对齐税
层动态分析
推理增强
解码策略
TAPO通过构建微观反思轨迹,让模型从自己的错误中学习,在数学推理任务上显著提升表现
Zhilin Huang, Hang Gao, Ziqiang Dong, Yuan Chen, Yifeng Luo, Chujun Qin,...
2026-06-23
大语言模型
强化学习
推理能力
自蒸馏
错误纠正