通过学习识别并省略冗余的思考和观察token,在不损失准确率的前提下大幅降低智能体推理成本
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
数学推理
多模态
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
评测基准
高效推理
自监督学习
工具调用
扩散语言模型
对比学习
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
LLM评估
持续学习
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
提出科学文献问答环境,用RLVR训练搜索代理在1600万篇PubMed摘要上回答事实型问题
对数概率奖励在可验证和不可验证领域均为CoT训练提供统一信号
将多智能体辩论的推理能力蒸馏到单个LLM,提升推理效率
用回译与强化学习在无配对数据下同步提升代码生成与文档生成能力。
用离散Token统一表示蒙皮权重,实现骨骼生成与蒙皮预测的端到端自回归绑定
提出MCR框架,通过结构化跨模态推理消除MLLM在定位命名实体识别中的模态偏见
通过自蒸馏和多样性感知强化学习,解决大推理模型在复杂工具使用中的懒惰推理问题
用模型预测熵自适应混合软/硬token嵌入,解决离散扩散LLM奖励引导的梯度-可靠性矛盾
提出多层稳定框架解决RLHF训练不稳定,结合双软最小评论家与PID自适应KL控制
用LLM学习的环境模拟器替代Docker容器,实现无物理执行的软件工程智能体训练与推理
开源全流程后训练框架,用32B模型在SWE-bench Verified上达到70.8%解决率
用 Beta 分布动态建模模型能力,自适应分配 RL rollout 预算以优化探索-利用权衡
通过强化学习训练评分标准生成器,为DeepResearch报告提供偏好对齐的细粒度奖励信号
面向视觉生成的统一个性化奖励模型
👍 20提出 UnifiedReward-Flex,通过上下文自适应层次化推理动态构建个性化奖励模型。
提出广域研究范式,用动态多智能体架构和端到端RL解决大规模并行信息检索任务
神经预测-校正器:用强化学习求解同伦问题
👍 16用RL自动学习同伦方法的步长和终止策略,统一解决优化/求根/采样等多类问题
通过识别并移除prompt中的干扰token,提升RLVR训练的采样效率和推理性能
Actor-Refiner协作框架解决搜索推理中的多尺度信用分配问题
COBALT方法通过上下文赌博机学习结合在线和离线RL,提升多轮代码生成性能。