用多任务强化学习训练企业搜索智能体,在多类知识检索任务上超越闭源大模型
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
通过截断步级采样和分解式过程奖励,解决检索增强推理中的信用分配问题
用轻量级代理模型卸载LLM记忆检索,通过结果导向强化学习优化下游任务表现
用索引式外部记忆+RL训练,让LLM智能体在有限上下文窗口下高效完成长程任务
通过动态奖励的强化学习提升多模态模型在开放世界分类中的特异性
V1:统一生成与自验证的并行推理框架
👍 14通过成对比较和联合训练统一生成与验证,提升并行推理性能
用可验证物理奖励和LoRA微调小型推理模型求解梁静力学,发现模型学到程序模板而非物理方程
80B参数MoE模型仅激活3B参数,通过大规模可验证任务合成实现高效编码智能体
提出Mix-GRM框架,通过B-COT和D-COT双机制协同,在五个奖励基准上平均超越基线8.2%
下一嵌入预测使世界模型更强大
👍 21用因果Transformer预测下一时刻嵌入,替代像素重建学习世界模型
MOSAIC 框架通过显式安全检查和偏好学习,让智能体在多步工具调用中学会安全决策
通过反事实信息增益奖励解决多轮RL中的信用分配问题,实现智能体主动不确定性消减
用 LLM 编排器根据任务难度动态生成并迭代精炼分层 DAG 拓扑,比最强基线最多提升 14.6% pass@1。
提出语言无关的自动化管道,从GitHub大规模收集可执行的软件工程任务用于训练智能体
仅 9K 合成推理样本即可让 4B 模型逼近 235B 模型的推理能力
用显式约束生成高质量交互数据并确定性验证,训练4B小模型匹敌70B大模型
基于参考引导微调在强化学习中学习困难问题
👍 13通过参考引导微调(ReGFT)合成模型自有推理轨迹,解决RL训练中的奖励稀疏问题
提出INSIGHT方法通过贝叶斯加权互信息优化RLVR训练数据选择
基于自博弈RL的零数据框架,让LLM自主进化为通用工具调用智能体
提出基于置信度的递归推理框架,让模型自我修正提升精度