提出SeeUPO算法,通过逆序顺序更新解决多轮智能体RL的收敛性问题
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
学习大语言模型激活的生成式元模型
👍 5用扩散模型学习LLM激活分布,作为先验提升引导干预和可解释性
用结构化表格管理搜索状态,统一解决深度/广度/深广混合信息搜索
将多教师LLM的知识通过五种净化方法整合为单一推理链,缓解冲突并提升蒸馏效果
量化后LLM偏见变化由不确定性驱动,聚合指标掩盖21%响应翻转
通过长度归一化消除GSPO的长度偏差,提升RLVR训练稳定性和性能
提出多轮强化学习框架解决内核生成中的奖励作弊和懒惰优化问题
ProAct:交互环境中的智能体前瞻推理
👍 27通过蒸馏MCTS搜索树和蒙特卡洛评论家,让LLM智能体内化准确的前瞻推理能力
900万数学定理的语义搜索
👍 19构建920万数学定理语料库并实现语义检索系统,在专业数学查询上显著优于现有工具。
提出可学习的潜在记忆框架,通过角色感知的潜变量优化解决多智能体记忆同质化和信息过载问题
多任务GRPO:跨任务的可靠LLM推理
👍 14提出MT-GRPO算法,通过自适应任务加权和比例保持采样实现多任务推理的均衡优化
BABE:生物学实验推理能力评估基准
👍 10基于真实论文构建的生物学实验推理基准,评估LLM因果推理能力
提出可动态切换文本/视觉/交错三种推理模式的混合自回归多模态推理模型
利用小型预训练模型的晚期表示来引导大型模型的早期训练,实现1.6倍加速并提升5%性能
系统性评估9种LoRA变体,发现适当调参后原版LoRA性能与变体相当
用 KL3 估计器替代 GRPO 中的对称裁剪,实现有理论保证的非对称近信赖域约束
将LLM多智能体推理从个体层面提升到集群层面,通过神经符号融合实现可扩展、校准良好的群体动态模拟
对数概率奖励在可验证和不可验证领域均为CoT训练提供统一信号
通过ROM存储扩展LLM容量,实现零延迟开销的端侧模型性能提升
将多智能体辩论的推理能力蒸馏到单个LLM,提升推理效率