把一阶梯度下降搬进 LLM 解码循环,直接优化 token logits 来精细化推理策略
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
GRPO的隐式优势对称性导致探索不足和难度适应差,A-GRAE通过非对称机制解决
用上下文-预测融合机制实现LLM连续空间推理,克服特征坍缩
首份LLM推理失败综述,提出推理类型×失败类型的双轴分类框架
通过单次推理的token分布变化检测LLM推理崩溃,无需训练或微调
LLMs的CoT推理是近视的增量转换,而非全局规划
通过让AI智能体重新发现已发表ML论文的核心发现,评估其全周期科学研究能力
通过填空式多选题构造,将不可验证文本转化为可用RL训练数据
用轻量级神经网络探索环境,再蒸馏到LLM并用RL激活,大幅提升非语言任务性能
提出多对手GDRO框架,通过动态难度分组和自适应资源分配提升LLM推理性能
将LLM与SMT求解器结合,通过形式化验证迭代修正推理错误,实现可证明的逻辑正确性
综述LLM不确定性从被动诊断指标演变为推理、Agent、RL中的主动控制信号
通过模型自我验证和提出单步纠正干预,解决强化学习在LLM推理中的信用分配问题
你的群组相对优势是有偏的
👍 108揭示GRPO等群组相对RL算法中优势估计的固有偏差,并提出HA-DW自适应修正方案
推理模型生成思维社会
👍 14推理模型通过模拟多视角对话实现深度思考,本质是'思维社会'的涌现
轻量路由器在每个解码步骤选择专家并提供互补logit,实现鲁棒的token级多LLM协作