首个系统评测大模型高级数学证明生成与验证能力的基准套件
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
视觉语言模型
世界模型
GRPO
多模态大模型
多智能体系统
多模态学习
智能体
知识蒸馏
图像生成
代码生成
LLM智能体
注意力机制
LLM Agent
具身智能
流匹配
多模态大语言模型
视频理解
数学推理
检索增强生成
可解释性
图像编辑
多模态
机器人学习
机器人操作
自监督学习
工具使用
Transformer
基准评测
对比学习
长上下文
RLVR
多模态推理
计算机视觉
数据合成
LLM评估
信息检索
推理加速
3D重建
扩散语言模型
自回归模型
视觉推理
RAG
参数高效微调
LoRA
视觉-语言-动作模型
Flow Matching
模型压缩
自回归生成
视觉-语言模型
后训练
工具调用
持续学习
高效推理
RLHF
策略优化
信任区域策略蒸馏
👍 23通过动态构造近端教师解决OPD优化不稳定性,零计算开销实现数学推理性能大幅提升
面向智能体强化学习的单轮次异步优化
👍 15提出SAO方法,通过单轮次采样和双向token级剪裁稳定异步强化学习训练
TREK:蒸馏以探索、强化以精炼
👍 8TREK扩展GRPO探索支持,提升数学和Agent性能
构建18种低资源语言的数学推理基准,揭示多语言模型在低资源语言上的持续性能差距。
dOPSD:扩散语言模型在策略自蒸馏方法
👍 16从扩散解码轨迹中自生成特权信息,实现dLLM的有效在策略自蒸馏
揭示训练-推理不匹配导致的目标错位,提出 MIPI 原则和 MIPU 两步框架
揭示现有LLM多样性度量只捕捉表面措辞变化而非方法层面的策略差异,并提出方法级多样性评估框架
通过可验证的数据构建解决视觉数学推理中的数据质量和奖励信号可靠性问题
MaxProof框架使M3模型在IMO/USAMO达超人类金牌水平
通过嵌入级语义邻居混合提升强化学习推理探索能力
通过二元验证器信任信号改进在线策略蒸馏,在数学推理基准上平均提升1.98%
提出ComBench基准测试,评估大语言模型在奥林匹克组合数学中的证明推理和构造实现能力
CPPO通过位置加权阈值和累积前缀预算解决LLM强化学习中自回归生成的不对称性
反馈对齐在自蒸馏中的作用
👍 3研究反馈结构对自蒸馏效果的影响,发现步骤对齐的反馈显著优于二值奖励和参考解
首次将在线蒸馏提升到隐藏状态空间,解决方差瓶颈和信息压缩问题,实现Pareto优势
用 chunk 级语义验证替代 teacher logits,实现黑盒模型蒸馏并超越白盒 OPD
用梯度-激活显著性重加权GRPO的token级优势,提升数学推理。
ESPO: 提前停止近端策略优化
👍 20ESPO通过提前终止失败轨迹节省20%+token并提升LLM推理性能
用现成大模型对固定长度分块打分,生成时引导小模型推理,免训练即可匹敌 PRM