揭示并缓解 naturalness-based 推理数据选择中的步骤长度偏差,使小模型推理 SFT 平均提升 6-9 个百分点。
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
基于多智能体架构的学术文献发现与深度理解平台,支持跨源检索、知识图谱构建和自动化评审
用更精细相似度+伪剪枝+逐层重计算,MoE 专家压缩新方法
针对LLM代码修复中的「过度编辑」问题,提出编辑感知奖励与自造数据框架,显著提升修复精度与推理速度。
用预 RoPE 空间的 Q/K 中心点估计 KV 重要性,匹配全注意力的同时吞吐提升 2.5 倍。
提出文本频率定律:同等语义下高频文本更适合 LLM 提示与微调,结合 TFD 蒸馏与 CTFT 课程训练在 4 大任务验证。
论文浓缩:从论文过载到研究洞察
👍 8自动发现、总结和分析热门AI论文的开源平台,揭示研究趋势动态
通过任务重构和自适应课程学习解决RLVR中无法从pass@64=0的困难问题学习的根本局限
统一数据选择、混合和重加权的动态训练框架
潜空间:基础、演化、机制、能力与展望
👍 110系统综述语言模型潜空间研究的全景综述,按机制与能力双轴梳理200余项工作。
提出基于非对称FSM的Pare框架,通过模拟真实用户交互来评估主动助手。
首个系统性评估 AI 写作代理的框架,从展示质量和幻觉两个维度量化 AI 撰写科学论文的能力与风险。
大语言模型在线策略蒸馏综述
👍 11系统性综述LLM在线策略蒸馏(OPD)的理论框架、方法分类、失败模式和工业实践
通过引入Future-KL散度重构GRPO的信用分配机制,突破LLM推理长度停滞瓶颈
系统评估LLM通过纯文本训练获得的听觉知识及其对音频理解性能的影响
文本与结构化数据集成的挑战与前沿方法综述
Cursor发布专用编码智能体模型Composer 2,经继续预训练+强化学习训练
AVO:用于自主进化搜索的智能体变异算子
👍 13用自主编程智能体替代进化搜索中的变异算子,生成超越专家优化的GPU注意力内核
金融场景下LLM调用MCP工具的评测基准,含613样本与65个工具
多答案RL训练模型单次前向推理生成多个候选答案及置信度