通过累积误差反馈和无状态种子重放,直接在量化空间对大模型进行全参数微调
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
超越教师:基于奖励外推的泛化在线策略蒸馏
👍 70通过奖励外推实现超越教师的在线策略蒸馏框架
通过将多个简单问题组合成复杂新题,解决RLVR训练中"全对"提示泛滥导致有效数据枯竭的问题
从信息论角度证明自进化、隔离、安全三者不可兼得,封闭自进化系统安全必然退化。
用长度奖励+冗余惩罚打破LLM推理的浅层探索陷阱
Aletheia 数学研究智能体实现自主证明与论文生成
通过更新门和退出门解决长上下文推理中的记忆爆炸与冗余计算问题
固定更新预算下,少样本多轮训练比多样本单轮训练显著提升推理性能
提出梯度引导软掩码方法优化LLM用户表示学习,9个工业任务上超越现有方法
基于在线因果卡尔曼滤波的稳定高效策略优化
👍 15用卡尔曼滤波平滑token级重要性采样比率,提升大语言模型强化学习的稳定性与效果
用迭代解码替代自回归,让小模型在测试时持续推理远超训练长度
提出分块优势估计方法,为LLM结构化生成中的不同目标分配独立优势信号,解决奖励干扰问题
通过解耦语义推理与时间生成,让全模态LLM原生支持语音同步3D面部动画
知识图谱验证的大语言模型基准测试
👍 7提出FactCheck基准,系统评估LLM在知识图谱事实验证中的能力、RAG效果与多模型共识策略
将搜索QP子任务统一为生成范式,通过渐进式对齐策略实现工业级部署
通过联合优化记忆提取与管理,构建可泛化的自进化智能体记忆系统
提出轨迹级可解释性框架MEP,证明静态归因方法无法诊断智能体多步执行失败
在线强化学习框架,在提升代码安全性的同时保持功能完整性
RL训练的推理模型存在最优输出长度,过长或过短都会降低准确率
弱驱动学习:如何让弱智能体使强智能体更强
👍 169复用训练中弱模型作为纠正信号,通过混合logit训练持续增强强模型