首个开源网络安全推理模型,8B参数媲美70B模型性能
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
用LLM评估器回答自然语言元问题作为奖励信号,无需真值标签即可训练语言模型
MoE架构GUI智能体,SFT+GRPO训练,跨平台SOTA性能
在已饱和问题上通过失败前缀条件化恢复学习信号
发现状态信息丰富度和规划复杂度是 RL 训练保留跨域泛化能力的关键因素
扩散语言模型的任意顺序生成反而限制推理,用标准GRPO效果更佳
通过模型自我验证和提出单步纠正干预,解决强化学习在LLM推理中的信用分配问题
你的群组相对优势是有偏的
👍 108揭示GRPO等群组相对RL算法中优势估计的固有偏差,并提出HA-DW自适应修正方案
通过边界感知奖励训练LLM在信息不足时主动承认"不知道",提升智能体搜索的可靠性
将工具调用信用分配建模为二部图匹配问题,实现细粒度的回合级奖励估计
两阶段框架:检索增强原型生成+GRPO片段优化,实现分子多属性精确控制
通过逻辑结构化数据构建和感知结构的奖励聚合,显著提升LLM复杂指令遵循与逻辑推理能力。
在GRPO优势之后加反向累积log比,修正自回归KL信用分配
通过规划阶段分支策略和多样性奖励提升LLM创意写作多样性
通过策略与评论家的协同进化,解决强化学习中评论家过时导致反馈失效的问题
首个用强化学习优化文本到可视化生成的框架,通过多目标奖励提升图表质量
提出自进化框架Dr. Zero,无需数据即可训练强大搜索智能体
用MTQE模型作为GRPO强化学习的奖励函数,训练LLM更好地翻译习语,同时提升通用翻译能力
通过解耦多奖励归一化解决GRPO信号坍塌问题,提升RL对齐效果
让小模型主动调用大模型,用1.07%的token成本恢复60%性能差距