一次GRPO训练联合学习偏好可控的LoRA适配器混合,推理时切换λ即改变目标权衡
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
后训练
RLVR
视频理解
机器人学习
多模态
长上下文
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
评测基准
高效推理
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
Transformer
参数高效微调
工具使用
LoRA
持续学习
自蒸馏
LLM评估
多模态推理
RAG
综述
信息检索
模仿学习
LLM推理
信用分配
在线策略蒸馏
合成数据
模型压缩
构建层次化退化专属LoRA专家与双路由机制,把通用修复模型扩展至2.9B参数并保持可预测增益
仅用单 GPU 数小时的高秩 LoRA 微调,即可把主流自回归大模型转换为可用的扩散语言模型
LLM2R:从大语言模型到三维重组器
👍 24把三维零件装配当作序列建模任务,用因果LLM加摘要令牌一次前向预测全部零件位姿
用LoRA微调高达104B的多模态骨干刷新脑编码SoTA,单遍特征提取提效350倍
用循环超网络把历史内化为持续演化的LoRA权重,流式VLM无需扩张上下文也能记住过去
单条 ODE 轨迹加慢快双 LoRA 专家解耦,监督成本降 11600 倍,质量反超全量基线
把验证通过的轨迹当特权信息喂给冻结初版模型自蒸馏进LoRA,部署中越做越好
冻结大模型读括号编号后缀即是校准决策模型;微调只补短板,KL 锚点防行为退化
推导出梯度步长应随历史知识有效秩按√R增长的节奏律,实现持续学习稳定-可塑性的最优平衡
一条口音样本加单个权重 w,在冻结 F5-TTS 内解耦音色与口音
把运行时安全屏蔽的反事实纠正沉淀为训练数据,让VLA策略自进化
将CFG、少步采样与长上下文纠错一次性蒸馏为可复用LoRA,免训练插拔到54个下游视频模型
用簇级LoRA先验加用户向量的解码时奖励引导,实现免每用户微调的可扩展个性化生成
以Qwen-Omni为原生骨干、经四阶段训练的全模态嵌入家族,登顶MMEB-v3等五大基准
构建多阶段后训练基准,诊断智能体遗忘机制,提出LoRA专家混合方法MLE
持续学习机制组合实现长程记忆保持
👍 94数据/函数/权重锚点与合并LoRA组合,将100任务留存率从1.2%提升至34.9%
把多镜头叙事从时间轴搬进空间网格,联合生成长视频
基于离散扩散解锁大语言模型的无损加速
👍 105冻结AR权重、外挂LoRA扩散权重并行起草,AR验证实现全批量无损提速
教师模型合成数据微调LoRA,把自然语言规范编译成本地可复用的神经函数