让LLM自主选择训练片段提升长上下文推理性能
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
视觉语言模型
世界模型
GRPO
多模态大模型
多智能体系统
多模态学习
智能体
知识蒸馏
图像生成
代码生成
LLM智能体
注意力机制
LLM Agent
具身智能
流匹配
多模态大语言模型
视频理解
数学推理
检索增强生成
可解释性
图像编辑
多模态
机器人学习
机器人操作
自监督学习
工具使用
Transformer
基准评测
对比学习
长上下文
RLVR
多模态推理
计算机视觉
数据合成
LLM评估
信息检索
推理加速
3D重建
扩散语言模型
自回归模型
视觉推理
RAG
参数高效微调
LoRA
视觉-语言-动作模型
Flow Matching
模型压缩
自回归生成
视觉-语言模型
后训练
工具调用
持续学习
高效推理
RLHF
策略优化
通过参数隔离将触觉能力注入小型MLLM,在避免灾难性遗忘的同时实现SOTA触觉推理
程序即权重:一种模糊函数的编程范式
👍 118将自然语言描述的模糊函数编译成可本地执行的神经网络模块,用0.6B模型超越32B大模型性能
通过优化输入图像而非模型权重,实现对冻结多模态LLM的非侵入式任务适配
和弦符号适配能提升流派本地和声预测,但无法承载完整的流派身份
用超网络生成仓库级LoRA适配器,零推理开销注入代码库知识并跟踪演化
通过Perceiver超网络将视频编码为LoRA适配器,实现零视觉token的视频问答。
提出三轴框架,通过PEFT在万亿参数基础模型上构建百万个人模型实例
提出PEFT-Arena基准,发现正交微调在稳定性和可塑性权衡上最优,并揭示SFT超调现象
通过双流注意力模块与视觉感知适配器,让冻结 LLM 精准识别并翻译 Web 图像中的多语种文字
用低秩截断与补偿,免训练保护基础模型与LoRA,授权端无损恢复。
首个覆盖 9 种印度语言的多轮平行医疗对话数据集与可部署模型
提出可查询低秩更新记忆库,用指令正则化路由替代静态LoRA
插入对角矩阵P,让单个LoRA适配器在所有子秩上同时学习层级特征。
提出BR-MoE双层路由MoE机制,把PTM-based类增量学习首次扩展到300+非重叠任务。
在Ego-Exo4D上用三套参数高效方法把多视角动作熟练度估计推向生成式反馈
为LVLM设计并行PVM模块,缓解长序列生成中的视觉信号衰减
语义聚类指导的分布感知采样,DoRA+持续学习缓解跨语言负迁移
用 RDP 算法把隐藏态当成几何轨迹,挑选关键层做稀疏 LoRA 微调
诊断 LoRA 合并干扰集中在 B 矩阵,提出 B 空间预校准方法 Pico。