沿秩维度归一化LoRA下投影矩阵,零额外参数即可加速收敛、提升性能与稳定性
Jiale Kang, Ziyin Yue, Zheng Zhan, Yangyi Huang, Weiyang Liu
2026-09-01
LoRA
优化动力学
参数高效微调
大语言模型
预条件子
仅用蔬菜训练的活体检测器在人脸基准达92.7% AUC,证明PAD学的是采集伪影而非人脸
Guray Ozgur, Fadi Boutros, Naser Damer
2026-08-25
人脸活体检测
参数高效微调
基准数据集
跨数据集泛化
隐私保护
冻结流式生成器,适配器在编辑到达时点火,无限轮指令编辑质量不衰减
Yunze Tong, Mushui Liu, Canyu Zhao, Shiyi Zhang, Didi Zhu, Peng Zhang,...
2026-08-24
参数高效微调
扩散模型
自回归流式生成
视频生成
视频编辑
将视频编辑重构为逐比特保留-翻转的证据决策,不足3%条件参数追平开源最优
Feng Xie, Jiagao Hu, Fuhao Li, Zepeng Wang, Yuxuan Chen, Dahua Gao, Fei...
2026-08-18
二值量化
参数高效微调
指令驱动编辑
生成精炼网络
视频编辑
把 PEFT 适配器放置建模为约束规划,自动为 YOLO 检测器产出可审计可部署方案
Xu Lin, WenJie Nie, Jinlong Peng, Weifu Fu, YueXiao Ma, Xiawu Zheng, Yong Liu
2026-08-10
YOLO
参数高效微调
目标检测
约束规划
适配器放置
用可编辑的有向交互图取代轨迹控制,冻结视频DiT加LoRA实现多物体可控生成
Vedant Shah, Onkar Susladkar, Tushar Prakash, Kiet Nguyen, Tianjio Yu,...
2026-07-24
参数高效微调
可控视频生成
图神经网络
场景图
扩散模型
首次系统刻画超网络知识注入的幂律缩放,目标模型缩放收益最大且OOD泛化优于微调
Nischay Dhankhar, Dos Baha, Abulhair Saparov
2026-07-23
LoRA
参数高效微调
大语言模型
知识注入
缩放定律
让LLM自主选择训练片段提升长上下文推理性能
Xinyu Zhu, Zhe Xu, Xiaohan Wei, Yunchen Pu, Fei Tian, Chonglin Sun, Kaushik...
2026-07-13
参数高效微调
注意力机制
测试时训练
自适应推理
长上下文
通过参数隔离将触觉能力注入小型MLLM,在避免灾难性遗忘的同时实现SOTA触觉推理
Yoonhyung Park, Minji Kim, Sungwon Moon, Jiyoung Lee
2026-07-09
具身智能
参数高效微调
多模态学习
灾难性遗忘
触觉感知
将自然语言描述的模糊函数编译成可本地执行的神经网络模块,用0.6B模型超越32B大模型性能
Wentao Zhang, Liliana Hotsko, Woojeong Kim, Pengyu Nie, Stuart Shieber, Yuntian Deng
2026-07-03
参数高效微调
小模型推理
本地部署
模糊函数
神经网络编译器
通过优化输入图像而非模型权重,实现对冻结多模态LLM的非侵入式任务适配
Michal Chudoba, Sergey Alyaev, Petra Galuscakova, Tomasz Wiktorski
2026-06-11
参数高效微调
多模态大语言模型
强化学习
视觉提示
计算艺术
和弦符号适配能提升流派本地和声预测,但无法承载完整的流派身份
Jinju Lee
2026-06-08
参数高效微调
和弦符号
流派适配
表示边界
音乐生成
用超网络生成仓库级LoRA适配器,零推理开销注入代码库知识并跟踪演化
Liliana Hotsko, Yinxi Li, Yuntian Deng, Pengyu Nie
2026-06-05
仓库级适应
代码理解
参数高效微调
超网络
软件演化
通过Perceiver超网络将视频编码为LoRA适配器,实现零视觉token的视频问答。
Manan Suri, Sarvesh Baskar, Dinesh Manocha
2026-06-05
参数高效微调
多模态学习
视觉语言模型
视频理解
超网络
提出三轴框架,通过PEFT在万亿参数基础模型上构建百万个人模型实例
Mind Lab, Song Cao, Vic Cao, Kaijie Chen, Bunny Fan, Hera Feng, Huan Feng,...
2026-06-02
LoRA
个人模型
参数高效微调
基础设施
强化学习
提出PEFT-Arena基准,发现正交微调在稳定性和可塑性权衡上最优,并揭示SFT超调现象
Yangyi Huang, Ruotian Peng, Zeju Qiu, Jiale Kang, Yandong Wen, Bernhard...
2026-05-28
几何分析
参数高效微调
正交微调
稳定性-可塑性困境
遗忘问题
通过双流注意力模块与视觉感知适配器,让冻结 LLM 精准识别并翻译 Web 图像中的多语种文字
Bo Li, Ronghao Chen, Ningyuan Deng, Huacan Wang, Shaolin Zhu, Lijie Wen
2026-05-25
OCR
参数高效微调
图像翻译
多模态大模型
网页理解
用低秩截断与补偿,免训练保护基础模型与LoRA,授权端无损恢复。
Beomjin Ahn, Jungmin Kwon, Chanyong Jung, Jaewook Chung
2026-05-22
LoRA
参数高效微调
奇异值分解
权重加密
模型安全
首个覆盖 9 种印度语言的多轮平行医疗对话数据集与可部署模型
Shubham Kumar Nigam, Suparnojit Sarkar, Piyush Patel
2026-05-14
低资源语言
医疗对话
参数高效微调
多语言 NLP
数据集
提出可查询低秩更新记忆库,用指令正则化路由替代静态LoRA
Omatharv Bharat Vaidya, Connor T. Jerzak, Nhat Ho, Chandrajit Bajaj
2026-05-12
LoRA
低秩适配
动态路由
参数高效微调
大语言模型