← 前一天
2026-02-09
后一天 → 今日

首次将稀疏自编码器系统性应用于音频模型,实现Whisper和HuBERT的可解释性分析与幻觉消除。

Georgii Aparin, Tasnima Sadekova, Alexey Rukhovich, Assel Yermekova, Laida...
HuBERT Whisper 特征解耦 稀疏自编码器 音频模型可解释性

从单 token 对数更新出发,建立 RFT 熵变化的理论框架并推导出实用的熵裁剪方法

Shumin Wang, Yuexiang Xie, Wenhao Zhang, Yuchang Sun, Yanxi Chen, Yaliang...
GRPO LLM 训练理论 强化微调 熵动力学 策略优化

将动作视为潜在变量,通过前向-逆向模型交替优化实现无标注世界建模

Yifu Qiu, Zheng Zhao, Waylon Li, Yftah Ziser, Anna Korhonen, Shay B. Cohen,...
GRPO 世界模型 强化学习 潜在变量 自改进学习

从基础模型出发,通过数据工程、训练策略和强化学习三大支柱构建SOTA级GUI定位能力

Zhongyin Zhao, Yuan Liu, Yikun Liu, Haicheng Wang, Le Tian, Xiao Zhou,...
GUI grounding data engineering multimodal reinforcement learning vision-language models

用强化学习优化迭代式推理的摘要时机、内容和续接策略,同时提升准确率与效率

Yuchen Yan, Liang Jiang, Jin Jiang, Shuaicheng Li, Zujie Wen, Zhiqiang...
大语言模型 强化学习 推理效率 迭代推理 长链推理

构建自动化数据引擎生成自我中心音视频问答数据,解决现有MLLMs音视频联合理解不足的问题

Ashish Seth, Xinhao Mei, Changsheng Zhao, Varun Nagaraja, Ernie Chang,...
多模态学习 指令微调 数据引擎 自我中心视频 音视频理解

通过预填充自调优和意图漂移感知强化学习,训练无需外部数据的多轮越狱攻击模型

Mingqian Feng, Xiaodong Liu, Weiwei Yang, Jialin Song, Xuekai Zhu, Chenliang...
LLM安全 多轮对话 强化学习 红队测试 越狱攻击

用扩散模型学习LLM激活分布,作为先验提升引导干预和可解释性

Grace Luo, Jiahai Feng, Trevor Darrell, Alec Radford, Jacob Steinhardt
元学习 可解释性 大语言模型 扩散模型 激活建模

ViT微调时应优先更新注意力和前馈层,因为它们的高可塑性带来更好性能

Ambroise Odonnat, Laetitia Chapel, Romain Tavenard, Ievgen Redko
Vision Transformer 可塑性 平滑性 微调 迁移学习

用宽-窄-宽(沙漏)FFN 替代传统窄-宽-窄 FFN,在 1B 以内参数规模达到更优或相当的性能

Feng-Ting Liao, Meng-Hsi Chen, Guan-Ting Yi, Da-shan Shiu
FFN设计 Transformer架构 参数效率 架构搜索 语言模型