← 前一天
2026-05-11
后一天 → 今日

用语义化评分标准替代教师 logits 的黑箱在线蒸馏框架。

Junfeng Fang, Zhepei Hong, Mao Zheng, Mingyang Song, Gengsheng Li, Houcheng...
GRPO LLM对齐 强化学习 知识蒸馏 评分标准奖励

把模态间隙重新解读为各向异性残差,用子空间+极坐标+先验校正做无配对模态对齐。

Xiaomin Yu, Yijiang Li, Yuhui Zhang, Hanzhen Zhao, Yue Yang, Hao Tang, Yue...
MLLM训练 几何诊断 各向异性 多模态学习 无配对对齐

把视觉DiT配方原封搬到语言建模,REPA塑造潜空间后比肩GPT-2

Jiaxiu Jiang, Jingjing Ren, Wenbo Li, Bo Wang, Haoze Sun, Yijun Yang,...
Diffusion Transformer Flow Matching REPA表示对齐 扩散语言模型 潜空间扩散

统一自蒸馏框架UniSD,五模块协同无需外部教师。

Yiqiao Jin, Yiyang Wang, Lucheng Fu, Yijia Xiao, Yinyi Luo, Haoxin Liu, B....
Catastrophic Forgetting Continual Learning Knowledge Distillation LLM Post-Training On-Policy Learning

通过块扩散与自推测解码,把字节级语言模型的推理内存带宽最高砍掉九成。

Julie Kallini, Artidoro Pagnoni, Tomasz Limisiewicz, Gargi Ghosh, Luke...
字节级语言模型 扩散语言模型 推测解码 推理加速 无分词器

系统批判通用 AI 聊天机器人范式,主张其系统性侵蚀用户能动性与社会公平。

Sourojit Ghosh, Pranav Narayanan Venkit, Sanjana Gautam, Avijit Ghosh
AI 伦理学 FAccT HCI 技术批判 用户能动性

通过分块并行算法把逐步动量机制引入Delta线性注意力,在保持严格因果性的同时实现高效训练。

Yulong Huang, Xiang Liu, Hongxiang Huang, Xiaopeng Lin, Zunchang Liu,...
动量优化器 序列建模 状态空间模型 线性注意力 长上下文

块迭代草稿器结合层偏移和排序头,在降低草稿成本44-52%的同时提升推理速度8-13%

Weijie Shi, Qiang Xu, Fan Deng, Yaguang Wu, Jiarun Liu, Yehong Xu, Hao Chen,...
LLM推理加速 动态树构建 投机解码 服务时间自适应

通过advisor模型和相位自适应RL,改进进化搜索代理在昂贵评估场景下的策略适应能力

Minghao Yan, Bo Peng, Benjamin Coleman, Ziqi Chen, Zhouhang Xie, Shuo Chen,...
LLM代理 强化学习 测试时学习 算法发现 进化搜索