通过递归调用和环境变量突破LLM上下文限制的新范式
Alex L. Zhang, Tim Kraska, Omar Khattab
REPL环境
任务分解
推理时扩展
递归调用
长上下文
LG AI Research推出的236B参数MoE多语言模型,支持256K上下文与六种语言
Eunbi Choi, Kibong Choi, Seokhee Hong, Junwon Hwang, Hyojin Jeon, Hyunjik...
Mixture-of-Experts
MoE架构
多语言模型
强化学习
长上下文
Gnosis 让 LLM 通过监控内部隐藏状态和注意力模式,以仅 5M 参数实现自身错误的准确预测
Amirhosein Ghasemabadi, Di Niu
内部状态分析
幻觉检测
模型自我意识
自验证
错误预测
统一自回归Transformer通过next-scale预测实现高效多模态理解与生成
Huichao Zhang, Liao Qu, Yiheng Liu, Hang Chen, Yangyang Song, Yongsheng...
Next-Scale预测
图像生成
多模态学习
统一建模
自回归生成
首个基于DiT的视频人脸交换框架,通过SyncID-Pipe数据管道和模态感知条件模块实现高相似度和高一致性
Xu Guo, Fulong Ye, Xinghui Li, Pengqi Tu, Pengze Zhang, Qichao Sun, Songtao...
多模态条件
扩散Transformer
时序一致性
条件生成
视频人脸交换
SimpleMem通过三阶段流水线实现高效记忆管理
Jiaqi Liu, Yaofeng Su, Peng Xia, Siwei Han, Zeyu Zheng, Cihang Xie, Mingyu...
Context Compression
Information Retrieval
LLM Agent
Memory System
RAG
提出滚动内存机制实现无限长度在线3D几何重建
Shuai Yuan, Yantai Yang, Xiaotian Yang, Xupeng Zhang, Zhonghao Zhao,...
3D重建
Transformer
内存优化
在线流式处理
视觉几何
提出三组件框架解决VAR模型RL训练中的异步策略冲突问题
Shikun Sun, Liao Qu, Huichao Zhang, Yiheng Liu, Yangyang Song, Xian Li, Xu...
强化学习
文本渲染
自回归模型
视觉生成
单一框架统一图像视频生成编辑的多模态扩散模型
Junyi Chen, Tong He, Zhoujie Fu, Pengfei Wan, Kun Gai, Weicai Ye
MMDiT
VLM
图像编辑
多模态学习
扩散模型
通过门控自适应正则化和多样性感知优化,解决扩散模型RL微调中的奖励作弊问题
Haoran He, Yuxiao Ye, Jie Liu, Jiajun Liang, Zhiyong Wang, Ziyang Yuan,...
GRPO
奖励作弊
强化学习
扩散模型
文本到图像生成
7B参数混合架构模型实现SOTA推理性能
Falcon LLM Team, Iheb Chaabane, Puneesh Khanna, Suhail Mohmad, Slim Frikha,...
大语言模型
强化学习
推理优化
测试时扩展
混合架构
通过混合数据集、精炼SFT和测试时扩展,用纯监督微调在SWE-bench达到58.8%的最先进性能
Chaofan Tao, Jierun Chen, Yuxin Jiang, Kaiqi Kou, Shaowei Wang, Ruoyu Wang,...
代码修复
数据增强
测试时扩展
监督微调
软件工程
通过检索真实论文和全文对比,实现可验证的学术论文新颖性评估
Ming Zhang, Kexin Tan, Yueyuan Huang, Yujiong Shen, Chunchun Ma, Li Ju,...
信息抽取
同行评议
大语言模型
文献检索
新颖性评估
首个系统性研究多轮对话中LLM置信度估计的工作,提出P(SUFFICIENT)方法
Caiqi Zhang, Ruihan Yang, Xiaochen Zhu, Chengzu Li, Tiancheng Hu, Yijiang...
不确定性量化
多轮对话
模型校准
置信度估计
首个RL框架实现文本指导物体平移、旋转、缩放
Jing Tan, Zhaoyang Zhang, Yantao Shen, Jiarui Cai, Shuo Yang, Jiajun Wu, Wei...
几何变换
图像编辑
多模态
强化学习
扩散模型
利用LLM内部KV重路由在无需训练情况下提取高质量文本嵌入
Yixuan Tang, Yi Yang
免训练方法
大语言模型
文本嵌入
注意力机制
表示学习
首个系统性评估框架,测试LLM对企业允许/拒绝列表政策的合规性,揭示模型在允许请求上准确率超95%但对违规请求拒绝率仅13-40%的不对称问题。
Dasol Choi, DongGeon Lee, Brigitta Jesica Kartono, Helena Berndt, Taeyoun...
LLM安全
企业AI
安全评估
对抗性测试
政策合规
通过对比感知损失增强VLM视觉推理能力的RL微调方法
Ahmad Rezaei, Mohsen Gholami, Saeed Ranjbar Alvar, Kevin Cannons, Mohammad...
多模态推理
对比学习
强化学习
感知优化
视觉语言模型
用扩散模型生成密集像素-表面对应,实现高精度多视角人体网格恢复
Renke Wang, Zhenyu Zhang, Ying Tai, Jian Yang
人体网格恢复
多视角几何
密集对应
扩散模型
计算机视觉
通过融合CLIP和DINOv3的异构先验解决半监督遥感分割中的伪标签漂移问题
Yi Zhou, Xuechao Zou, Shun Zhang, Kai Li, Shiying Wang, Jingming Chen,...
伪标签漂移
半监督学习
视觉基础模型
语义分割
遥感图像
大规模多标注者皮肤病变分割数据集,含14967张图像和17684个分割标注
Kumar Abhishek, Jeremy Kawahara, Ghassan Hamarneh
医学图像分割
多标注者学习
数据集构建
皮肤病变检测
皮肤镜成像
双分支融合Prithvi与CNN,仅45.5M参数实现洪水制图SOTA
Saurabh Kaushik, Lalit Maurya, Beth Tellman
参数高效微调
洪水制图
特征融合
语义分割
遥感基础模型
用因果干预揭示LLM推理链是真思考还是事后合理化表演
Sourena Khanzadeh
Chain-of-Thought
LLM智能体
反事实分析
可解释AI
因果推理
提出“物质音乐”框架,通过选择性不完美和振动连接物质结构与音乐,实现科学发现与艺术创作的统一。
Markus J. Buehler
AI作曲
振动
材料科学
物质音乐
生成框架
首次从文本/嵌入/潜变量三种模态系统评估概念擦除的鲁棒性,并提出推理时增强模块 IRECE
Ju-Hsuan Weng, Jia-Wei Liao, Cheng-Fu Chou, Jun-Cheng Chen
对抗鲁棒性
扩散模型安全
文本反演
概念擦除
评估基准