解析证明对比学习最优表示是测部分频率并做白化,可用正弦滤波器单层CNN实现。
Antonio Torralba, Yair Weiss
2026-07-14
傅里叶分析
可解释性
对比学习
自然图像统计
表示学习理论
要求视频问答模型同时输出答案、时间片段与密集跟踪分割掩膜三类证据
Shijie Wang, Honglu Zhou, Ziyang Wang, Ran Xu, Caiming Xiong, Silvio...
2026-07-14
可解释性
基准评测
指令微调
时空定位
视频分割
提出LOCOS方法通过OV电路投影识别执行语义综合的检索头
Aryo Pradipta Gema, Beatrice Alex, Pasquale Minervini
2026-07-03
可解释性
机制分析
检索头
注意力机制
长上下文
开源框架解决长CoT透明性问题,提供可视化、诊断、系统分析三大功能
Jun Zhang, Jiasheng Zheng, Boxi Cao, Yaojie Lu, Hongyu Lin, Jia Zheng,...
2026-06-30
可视化
可解释性
推理模型
链式思维
错误诊断
首个严格评估跨模态可解释性的诊断框架,揭示现有方法无法区分真正的空间推理与浅层捷径
Sujay Belsare, Sudarshan Nikhil, Sushant Kumar, Ponnurangam Kumaraguru,...
2026-06-25
VQA
可解释性
因果推理
基准测试
多模态AI
头部级混合注意力架构,通过可解释性筛选关键头部,平衡计算效率与长上下文能力
Zhentao Tan, Wei Chen, Jingyi Shen, Yao Liu, Xu Shen, Yue Wu, Jieping Ye
2026-06-23
可解释性
架构设计
混合注意力
线性注意力
长上下文
提出智能体应辅助而非替代因果发现,开发causal-learn+平台保持算法核心完整性
Yujia Zheng, Vishal Verma, Mantej Gill, Haoyue Dai, Peter Spirtes, Kun Zhang
2026-06-23
可信AI
可解释性
因果发现
大型语言模型
智能体
马氏余弦相似度能线性预测线性探针的泛化性能
Zhuofan Josh Ying, Peter Hase, Nikolaus Kriegeskorte
2026-06-23
可解释性
泛化性
线性探针
统计学习
用前几个 token 的隐藏态即可预测激活操控成功或失败。
Chenrui Fan, Yize Cheng, Ming Li, Soheil Feizi, Tianyi Zhou
2026-06-15
GBDT
LLM 推理控制
可解释性
早期预测
激活操控
大型推理模型能解题却不会评题,根源是答案确认偏差。
Mingzhong Sun, Teresa Yeo, Armando Solar-Lezama, Tan Zhi-Xuan
2026-06-15
可解释性
因果分析
大推理模型
推理评估
机制解释
证明两层网络学群复合时,每个神经元收敛到单个不可约表示并秩一对齐,Abel 群下达到完美精度。
Jianliang He, Leda Wang, Fengzhuo Zhang, Siyu Chen, Zhuoran Yang
2026-06-04
可解释性
模运算/grokking
深度学习理论
群表示论
训练动力学
诊断答案正确长CoT轨迹中答完仍续写的有害续写,并用0.5B轻量HCC代理切除它
Chen He, Yuhao Wu, Lei Wang, Wenxuan Zhang, Fumin Shen
2026-06-03
信息瓶颈
可解释性
强化学习
推理模型训练
数据质量
在SAE特征选择中引入协变量,让LLM假设生成聚焦研究者关心的子群差异。
Paiheng Xu, Jing Liu, Wei Ai
2026-06-03
LASSO
假设生成
协变量调整
可解释性
稀疏自编码器
用四类可证伪假设系统检验LLM欺骗探针,发现其脆弱性源于训练分布而非架构,可经风格增强修复。
Sachin Kumar
2026-06-03
可解释性
机制可解释性
模型安全
模型扩展性
欺骗检测
用代码作为画笔,将图像生成分解为概念化、草图和着色三阶段
Junyan Ye, Jun He, Zilong Huang, Dongzhi Jiang, Xuan Yang, Rui Chen, Weijia Li
2026-05-29
代码驱动
可解释性
图像生成
控制性
智能体
通过推理内化和稀疏自编码器分解,提供嵌入层面的密集检索可解释性
Zhixin Cai, Jun Bai, Yang Liu, Jiaqi Li, Yichi Zhang, Taichuan Li, Zhuofan...
2026-05-29
可解释性
密集检索
推理增强
特征级解释
稀疏自编码器
把注意力矩阵拆成对称与反对称两部分,用 Hopfield 能量视角诊断并用「循环扰动」控制扩散模型的保真度-多样性权衡。
Hyunmin Cho, Woo Kyoung Han, Kyong Hwan Jin
2026-05-27
Hopfield网络
可解释性
扩散模型
推理时控制
注意力机制
首次系统比较 6 种不确定性估计方法在激活预言机上的校准效果,发现温度自助法显著优于自述置信度。
Federico Torrielli, Peter Schneider-Kamp, Lukas Galke Poech
2026-05-27
LLM 内部表示
MCMC 采样
不确定性量化
可解释性
校准
现有证据不足以证明大语言模型具有强元认知监控能力
Shashwat Singh, Tal Linzen, Shauli Ravfogel
2026-05-27
元认知
内省
可解释性
机制分析
行为实验
构建BONAFIDE基准证明主流CoT忠实性指标基本无效
Yoav Gur-Arieh, Ana Marasović, Mor Geva
2026-05-26
CoT忠实性
元评估
可解释性
基准测试
大语言模型