利用 LLM 内部中间层「安全神经元」替代端层表征,构建仅需 14M 参数的即插即用安全护栏
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
揭示 LLM 数字表征的"频谱 vs 几何"两级收敛分离,证明 Fourier 尖峰普遍但模运算可分性苛刻
用大模型内部高影响神经元的激活图为目标任务挑预训练数据,免训练且可解释
用对比式LRP归因分析LLM在长上下文基准上的真实失败。
构建可控多模态乘法基准,用算术负荷C与强迫续写探针揭示多模态LLM的乘法失误源于计算而非感知。
系统量化10个全模态大模型的模态偏好,发现多数模型呈现视觉偏好而非传统VLM的文本主导,且偏好信号在中后层涌现并可有效诊断跨模态幻觉
用Shesha几何稳定性指标分别预测steering成败与漂移
Olmo 3 三系谱追踪揭示多样性崩塌由训练数据驱动而非算法本身
用LLM自身调用日志训练轻量替代模型,按一致性门槛自动路由降本。
用强化学习训练的工具调用Agent在胸部CT报告生成中显著超越3D视觉语言模型
提出分歧子集评估框架,揭示LLM关于答案正确性的特权知识仅在事实任务中存在。
诊断 VLM 计数的视觉注意力塌陷,并提出 MAS 注意力预算正则。
揭示 VLM 靠语义标签“短路”视觉推理的失败机制
SteerViT通过早期融合交叉注意力让冻结ViT可文本操控,并保持原表征质量
首个全面开源的CoT可监控性评估基准,揭示LLMs隐藏决策因素的能力与局限性
SING:分类器中语义不变量的分析方法
👍 10通过零空间几何与CLIP映射,量化分类器的语义不变性
发现VLM中单个神经元可作为强分类器,实现5倍推理加速
用 Shapley 值系统剖析六个 SOTA 音视觉语音识别模型在 SNR、解码过程、时序对齐上的模态贡献动态,揭示显著的音频偏置问题。
用LLM发现类别概念+VLM定位,微调ViT相关性图对齐语义区域,提升分布偏移鲁棒性
推理模型难以控制其思维链
👍 41推理模型几乎无法控制自己的思维链内容,这对 CoT 监控安全性是个好消息。