几何金丝雀：基于表征稳定性预测语言模型可控性与漂移 The Geometric Canary: Predicting Steerability and Detecting Drift via Representational Stability
用Shesha几何稳定性指标分别预测steering成败与漂移
前置知识
表征相异度矩阵 (RDM)
RDM $D \in \mathbb{R}^{n \times n}$ 是一个对称矩阵，元素 $D_{ij}$ 表示样本 $i$ 和 $j$ 在某层表征空间的两两距离（常用余弦）。它把高维表征压缩为 $n^2$ 维的'几何指纹'，直接编码样本之间的近邻关系，被广泛用于神经科学与深度学习的表征比较。
Shesha 方法的所有变体都建立在两个 RDM 的秩相关之上，因此读者必须先理解 RDM 是什么、它如何编码'哪些样本彼此靠近'，才能看懂本文的稳定性和对齐度如何被度量。
线性表征假说与激活steering
线性表征假说认为概念在激活空间中以线性方向编码。实践中可训练 logistic probe 抽出方向 $\hat{w}$，用 $e' = e + \alpha \hat{w}$ 在残差流上直接加减方向，不更新权重即可改变模型行为，这就是 activation addition 的核心。
本文的核心可控性问题就是：哪些模型会接受这种线性干预而哪些会'碎裂'？读者需要先理解 steering 流程才能理解 Shesha_sup 为何可以预测它的成功率。
CKA 与 Procrustes 表征相似度
CKA (Centered Kernel Alignment) 通过 HS 独立性准则度量 $X,Y$ 的相似度，对正交变换完全不变，擅长捕捉'子空间是否一致'。Procrustes 先把 $Y$ 旋转到最优 $Y R^*$ 再算 $\|X - Y R^*\|_F$，对谱尾变化极度敏感、易过报。
本文把 Shesha 与 CKA、Procrustes 进行漂移检测对比，作者声称 CKA 因被顶部主成分主导而漏掉真实漂移、Procrustes 又因谱尾噪声积累产生大量误报，读者必须理解这两个基线的数学性质才能评估作者的批评是否成立。
Spearman 秩相关 $\rho_s$
Spearman $\rho_s$ 把两组数据各自排序后用 Pearson 相关，因此只关心单调关系、对异常值稳健。在本文里它既是 Shesha 的核心算子（衡量两个 RDM 之间的秩一致性），也是评估 steering 效果与稳定性指标之间相关性的标准统计量。
全文所有'几何稳定性 vs steering 效果'、'漂移 vs 准确率下降'的预测关系都用 Spearman $\rho$ 报告，读者应理解秩相关能承受非线性单调但对线性相关低估，会影响对 $\rho = 0.89$ 这种数字的解读。
Shesha 无监督几何稳定性 (SheshaFS)
Shesha (Raju, 2026a) 的无监督版本将 $d$ 维嵌入随机分成两半，分别构造 RDM，然后取两个上三角向量的 Spearman $\rho_s$，重复 $K=30$ 次随机切分后求平均。值越高说明表征的成对距离结构被冗余地编码在多组特征上，而不是集中在少数维度。
这是 Shesha 框架的基线变体，本文用它作为'内部一致性'的代表并与新的有监督变体做对比，是读者理解'几何稳定性 vs 任务对齐'这一二分法的起点。
研究动机
现代 LLM 部署有两个看似无关但都缺乏诊断工具的痛点。第一是**可控性缺口**：representation engineering 与 activation addition 假设概念以稳定线性方向存在于潜空间（Linear Representation Hypothesis），但同一 sentiment probe 在某些模型上 steering 完美，在另一些几何脆弱的模型上却让表征'碎裂'，分类准确率完全预测不出这种差异。第二是**监测缺口**：post-training alignment (RLHF、instruction tuning) 会重塑内部表征，但 CKA 因被顶部主成分主导在 23 对 base/instruct 模型上平均只测出 12.9% 的几何漂移 (Llama 仅 6.5%)，对 fine-tuning 诱导的谱尾重排几乎无感；Procrustes 虽然能测到更多变化但在功能未退化的稳定区 (n=124 LoRA 观测) 误报率高达 38.7%-44%，把谱尾小扰动都误报成漂移。两个问题分属独立文献线，但都缺乏兼具灵敏度与特异性的几何诊断指标。
本文的目标是本文提出统一框架，把'能否被 steer'和'是否在漂移'都归结为同一个底层问题——模型表征几何是否可靠——并设计一套对应的 Shesha 变体在部署生命周期的两个阶段分别回答。具体目标包括：(1) 提出有监督 Shesha 变体 (Shesha_sup, Shesha_var, Shesha_sep, Shesha_LDA) 来度量'任务对齐的几何稳定性'，证明它能在不训练 probe 的前提下预测 steering 成功率；(2) 利用无监督 SheshaFS 给出 post-deployment 漂移的连续监测；(3) 在 69 个 embedding 模型、3 个 NLP 任务、23 对 base/instruct LM、26 个 canary 模型、124 次 LoRA 扰动上系统验证两类指标各自的适用边界与互补关系。
与已有工作不同的是，现有方法存在三个空白点。第一，几乎所有 steering 评估都是事后分析，没人提出一个 a priori 的预测指标——本文是首次用几何稳定性在 steering 实验前给出预测。第二，CKA 与 Procrustes 是为'子空间相似度'设计的，对谱尾变化各走极端，没有任何方法在两者之间给出兼顾'早期'与'低误报'的中间方案。第三，也是本文最深刻的一点：作者论证有监督和无监督几何稳定性测量的是逻辑独立的属性，前者衡量'与任务结构的对齐'，后者衡量'几何内部一致性'，二者不可互换——这是对 Shesha 框架最关键的语义补充，也是把'可控性'和'漂移检测'真正统一到同一理论下的关键。
核心方法
Shesha 框架的核心想法是把一个表征的'几何可靠性'量化成两个 RDM 之间的秩一致性。给定表征矩阵 $X \in \mathbb{R}^{n \times d}$，先用余弦距离构造一个上三角距离向量 $\text{vec}(D)$，然后用两种不同'视角'构造两个 RDM，比较它们在 Spearman $\rho_s$ 下的一致性。视角的选取决定了变体的语义：把 $d$ 维切两半再各自构造 RDM 得到无监督 SheshaFS，它问'特征切分后几何是否仍然自洽'，等价于'几何是不是冗余地编码在多组维度上'；用标签构造一个 ideal RDM $D_y$（one-hot 间的汉明距离）再与模型 RDM 取 $\rho_s$ 得到有监督 Shesha_sup，它问'几何是否尊重任务结构'。直觉上，无监督版本用于'几何变了没'的漂移检测（部署后），有监督版本用于'几何能否托住一个外部语义方向'的可控性预测（部署前）。
本文最核心的贡献是'稳定性-对齐分离' (stability-alignment dissociation) 这一发现及其方法论推论：SheshaFS 和 Shesha_sup 测的不是同一个东西——一个是无任务标签的内部几何刚性，另一个是与特定任务类边界的几何对齐度。这一区分之所以关键，是因为 Linear Representation Hypothesis 把 steering 的可行性归约到'概念是否线性编码'，但本文证明仅有线性结构还不够，结构必须几何稳定才扛得住 steering；无监督稳定性 $\rho_s = 0.77$ 在合成数据上能预测 steering，但到了真实 NLP 任务 (SST-2) 就崩塌到 $\rho \approx 0.10$，因为 SST-2 的相关结构只占整个流形的一小片子空间，整体刚性不再能代表任务方向的刚性。Shesha_sup 因此本质上做了一个任务约束下的稳定性测试，是无监督稳定性的'语义投影'。
方法步骤详情
**Step 1 SheshaFS**：$d$ 维嵌入随机切两半、各自算余弦 RDM，取上三角 Spearman $\rho_s$，$K=30$ 次平均，衡量几何是否冗余编码。**Step 2 Shesha_sup**：标签 one-hot 化、汉明距离填入 ideal RDM $D_y$，与模型 RDM 取 $\rho_s$，无需 probe。**Step 3 三变体**：Shesha_var = 类间方差/总方差；Shesha_sep = 类间/类内平均成对距离 (bootstrap $B=50$)；Shesha_LDA = 全数据与 bootstrap 子样本 LDA 方向 $\hat{w}, \hat{w}^{(b)}$ 的平均内积。**Step 4 双阶段**：部署前 Shesha_sup 预测 steering；部署后 SheshaFS 监测 $1 - \rho_s(\text{RDM}_{base}, \text{RDM}_{t})$。严格 split-half + shuffled labels 与随机方向两个负控。
技术新颖性
技术新颖性体现在三个层面。第一是理论层面：作者明确指出 CKA 与 Procrustes 因正交不变性对'特征如何跨维度分布'不敏感，而 Shesha 的特征切分 RDM 直接对'几何编码在哪几个维度'敏感——这是 SheshaFS 能检测到 CKA 漏掉的谱尾重排的数学根因。第二是方法层面：4 个有监督变体从相关、方差、距离、子空间 4 个角度测量任务对齐，不需要任何训练过程就能输出可比较的标量。第三是实证层面：稳定性-对齐分离本身是新颖发现，作者把'几何刚性'和'任务对齐'在 SST-2 ($\rho_{\text{sup}} = 0.96$ vs $\rho_{\text{unsup}} = 0.10$)、MNLI ($0.97$ vs $0.35$) 上彻底分离，明确否定'无监督刚性 = 任务可控性'这一直觉。这种 'one metric, two regimes' 的双相诊断范式是本文最具普适性的方法学贡献。
实验结果
**可控性预测**：合成 (69) $\rho = 0.894$；SST-2 (35) $\rho = 0.962$；MNLI (35) $\rho = 0.974$ (均 $p<10^{-19}$)。控制 Fisher+silhouette 后偏相关仍 0.665/0.764/0.620，无监督跌至 $<0.10$——稳定性提供独立于可分性的信号。**漂移检测**：23 对 base/instruct (0.14B-7B) Shesha 25.4% vs CKA 12.9%，Llama 达 5.23×；26 embedding 5% 阈值告警 Shesha 73% (19/26) 先于 CKA。LoRA 边界 Shesha AUC = 0.990，误报率 Procrustes 38.7%-44% vs Shesha 6.5%-7.3% (降约 6×)。三指标 drift-vs-accuracy-drop 相关均 0.91-0.94，'预测什么'等价，差异只在'何时'与'是否过报'。BGE/E5/GTE 同时给出高可分性与高刚性，最易 steer。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| Steering 可控性预测 (合成 sentiment, 69 models) | Spearman $\rho$ (Shesha_sup vs steering max_drop) | $\rho = 0.894$, $p < 10^{-24}$ | Fisher discriminant $\rho = 0.888$ | Partial $\rho = 0.665$ 在控制 Fisher + silhouette 后仍显著，独立贡献明显 |
| Steering 可控性预测 (SST-2, 35 models) | Spearman $\rho$ | $\rho = 0.962$, $p < 10^{-19}$ | Fisher $\rho = 0.952$；无监督 SheshaFS $\rho = 0.10$ (n.s.) | 偏相关 $\rho_{partial} = 0.764$ 远超无监督 $\rho_{partial} < 0.10$ |
| Steering 可控性预测 (MNLI 三分类, 35 models) | Spearman $\rho$ | $\rho = 0.974$, $p < 10^{-22}$ | 无监督 SheshaFS $\rho = 0.35$ (n.s.) | 偏相关 $\rho_{partial} = 0.620$ 仍显著，证实跨任务复杂度稳健 |
| Post-training 漂移检测 (23 base/instruct pairs, 0.14B-7B) | 几何漂移百分比 + 与 CKA 比值 | Shesha 25.4% (Llama 34.0%, 5.23× CKA) | CKA 12.9% 平均 (Llama 仅 6.5%) | 平均 1.96× 灵敏度提升；家族级最高 5.23× (Llama) |
| Canary 早期告警 (26 sentence embeddings, $\sigma \in [0, 0.5]$) | 5% 阈值下的告警优先级 | Shesha 73% (19/26) 先告警，平均 $\sigma = 0.123$ | CKA 0% 先告警，平均 $\sigma = 0.136$ | 告警提前 0.013 噪声标准差，且 27% 平局中 Shesha 仍能在更低阈值先触发 |
| LoRA 检测边界 (n=124, 5% FPR 工作点) | AUC + Sensitivity | AUC = 0.990, Sensitivity 90.2% | Procrustes AUC 0.988 / Sens 85.4%；CKA AUC 0.987 | 工作点灵敏度比 Procrustes 高 4.8 个百分点，比 CKA 高 2.2+ 个百分点 |
| 稳定区误报率 (准确率下降 < 1%) | 误报百分比 (越低越好) | Shesha 6.5%-7.3% | Procrustes 38.7%-44% | 误报率降低约 6×，从'cries wolf'级别降到运营可接受水平 |
| 功能降解预测等价性 (sentence embedding / causal LM) | drift vs accuracy-drop 的 Spearman $\rho$ | Embedding $\rho = 0.927$ / LM $\rho = 0.915$ | CKA 0.937/0.912, Procrustes 0.935/0.903 | 三者差距 < 0.03，统计上等价；差异不在'预测什么'而在'何时' |
局限与改进
作者承认四个边界。其一，steering 实验只测 sentence embedding 的 pooling 输出，未触及 decoder 自回归生成时的 token-level 隐藏状态，'几何稳定=可控'的论断在生成式 LLM 上尚未直接验证。其二，漂移分析使用 held-out prompts 而非训练分布本身，对 post-deployment 真实流量下的监测有效性是外推。其三，有监督 Shesha 需要标签、生产中只能退化为无监督；无监督又不能在 steering 上工作——'两个版本各管一段'是硬限制。其四，split-half 需 $K=30$ 次前向计算，全局 RDM 不区分层或子空间，无法定位'哪一层/哪个流形区域在漂移'。读者视角可补充：实验主要在英文 NLP 与 0.14B-7B 规模上完成，对 70B+ frontier LLM 与多语言/多模态场景的泛化尚未验证；Shesha_sup 在 MNLI 上偏相关从 0.764 降至 0.620，提示任务复杂度上升时稳定性的独立贡献会被可分性稀释。
独立分析的弱点
独立分析有四个潜在弱点。**弱点 1 切分随机性**：SheshaFS 用 $K=30$ 次随机维度切分平均，但论文未报告切分粒度敏感性，$d$ 较大时 (如 4096 维 Llama) 半切分的维度耦合可能放大噪声；改进方向是 bootstrap 采样或 learned partition。**弱点 2 类别不平衡敏感**：Shesha_sup/var 在 one-hot 汉明下隐含类均匀假设，工业长尾场景需改为 weighted Hamming 或 class-frequency-normalized RDM。**弱点 3 阈值选择不明**：5% 检测阈值手工设定，论文无在线自适应阈值算法；生产中需 EWMA 或 Page-Hinkley 等 sequential change-point detection 配合。**弱点 4 缺乏 mechanistic 桥接**：Shesha 是全局指标，无法回答'哪个 attention head 碎了'或'哪个 MLP 子空间在漂移'，与 circuit-level probing 工具的桥接是改进方向。
未来方向
作者提出四个直接延伸：token-level 稳定性剖面、layer-wise 漂移定位、在线自适应阈值监测、与 mechanistic interpretability 交叉（识别 robust vs fragile 电路）。**方向 A 跨语言/跨模态**：把 Shesha_sup 推广到 XLM-R、mBERT 验证 steering 预测是否仍 $\rho > 0.9$，并在视觉-语言模型上做 steering 预测对比。**方向 B 早期停止信号**：把 Shesha_sup 作为 LoRA/SFT 的 early-stopping signal，验证集稳定性下降超阈值即停止训练，避免过度 fine-tuning 破坏可干预性。**方向 C 谱尾理论**：本文只实证 Shesha 比 CKA 灵敏度高 1.96-5.23× 但缺封闭分析；未来可结合 Marchenko-Pastur 分布给出 spectral tail SNR 公式，把 5.23× 提升解释为不同家族谱衰减率 $\alpha$ 的函数。
复现评估
复现整体良好。完整代码开源在 https://github.com/prashantcraju/geometric-canary，含 69 embedding、23 对 base/instruct、合成 grammar、SST-2/MNLI 加载、4 个 Shesha 变体与 Figure 1-3 脚本。**数据**：合成由 4×8×8 grammar 生成可重现；SST-2/MNLI 用 HuggingFace datasets 标准划分。**算力**：69 embedding 多 < 500M，单卡 A100/3090 数小时跑完；最大 Llama-7B 需 16-24GB 显存。**难度**：核心只是 Spearman、bootstrap 与 logistic probe；难点在 RDM 上三角去重与 15 种子 steering 并行化。**风险**：steering 网格 $\alpha \in [-2,2]$ 步长 0.5 固定，改步长略改 max_drop 但不影响 Spearman 排序；Set A/B 划分若被改会导致信息泄露、高估 $\rho$。
论文图表
