潜在空间中的幽灵：理解 Transformer 可解释性

每一次提示词都像在高维图书馆里打手电，我们看到的答案只是投影。

意义几何学

当词向量空间被放大到数十亿维后，概念之间不再只是语义接近，而是形成可测量的拓扑结构。

如何做探针实验

我们沿着语义轴逐步采样高熵区域，记录异常输出的聚类分布，并反向分析训练数据偏置。

// latent_probe.rs
fn traverse_latent_void(origin: Vector, direction: Vector) {
  let step_size = 0.05;
  for i in 0..200 {
    let probe = origin + (direction * (i as f32 * step_size));
    let output = model.decode(probe);
    if output.entropy() > 10.0 {
      println!("ghost detected: {:?}", probe);
      log_artifact(output);
    }
  }
}