信仰还是电路？上下文图学习的因果证据

arXiv:2605.08405v1 公告类型：新 摘要：法学硕士如何在上下文中学习？是通过模式匹配最近的标记，还是通过推断潜在结构？我们使用玩具图随机游走跨越两个竞争的图结构来探讨这个问题。原则上，该任务的答案是可判定的：模型要么跟踪全局拓扑，要么复制局部转换。我们提出了两条证据，证明这两种说法都不够充分。首先，通过 PCA 重建内部表示结构表明，在中间混合比下，两种图拓扑同时编码在正交主子空间中。这种模式很难与纯粹的本地过渡复制相协调。其次，残差流激活修补和图差异转向因果性地干预了该图族信号：后期层修补几乎完全转移了干净的图偏好，而线性转向将预测向预期方向移动，并在范数匹配和标签混洗控制下失败。总而言之，我们的发现与双机制解释最为一致，其中真正的结构推理和感应电路并行运行。