它认为有多难？分析法学硕士思想链轨迹中的步骤感知推理能量

arXiv:2607.28674v1 公告类型：新 摘要：理解如何在各个思想链（CoT）推理步骤之间分配计算量仍然是一个开放的挑战：现有的可解释性方法依赖于输出级信号或将处理深度折叠为单个轨迹级标量，从而使逐步的工作量变得不透明。我们提出了Step-Aware Reasoning Energy（SARE），这是一种几何框架，它通过相邻变压器层的令牌隐藏状态的Gram矩阵之间的中心核对齐（CKA）来量化各个CoT步骤粒度的工作量，捕获令牌间关系结构，而不需要特征向量对齐或集群对应。 SARE 通过将 CoT 轨迹建模为潜在语义状态之间的转换，进一步将这种能量置于推理的语义进展中。在六个推理基准和三个开放权重法学硕士中，我们发现推理能量在不同步骤类型中高度不均匀，表现出轨迹级指标不可见的类似阶段的转变；不正确的轨迹在关键推理连接处显示出系统性的较低能量；在大多数设置中，基于 SARE 的特征匹配或优于基于输出的置信基线，这表明内部几何动力学对表面信号之外的预测信息进行编码。