循环中的内存：进程内检索作为语言代理的扩展工作内存

arXiv:2607.05690v1 公告类型：新 摘要：语言智能体运行一个循环——观察、推理、行动——但它们推理的记忆位于循环之外：每轮最多查询一次的存储。我们研究内存在循环内移动、每一步读取和写入的机制。障碍始终是延迟：网络存储在数十到数百毫秒内做出响应，而当检索成本高昂时，循环检索可能会使端到端延迟增加高达 83 倍。先前的工作管理该成本而不是质疑它：服务层调度隐藏了它，“内存优先”设计将检索限制为每轮一次。我们认为延迟是存储所在位置的属性，而不是内循环模式：进程内存储在大约 100 秒内做出响应，比网络机制低三个数量级，并且在这个速度下，每步税收会崩溃。根据扩展思维论文的奇偶性原理，一个足够快、能够持续、直接可用的存储成为扩展的工作记忆，而不仅仅是代理查阅的工具。前提是因果关系：保持固定的每轮内存延迟预算并仅改变存储的应答速度，冗余操作随延迟单调上升 - 进程内速度为 12 中的 0.0，110 毫秒云往返中为 12 中的 7.2（gpt-5-nano、gpt-5-mini；精确排列 p=0.0079）。我们端到端地演示了该机制：在有界窗口下的四个 GPT-5 类模型中，使用循环内存将召回率从 0/5 提高到 3.6-4.8/5，将操作存储在 p50 80-165us - 尽管指示的重述每个回复基线也完美地解决了这个问题，但代币成本随着工作集的增加而增长。存储在任何运行中都不会丢失任何事实（保留了 244 次写入中的 244 次）；每次未命中都会追溯到代理的读取策略，而不是商店。我们的测量还重新定位了瓶颈：主要的每步成本是嵌入（网络上约 200-400 毫秒）；将进程内存储与小型本地嵌入器配对，可将完整操作恢复到约 40us。