来源:ArXiv AI 2026-07-02 04:00

从信号到结构:内存架构如何驱动 LLM 代理中的语言出现

代理 容量 架构 信号 内存
arXiv:2607.00233v1 公告类型:新 摘要:两个智能体如何从头开始发明一种共享语言?在刘易斯信号游戏中,发送者和接收者必须仅使用他们的交互历史记录来协调代码。我们使用 LLM 代理研究了不同通道配置的五种内存架构,发现内存架构比通道容量更重要。具有持久私人笔记本的代理受益于过剩的通道容量,并避免无状态代理中出现的高容量崩溃,实现最可靠的协调(容量 = 25 时为 0.867 \pm 0.023$)。无状态代理在中等容量时达到峰值,然后随着词汇量的增长超出滚动上下文窗口可以跟踪的范围而降级。笔记本将学习到的约定具体化,使代理不必每轮重新派生代码。受信息瓶颈启发的论点预测最佳容量等于对象数量。相反,瓶颈(容量= 8)被证明是一个脆弱点,而剩余容量通常会更好。我们表明,仅凭渠道容量无法预测协调;记忆架构决定了智能体是否将交互历史转化为稳定的约定,并且需要两个维度来理解信号如何成为语言。

相关文章推荐

返回首页