来源:ArXiv AI 2026-07-14 04:00

具有规则对齐小语言模型和多代理自校正的闭环控制

验证 模型 代理 重新 对齐
arXiv:2607.09713v1 公告类型:新 摘要:实现自主工业运营的关键一步是能够根据自然语言需求规范创建和重新配置控制策略,而无需或很少进行手动重新设计。在这种情况下,人工智能代理生成的策略与植物感知验证器(例如数字孪生)配合使用可以成为可靠的路径,该验证器可以在执行之前检查生成的候选操作。然而,实际部署受到推理延迟和计算占用的限制:基于云的大型模型对于边缘闭环使用通常太慢、不透明或数据敏感。这项工作研究了是否可以重新训练紧凑的小语言模型(SLM)以进行控制推理并嵌入到验证器引导的校正循环中。我们使用通过组相对策略优化 (GRPO) 对齐的 Qwen2.5-1.5B 模型,并结合 (i) 动作代理、(ii) 符号/数字孪生式验证层和 (iii) 迭代引导输出走向有效操作的重新提示代理。在随机热控制模拟(30 个实验,每个实验 500 个步骤)中,该框架在 3.84 秒的平均推理延迟下实现了 91.5% 的平均动作对齐精度(在不同情况下为 86.3%--100%)。在符号重新映射下,它保持了 95% 的范围内比率,这表明尽管代币级别协议减少,但物理监管依然强劲。这些结果支持 SLM+验证器架构作为实现边缘可重构自主控制的实用路径。

相关文章推荐

返回首页