通过知识图基础增强小语言模型推理

arXiv:2607.14149v1 公告类型：新 摘要：尽管大型语言模型（LLM）已经为零样本推理设定了基准，但它们的部署仍然成本高昂且对环境造成负担。小语言模型 (SLM) 提供了一种可持续的替代方案，但在需要复杂、多跳逻辑基础的任务上容易出错。我们使用 CLUTRR 亲属关系基准研究神经符号代理框架，以增强 SLM 的推理能力，特别是 Gemma 3 (1B、4B) 和 Llama 3.2 (3B)。我们的方法利用两个专用工具调用将 SLM 转变为极简代理：用于符号三元组提取的 extract_facts 和通过关系图卷积网络 (RGCN) 进行专家推理的 get_hint。我们在两种配置中评估这些模型，包括具有真实三元组的 Oracle 场景和依赖自提取知识的现实场景。我们的结果表明，虽然 RGCN 派生的提示比仅故事基线提供了 1.5 - 2 倍的性能增益，但系统受到提取瓶颈和顺序演绎脆弱性的限制，其中早期提取错误在多跳链上复合。此外，我们在特定架构中发现了“干扰效应”，尽管存在专家提示，但嘈杂的、自生成的事实仍会降低性能。这项工作描述了低资源代理系统中符号基础的挑战，并为神经符号代理管道中的迭代验证提供了路线图。