来源:ArXiv AI 2025-10-16 04:00

自适应推理执行器:高效推理的协作代理系统

推理 大型 系统 LLM 深度
arXiv:2510.13214v1 公告类型:新 摘要:大型语言模型(LLM)的最新进展表明,思维链提示和深度推理可以显着提高复杂任务的性能,而多智能体系统可以通过模型辩论进一步提高准确性。然而,将深度推理应用于所有问题的计算成本很高。为了减轻这些成本,我们提出了一个集成小型和大型法学硕士的补充代理系统。小型法学硕士首先生成一个初始答案,然后由大型法学硕士进行验证。如果答案正确,则直接采纳;否则,大型LLM进行深度推理。实验结果表明,对于简单问题,我们的方法将大型 LLM 的计算成本降低了 50% 以上,并且精度损失可以忽略不计,同时在复杂任务上始终保持稳健的性能。

相关文章推荐

返回首页