从AGI到ASI

arXiv:2606.12683v1 公告类型：新 摘要：在过去的十年中，构建人类水平的通用人工智能已经从遥不可及的猜测转变为许多最大的人工智能组织下一个十年的具体目标。实现这一目标将对人类社会产生深远的影响，这为未来十年提出了许多复杂的问题。本报告调查了人工智能本身如何在后通用人工智能世界中沿着机器智能的连续体继续发展。这个连续体的终点——通用人工智能——在理论上是很好理解的，它为本报告的主要焦点提供了一些正式的基础：从人类水平的通用人工智能到人工通用超级智能的转变，直观地可以理解为一个比人类大型组织更智能、更有认知能力的系统。在描述了 ASI 的特征之后，该报告讨论了从 AGI 到 ASI 的四种潜在途径：扩展 AGI、人工智能范式转变、递归改进以及从大规模多智能体集体中出现的 ASI。然后，报告讨论了这些途径中可能存在的摩擦和瓶颈。确定这些摩擦的影响是可以忽略不计还是重大，提出了许多具体的开放研究问题。由于预测 ASI 进展存在很大的不确定性，不能排除 AI 进展可能在未来几年继续加速。这可能意味着，由于将人类水平的通用人工智能引入我们的社会而引起的单一变革性步骤的变化的形象可能是不准确的。更恰当的说法可能是人工智能在许多科学技术领域的进步和突破所引发的一系列变革性社会变革的前景。为这一前景做好准备需要全球范围和兴趣的大规模跨学科努力。