学习社会规范增强动态人类与人工智能协调的兼容性

arXiv:2607.07021v1 公告类型：新 摘要：人类在动态互动中不断地与他人协调，通常是通过隐含的、难以量化的社会规范，这些社会规范充当交互主体之间共享的默认期望。随着包括大型语言模型 (LLM) 在内的人工智能代理逐渐融入日常生活，它们越来越多地参与此类交互并重塑社交交互结构。然而，它们常常无法以有效、体贴和自然的方式与人类协调。我们假设这种差距的出现是因为现有的方法将模型行为与人类演示结合起来，而没有明确量化产生这种行为的基本规范。我们选择人车交互作为代表性的动态交互，并开发了一个简化的实验平台来捕捉其关键的交互特征。从通过该平台收集的 3,456 条动态人类互动中，我们确定了人类社会规范的三个基本原则：结果可预测性、价值一致性和优势意识。将这些原则纳入人工智能代理中可以显着改善人类与人工智能的协调。在与人类的闭环交互任务中，基于社会规范的 LLM 的总分比基线策略高出近四倍，并且比人与人的交互高出 43%。这些发现表明，将默认的社会规范形式化为明确的、可量化的原则可以使人工智能代理在动态交互中实现互利协调，支持它们更自然地融入人类社会。