现实世界临床护理中的推理：为什么大型语言模型对于自主临床决策支持尚不安全

arXiv:2607.28677v1 公告类型：新 摘要：法学硕士现在可以通过医疗执照考试，并且在精心策划的案例中，可以在诊断推理方面与医生相媲美。这些发展加速了法学硕士在诊断和治疗指导、管理文档和基于规则的警报增强方面的症状评估和临床决策支持的使用。这一观点涉及这些应用中最重要的一个：对自我呈现的、未分化的患者进行自主分类，很少或没有临床医生参与其中。对于这项任务，安全性的证据尚不存在。差距不在于医学知识，而在于临床评估的保真度：当安全答案是不可能的、不容错过的诊断时，优化以继续最可能的文本的模型并没有优化以安全地采取行动。安全分诊并不是选择最可能的诊断；而是选择最有可能的诊断。这是不对称成本下的顺序决策，其中单个灾难性失误超过了许多误报，而决定性信号可能是患者未自愿提供的信号 - 并且模型尚未经过训练来寻找。因此，核心缺陷之一是在不确定性下收集信息。在不完整的历史下，LLM系统可能无法显示安全分类所需的行为：扩大差异；寻找失踪的危险信号；降低升级门槛；推迟判断，直至获得足够的信息；在高危害诊断仍未排除的情况下，人们的担忧不断升级。考虑到迄今为止的评估通常使用完整的、精心策划的、置信门控的模拟，法学硕士的这些失败模式可能很难被发现。在这些条件下，法学硕士的应用可能会因类似助理的行为和积极偏见而得到放大，包括轻信、随和性和错误校准——当这些不受临床分类逻辑的约束时。