别问AI像不像人了，先问它在灾难里能不能逃命

当AI进入火灾、地震和踩踏等极端场景它是否真的具备判断、协作和逃生能力。2023年斯坦福和Google联手做了一个实验25个AI居民在一个叫Smallville的虚拟小镇里生活会自己组织一场情人节派对会互相八卦会因为没被邀请而不高兴。Generative Agents论文封面图游戏世界中的25个生成式智能体这个叫《Generative Agents》的项目作者之一正是斯坦福博士生Joon Sung Park当时更多被当作一个好玩的技术展示——原来大模型不只是一个聊天窗口它还能扮演人还能被放进一个持续运转的世界里自己生成记忆、自己做计划、自己和别人互动。论文里最出圈的一张图就是智能体们自发在Hobbs咖啡馆办起情人节派对的场景——没人安排剧本是几个agent自己商量、自己发邀请、自己决定要不要去。Generative Agents论文Figure 4智能体自发组织的情人节派对场景CMU论文Figure 1应急管理人员从不信任到信任LLM智能体模拟的16个月过程过去一年这项技术被一批研究机构从派对场景一路带进了地铁火灾、飓风疏散、毕业典礼疏散预案这类不能开玩笑的场景里。卡内基梅隆大学、清华大学、天津大学、斯坦福HAI……这些机构在做同一件事让AI智能体不再演一场派对而是演一场逃命。而与此同时另一批研究者——比如阿姆斯特丹大学的计算社会科学学者Petter Törnberg——正在从方法论根子上质疑这些演得像的智能体到底能不能被当真。这篇文章就想把这两拨人放在一起看。逃命是决策问题不是物理问题传统的疏散仿真是纯物理模型给定一个空间、一群点、一个出口用元胞自动机或者社会力模型算出人流怎么走、多久能走完。这类模型的问题是它假设人是理性的、匀速的、只服从物理规律的粒子——但真实灾难现场里人会愣住、会往回跑找家人、会因为看不清出口标志而原地打转、会因为群体恐慌而互相踩踏。这些恰恰是纯物理模型算不出来的东西却是历史上大多数踩踏事故里真正致命的部分。图物理模型想象的人群 vs 灾难现场真实的人群新一代仿真的思路是把系统拆成两层物理层继续负责碰撞、力学这些传统计算机图形学擅长的事认知层则交给大语言模型驱动的智能体去处理判断、犹豫、恐慌、信息不对称——这套物理—认知分离架构本质上是给虚拟人群配了一个会犹豫的脑子而不只是一具会跑的身体。过去一年里至少有四组独立的研究分别从决策身体规模个体精度四个不同角度往这套架构里填内容。图物理—认知分离架构示意四个真实案例四种做法卡内基梅隆大学从100人到13000人的毕业典礼预案这项研究由CMU计算机学院的Yuxuan Li、Sauvik Das和Hirokazu Shirado三人主导和学校应急管理团队做了一项历时16个月的迭代设计研究目标是给学校真实的毕业典礼疏散预案提供参考。系统经历了五轮迭代从100个智能体的小规模验证扩展到500、3000最终做到13000个智能体——这个数字直接对应了这所学校毕业典礼的真实人群规模。研究团队没有一上来就做大规模仿真而是花了很长时间先解决应急管理人员愿不愿意相信一个AI模拟结果这个更基础的问题论文标题里用的说法是从不信任到信任的转变过程这本身说明这类系统的门槛不完全是技术门槛也是一个组织信任建立的过程。CMU论文Figure 4真实毕业典礼人群动力学与模拟结果对比论文里有一张图对应上方Figure 4把真实毕业典礼的人群动力学数据和模拟结果做了对比另有一张图画出了不同疏散方案下的累积疏散进度曲线。最终这项为期16个月的合作产出了三条具体建议已经被写进了学校真实的标准操作流程SOP——这是目前四个案例里唯一一个已经从论文里的demo变成真被写进制度文件的例子。天津大学卡迪夫大学清华大学地铁火灾里的身体这个叫RESCUE的系统由天津大学教授李坤国家优青、天大智能与计算学部三维视觉研究组负责人牵头联合卡迪夫大学、清华大学团队完成解决的是另一个问题光有会决策的脑子还不够虚拟人还得有一具物理上可信的身体——推挤时手臂会不会真的碰到别人、摔倒姿态自不自然、不同体型的人跑起来速度是否符合真实生理数据。RESCUE项目主页Banner个性化、物理合理、三维自适应的在线人群疏散模拟团队在项目主页上还放了一段实际的demo视频imgs/demo_4201.mp4可以看到虚拟人群在拥挤中推搡、摔倒、爬起来继续跑的连贯过程这是目前四个案例里唯一能看到动态演示而不只是论文截图的一个。RESCUE论文24个身体部位碰撞受力可视化团队做了一个个性化步态转换器可以实时计算24个身体部位在拥挤碰撞中的受力情况上图论文附带的定性对比结果和消融实验显示这套方法比过去的疏散仿真更贴近真实人群录像团队还专门统计了不同类别人群老人、儿童、成年人在拥挤状态下的速度分布箱线图用来验证模拟出的个体差异是否符合真实生理数据。这项工作已被计算机视觉顶会ICCV 2025接收项目代码和主页已经公开。清华大学把智能体放进一整座城市如果说前两个案例是事件级的模拟清华大学电子工程系李勇教授团队做的AgentSociety做的是城市级论文16位作者名单里Jinghua Piao、Yuwei Yan等为共同一作李勇是通讯作者。论文摘要里写的数字是给超过一万个智能体生成完整的社会生活累计产生了500万次互动。AgentSociety论文Figure 2总体框架图这套系统被用来跑过好几组社会实验其中一组专门模拟飓风等外部冲击下的城市反应另外几组则用来看社交媒体上极端信息传播、无条件基本收入这类政策变量如何影响一整座虚拟城市的行为分布。这意味着同一套底层技术既能拿来算一场毕业典礼怎么疏散也能拿来算一场飓风来了以后一整座城市会不会乱——从单一场馆到整座城市验证难度是指数级上升的这也是后面Törnberg那波质疑最主要针对的规模区间。AgentSociety论文Figure 10大规模社会模拟引擎系统架构斯坦福AI分身能有多像你前三个案例都在解决怎么让一群虚拟人看起来像真人在逃命斯坦福HAI这项由博士生Joon Sung Park主导的研究问的是更基础的问题AI分身到底能在多大程度上准确预测一个具体真人会怎么做决定。团队招募了1052名具有全美代表性的受试者先做两小时深度访谈再结合社会调查量表GSS、五因素人格测试、五种行为经济学博弈实验最后比较AI生成的数字分身和真人本人两周后重新作答的结果有多接近。结论是结合访谈和问卷数据的智能体复现真人自己两周后重复作答的准确率达到0.86比单纯依赖人口统计学变量的传统方法明显更准也明显减少了按政治立场、种族、性别分组时的预测偏差。Park在斯坦福HAI的采访中说得很直接这些语言模型其实是在扮演它刚刚采访过的那个人。The language model is trying to role-play as the person it just interviewed.他认为访谈数据比单纯的人口统计标签更关键因为访谈数据的好处在于它包含了每个人的独特之处语言模型因此不会那么频繁地做出基于种族的笼统概括。他也把这项研究的野心说得很明白我确实认为现在有很多社会问题我们没能很好解决而这个测试平台可以让它们变得更容易应对气候变化、疫情政策这类棘手问题都需要极其复杂的规划和条件推演。这项研究的价值在于它给AI分身到底有多可信这个问题提供了一个可以量化的基准线而这条基准线正是前面几个逃生仿真系统能不能被信任的地基。泼冷水的人验证才是真正的难题如果只听这四组研究者的说法这项技术的发展轨迹会显得异常顺利——从100人到13000人从单一场馆到一整座城市准确率还能量化到86%。但阿姆斯特丹大学计算社会科学副教授Petter Törnberg和合作者Maik Larooij在一篇题为《大语言模型解决了基于智能体建模的问题吗》的批评性综述里给这条乐观叙事泼了一盆冷水。他们论文摘要里的原话是We argue that there are reasons to believe that LLMs will exacerbate rather than resolve the long-standing challenges of ABMs. The black-box nature of LLMs moreover limit their usefulness for disentangling complex emergent causal mechanisms.——Larooij Törnberg, arXiv:2504.03274他们提出的第一个问题是黑箱性质大语言模型从根本上是黑箱模型……几乎不可能确定为什么某个特定输入会产生某个特定输出。更麻烦的是同样的输入在不同次运行里可能给出不同的输出这直接威胁到科学研究最看重的可复现性。第二个问题是偏差与刻板化模型经常错误地表征群体及其特征经常表现出夸张的刻板印象。第三个问题是幻觉和分布外场景下的失控在历史上没有先例的场景中模型行为可能变得不稳定——而灾难现场恰恰经常是历史上没有先例的场景。Törnberg团队给出的核心诊断是验证仍然是核心挑战而且加入大语言模型恶化而非解决了这个问题the addition of LLMs exacerbates rather than resolves this issue。他们认为目前很多研究依赖的是表面效度或者只是松散关联底层机制的结果指标这让这类模型占据了一个模糊不清的方法论位置——听起来很像科学但既不完全是传统的基于规则的仿真也不是被充分验证过的统计模型。这个批评并非无的放矢。就连专门做数字分身验证的斯坦福团队也在论文里承认自己的方法存在局限另一项研究疫苗犹豫政策模拟的论文里作者们同样明确写道这项早期探索不旨在提供确定的政策指导并且发现不同大模型之间的表现差异巨大部分模型的偏差能超过20%这背后正是预训练数据偏差在作祟。换句话说连身处这个领域内部、真心想把这件事做成的研究者也在论文的角落里写下了和Törnberg遥相呼应的保留意见。三层商业价值把这四类研究串起来看能看出一条清晰的商业化路径第一层是面向应急管理机构的SaaS化工具把CMU那样耗时16个月的定制研究做成学校、体育场馆、地铁站可以直接调用的标准化预案生成服务第二层是叠加在城市数字孪生之上的行为层AgentSociety这类城市级模拟可以让数字孪生从看得见的建筑物理模型升级成算得出人会怎么反应的社会模型第三层则是保险行业的风险定价——如果一套系统能相对准确地模拟出某个场馆在特定人群密度下的伤亡概率分布这本身就是一种可以被保险精算模型直接使用的数据。但按照Törnberg的批评这三层商业化里越往后风险越大SaaS化的预案生成工具出错了大不了是建议不够好但如果保险公司真的把一个尚未被充分验证的黑箱模型的输出直接喂进精算定价模型一旦模型在某个没有先例的场景里悄悄失控代价可能是系统性的。图逃生模拟技术的三层商业化路径别高兴太早三个具体风险结合Törnberg的批评和四个案例本身暴露的问题至少有三个风险值得单独拎出来。图逃生模拟技术的三个具体风险第一个风险是模型太平均。大语言模型的训练数据本质上是海量人类文本的统计平均这意味着它扮演出来的虚拟人行为上很容易向最常见的反应收敛而真实灾难现场的极端个体行为——比如某个人因为特殊心理创伤而做出完全反常的举动——恰恰是最容易被模型磨平的部分而这些极端个体行为往往又是伤亡集中发生的地方。这正好对应Törnberg说的夸张的刻板印象问题的反面不是刻板印象太夸张而是个体差异被抹得太平。第二个风险是微观可信、宏观失真。斯坦福的研究证明了单个数字分身在特定任务上可以做到86%的还原度但这不代表几千个这样的分身放在一起模拟一场疏散时群体层面涌现出的踩踏、拥堵、次生恐慌这些宏观现象也同样可信——微观精度和宏观涌现是两个不同量级的验证问题这恰恰是Törnberg那句验证仍是核心挑战想说的事情目前没有哪项研究能证明两者可以简单叠加。第三个风险是过度对齐导致失真。大模型在训练过程中被反复调教得安全、礼貌、避免过激反应但灾难现场里恰恰需要模拟出违规、非理性、甚至攻击性的人类行为一个被安全对齐磨平了棱角的模型很可能天然地低估真实人群的混乱程度和恐慌烈度——这也是一种分布外失控只不过失控的方向不是太混乱而是太乖。结语问题变了从AI小镇到今天这项技术真正的进步不是让虚拟人看起来更像人而是让研究者开始问一个更尖锐的问题这些虚拟人在最坏的那几分钟里还像不像人派对上像不像人考验的是语言和社交表现火灾里像不像人考验的是在信息缺失、极度恐慌、生死攸关的状态下会不会跟真人一样做出误判、跟风、甚至互相伤害。CMU、天大、清华、斯坦福这四组人正在用各自的方式回答能不能做到Törnberg这样的批评者则在提醒所有人先回答你怎么知道它做到了。这才是逃生模拟和AI小镇之间真正的分野也是这项技术接下来能不能被应急管理部门、保险公司真正信任并投入使用的关键。但不管这些系统能做到多精确最后按下疏散指令、决定是否相信模拟结果的终究还得是人。原文链接别问AI像不像人了先问它在灾难里能不能逃命-36氪