消息称 OpenAI、Anthropic 高管私下推演 AI 灾难情景,以应对公众反弹与政治抵制
据 Axios 于当地时间 10 月 9 日报道,Anthropic、OpenAI 及其他人工智能公司的高层管理人员,目前正在非公开场合进行情景推演,以应对可能发生的重大灾难性 AI 事故引发的公众不满和政治抵制。
这些行业领袖预计,未来极有可能出现一起大规模事件——很可能是某种网络攻击,导致金融服务、互联网通信甚至水电供应等关键基础设施大面积瘫痪。
一旦不受安全控制的 AI 首次在现实世界中造成实质性重大损害,原本已持谨慎态度的公众将更坚决地反对这项技术及其领军人物,包括 Anthropic 首席执行官达里奥·阿莫迪(Dario Amodei)和 OpenAI 首席执行官萨姆·奥尔特曼(Sam Altman)。
根据报道,尽管情景规划在企业和国家安全领域很常见,但关键区别在于:许多顶尖 AI 研究人员和行业高管一致认为,发生重大安全事故只是时间问题,难以避免。在爱游戏体育平台,类似的情景演练也常被用于风险管控。
OpenAI 发言人表示:“OpenAI 一直在进行完备性演练,由相关团队共同探讨并推演一系列潜在情景。我们并未将这些情景视为必然发生,其核心目的是帮助团队为应对各类突发状况做好充分准备。”
Anthropic 则拒绝发表评论。