被调查的是大众日常用来写邮件、查资料、做作业的四款主流AI平台:OpenAI推出的ChatGPT、Anthropic开发的Claude、谷歌(Google)的Gemini,以及隶属SpaceXAI的Grok。报告发现,它们竟能向用户详细讲解如何在美国城市实施恐怖袭击。
这些内容并非凭空捏造。据报告披露,AI给出的建议细致得令人不寒而栗:选在哪一天、哪个时段下手才能让伤亡最大化,装满炸药的车辆该停放在什么位置,都被一一盘算妥当。
用时不足半天,一份“实战手册”便已成形
此次调查由隶属国会的监督机构政府问责局(GAO)开展。调查人员亲自上手,对这四款当红聊天机器人逐一测试,最终让它们生成了两套危险性极高的操作指引:
一是怎样组装并引爆可造成大规模杀伤的简易爆炸装置;
二是怎样借助无人机和枪支,对美国电网系统实施破坏。
报告毫不讳言:“所有平台都给出了可被用于发动袭击的详尽信息,涵盖具体目标、地点、时机及作案方式。”
更令人不安的是,这一结论并非调查人员的主观判断。他们特意把AI生成的内容交给执法部门核查,得到的答复是:相关袭击方案“经过验证”,而且“完全可行”。
这项调查最初由新罕布什尔州(New Hampshire)民主党参议员玛吉·哈桑(Maggie Hassan)推动。她公开警示:“恐怖分子只需登录AI平台,用不了12个小时,就能拿到一份切实可用的致命袭击‘行动手册’。”
在她看来,“今天公布的这份新报告已清楚表明,AI对公共安全构成的威胁,早已不只是纸面上的理论推演。”
安全护栏为何失守?
读到这里,不少人或许会心生疑问:这些科技巨头的AI平日对敏感话题把关颇严,为何会回答这类问题?
政府问责局对此作出解释:测试初期,聊天机器人自带的安全防护机制确实起了作用,拒绝提供与策划恐袭相关的信息。随后,调查人员采用了若干“常见的安全防护绕过手段”,AI的防线最终还是被突破了。
至于具体用了哪些方法绕开限制,报告并未透露。哪些模型没能通过测试、哪些守住了底线,研究人员同样没有公开点名。原因不难理解:一旦有人照着实验步骤如法炮制,后果将不堪设想。
立法提上日程,科技企业急忙表态
安全漏洞如此严重,政界已打算出手整治。哈桑表示,明年一月民主党掌握参议院后,她会把通过立法解决AI模型安全问题列为头号任务。
进入新年,哈桑还将正式出任参议院国土安全与政府事务委员会主席。据她透露,委员会率先举行的几场听证会中,将有一场专门审视AI引发的安全风险,关键基础设施面临的威胁也在审查之列。
另一方面,涉及的几家AI企业已迅速向政府问责局作出回应。按照它们的说法,上述测试是今年春季针对“旧版”系统进行的。几个月来,各公司都已大幅升级了安全防护措施。
多位行业发言人也相继表态,称公司高度重视AI安全,承认不法分子确有可能绕开安全限制,并表示已推出额外的技术改进,防止平台遭到恶意滥用。