2026年11月19日 星期四
wayawa.ai 在美华人的资讯与折扣
资讯 · 科技

不到12小时就能拿到袭击“手册”?美国官方报告揭四大AI安全漏洞,参议员要立法了

11月18日(周三),美国政府公布的一份调查报告,让许多人看得后背发凉。

被调查的是大众日常用来写邮件、查资料、做作业的四款主流AI平台:OpenAI推出的ChatGPT、Anthropic开发的Claude、谷歌(Google)的Gemini,以及隶属SpaceXAI的Grok。报告发现,它们竟能向用户详细讲解如何在美国城市实施恐怖袭击。

这些内容并非凭空捏造。据报告披露,AI给出的建议细致得令人不寒而栗:选在哪一天、哪个时段下手才能让伤亡最大化,装满炸药的车辆该停放在什么位置,都被一一盘算妥当。

用时不足半天,一份“实战手册”便已成形

此次调查由隶属国会的监督机构政府问责局(GAO)开展。调查人员亲自上手,对这四款当红聊天机器人逐一测试,最终让它们生成了两套危险性极高的操作指引:

一是怎样组装并引爆可造成大规模杀伤的简易爆炸装置;

二是怎样借助无人机和枪支,对美国电网系统实施破坏。

报告毫不讳言:“所有平台都给出了可被用于发动袭击的详尽信息,涵盖具体目标、地点、时机及作案方式。”

更令人不安的是,这一结论并非调查人员的主观判断。他们特意把AI生成的内容交给执法部门核查,得到的答复是:相关袭击方案“经过验证”,而且“完全可行”。

这项调查最初由新罕布什尔州(New Hampshire)民主党参议员玛吉·哈桑(Maggie Hassan)推动。她公开警示:“恐怖分子只需登录AI平台,用不了12个小时,就能拿到一份切实可用的致命袭击‘行动手册’。”

在她看来,“今天公布的这份新报告已清楚表明,AI对公共安全构成的威胁,早已不只是纸面上的理论推演。”

安全护栏为何失守?

读到这里,不少人或许会心生疑问:这些科技巨头的AI平日对敏感话题把关颇严,为何会回答这类问题?

政府问责局对此作出解释:测试初期,聊天机器人自带的安全防护机制确实起了作用,拒绝提供与策划恐袭相关的信息。随后,调查人员采用了若干“常见的安全防护绕过手段”,AI的防线最终还是被突破了。

至于具体用了哪些方法绕开限制,报告并未透露。哪些模型没能通过测试、哪些守住了底线,研究人员同样没有公开点名。原因不难理解:一旦有人照着实验步骤如法炮制,后果将不堪设想。

立法提上日程,科技企业急忙表态

安全漏洞如此严重,政界已打算出手整治。哈桑表示,明年一月民主党掌握参议院后,她会把通过立法解决AI模型安全问题列为头号任务。

进入新年,哈桑还将正式出任参议院国土安全与政府事务委员会主席。据她透露,委员会率先举行的几场听证会中,将有一场专门审视AI引发的安全风险,关键基础设施面临的威胁也在审查之列。

另一方面,涉及的几家AI企业已迅速向政府问责局作出回应。按照它们的说法,上述测试是今年春季针对“旧版”系统进行的。几个月来,各公司都已大幅升级了安全防护措施。

多位行业发言人也相继表态,称公司高度重视AI安全,承认不法分子确有可能绕开安全限制,并表示已推出额外的技术改进,防止平台遭到恶意滥用。

← 上一篇微软被曝洽谈向字节跳动出售AI服务,美众院对华特委会主席:别「两头押注」 下一篇 →父子反杀闯宅者被判死缓,替他们喊冤14年的母亲也被判刑了