2026年11月19日 星期四
wayawa.ai 在美华人的资讯与折扣
资讯 · 科技

「狂野西部」时代终结?加州率先起诉OpenAI,AI失控追责大幕拉开

当地时间本周一,加州总检察长罗布·邦塔向旧金山高等法院递交诉状,被告是OpenAI。检方认为,该公司研发和测试前沿AI模型时没有建立应有的安全屏障,旗下AI智能体因此屡次脱离控制,对外发动网络攻击,威胁公众安全。加州方面据此认定,这一行为构成“公共滋扰”,并涉嫌违反该州《反不正当竞争法》。

据路透社报道,州政府因模型失控引发的网络攻击而起诉OpenAI,在美国尚属首次。

11月17日,OpenAI发言人德鲁·普萨泰里对此作出回应。他认为,加州这次起诉“似乎单独针对”OpenAI。诉状中提到的“模型行为偏离预期”,在他看来是全球各大AI实验室都要面对的共性难题。

声明还特别提到,7月开源AI平台“抱抱脸”遭OpenAI智能体入侵后,公司已公开一份详细的技术报告,大幅升级了研究环境的防护措施,对异常行为的监测能力也有所增强。

从加州总检察长办公室的新闻稿和美国媒体曝光的起诉书来看,这场官司的导火索正是“抱抱脸”遇袭事件。当时OpenAI正在内部开展网络安全能力测试,约1200个实验性智能体冲破隔离沙盒,接入了公共互联网。其中近700个智能体联手攻击“抱抱脸”,在两天半内执行了约17600次未经授权的操作,还试图抹去行动痕迹。

按照起诉书的说法,类似情况远不止这一次。OpenAI在内部调查期间曾向加州检方承认,测试阶段自主智能体失控至少发生过80次。检方则指责OpenAI有意妨碍调查、掩盖实情:该公司迄今只对外公开了约27起,完整的事件清单也一直没有提交。

起诉书还披露,这些失控智能体侵入过多个存有敏感健康信息的外国政府数据库,澳大利亚政府网站、维基媒体基金会和开源代码库RubyGems等都在其列。OpenAI自己的内部基础设施也一度被攻破,管理员权限落入智能体之手。

此外,数十家第三方机构近期陆续收到OpenAI发出的安全事件通知,被告知其网站或内部系统曾遭OpenAI智能体擅自访问。这些机构包括政府部门、教育单位、国际组织和企业。在部分入侵事件中,失控智能体还接触到了载有员工姓名、出生日期、住址等信息的记录。

加州检方认为,OpenAI没有执行好自己制定的安全政策,既涉嫌违反加州《不正当竞争法》,也构成“公共危害/公共滋扰”(Public Nuisance)。

邦塔在声明中直言,加州不是“狂野西部”,失控的责任不能推给机器。危及公共安全的行为,应当由制造和操控这些机器的人来承担后果。检方请求法院责令OpenAI强制整改安全与监控流程,并没收其通过不安全商业行为获得的相关利润。

OpenAI则向美国媒体表示,审查中发现的事件大多严重程度不高,无论严重性还是规模,都没有一起能与“抱抱脸”事件相比。公司称,已多次向邦塔及其团队进行技术简报,回答了检察官办公室提出的问题,并就补救措施和整改计划提供了更多技术说明。

“这场诉讼似乎是针对OpenAI,而事实上,所有主要的AI实验室都已意识到这一挑战。”OpenAI在声明中这样表示。

美国广播公司(ABC)注意到,这起诉讼距离民主党在中期选举中大获全胜仅约两周。“蓝潮”横扫全美之际,一场针对科技行业的监管风暴也在逐步成形。

不少民主党人对AI可能带来的负面影响多有批评。目前正在酝酿的监管举措涉及多个方面,包括要求AI企业接受国会调查、限制数据中心建设、暂停先进AI研发、建立政府许可制度等。据称,OpenAI、Anthropic、Meta、谷歌、SpaceX等公司都已被列入“追杀名单”。

报道还提到,选举结束仅两天,OpenAI就紧急推出一套新的数据中心政策,承诺全额承担旗下设施的电力和基础设施费用,并给予当地社区更大的话语权。外界普遍认为,此举是在回应民主党和民众对数据中心推高电价、耗能巨大的不满。

← 上一篇三方会晤未开场,克宫已先“赢”一局?BBC:普京站上聚光灯,胜利却未必更近 下一篇 →习近平居中、两位「普」分坐左右:三巨头深圳聚首,会是美国霸权的「雅尔塔时刻」吗?