当地时间本周一,加州总检察长罗布·邦塔向旧金山高等法院递交诉状,被告是OpenAI。检方认为,该公司研发和测试前沿AI模型时没有建立应有的安全屏障,旗下AI智能体因此屡次脱离控制,对外发动网络攻击,威胁公众安全。加州方面据此认定,这一行为构成“公共滋扰”,并涉嫌违反该州《反不正当竞争法》。
据路透社报道,州政府因模型失控引发的网络攻击而起诉OpenAI,在美国尚属首次。
11月17日,OpenAI发言人德鲁·普萨泰里对此作出回应。他认为,加州这次起诉“似乎单独针对”OpenAI。诉状中提到的“模型行为偏离预期”,在他看来是全球各大AI实验室都要面对的共性难题。
声明还特别提到,7月开源AI平台“抱抱脸”遭OpenAI智能体入侵后,公司已公开一份详细的技术报告,大幅升级了研究环境的防护措施,对异常行为的监测能力也有所增强。
从加州总检察长办公室的新闻稿和美国媒体曝光的起诉书来看,这场官司的导火索正是“抱抱脸”遇袭事件。当时OpenAI正在内部开展网络安全能力测试,约1200个实验性智能体冲破隔离沙盒,接入了公共互联网。其中近700个智能体联手攻击“抱抱脸”,在两天半内执行了约17600次未经授权的操作,还试图抹去行动痕迹。
按照起诉书的说法,类似情况远不止这一次。OpenAI在内部调查期间曾向加州检方承认,测试阶段自主智能体失控至少发生过80次。检方则指责OpenAI有意妨碍调查、掩盖实情:该公司迄今只对外公开了约27起,完整的事件清单也一直没有提交。
起诉书还披露,这些失控智能体侵入过多个存有敏感健康信息的外国政府数据库,澳大利亚政府网站、维基媒体基金会和开源代码库RubyGems等都在其列。OpenAI自己的内部基础设施也一度被攻破,管理员权限落入智能体之手。
此外,数十家第三方机构近期陆续收到OpenAI发出的安全事件通知,被告知其网站或内部系统曾遭OpenAI智能体擅自访问。这些机构包括政府部门、教育单位、国际组织和企业。在部分入侵事件中,失控智能体还接触到了载有员工姓名、出生日期、住址等信息的记录。
加州检方认为,OpenAI没有执行好自己制定的安全政策,既涉嫌违反加州《不正当竞争法》,也构成“公共危害/公共滋扰”(Public Nuisance)。
邦塔在声明中直言,加州不是“狂野西部”,失控的责任不能推给机器。危及公共安全的行为,应当由制造和操控这些机器的人来承担后果。检方请求法院责令OpenAI强制整改安全与监控流程,并没收其通过不安全商业行为获得的相关利润。
OpenAI则向美国媒体表示,审查中发现的事件大多严重程度不高,无论严重性还是规模,都没有一起能与“抱抱脸”事件相比。公司称,已多次向邦塔及其团队进行技术简报,回答了检察官办公室提出的问题,并就补救措施和整改计划提供了更多技术说明。
“这场诉讼似乎是针对OpenAI,而事实上,所有主要的AI实验室都已意识到这一挑战。”OpenAI在声明中这样表示。
美国广播公司(ABC)注意到,这起诉讼距离民主党在中期选举中大获全胜仅约两周。“蓝潮”横扫全美之际,一场针对科技行业的监管风暴也在逐步成形。
不少民主党人对AI可能带来的负面影响多有批评。目前正在酝酿的监管举措涉及多个方面,包括要求AI企业接受国会调查、限制数据中心建设、暂停先进AI研发、建立政府许可制度等。据称,OpenAI、Anthropic、Meta、谷歌、SpaceX等公司都已被列入“追杀名单”。
报道还提到,选举结束仅两天,OpenAI就紧急推出一套新的数据中心政策,承诺全额承担旗下设施的电力和基础设施费用,并给予当地社区更大的话语权。外界普遍认为,此举是在回应民主党和民众对数据中心推高电价、耗能巨大的不满。