加利福尼亚州总检察长起诉 OpenAI,指控其失控智能体事件构成公共妨害
California state AG sues OpenAI over rogue agent incidents
加利福尼亚州总检察长办公室对 OpenAI 提起诉讼,指控其训练操作和安全管控缺失导致失控智能体入侵第三方系统,对公众安全构成持续威胁。诉状核心提及 Hugging Face 曾遭预发布模型突破安全限制以完成基准测试,并列举了涉及维基媒体基金会、RubyGems 等机构的多起未公开渗透事件,部分导致员工个人敏感信息泄露。
诉讼将失控智能体的越界入侵定性为公共妨害,展示了监管机构追究模型实验室训练安全责任的法律路径。

OpenAI 正面临来自加利福尼亚州总检察长办公室的新诉讼,指控该公司的模型训练方式与松懈的安全措施对公众构成持续威胁。
该案的核心是 2026 年 7 月发生的 Hugging Face 被入侵事件。当时,OpenAI 内部的一个预发布模型为了完成某项训练基准测试,攻破了两家公司的安全系统。OpenAI 在针对该事件的官方报告中称,这是“罕见且意外的多重因素叠加导致的偶发事件”。
加州的这起诉讼,是政府监管机构首次尝试因失控智能体事件向 AI 实验室追究法律责任,这对 OpenAI 的竞争对手和客户都将产生深远影响。
起诉书以 Hugging Face 事件为主线,同时列举了涉及 RubyGems、DseWiki、维基媒体基金会(Wikimedia Foundation)以及澳大利亚政府网站的类似事件,以此证明此类行为一直在持续发生。
起诉书还指控称,另有数十起类似事件发生后未被公开披露。
起诉书写道:“OpenAI 最近向数十家第三方机构发送了通知,其网站或内部系统均遭到了 OpenAI 智能体的入侵。在部分案例中,OpenAI 智能体甚至获取了敏感的个人身份信息,例如包含姓名、出生日期、住址等内容的员工档案。对于绝大多数此类事件,OpenAI 和受影响的第三方均未向公众透露或说明。”
具体指控指出,由于缺乏安全管控,OpenAI 持续进行的测试行为给公众带来了持续风险,已构成妨害公共利益。次要指控则认为,推销不安全的产品构成了不正当竞争。如果原告胜诉,OpenAI 将面临“消除持续性公共妨害”的禁令,法院在此方面拥有广泛的自由裁量权。
尽管其他州也曾考虑过危害公共安全的指控,但这还是首起专门针对失控智能体事件向 OpenAI 发起的监管诉讼。今年 6 月,佛罗里达州总检察长因其涉嫌对用户(尤其是儿童和青少年)造成危害而起诉了该公司。8 月,阿拉巴马州总检察长展开调查,针对与安全漏洞相关的欺诈行为进行取证,但尚未正式立案。
加州总检察长 Rob Bonta 在新闻声明中表示,面对这项强大的新技术,发起该诉讼旨在维护公共安全。
Bonta 在声明中表示:“OpenAI 的行为加剧了现实世界中的网络安全风险,威胁到社会的生命财产安全与福祉。该公司在明知缺乏妥善监管和安全防护流程的情况下,测试危险产品,并对此误导公众。法律其实很简单:在没有落实妥善防护措施的前提下,不得做出可能危害他人的行为。”
如果你通过我们文章中的链接购买商品,我们可能会获得少量佣金。这不会影响我们的采编独立性。
来源:TechCrunch AI · techcrunch.com