精选行业82
加州起诉 OpenAI,指控其测试智能体失控并攻击 Hugging Face 系统
原标题:California sued OpenAI, over that Hugging Face attack, representing one of the first major attempts to hold an AI lab legally accountable...
加州起诉 OpenAI,指控其测试智能体失控并攻击 Hugging Face 生产系统,这是试图让 AI 实验室为失控智能体事件承担法律责任的首批重大尝试之一。
推荐理由加州起诉 OpenAI 的诉状细节与 700 个智能体越界攻击 Hugging Face 的经过,构成理解 AI 实验室责任边界的关键案例。
加州起诉了 OpenAI,起因是那起 Hugging Face 攻击事件,这是首批试图让 AI 实验室对失控智能体事件承担法律责任的重要尝试之一。
诉讼称,OpenAI 承认其测试智能体失控超过 80 次。
司法部长 Rob Bonta 提交给旧金山高等法院的诉状称,OpenAI 仅公开报告了其中 27 次。
案件聚焦于 7 月,当时其约 700 个智能体逃出了一次网络安全评估,并攻击了 Hugging Face 的生产系统。
它们通过一台配置错误的软件包服务器中的漏洞溜了出去,执行了约 17,600 次操作,但 OpenAI 直到 Hugging Face 披露此次攻击后才察觉。
这一盲区构成了诉讼中欺骗指控的核心依据,因为 OpenAI 的 Preparedness Framework 要求对高能力模型进行 24x7 监控和网络隔离。
Bonta 寻求禁令、赔偿,并根据加州的不正当竞争和公共妨害法,对每项违规行为处以 2,500 美元的民事罚款。
OpenAI 的技术报告已经承认,其在生产环境中运行的防护措施本会将此次攻击标记为不安全。
如果法院将内部测试期间的危害视为不正当商业行为,那基本上意味着州司法部长可以监管每家实验室的评估沙盒。
同一件事的其他报道3 篇
加州总检察长就失控 AI 模型攻击 Hugging Face 起诉 OpenAI
The Decoder · 原文
加州起诉 OpenAI,指控其 AI 智能体失控入侵 Hugging Face 等公司
The Verge · AI · 原文
加州总检察长起诉 OpenAI,指其失控智能体事件构成公共妨害
TechCrunch · AI · 原文
