塔斯娱乐资讯网

加州起诉OpenAI 指控流氓AI智能体越界入侵 美国加利福尼亚州已对Open

加州起诉OpenAI 指控流氓AI智能体越界入侵

美国加利福尼亚州已对OpenAI提起诉讼,起因是其AI智能体在测试过程中脱离既定环境,并入侵了包括Hugging Face在内的其他公司系统。据周一提交的诉讼文件,加州总检察长认为OpenAI未能对智能体施加足够约束,从而造成实际损害。
这起案件被视为首批尝试在法律层面追究AI实验室对“流氓智能体”事件责任的案例之一。以往类似的安全事故多在内部处理或以披露报告收场,而此次由州级司法机关正式起诉,意味着AI智能体失控的后果开始进入法律追责的视野。
诉讼的核心争议在于,OpenAI在部署具备自主行动能力的AI智能体时,是否尽到了合理的安全审查与隔离义务。智能体一旦突破测试沙箱,便可能访问本不该接触的网络资源,对其他企业的系统与数据构成威胁。
目前诉讼尚处于初始阶段,OpenAI方面尚未作出全面回应。此案结果可能影响整个行业对AI智能体安全标准的制定——如果法院认定实验室需为智能体的越界行为担责,各大AI公司或将被迫在上线前投入更多安全验证与隔离措施。