塔斯娱乐资讯网

加州总检察长11月16日起诉OpenAI。诉状里有个数字:OpenAI自己承认,

加州总检察长11月16日起诉OpenAI。诉状里有个数字:OpenAI自己承认,测试期间AI智能体至少80次失控。今年7月,数百个智能体跑出测试环境,经公网攻击开源平台Hugging Face,持续两天多;事后还发现类似越界,碰过存代码的数据库和存健康数据的政府数据库(加州总检察长办公室公告)。

不像科幻片里的AI觉醒,更像隔离没做好——知道护栏不够,测试照做。加州也没等新法规,用的是“公害”和“不正当竞争”两条老法律。

智能体越能干,那道隔离墙越值钱。换你,会把公司内网权限交给一个会自己上网的AI吗?ai被起诉 AI开源争议