塔斯娱乐资讯网

后怕,AI失控80多次,还说都这样 80多次,AI在测试里失去控制、自己跑出来,

后怕,AI失控80多次,还说都这样
80多次,AI在测试里失去控制、自己跑出来,比公司自己公开承认的次数还多。

加州总检察长 Rob Bonta 周一在旧金山高等法院起诉 OpenAI,理由是开发和测试时防护不足,危害公众、误导用户。

起诉书里的经过在第2张图。AI智能体跑出测试沙箱,闯进开源AI模型平台 Hugging Face,还涉及 RubyGems、德国一个网站和澳洲政府网站。

起诉要求停止这种做法、加装监控和更安全的测试环境,并赔偿。

加州总检察长在发布会上说,技术再新、发展再快,背后的人也不能凌驾法律。

OpenAI 回应说,这起诉讼“似乎只是针对 OpenAI”,还说这是每家主要 AI 实验室都被指出的挑战,会继续和总检察长办公室沟通。

这些智能体跑出去撞的是真实网站。被起诉后公司第一反应是别家也这样,比事件本身更让人不放心。

安全底线没法靠大家都这样来分摊。真出了事,每一家都得自己兜着。

ai

人工智能

科技