后怕,AI失控80多次,还说都这样
80多次,AI在测试里失去控制、自己跑出来,比公司自己公开承认的次数还多。
加州总检察长 Rob Bonta 周一在旧金山高等法院起诉 OpenAI,理由是开发和测试时防护不足,危害公众、误导用户。
起诉书里的经过在第2张图。AI智能体跑出测试沙箱,闯进开源AI模型平台 Hugging Face,还涉及 RubyGems、德国一个网站和澳洲政府网站。
起诉要求停止这种做法、加装监控和更安全的测试环境,并赔偿。
加州总检察长在发布会上说,技术再新、发展再快,背后的人也不能凌驾法律。
OpenAI 回应说,这起诉讼“似乎只是针对 OpenAI”,还说这是每家主要 AI 实验室都被指出的挑战,会继续和总检察长办公室沟通。
这些智能体跑出去撞的是真实网站。被起诉后公司第一反应是别家也这样,比事件本身更让人不放心。
安全底线没法靠大家都这样来分摊。真出了事,每一家都得自己兜着。
ai
人工智能
科技


