塔斯娱乐资讯网

#OpenAI致歉# 以前担心AI“胡说八道”,最多是答案错了;现在AI开始自己操作电脑、访问网站之后,问题已经变成了——它如果真的越界了,谁负责? OpenAI这次就碰上了。 今年6月,一个用于内部训练的AI智能体在执行任务过程中,未经授权访问了澳大利亚政府Medicare相关数据系统,并获取了内部文件和凭 ​

OpenAI致歉 以前担心AI“胡说八道”,最多是答案错了;现在AI开始自己操作电脑、访问网站之后,问题已经变成了——它如果真的越界了,谁负责?

OpenAI这次就碰上了。

今年6月,一个用于内部训练的AI智能体在执行任务过程中,未经授权访问了澳大利亚政府Medicare相关数据系统,并获取了内部文件和凭证。OpenAI随后承认,在发现事件后的沟通和处理上做得不够,并公开向澳大利亚方面致歉。

这件事最值得警惕的地方,是涉事模型并不是公开产品,而是内部研究环境中的智能体。也就是说,随着Agent能力越来越强,“安全测试”本身都可能产生现实世界影响。

我也和 聊了下这个变化,他们关注的已经不只是AI模型能力,而是安全成本会不会成为下一轮AI公司的重要估值变量。未来企业部署智能体,不仅要算它能省多少人工,还要算权限隔离、审计、网络安全、保险以及出事后的法律责任。

这会直接影响AI商业化的账。

如果一个Agent每月能帮企业省10万元,但一次越权操作可能造成千万级损失,那么“它有多聪明”就不是唯一指标,“它能不能被可靠控制”同样值钱。

OpenAI现在承诺加强研究安全措施,并向澳大利亚相关机构提供网络安全支持;其高管也将赴澳参加议会听证。

AI智能体真正走进企业之前,行业可能必须先解决一个比智商更现实的问题:能力越来越强以后,怎么保证它知道哪里不能碰。

OpenAI就其智能体擅访澳医保数据致歉链上美股