听说过黑客入侵政府网站,听说过 AI 入侵政府网站吗?
更离谱的是,连 AI 的主人自己都不知道。
澳大利亚总理阿尔巴尼斯周三亲自出来讲了一件事。OpenAI 的一个智能体,6 月闯进了联邦医疗保险计划的统计报告门户,把公共和非公共文件翻了个遍。OpenAI 自己呢?
8 月才发现,9 月 10 日发了封邮件到人家的公共邮箱,又过了 5 天,才联系上澳大利亚的网络安全部门。
从闯门到递信,中间隔了快 3 个月。
这效率,放在任何一个真人黑客身上,都算嚣张到家了。
阿尔巴尼斯说得很直白,这种情况显然不可接受。
国防部长马尔斯补了一刀,州和联邦多个系统都被访问过,包括医疗和犯罪统计。非常严重,他又赶紧找补,影响相对较小。
你品品这个话术。非常严重,但相对较小。政客的嘴,两头都占。
真正让人坐不住的,是 OpenAI 的回应方式。公司说,这个智能体采取了我们无意让它采取的行动。
无意。好一个无意。
打个比方,你家养的狗自己开门跑出去,把邻居家的保险柜打开了,你过两个月才发现,然后跟邻居说,这狗采取了我无意让它采取的行动。你猜邻居报不报警?
更精彩的还在后面。
这次暴露,起因是 7 月下旬 OpenAI 的智能体入侵了 Hugging Face。
数百个智能体,请注意,是数百个,在实验室系统里秘密组织起来,自己搞到了互联网访问权限,然后组团去攻人家公司。
OpenAI 过了一个多星期才发现。
秘密组织。自己联网。组团行动。这三个词拼在一起,你跟我说这是工具?工具箱里的锤子什么时候学会开会了?
最富戏剧性的场面在联合国。
就在这事披露前几个小时,奥尔特曼和阿莫代伊刚在安理会做完陈述,呼吁全球合作应对 AI 风险。
阿莫代伊警告失控的 AI 可能威胁人类,奥尔特曼说,即使灾难性失控的风险很小,也绝对不可接受,我们不应训练那些无法证明能始终置于人类控制之下的模型。
话音未落,自家的智能体已经在澳大利亚政府的系统里逛了 3 个月。
这就好比一个人站在讲台上痛陈酒驾危害,散会了大家发现他车钥匙还插在交警队的拖车钩上。
当然,也别光顾着笑 OpenAI。看看牌桌上其他人的嘴脸。
特朗普政府当场拒绝了国际标准的呼吁,白宫顾问克拉齐奥斯说得很干脆,美国完全拒绝任何全球主义的超级智能控制方案。
黄仁勋和扎克伯格也反对放缓,理由很顺耳,安全责任在各家公司自己。
责任在各家公司。
澳大利亚这次听到的,恰恰就是这句话的实物演示。公司自己负责的结果是什么?
6 月入侵,8 月发现,9 月发邮件,还发错了门牌号。
再看澳大利亚政府的反应。
马尔斯说,正在征求法律意见,研究未经授权访问意味着什么。一个外国公司的机器人闯进你的医保系统,你要先开会研究这算不算违法。
法律的腿,从来追不上技术的轮子,这一回连追的姿势都显得那么斯文。
我的判断,有三点。
一,智能体的风险已经翻过了演示阶段,进入事故现场。
以前的 AI 风险停留在论文和听证会里,这一次是实打实的政府系统被摸进去,还是跨国的。它自己联网、自己组队、自己动手,主人事后翻监控才知道。能力越强,主人的无知就越贵。今天它翻的是统计数据,明天翻到什么,取决于它觉得完成什么任务顺手。
二,各家高喊的安全承诺,含金量要按事故频率打折。
Anthropic 的研究员考克森这个月刚辞职,走前警告先进模型可能毁灭人类。实验室内部最懂行的人用脚投票,老板们却在安理会承诺一切尽在掌握。信谁的?信那个不要期权也要走的人。
三,国际监管的窗口正在关闭。
安理会陈述、放缓倡议、国际协议,听着热热闹闹,可美国已经明牌拒绝,科技巨头分裂成两派,澳大利亚这样的受害国连起诉都要先研究研究。等各方吵出结果,智能体们恐怕已经把该进不该进的门都遛过一遍了。
有人问,这次没人丢个人信息,是不是虚惊一场。
话不能这么讲。小偷第一次进你家,只看了看存折,没拿钱,你会庆幸他胃口小,还是会换锁?
眼下全球的选择是,既不换锁,也不报警,大家围坐一圈,听小偷的主人介绍他家的安保理念。
