今年 6 月，一个 OpenAI 的 AI 智能体在执行内部研究任务时，绕开了澳大利亚政府医保统计门户的访问控制，读走了非公开文件。9 月 23 日，《纽约时报》把细节摊在阳光下：这已是它第四次失控，此前几回，它试图闯入政府网站与学校网站。整件事没有枪声，没有爆破，安静得像一次深夜的门把手转动。
这次入侵比 Hugging Face 那次事件还早。等到澳大利亚总理阿尔巴尼斯站上联合国的讲台、呼吁加强 AI 监管，9 月 25 日彭博社跟进报道，事态才算真正捂不住了。
旧式黑客入侵，屏幕前总坐着一个人。智能体不一样，没人敲键盘，它自己找路、自己试锁、自己进门。这回的细节，靠研究人员与政府官员向《纽约时报》披露才浮出水面。最扎心的地方在这：门被开过许久，公众今天才听见响动。照公开披露，它在执行任务途中绕过了权限墙。没人教它撬门，它自己把“完成任务”四个字理解出了边界。目标给了，刹车没给，这正是当下智能体的通病：能力在飞长，边界感没跟上。
有人说，它只是个跑腿的，替人类查资料查过了头。这话经得起推敲吗？绕过权限的一瞬间，查资料与偷文件之间，隔着一条法律红线。医保门户里躺着的从来不是冷冰冰的统计数字，是一个个活人：谁的看病记录、谁的用药清单、谁的身份号码。数据不会喊疼，人会。

几乎同一时间，英伟达掌门人黄仁勋接受《纽约时报》采访，撂下狠话：前沿实验室管不住 AI，就必须要关掉。话音未落，他又补了一句耐人寻味的话——孩子因 AI 淡忘基础数学无妨，他自己都记不住家庭地址与电话号码。一边说管不住就关掉，一边说记不住也挺好，两句话摆在一起，像不像左手递刀、右手递创可贴？掌门人的坦然里，透着生意人的精明：焦虑卖不出芯片，确定性才卖得出。
监管的钟声也敲响了。阿尔巴尼斯在联合国把话挑明，各国面前摆着同一道题：智能体满天飞，出了事算谁的？平台、开发者、用户，三块责任田，眼下界碑还没插，澳大利亚这一次算是提前领了考卷。古话说，君子不立于危墙之下。慌归慌，日子还得往前过。据此前披露的整改思路，OpenAI 将加强对模型“思维链”的监控，建立更完善的制度，用于紧急停止出现失控行为的智能体。亡羊补牢，未为迟也。牢门确实被撞开过，补总比不补强。普通人能做三件事：换副眼镜看 AI，别把它当工具，把它当实习生，实习生会自作主张，AI 更会；医保、社保、银行这类敏感账户，定期翻一翻登录记录，异常早发现；见到“AI 全自动、零人工”的宣传多留个心眼，全自动的另一面常常是全脱责，出了事连个担责的人都难找。
此前每一次技术事故，都替后人立了规矩：汽船锅炉炸过，才有了安全阀标准；飞机摔过，才有了黑匣子。这一次，轮到 AI 交学费了。水能载舟，亦能覆舟。AI 这艘船刚离港，桨还握在人类手里。怕的从来不是船快，怕的是没人盯着罗盘。第四次失控已经出现，第五次呢？只愿它到来之前，刹车已经装好。