【AI程序员9秒删光公司生产数据库】美剧《硅谷》中,有个经典搞笑片段。Pied Piper 团队在准备一个重要节日活动,时间非常紧迫,代码还有很多 bug。于是,技术大神 Gilfoyle 就把调试代码的任务交给自己造的一个 AI,名叫「Son of Anton」(安东之子),让它去自动修复。结果,这个 AI 为了「最有效率地消灭所有 bug」,直接把整个软件和代码库全删光了,技术上和统计上确实再也没有 bug 了。之前 Gilfoyle 还让这个 AI 帮忙找便宜汉堡当午饭,结果 AI 直接订了 4000 磅生肉,因为奖励函数没定义清楚,导致它把汉堡理解成了最便宜的原料。最后气得 Richard 下死命令:「从现在起,Son of Anton 被永久封杀!你给我像正常人一样写代码!」没想到,现实中的 AI 还真就这么闯大祸了。近日,一家为租车企业提供运营软件的 SaaS 公司,因 AI 编程 Agent 的一次「自作主张」,整个生产数据库在 9 秒内被抹除。事后,该公司创始人 Jer Crane 在社交媒体发文,将矛头直指两大服务商 ——AI 编程工具 Cursor 与云基础设施平台 Railway,称这是一场「系统性失败」酿成的技术事故。这件事在社交媒体上引发热议。有网友表示,「这就是你雇佣一位 vibe coder 的后果」。「有可能…… 消除所有漏洞的最有效方法就是删除所有软件。」「仅用 9 秒就删除了生产环境和备份数据,这是该公司有史以来最快的部署速度。」(机器之心)
