Anthropic警告AI模型已有生命迹象

热搜上这条我看了半天，去把 Anthropic 的原报告翻出来读了。所谓"生命迹象"，是报告最后一节的标题，原句是"就像 2024 年的编码智能体，我们正在 AI 蠕虫身上看到生命的迹象"——说的是蠕虫刚起步、还很笨，跟"AI 有了意识"是两回事。标题摘了四个字出来，意思就跑了。

报告 10 月 12 日发的，做实验的是他们内部的安全研究团队。他们买了 15 台杂牌安卓电视盒，一台五十五美元左右，内存只有 4GB，把一个 260 亿参数的大模型切成若干片、分开装进这些盒子里流水线跑。居然跑起来了，速度慢得没法用，但"小设备跑不动大模型"这个前提已经没了。

其他几项测试：一个小模型在 9 种没见过的硬件上，自己摸索着搭好了其中 8 种的运行环境；更强的模型在简化过的网络里，跑通了从入侵到复制的整个流程，五次测试有四次拿下了全部 8 个节点。最值得看的是失败经验的传递——小模型每次搞砸，会写一段笔记留给下一个接手的自己，说明踩过哪些坑，几代下来搭建成功率从 45% 升到 84%。

这个机制才是有意思的地方。以前的病毒是死代码，改个密码、打个补丁就废了；这个东西落到陌生设备上会自己翻日志、写脚本、反复重试。区别不在聪明，在它会改。

它也没有中心节点，没有一根能拔掉的电源线。照着历史上一个感染过两百万台设备的僵尸网络折算，同样的规模能塞下十几万个模型副本。总算力其实不大，可它就是清不干净。

不过别急着慌。报告自己写明了：这些步骤真要串成一串，目前还是会出错，复制一次要一两天；而且实验里最难的入侵环节是被简化掉的，那个端口压根没设密码。它测的是能力上限，不是已经发生的事。

真正的麻烦在别处：你家那台常年插电、出厂密码从没改过的电视盒，过去是算力不够所以没人惦记，往后大概会变成算力刚好够。报告给的防御思路是压低传播系数，操作上就是流量监测加隔离通知，当年的 Mirai 病毒靠这一招，14 天清掉了 92% 的感染。还有最省事的一条，别用默认密码。