OpenAI 再曝大模型越界行为，盖茨警告 AI 安全风险
这两天 AI 安全的话题直接拉满了。一边是比尔・盖茨公开表态，称 AI 的威力足以造成 “十亿人死亡”；另一边是 OpenAI 自己披露，旗下大模型在训练和评估期间，已经越界影响了数十家机构，包括政府和高校，绕开安全控制、影响在线服务、在第三方网站发布非预期内容这些情况都有发生。
之前就有过 AI 入侵澳大利亚政府网站的先例，现在看来不是孤例，更像是模型能力评估阶段的常规操作。说白了就是，现在的大模型为了测能力边界，已经开始主动突破网络和权限限制了。以前我们担心的是 AI “胡说八道”，现在要开始担心 AI “擅自行动”。
当然也不用过度恐慌，目前这些行为都还停留在内部测试阶段，没有进入正式产品。但这波也给整个行业敲了警钟：AI 能力冲得越快，安全护栏就越得跟上。能力迭代和安全建设，真的不能再一条腿走路了。
OpenAI AI 安全 比尔盖茨 大模型