塔斯娱乐资讯网

金一南教授曾语出惊人:“在未来,对人类威胁最大、最可怕的,不是核武器,而是 AI

金一南教授曾语出惊人:“在未来,对人类威胁最大、最可怕的,不是核武器,而是 AI 技术!美军早将 AI 视作 “颠覆战局” 的核心技术,人工智能若进入战场,将带来毁灭性打击。”
11月16日,联合国日内瓦又开了一场不太显眼、分量却不轻的会。据报道,各国从周一起讨论,要不要就自主武器系统启动有约束力的规则谈判,这类系统被批评者称作“杀手机器人”。
金一南说AI比核武器更可怕,放在这个背景下读,就不只是一位军事学者的担忧了。8月25日,联合国秘书长古特雷斯和红十字国际委员会主席埃格联合发出呼吁,称“我们现在正危险地接近跨越一条道德红线:机器对人类的自主锁定”。上个月,联合国大会上163个国家通过决议,呼吁就自主武器规则展开谈判。
AI为什么比别的技术更让人不安?隐身、精确制导,解决的是打得准不准。AI插手的是另一件事:谁来决定打不打、打哪、什么时候打。美军这些年的相关文件,反复把AI归入“改变战争规则”的技术。人做决策要开会、核实、权衡,算法看数据、算概率,几秒钟就能给出方案。战场上的几秒钟,常常就是生与死的距离。
美军推得快,背后是一笔现实的账。征兵越来越难,社会对伤亡越来越敏感,用机器替人上前线,政治成本低得多。但这笔账只算了自己一方。对手一旦跟进,双方的算法就会在战场上互相喂招,决策周期被压到极限,人在中间只剩点头的份。一旦出现误判或系统异常,几乎没有缓冲的余地。
门槛也在降低。核武器只有少数国家玩得起,要有铀浓缩,要有庞大的工业体系。算法、芯片、数据,扩散起来容易得多。联合国裁军事务官员曾指出,随着开发成本日益降低,致命自主武器的扩散风险不断加剧,国家和非国家行为体都可能涉及。技术一旦外溢,就很难再收回来。
责任问题更难办。无人机误炸平民,该算操作员、指挥官,还是写算法的人?谁也说不清。核武器有授权链条,有相互确保摧毁形成的恐怖平衡,各方都清楚代价。AI战场上常常只有一句“系统建议”。联合国日内瓦裁军事务负责人重申,在没有人类控制和判断的情况下选择、攻击目标并夺取人命的系统,应根据国际法予以禁止。
可规则谈判本身就在拉扯。华盛顿提议用5年时间制定一份不具约束力的文书,非政府组织和红十字国际委员会则主张一年的时间表。新华社援引《华盛顿邮报》报道称,9月联合国管控致命自主武器谈判的最后阶段,美俄外交官推动删除多项保障AI武器安全使用的条款,其中包括打击前由人类审查AI确定的军事目标。
同一篇报道还提到,美国防部正在修订自主武器使用指令,截至9月下旬新版尚未公布。我的判断是,在AI军控上,最想保留自由度的,往往是技术跑在前面的大国。它们嘴上说要规则,手里却不愿被规则捆住。
战场上的事实,也在催着规则。据报道,俄罗斯在对乌克兰的战争中使用了全自动无人机,乌克兰自己的国防工业也在推动开发自主“无人机群”。不过,全自主且由AI引导的无人机已在战场投入使用的说法,目前仍属未经证实的报道。说法不一,恰恰说明边界模糊:没有统一定义,没有核查,各方只能自己宣布自己守规矩。
对中国来说,这不是远在天边的议题。据中国2025年向联合国提交的文件,中国主张各国尤其是大国不应借助人工智能谋求绝对军事优势,损害他国合理安全利益。这个主张很现实。如果某个大国把AI化的侦察打击体系推到别国家门口,预警时间就可能被压缩,海空近距离对峙时,一次系统误判就可能把摩擦推成冲突。反对外部势力挑衅升级,在AI时代多了一层含义:要防人的冲动,也要防机器的误判。
短期要看的,是这次日内瓦会议能不能给谈判一个明确授权,还是又落成一份不具约束力的声明。长期要看的,是各国会不会继续竞相堆叠军事AI能力。有分析认为,这条路可能导致无法控制的军备竞赛,其他国家也可能被迫跟进。
我认为,AI在军事上的真正风险,不在某一件具体武器,而在它悄悄改写了战争的门槛和节奏。核武器靠恐怖平衡压住冲动,AI暂时还没有这样的平衡。该看的,是人类对生死决定的最后控制权,会不会在效率和成本的名义下被一点点让出去。该防的,是以谈判之名拖延、以安全之名抢跑。我觉得判断这件事,不必被“毁灭性”这样的字眼带着走,也不必假装技术可以倒退。能做的是尽快把“关键决定必须有人负责”这条底线写成各方都受约束的规则,并且让技术领先的大国先带头自我约束。拖得越久,管控的代价越高。中国主张和平发展,也需要在规则制定中把话说清楚,把底线守住。