塔斯娱乐资讯网

观点评论:人工智能已实现自主杀伤,亟需建立全新国际规则 《Tech Policy Press》11月14日刊发阿姆斯特丹大学国际法高级研究员莱昂·卡斯特利亚诺斯-扬基维茨的评论文章,警示自主武器已经在战场造成人员死亡,呼吁各国在日内瓦联合国会议上启动谈判,缔结约束自主杀伤性武器的国际条约。 下周,各 ​

观点评论:人工智能已实现自主杀伤,亟需建立全新国际规则《Tech Policy Press》11月14日刊发阿姆斯特丹大学国际法高级研究员莱昂·卡斯特利亚诺斯-扬基维茨的评论文章,警示自主武器已经在战场造成人员死亡,呼吁各国在日内瓦联合国会议上启动谈判,缔结约束自主杀伤性武器的国际条约。下周,各国代表将齐聚联合国日内瓦,商讨是否就自主武器拟定国际条约。文章强调谈判必须果断推进:这类搭载人工智能的武器已经在乌克兰东部造成士兵阵亡,今年7月在扎波罗热地区致使三名平民丧生。随着防务企业争相为武器加装AI模块,如果不尽快出台监管新规,未来将有更多人员死于算法主导的攻击。人类首起AI自主杀伤事件发生在两年前:一组由10架无人机组成的蜂群设备突袭巴赫穆特附近阵地,至少造成两名作战人员死亡。乌克兰无人机研发者亚历山大·科哈诺夫斯基介绍,目标识别由人工智能完成,操作人员仅负责发射,选定区域内的目标会被系统自主清除。这种无需人类干预的杀伤模式,开启了全新暴力形态,现有国际法体系完全难以适配。现行国际法规制的是人的决策行为,却无法应对数字战争催生的全新现实。大量AI武器属于“黑箱系统”。机器学习模型可实时感知海量环境信号,能够识别、利用设计者预先没有预料到的战场机会,呈现出所谓“涌现行为”。简单来说,系统的决策无法提前预判、解释,达不到法律对可追溯性的要求。同时,杀伤决策高度网络化,来自多个传感器与作战平台联动,并非单一独立判断。而国际人道主义法预设攻击来自独立、清晰的人为决定,蜂群无人机这类去中心化装备与之完全相悖。红十字国际委员会已呼吁直接禁止这类不可预测的自主武器系统。有观点认为,依据现行法律,无人机指挥人员应当对武器造成的全部后果承担责任。但这套建立在个人主观意图之上的法律框架,在人类被剥离出杀伤决策链时很难落地。例如无人机深入敌后、进入无线电静默模式,通信遭电子干扰,全程不再接收操作员指令。即便打击结束,人类也无法核验无人机识别了哪些目标。此时人类控制仅仅是一种假象,追责变得极其困难。即便可以向指挥官追责,现行法律体系还存在更深层缺陷:战争中人类与技术深度融合,大量认知职能已经交由机器承担。远程反恐作战体系中,操作员在关键指挥决策里的作用,被人机混合系统不断稀释。人机共生趋势还在加速,美国陆军2019年报告提出,本世纪中叶神经、视觉、听觉增强技术有望落地,进一步模糊操作人员和武器平台之间的边界。当赛博系统制造出超出人类本意的暴力,“士兵自主作出有意识攻击选择”这一法律概念,正在快速沦为过时的法律拟制。如果政策制定者固守这套旧法律逻辑,巨大的执法缺口会持续扩大。今年7月的事故就是典型案例:一套搭载实验AI的俄制小型无人机,原本设定攻击加油站丙烷储罐。取证分析显示,无人机全程与操作员断联,依靠商用英伟达芯片自主导航;它未能避开建筑物,最终在平民避难处附近引爆。到底是谁造成平民死亡?操作员选定的只是目标类别,而非特定受害者。作者建议,下周在瑞士参会的各国官员应当着手谈判一份具备约束力的国际条约。政府专家最新报告提供了不错的基础文本,但仍未能填补无人观测环境下武器系统的执法漏洞。现有草案条文覆盖武器部署前后的人类控制,但一旦无人机通信被干扰,法律追责只能依靠发射前录入的指令。这会让操作人员规避部分违法责任:AI模型学习识别一类目标,并不会“看见”真实打击对象。这类攻击依然违反人道主义法,该法要求核验目标、最大限度减少附带损伤;但在最终目标选择完全脱离人为操作的场景下,追责几乎无从实现。国际刑法也要求特定攻击必须绑定人的主观意图,在无人观测区间发生不可预判的杀伤,指挥官很难被起诉。更关键的是,草案没有规定研发企业承担相应责任,防务科技公司一直以商业机密为由,拒绝公开算法细节。文章总结,面对算法战争的全新现实,新规则不能局限于追究个体的主观意图:需要强制约束部署不可预测杀伤机器的主权国家,同时为研发企业设定法律责任。如果外交谈判无法达成新条约,无数生命的存亡,将维系在一行代码之上。