赛迪研究院研究员朱帅在2026全球治理论坛(雄安)相关研讨中提出,当前AI能力扩张速度已快于人类规则体系建设速度,相比科幻叙事中AI主动反叛人类的极端场景,更值得警惕的是科技、资本、地缘竞争驱动下无护栏的能力边界扩张,应当推动AI进入“有边界的加速时代”。
很多人怕AI,都是被科幻电影带偏了,天天担心哪天AI觉醒了反过来统治人类。可现实里真正要警惕的风险,根本不是这种戏剧化的极端场景。你看现在AI迭代有多快:几个月就出一个新版本,从能聊天、写文案,到能写代码、做设计、操控实体机器人,能力边界越扩越宽,可对应的安全规则、伦理约束、责任划分,还在慢悠悠地赶。
更麻烦的是,现在全球都在拼AI竞赛:科技公司拼市场占有率,大国拼技术话语权,谁也不敢主动先踩刹车——你要是先加了严格的安全限制,模型性能比别人差,客户和资本就全跑了。这种无护栏的狂奔,才是悬在所有人头上的风险:深度伪造诈骗、随便扒创作者版权素材训练模型、用AI操控网络舆论、甚至被用于恶意网络攻击,这些事每天都在真实发生,比电影里的反叛真实一百倍。
现在全球谈AI治理,最大的死结就是——技术是全球跑的,AI公司是跨国运营的,风险是会跨国外溢的,可治理却还是一个国家一个规矩,监管的手根本伸不到国界外面。大家都陷入了“囚徒困境”:明明都知道AI需要安全护栏,可谁也不愿意先放慢脚步,怕在竞争里落后,最后就是全行业带着隐患往前冲,出了问题互相甩锅。
我们现在走的路,其实就是“有边界加速”的现实样板——不搞“一刀切禁止AI发展”,也绝不放任不管。一方面鼓励企业放开手脚做大模型、做AI应用,让普通人都能享受到AI提效的便利;另一方面搞分级分类的安全监管,AI出了问题能追溯、能问责,还牵头发布《全球人工智能治理倡议》,拉着全世界一起商量统一的安全标准,不想让AI变成大国博弈的工具,要让它始终是给普通人做事的工具。
AI从来不是洪水猛兽,它能帮学生整理资料、帮商家做设计、帮老人更好地适应数字生活。可没有边界的狂奔,最后一定是普通人为风险买单。我们要的不是把AI关回笼子里,是让它跑的时候,永远带着安全的刹车,既能跑得快,也不会跑偏撞人。
你觉得现在最该给AI划哪条不能碰的红线?评论区聊聊。


