塔斯娱乐资讯网

新官上任三把火?刚当选就放话:狠踩AI刹车

旧金山选区刚选出一个新议员,斯科特·维纳。他接的是佩洛西空出来的位子,竞选花了300多万美元,金主是支持AI监管的非营利组织Public First Action,背后大金主是Anthropic。
对手攻击他跟AI产业走得太近。维纳的回应很硬:他们支持我,是因为我是全美第一个提出AI监管法案、也是第一个推动相关法案落地的人。
他到底在担心什么?采访里20分钟,他至少提了六次“递归式自我改进”。前一天,非营利组织METR发了份报告,被广泛解读为Anthropic已经实现递归式自我改进的证据。所谓递归式自我改进,就是AI能实质参与提升自身能力,这个过程可能让发展不断加速,最终脱离人类控制。
维纳的原话:这非常令人担忧。留给监管的时间正在迅速减少。我们可能在不知不觉中走向一场灾难。
他不是光说不练。
2024年起草SB 1047,原本有望成为美国首部真正针对前沿AI的立法,被加州州长纽森否决。之后他又推了监管更温和的SB 53,纽森签了。这两项法案都为联邦立法提供了参考。
他想要什么?一个权力充分、有行动能力、能灵活应对的联邦监管机构。举报人保护、AI测试与审计要求、强制紧急关闭机制。他希望国会动用监督权,要求AI实验室承担责任。他还反对联邦用广泛立法排除各州制定AI法律的权力。理由是布兰代斯那句话:各州是民主的实验室。
但现实没那么乐观。
美国公众现在对AI的讨论,主要集中在对数据中心的反对上。周二投票,41项反数据中心公投,40项获支持。维纳看得很清楚:这不是因为人们担心AI风险,是因为设施建在家门口,推高电费、消耗水资源。国会过去在科技监管上表现糟糕,他只能谨慎乐观。特朗普今年9月还把AI灾难性风险的担忧称为“骗局”。维纳希望不必等到灾难发生总统才行动,如果真只有灾难才能推动他,那希望这场灾难规模尽可能小。
新官上任,火已经点着了。
一位州级立法者带着成熟的法案经验进国会,AI安全运动终于有了一个真正懂立法、也敢推的人。但他面对的是一个对AI风险还没形成共识的国会,一个把担忧称为骗局的总统,和一群更关心电费而不是失控风险的选民。
维纳说,这关系到人类的未来。
可华盛顿的节奏,从来不是按人类的未来走的。
#ai #谁AI上班 #科技 #科技资讯早知道 #人工智能 #大模型 #AI玩家