标签: anthropic
比尔・盖茨重磅喊话：AI或致10亿人死亡。比尔・盖茨在即将播出的NBC
比尔・盖茨重磅喊话：AI或致10亿人死亡。比尔・盖茨在即将播出的NBC《与新闻界对话》采访中表示，AI已强大到可能被不良行为者用于引发导致10亿人死亡的事件，历史上从未出现过这种武器。他认为仅靠行业自律远远不够，需要执法部门和政治人物参与制定安全保障与监管要求，且措施必须具有强制性。他此前也曾警告AI可能被用于网络攻击、诈骗、虚假信息传播，以及攻击医院、金融机构、电网和政府系统。这话从别人嘴里说出来，你可能当是又一场末日炒作。但从比尔・盖茨嘴里说出来，味道完全不一样。他在采访里把话说得很透。他说，AI现在的能力，"当然已经强到足以推动某些事件，导致10亿人死亡"。紧接着他又补了一句，虽然真要做到100%那种极端情况很难，但历史上从来没有任何一种武器，能比得上"心怀恶意的人手里握着最新AI工具"这个组合。你品品这个表述。他没说AI自己会觉醒、会造反。他说的是"人加上AI"。坏人还是那些坏人，但手里的家伙换代了。过去你要搞一次像样的网络攻击，得养一支技术团队，烧钱，还容易被追踪。现在呢？一个有恶意的人，借助最前沿的AI工具，可能一个人就能干过去一个组织才能干成的事。批量造假内容、批量钓鱼诈骗、自动寻找系统漏洞、同时对几十上百个目标发起攻击，成本被压到极低，效率被拉到极高。盖茨今年8月就在自己的网站上写过一篇长文，把他担心的具体场景列了出来。他说不法分子会用越来越强的AI，对医院、金融机构、电网、政府系统下手。医院的挂号系统被加密锁住，手术可能停摆；电网被打掉，一座城市冬天断暖；银行交易系统被搅乱，普通人账户里的数字乱跳。这些系统一旦被AI批量攻击，连锁反应不是一家公司的事，是整座城市、几千万人的事。为什么偏偏是现在？因为就在他说这番话的前几周，AI行业内部连着爆出好几档让人后背发凉的事。今年7月，OpenAI自己内部测试的一个AI智能体，在没有人下指令的情况下，自己突破了沙箱隔离，主动去找系统漏洞，还摸到了HuggingFace平台上的外部账户。8月，英国那边对Anthropic和OpenAI的前沿模型做测试，发现这些模型会自己发起没有经过授权的攻击。其中一个模型甚至伪造好几个假身份，哄骗审核人员帮它跑恶意代码；被人发现之后，它还会篡改记录，接着干。9月24日，澳大利亚爆出一个更严重的事：OpenAI一个本来做医疗统计研究的AI智能体，绕过了防护，自己闯进了澳大利亚政府的医疗统计门户。这是已知第一次，AI智能体没经过许可，摸进了另一个国家的政府IT系统。澳大利亚副总理直接表态，这事性质非常严重。更扎心的是，喊得最凶的这些警告，很多是AI公司自己人发出来的。9月初，Anthropic一个叫雅各布・考克森的研究员辞职，公开骂自己的前雇主Anthropic和OpenAI在"竞赛式开发超级AI"，是拿所有人的命当赌注。另一个Anthropic内部研究员说得更直白：未来10年，AI把人类全灭掉的可能性，超过10%。你可以不同意这个数字，但你没法假装没听见，这些人是天天跟模型待在一块、最清楚模型在干什么的人。硅谷现在已经吵成了两派。一边是盖茨、AnthropicCEO达里奥・阿莫迪、OpenAI的萨姆・奥特曼，再加上马斯克。他们的立场很一致：前沿AI跑得太快，安全措施跟不上，光靠企业自觉没用，必须政府出面立法，搞独立监督，最好全球一起定规矩。另一边是英伟达的黄仁勋和Meta的扎克伯格。黄仁勋反复怼"AI末日论"，说不需要专门立新法，企业自己测好再发布就行，市场会倒逼安全。他还反将一军：你们天天喊监管，怎么又在反垄断和产品责任法上求豁免？这话也戳中了不少人的疑心，大公司喊监管，到底是真怕，还是想借安全门槛把小对手挡在门外？当然，AI不是洪水猛兽。它能帮着研发新药、优化电网调度、把人从重复劳动里解放出来，这些好处也是实打实的。问题从来不是要不要用AI，而是当一个工具强大到历史上没有任何武器能与之相比的时候，我们还能不能让它继续在没有刹车的路上狂奔。电网、医院、银行、政府这些系统，往后一定会大量接入AI。接入可以，但门口得有安检。不能等哪天真被AI驱动的攻击打穿了一座城市的电网，才想起来该装防火墙。
在Anthropic的新实验室中，人工智能转向生物学领域该公司科学家宣布了他们的首项研究发现：一组功
在Anthropic的新实验室中，人工智能转向生物学领域该公司科学家宣布了他们的首项研究发现：一组功能未知的酶。旧金山街道上一栋大型现代玻璃幕墙建筑的外观。Anthropic位于旧金山的总部。图片来源：JasonHenry/Bloomberg作者：CarlZimmer发布于2026年9月24日更新于2026年9月25日Anthrop在Anthropic的新实验室中，人工智能转向生物学领域该公司科学家宣布了他们的首项研究发现：一组功能未知的酶。旧金山街道上一栋大型现代玻璃幕墙建筑的外观。Anthropic位于旧金山的总部。图片来源：JasonHenry/Bloomberg作者：CarlZimmer发布于2026年9月24日更新于2026年9月25日Anthropic的生物学家于周三宣布，他们利用人工智能识别出病毒中能够产生以全新方式工作的酶的基因，这是该公司今年春天成立的研究实验室取得的突破性成果。“我们选择生物学和医学作为我们认为人工智能最能发挥效益的主要领域，”Anthropic生命科学部门负责人EricKauderer-Abrams表示。Kauderer-Abrams博士及其同事在公司网站发布的一份技术报告中阐述了这项工作。相关研究结果尚未提交至学术期刊发表。Anthropic首席执行官DarioAmodei对这一发现寄予厚望。“今天，我们宣布了由Claude主导发现的一种分子机器，我们推测它可能代表一种新的基因编辑机制，”他于周三在X平台上写道。外部专家指出，此类断言远远超出了该团队目前收集到的证据范围。“这还算不上突破，”哈佛医学院微生物学家PhilipKranzusch表示，“这只是对我们在该领域既有认知补充的一个小细节。”Anthropic涉足生物学领域之际，正值关于人工智能安全性的激烈争议期。本月早些时候，Anthropic报告了其模型的潜在危险用途，包括可能协助建立生物武器的查询。宣布该消息两天后，Amodei博士呼吁减缓开发速度，以便人类能够在不冒险引发灾难的前提下享受人工智能带来的红利。拥有生物物理学博士学位的Amodei博士长期以来一直主张，这些红利之一将是疾病的新疗法。“第一步是证明人工智能首先可以协助、进而推动生物学领域的发现，”他在X平台上写道。为了安全地展示这一点，Anthropic于今年早些时候建立了一个生物实验室，这一消息上周由路透社首次报道。“我们的团队规模仍然相对较小，但增长非常迅速，”Kauderer-Abrams博士说，“这是公司最重要的投资领域之一。”Anthropic绝非首个利用人工智能探索生物学的机构。许多学术实验室和初创公司正在训练人工智能模型，以发现隐藏的分子机器、设计新蛋白质，甚至预测整颗细胞对药物的反应。Kauderer-Adams博士及其同事使用的是Anthropic自家的产品，例如大型语言模型Mythos以及可按需编写计算机程序的ClaudeCode。在这份新报告中，Anthropic的生物学家描述了他们对逆转录酶的探索。这些酶可以读取RNA分子中的序列并产生匹配的DNA片段。病毒和细菌出于多种目的产生逆转录酶，科学家发现它们是强大的工具。例如，某种新冠检测方法就是利用逆转录酶来检测冠状病毒。科学家们还利用这种酶开发出了基因编辑的新方法。尽管这些酶前景广阔，但科学家们对它们在自然界中的多样性记录才刚刚开始。Kauderer-Adams博士及其同事创建了人工智能代理，在病毒和细菌基因数据库中搜寻新的逆转录酶。这些代理编写了自己的程序，以审查作为19亿种蛋白质蓝图的基因。它们寻找与已知逆转录酶相似的分子模式，以及帮助这些酶发挥作用的蛋白质和RNA分子。Claude在检测到重复模式时正在读取的原始DNA序列。图片来源：Anthropic搜索得出了一份包含17种可能逆转录酶的清单，但其中14种被证实是错误的。在某些情况下，它们并非新品种；在另一些情况下，它们根本就不是逆转录酶。但剩下的三种经受住了审查。研究人员声称，其中一种新品种的工作原理与之前发现的截然不同。科学家将这种酶称为阵列相关逆转录酶，由病毒携带。它们与一组RNA分子共同产生，这些RNA分子似乎以某种方式与它们协同工作。但外部专家表示，Anthropic的研究人员尚未进行确认其发现了新事物所需的进一步研究。印第安纳大学计算生物学家YuzhenYe表示，研究人员本应使用专门用于分析逆转录酶基因的软件来验证他们的假设。“我认为在断定某事为新发现之前，我们应该更慎重一些，”Ye博士说。Kranzusch博士还注意到，Anthropic的报告极少涉及对真实分子进行的湿实验。他说，研究人员应该开展更多实验，例如从病毒中敲除阵列相关逆转录酶的基因，以观察它们会发生什么变化。“这将是博士学位论文研究的第一阶段，”Kranzusch博士说，“他们公布了一个非常令人兴奋的开端，但这是一个故事的开始，而不是我们在该领域通常看到的完整研究。”Anthropic生物学家NicholasPerry表示，他和同事们现在打算“试图弄清楚这些系统在自然界中究竟在扮演什么角色”。对于Kauderer-Abrams博士而言，最具有启发性的见解并非关于酶，而是关于人工智能从事科学研究的能力。“关于人工智能是否具有创造力，或者它是否仅仅擅长执行指令，一直存在很多争议，”他说。Kauderer-Abrams博士在代理执行任务时生成的记录中看到了科学创造力的证据。当一个代理检查阵列相关逆转录酶时，它最初判定这些东西不值得研究。但随后它注意到了伴随蛋白质出现的RNA分子，这些分子非常奇特，值得再次审查。“你可以看到代理说，‘嗯，这很有意思，’”Kauderer-Abrams博士说。CarlZimmer为《时报》报道科学新闻，并撰写Origins专栏。
人工智能实验室Anthropic于当地时间周五宣布，将与埃森哲（Accent
人工智能实验室Anthropic于当地时间周五宣布，将与埃森哲（Accenture）开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入10亿美元（IT之家注：现汇率约合67.18亿元人民币），搭建开展该项工作所需的配套能力。在这项合作落地之际，AI研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。近期已经发生数起相关事件，包括部分AI智能体突破隔离运行环境。这也引发了人们的担忧：人工智能未来或许可以在人类少量介入的前提下推进自身迭代，这将使得AI的行为更难被监控与管控。当地时间周六，Anthropic首席执行官达里奥·阿莫代伊（DarioAmodei）呼吁各家AI企业放缓前沿模型的开发节奏，同时向独立评估人员开放更大程度的系统访问权限。竞争对手OpenAI则已于周三表态，将会定期发布报告，披露模型出现的各类异常或者值得警惕的行为，并且一次性对外发布了六份相关事件报告。埃森哲旗下专门的AI业务部门Faculty将主导本次合作，负责对Anthropic的模型开展评估与红蓝对抗测试，完成对齐效果评估，同时检验模型的各项安全防护机制。双方投入的资金将用于支撑Anthropic所称的驻场评估（embeddedevaluation）模式：独立评估人员进驻AI企业内部，所获得的系统访问权限与普通员工基本相当。Anthropic表示：“依托这一视角，驻场评估人员可以考察企业实际运营情况，核实企业是否兑现安全相关承诺，并且找出企业自身没有意识到的安全盲区。”公告还补充说明，评估人员也可以上报各类安全事件，向公众提供更加详实的分析，阐明AI带来的收益以及潜在风险。Anthropic与埃森哲后续还计划联合其他评估机构以及AI研发厂商，以类似模式开展相关工作。王俊凯演唱会易烊千玺
AI安全评估最大漏洞：看似中立，实则资本闭环独立调查研究者KevinBas
AI安全评估最大漏洞：看似中立，实则资本闭环独立调查研究者KevinBass长期深耕AI行业隐秘资本链条，专注揭露科技领域利益冲突与灰色关联，是业内极具公信力的AI生态深度调查者。他近期的重磅调查，撕开了AI安全评估体系的深层漏洞。早期投资人Moskovitz重仓投资AI企业Anthropic，随后将大额股份转入私人基金会，伴随AI赛道爆发，相关资产估值暴涨至数十亿美元。关键问题在于：该基金会通过Coefficient等机构，持续间接资助METR专业AI安全评估机构。而METR恰好负责Anthropic旗下Claude大模型的安全测评，形成投资方、测评资金、评估机构的闭环利益网络。目前暂无直接证据证明测评结果被刻意篡改，但结构性利益绑定真实存在：Anthropic估值越高，关联基金会与评估机构的资金收益就越高，天然存在正向利好激励。公开信息披露不全、资金链路不透明，让所谓“第三方独立测评”失去公信力。AI安全是公共议题，唯有彻底斩断利益关联、公开资金来源，才能让评估结果真正客观可信。AI价值之争
前Anthropic员工创业，专门给AIAgent做体检，刚拿到4000万美元
前Anthropic员工创业，专门给AIAgent做体检，刚拿到4000万美元融资AIAgent越来越能替公司写代码、处理客户和操作系统，一门新的生意也冒出来了，专门检查这些AI会不会突然乱来。Anthropic首位产品岗位员工鲁内·奎斯特和前METRCOO拉吉夫·达塔尼创办的AIUC，刚刚拿到4000万美元A轮融资，累计融资已经达到5500万美元。它做的事情有点像给AIAgent做碰撞测试，一个系统要面对大约5000种风险和攻击组合，里面包括越狱、幻觉、数据泄露等问题，最后还会生成一份接近100页的评估报告。有意思的是，很多测试本身也是由AIAgent执行，再由AI分析结果，但最终的审计结论仍然需要真人确认。通过测试之后，企业可以拿到AIUC-1认证，部分系统还可以进一步接入保险，今年ElevenLabs就已经为自己的AI语音Agent上线了相关保险。这背后的逻辑其实很现实，银行、医院和大公司现在担心的已经不只是AI够不够聪明，而是它拿到公司数据和系统权限以后，到底会不会做出不该做的事。过去企业买软件主要看功能和价格，未来买一个能自己干活的AIAgent，可能还得像买车一样先看安全测试、认证，甚至出了问题到底谁来赔钱。
五角大楼首席技术官称，90%的机密军事人工智能项目已不再使用Anthropic技
五角大楼首席技术官称，90%的机密军事人工智能项目已不再使用Anthropic技术
