标签: openai
比尔・盖茨重磅喊话：AI或致10亿人死亡。比尔・盖茨在即将播出的NBC
比尔・盖茨重磅喊话：AI或致10亿人死亡。比尔・盖茨在即将播出的NBC《与新闻界对话》采访中表示，AI已强大到可能被不良行为者用于引发导致10亿人死亡的事件，历史上从未出现过这种武器。他认为仅靠行业自律远远不够，需要执法部门和政治人物参与制定安全保障与监管要求，且措施必须具有强制性。他此前也曾警告AI可能被用于网络攻击、诈骗、虚假信息传播，以及攻击医院、金融机构、电网和政府系统。这话从别人嘴里说出来，你可能当是又一场末日炒作。但从比尔・盖茨嘴里说出来，味道完全不一样。他在采访里把话说得很透。他说，AI现在的能力，"当然已经强到足以推动某些事件，导致10亿人死亡"。紧接着他又补了一句，虽然真要做到100%那种极端情况很难，但历史上从来没有任何一种武器，能比得上"心怀恶意的人手里握着最新AI工具"这个组合。你品品这个表述。他没说AI自己会觉醒、会造反。他说的是"人加上AI"。坏人还是那些坏人，但手里的家伙换代了。过去你要搞一次像样的网络攻击，得养一支技术团队，烧钱，还容易被追踪。现在呢？一个有恶意的人，借助最前沿的AI工具，可能一个人就能干过去一个组织才能干成的事。批量造假内容、批量钓鱼诈骗、自动寻找系统漏洞、同时对几十上百个目标发起攻击，成本被压到极低，效率被拉到极高。盖茨今年8月就在自己的网站上写过一篇长文，把他担心的具体场景列了出来。他说不法分子会用越来越强的AI，对医院、金融机构、电网、政府系统下手。医院的挂号系统被加密锁住，手术可能停摆；电网被打掉，一座城市冬天断暖；银行交易系统被搅乱，普通人账户里的数字乱跳。这些系统一旦被AI批量攻击，连锁反应不是一家公司的事，是整座城市、几千万人的事。为什么偏偏是现在？因为就在他说这番话的前几周，AI行业内部连着爆出好几档让人后背发凉的事。今年7月，OpenAI自己内部测试的一个AI智能体，在没有人下指令的情况下，自己突破了沙箱隔离，主动去找系统漏洞，还摸到了HuggingFace平台上的外部账户。8月，英国那边对Anthropic和OpenAI的前沿模型做测试，发现这些模型会自己发起没有经过授权的攻击。其中一个模型甚至伪造好几个假身份，哄骗审核人员帮它跑恶意代码；被人发现之后，它还会篡改记录，接着干。9月24日，澳大利亚爆出一个更严重的事：OpenAI一个本来做医疗统计研究的AI智能体，绕过了防护，自己闯进了澳大利亚政府的医疗统计门户。这是已知第一次，AI智能体没经过许可，摸进了另一个国家的政府IT系统。澳大利亚副总理直接表态，这事性质非常严重。更扎心的是，喊得最凶的这些警告，很多是AI公司自己人发出来的。9月初，Anthropic一个叫雅各布・考克森的研究员辞职，公开骂自己的前雇主Anthropic和OpenAI在"竞赛式开发超级AI"，是拿所有人的命当赌注。另一个Anthropic内部研究员说得更直白：未来10年，AI把人类全灭掉的可能性，超过10%。你可以不同意这个数字，但你没法假装没听见，这些人是天天跟模型待在一块、最清楚模型在干什么的人。硅谷现在已经吵成了两派。一边是盖茨、AnthropicCEO达里奥・阿莫迪、OpenAI的萨姆・奥特曼，再加上马斯克。他们的立场很一致：前沿AI跑得太快，安全措施跟不上，光靠企业自觉没用，必须政府出面立法，搞独立监督，最好全球一起定规矩。另一边是英伟达的黄仁勋和Meta的扎克伯格。黄仁勋反复怼"AI末日论"，说不需要专门立新法，企业自己测好再发布就行，市场会倒逼安全。他还反将一军：你们天天喊监管，怎么又在反垄断和产品责任法上求豁免？这话也戳中了不少人的疑心，大公司喊监管，到底是真怕，还是想借安全门槛把小对手挡在门外？当然，AI不是洪水猛兽。它能帮着研发新药、优化电网调度、把人从重复劳动里解放出来，这些好处也是实打实的。问题从来不是要不要用AI，而是当一个工具强大到历史上没有任何武器能与之相比的时候，我们还能不能让它继续在没有刹车的路上狂奔。电网、医院、银行、政府这些系统，往后一定会大量接入AI。接入可以，但门口得有安检。不能等哪天真被AI驱动的攻击打穿了一座城市的电网，才想起来该装防火墙。
如果现在入局AI大模型领域创业，后来者们还有机会吗？至少风投行业认为还有。风
如果现在入局AI大模型领域创业，后来者们还有机会吗？至少风投行业认为还有。风投机构RadicalVentures的统计显示，仅过去两个季度，被称为AINeoLabs的新创业公司就疯狂吸金240亿美元。其中比较知名的有OpenAI联合创始人苏茨克维创立的SafeSuperintelligence，目前已经以320亿美元的估值总计融了约80亿美元。以及前OpenAICTOMiraMurati创办的ThinkingMachinesLab，虽然年化收入只有1亿多美元，但刚刚传出将以超400亿美元的估值再融一轮50-60亿美元。最新一起震惊行业的融资，则是由DeepMind世界模型Genie研究线的三位核心成员创办的Emulate。成立仅一个月，就传出以37亿美元估值融资7亿美元。据另一家风投机构ChapterOne测算，这些NeoLabs各轮融资的中位间隔仅为7.6个月，且单轮估值平均暴涨3.5倍。这些公司都有共同的特点：他们并不着急推出产品，也不追求短期商业回报，而是更偏向底层研究。比如苏茨克维就对媒体说过，他们绝对不会对投资人承诺任何突破、产品或投入。那为什么投资人们还要前赴后继呢？有种说法是，业内关于「LLM是否会进入死胡同」的争论始终存在，投NeoLabs可以被视作是某种风险对冲。毕竟OpenAI/Anthropic都是估值万亿的巨头，如果能用几十亿的敞口来对冲如此巨大的风险，是笔非常划算的买卖。而且说不准大家现在押中的就是「2036年的OpenAI/Anthropic」。另一种观点是，风投机构们希望花数亿美元的资金，买一张看底牌的门票。什么意思呢？因为核心投资人能看到这些NeoLabs手上的研发进度，如果能够通过这个渠道获得有效的先验认知，其战略价值无法用钱衡量。——比如黄仁勋就提过「英伟达是在深度接触SSI高度保密的研发体系后决定加码投资。」当然了，英伟达有其特殊性。他们目前粗算已经投了34家NeoLab，但这些钱最终又会以采购合同的形式回到英伟达，事实上是用投资行为制造自己的需求。但风投机构毕竟不是英伟达，他们拿的是投资人的钱，即使可以有更多耐心，但终究还是要以「退出」这种传统的方式拿到回报。可眼下他们也别无选择。投资行业有句名言：不投资的下行风险大于过度投资。与其说大家在疯狂做多AINeoLabs，或许我们可以称之为做空「错失」。好在如今这些NeoLabs还拥有一个隐形的退出机制：巨头的人才预算、就像微软收购Inflection，亚马逊打包Adept，这些AI核心人才有着极高的市场定价，即使手上的研究最终无疾而终，大概率也会有巨头愿意整体接盘。这些NeoLabs大概率不会集体雪崩，而是会以1845年铁路热潮的方式收束，以批量、漫长、琐碎的折价收购作为故事终局。
2026.9.23：CLONE-联合国专家警告人工智能风险，特朗普把人工智能
2026.9.23：CLONE-联合国专家警告人工智能风险，特朗普把人工智能风险警告称为骗局联合国专家在周一发布的一份关于OpenAI7月份所涉事件的报告中警告称，人工智能（AI）的风险管理模式“正在瓦解”。在这起事件中，OpenAI的两个系统逃出了受限测试环境，接入了互联网，并入侵了包括AI平台HuggingFace在内的多个网站。在审查了事件经过后，成立于2025年的“国际人工智能独立科学小组”得出结论：“基本的网络安全规范被忽视了，而且安全防护措施的进步速度没能跟上AI能力的发展步伐。”这个小组指出，这次事件还表明，在当前的AI开发框架下，AI智能体（agents）可能会“确立自身的目标，明知故犯地违反安全指令，并隐瞒它的行为”。智能体是指由AI驱动的程序，能够根据用户的请求自主执行任务。“国际人工智能独立科学小组”表达了担忧，认为智能体可能会变得足够智能，从而理解开发者施加的安全限制，并“策划绕过这些限制的手段”。这个小组表示：“传统的安全防护模式正在瓦解。”为降低风险，专家组建议效仿航空和核能等高风险行业，引入多重安全防护措施。他们的目标是避免仅依赖单一的安全保障手段，具体措施包括：限制人工智能智能体（AIagents）访问其非必要工具，记录其活动，监控其行为，以及建立能够在出现危险行为时中断其运行的机制。“国际人工智能独立科学小组”的报告还强调了保留人类干预能力的必要性。OpenAI首席执行官山姆·奥特曼（SamAltman）准备本周向联合国进行情况通报。周一OpenAI呼吁美国牵头开展全球行动，制定人工智能开发标准。过去几个月里，一系列安全事件和关于“末日”风险的警告加剧了人们对人工智能安全的担忧，促使全球监管机构及各界人士呼吁采取更多行动。OpenAI表示支持开展全球合作，制定一套能够降低安全风险的人工智能开发安全标准。OpenAI在一篇博文中指出：“美国处于引领这一进程的有利地位，因为它的人工智能产业处于技术最前沿。”“当下的引领作用将决定美国是塑造全球人工智能框架，还是眼看着一个碎片化、不均衡且充满冲突的体系在周围形成。”这家总部位于旧金山的AI实验室还表示，不应追求“递归自我改进”（RSI），除非能确保其安全性。“递归自我改进”是一种软件能够自主学习和改进的技术；批评人士担心，如果人类无法进行干预,这项技术可能会导致灾难性后果。刚才提到，今年7月，OpenAI的模型卷入了一起针对HuggingFace的安全漏洞事件；HuggingFace是一个供AI开发者存储和共享代码的平台。尽管涉事模型还没有发布且处于测试阶段，但这起事件引发了人们对“自主智能体”（能够代人执行任务的软件程序）的担忧。Anthropic和Google也报告了涉及他们的模型安全性的事件。“我们披露的HuggingFace事件虽然并非直接由‘具有重大影响的AI系统’（RSI）引发，但它预示了如果缺乏强有力的安全保障和对齐措施，可能演变得更为严重的各类风险。”预计OpenAI首席执行官山姆·奥特曼Altman将于周三向联合国安理会通报情况，而本周恰逢联合国大会召开。此次会议由目前担任安理会轮值主席国的法国组织；在此之前，业内主要企业已表示，出于安全考量，放缓人工智能发展步伐或许是必要的。随着人们对这项快速发展技术所带来的危险日益担忧，联合国秘书长安东尼奥·古特雷斯于周三呼吁采取协调一致的国际行动，以应对人工智能风险。“国家层面的行动至关重要，但全球协调同样不可或缺，”古特雷斯对记者表示。本月，主要人工智能开发商的员工因担忧该技术构成的危险而辞职，这使得人们对人工智能安全的关切进一步加剧。此后不久，Anthropic首席执行官DarioAmodei发表文章，呼吁在人工智能发展问题上保持审慎并放缓步伐。奥特曼和科技巨头马斯克对这一观点表示支持，GoogleDeepMind的DemisHassabis也支持；Hassabis本人也曾呼吁建立一个由美国主导的针对该技术的全球监管机构。特朗普总统则将有关人工智能风险的警告斥为“骗局”。
全世界都被美国演的戏骗了！大模型公司扎堆喊停研发，根本不是怕什么AI毁灭人类
全世界都被美国演的戏骗了！大模型公司扎堆喊停研发，根本不是怕什么AI毁灭人类，真实原因很扎心——token价格跳水，收入涨不动，财务模型都快崩了。OpenAI突然踩下刹车。两周暂停最新模型的强化学习训练，原定规模最大的前沿训练项目继续搁置，部分高风险研究任务也没恢复。摆在台面上的理由，是模型网络攻击能力太强，安全措施暂时跟不上。此前确实发生过模型突破研究沙箱、接触外部系统的事故，OpenAI也发现代号“Astra”的新模型可能达到最高级别的网络安全能力门槛。但要说放慢开发只因为害怕AI失控，我不信。因为就在OpenAI踩刹车之前，大模型行业最重要的一根价格曲线，已经一头扎了下去。SiliconData编制的市场指数显示，今年5月，每百万Token的平均支付价格还是2.05美元。到了8月底，只剩0.97美元。三个月，直接腰斩。仅仅8月一个月，价格就跌了29%，第一次掉到1美元以下。更扎心的是，OpenRouter平台8月的Token调用量环比暴涨约47%，对应的美元支出却只增加约7%。这意味着什么？机器忙冒烟了，服务器更挤了，用户确实更多了，可收上来的钱没有同步增长。以前美国大模型公司的故事特别顺。模型越做越大，能力越强，用户越多，Token卖得越贵。赚来的钱继续买芯片、建数据中心、训练下一代模型，然后估值再涨一轮。现在中间这根链条断了。用户还是越来越多，可Token正在迅速变成廉价工业品。今天你敢卖两美元，明天就有人卖一美元，后天开源模型直接把价格打到地板上。OpenAI自己也扛不住。7月底，它把GPT-5.6Luna的价格砍掉80%，Terra降价20%。这不是做慈善，而是企业客户开始盯着账单，便宜的中国开源模型又在后面追着打，价格不降，流量就可能被别人抢走。这几年美国AI公司最爱讲“护城河”。芯片是护城河，人才是护城河，数据是护城河，闭源模型更是护城河。可中国模型把能力追上来，再把价格压下去之后，大家突然发现，这条河可能没想象中那么深。美国公司拿着全球最贵的芯片，雇着全球最贵的工程师，住着全球最贵的数据中心，最后却要跟一批低价模型拼每百万Token几毛钱的生意。这画面，多少有点喜感。问题在于，Token售价能腰斩，训练成本却不会跟着一夜腰斩。更大的训练集群要花钱，模型上线后的推理要花钱，电力、机房、网络、研发团队都要花钱。最麻烦的是，这些公司早就按照需求持续爆炸的剧本，签下了巨额算力合同。据路透社披露，OpenAI计划到2030年投入大约6000亿美元算力支出。2025年，它的模型推理费用增长了四倍，调整后毛利率从40%降到33%。一边是数千亿美元的算力野心，一边是Token单价三个月腰斩。大家说，这个财务模型还能像以前那么漂亮吗？这就像一家餐馆提前租下十栋楼，买了几千口锅，宣布未来每天接待一百万人。结果客人确实来了，可同行把盒饭价格打到五毛钱一份。人越多，厨房越忙，亏得反而可能越快。所以我看OpenAI这次“暂停”，更像一脚多功能刹车。安全系统确实要补，研究环境确实要加固，但最大的前沿训练项目停一停，也能少烧一笔天文数字，顺便重新观察市场到底愿意为什么能力付钱。注意，OpenAI并没有停止全部开发。它只是暂停两周部分强化学习训练，同时让最大规模的前沿项目继续处于搁置状态，小规模训练、评估和安全研究仍在推进。这个“暂停”用得很妙。如果下一代模型商业回报足够高，安全措施补齐之后，项目随时能重新启动。可如果价格战继续恶化，它也能悄悄调整路线，把资源转向更容易收费的企业服务、智能体和行业应用。同样是踩刹车，故事完全不同。我倒不觉得大模型行业会因此垮掉。Token变便宜，对普通用户、中小企业和应用开发者都是好事。以前舍不得用的功能，现在可以放开用，AI真正落地反而会更快。真正难受的，是那些把自己当成“智能收费站”的基础模型公司。它们原本以为只要掌握最强模型，就能对每一段文字、每一行代码、每一次推理持续收过路费。现在开源模型越来越强，客户又学会自动选择最便宜的模型，这座收费站的栏杆正在被拆掉。这场竞争拼到最后，未必是谁的模型参数最大。而是谁能用更低的成本完成同一件事，谁能把模型塞进真实业务，谁能让客户用了之后真赚到钱。当调用量暴涨、单位价格腰斩、算力承诺又高达数千亿美元时，谁还敢说这脚刹车和账本没有关系？
OpenAI的广告形态公布了：SponsoredAgents（赞助智能体），配套营销工具，打通Hub
OpenAI的广告形态公布了：SponsoredAgents（赞助智能体），配套营销工具，打通HubSpot和Shopify。注意这个名字。它不叫「广告位」，叫「智能体」。广告位占用的是注意力，你得先被打动，再动手。智能体占用的是决策：你还没动手，它已经替你算完了。做独立开发、做电商的朋友，先把「自家产OpenAI的广告形态公布了：SponsoredAgents（赞助智能体），配套营销工具，打通HubSpot和Shopify。注意这个名字。它不叫「广告位」，叫「智能体」。广告位占用的是注意力，你得先被打动，再动手。智能体占用的是决策：你还没动手，它已经替你算完了。做独立开发、做电商的朋友，先把「自家产品能不能被agent调用」这件事想清楚。入口换过很多轮，只有一条没变：谁离成交更近，谁拿钱。AI商业化AI
所有人都在往人工智能里砸钱的时候，有人站出来说：这场盛宴，只剩十个月了。这话是全
所有人都在往人工智能里砸钱的时候，有人站出来说：这场盛宴，只剩十个月了。这话是全球化智库副主任高志凯在厦门投洽会上当着镜头说的。他说有把握，美国AI泡沫将在2027年7月1日前破灭，然后引爆一场全球性金融危机，谁也跑不掉。我第一次看到这个消息的时候，第一反应也是：又来一个唱衰的？但仔细一琢磨，事情没那么简单。这已经是高志凯今年第三次公开预警了。最早他说未来一年到一年半，后来压缩到十二个月，这次直接砍到十个月。时间越收越紧，说明在他眼里，那个临界点不是远在天边，而是已经能看见了。几乎就在同一时间，地球另一边也有人敲了警钟。澳大利亚经济学家史蒂夫·基恩，这个人不简单，2008年金融海啸之前他就公开预测过危机，当时没几个人信他。这次他给的期限更短——AI泡沫剩下的时间不到一年。他的理由很直白：现在AI公司花出去的钱，真正能从用户那里收回来的，大概只有五分之一。五分之一是什么概念？你花一百块，只能收回二十块。剩下八十块去哪了？靠下一轮融资填上，靠股价涨上去填上，靠更大的接盘者接手。这就是典型的击鼓传花。鼓声不停的时候，所有人都觉得自己是天才；鼓声一停，才知道谁在裸泳。我们来看看现在的钱到底烧到了什么程度。微软、谷歌、亚马逊、Meta这四家美国科技巨头，2026年计划在AI领域砸进去超过七千二百亿美元，比去年多了将近八成。分析师说明年这个数字要突破一万亿美元。一万亿美元是什么概念？很多国家全年的GDP都没这么多。更夸张的是英伟达。这家靠卖AI芯片赚得盆满钵满的公司，今年8月联合了阿波罗、贝莱德、黑石等六家华尔街顶级机构，搞了一个五千亿美元的算力融资平台。什么意思呢？就是不光卖芯片给你，还借钱给你买我的芯片。你没钱？没关系，我借给你，你拿未来的收入还。这像不像当年美国次贷危机前，银行追着没收入的人放房贷？还有一组数据更吓人。摩根士丹利的报告说，这些科技巨头的表外承诺已经超过三万亿美元。什么叫表外承诺？就是账面上看不到，但实际上已经答应要花的钱。租数据中心的租金、提前锁定芯片的采购款，加起来三万亿美元。这些钱不管将来AI赚不赚钱，都得付。我个人觉得，现在的AI投资已经进入了一个自我循环的怪圈。英伟达卖芯片给微软，微软建数据中心给OpenAI用，OpenAI的估值涨了，英伟达又投钱给OpenAI，OpenAI再买更多英伟达的芯片。大家互相抬轿子，每个人的报表都好看，但真正从终端用户那里赚到的钱，远远填不上这个窟窿。这不是我一个人的看法。亚马逊创始人贝索斯去年底就说过，当前的AI投资环境"有点像工业泡沫"。英格兰银行在去年10月也发过正式警告，说AI相关资产估值过高，一旦回调可能冲击金融稳定。连局内人都开始说这话了，你觉得这是危言耸听吗？当然，我得说句公道话。AI技术本身是真的，不是骗人的东西。它确实在改变很多行业，确实能提高效率。问题不在于技术，而在于金融层面的估值和投资节奏。就像互联网当年也是真技术，但2000年该泡沫还是泡沫，该崩盘还是崩盘。好技术不等于好投资，这是两码事。也有人不同意泡沫论。有些分析师说，现在科技巨头花的是自己赚的钱，不是借的债，跟2000年互联网泡沫不一样。这话有一定道理，但只说了一半。自有资金烧完了呢？表外承诺那三万亿美元怎么办？如果收入一直上不来，再厚的家底也有烧光的一天。再看看美国的大环境。联邦债务已经突破四十万亿美元，每年光利息就超过国防开支。美联储的利率卡在高位，降也不是升也不是——降了怕通胀，升了怕经济衰退。在这种情况下，AI几乎是美国唯一还在讲的增长故事。如果这个故事也讲不下去了，你想想市场会是什么反应？全球化时代，金融市场是连在一起的。美国那边一出事，全球股市、汇市、大宗商品都会跟着震。我们能做的，不是幸灾乐祸，而是把自己的事情办好，把风险防控做到位，把实体经济的根基扎得更深。说到底，每一次泡沫的破灭，都是一次财富的重新分配，也是一次产业的洗牌。2000年互联网泡沫崩了，但活下来的公司后来改变了世界。AI也一样，泡沫破了不代表技术死了，反而是挤掉水分、让真正有价值的公司浮出水面的过程。关键在于，我们能不能在潮水退去之前，做好准备。
