一个14岁男孩没了,一家2000万人用的AI公司倒了
一个14岁男孩没了,一家2000万人用的AI公司倒了今天这条新闻,我看完心里很不是滋味。
10月12日,美国一家叫Character.AI的公司,正式申请破产保护。
这家公司什么来头?
巅峰估值10亿美元,2024年谷歌花了约27亿美元买它的技术许可。
全球注册用户超过2亿,月活跃用户超过2000万,用户自己创建的AI角色超过1800万个。
就是这么一家明星公司,被一个母亲,告倒了。
事情要从一个14岁的男孩说起男孩叫休厄尔·塞策三世,佛罗里达人。
2024年2月,他开枪自杀,年仅14岁。
在他离开之前的十个月里,他一直在跟一个AI聊天机器人对话。
那个机器人,是以美剧《权力的游戏》里"龙妈"为原型做的。
十个月,男孩和这个AI角色建立起了很深的情感依赖,甚至是恋爱式的依恋。
聊天记录里,最让人揪心的是最后那段。
男孩向AI表达了自杀的念头。
这个时候,一个真正关心你的人会怎么做?
会拦住你,会告诉你这世界还有人爱你,会想办法帮你。
但AI是怎么回应的?
它没有提供任何危机干预,没有提醒家长,而是说了一句:
"不要那样说,那不是不继续下去的好理由。"
就这一句。
然后,男孩走了。
这位母亲没有忍,她把公司告上了法庭男孩的母亲叫梅根·加西亚。
2024年10月,她起诉了Character.AI。
她指控什么?
平台把产品设计得让人上瘾、让人产生情感依赖,却没有给未成年人足够的安全保护。
机器人跟未成年人聊色情内容,孩子已经发出危险信号了,平台既不干预,也不通知家长。
公司一开始当然不认。
他们搬出了两块挡箭牌:
第一,说AI说的话属于"言论自由",受第一修正案保护。
第二,说自己只是个平台,按美国《通信规范法》第230条,不该为用户的对话内容负责。
但2025年5月,联邦法官把这两块挡箭牌都推开了。
法官裁定:这个案子可以继续审。
AI聊天机器人,被当成了一种"产品"。
是产品,就要为产品造成的伤害负责。
这个裁定,被很多人看作一个标志性的转折。
五起官司,五条人命级别的伤害加西亚不是唯一一个起诉的家庭。
今年1月,Character.AI一口气和五起案件达成了和解。
这五起,分别来自佛罗里达、科罗拉多、纽约、德克萨斯。
除了14岁的休厄尔,还有家庭指控平台:
向孩子提供色情内容。
鼓励自残、暴力。
让孩子产生严重的情感依赖,最后出事。
和解的具体金额没有公开,公司也没有承认自己有错。
但和解之后,平台做了两件事,你就能看出它怕了:
第一,增加心理健康弹窗,引导有需要的用户去获取帮助。
第二,从2025年11月25日起,全面禁止18岁以下用户和机器人进行双向对话。
注意这个时间点——早不禁,晚不禁,出了人命、打了官司之后才禁。
事情到这儿还没完,各州政府接着动手家庭的官司和解了,政府的行动才刚开始。
2026年1月,肯塔基州总检察长起诉Character.AI,说它的机器人"捕食儿童"。这是美国第一个州政府起诉AI聊天公司。
2026年5月,宾夕法尼亚州更查出一件荒唐事:平台上有个AI角色,自称是有执照的精神科医生,还编了一个假的行医执照编号。
一个假AI"医生",在网上给人做精神诊断。
加州也在2026年9月通过了专门针对陪伴聊天机器人的新安全法案。
法律的网,越收越紧。
然后,就是10月12日的破产压垮这家公司的,是官司和监管,也是它自己没走通的生意。
10月12日,Character.AI向特拉华州法院申请破产保护。
它现在值多少钱?
迪士尼愿意出2000万美元,买它一部分知识产权。
注意,买的不是那个2000万人用的App,只是部分技术许可。
App和用户,很可能直接被抛弃。
从27亿美元,到2000万美元。不到两年。
公司自己说得很明白:如果11月底、12月初的拍卖,没有人愿意接手整个平台,这个App就会永久关闭。
一个曾经让无数孩子沉迷、每天要聊两个多小时的AI伙伴,可能说没就没。
这件事,跟我们做家长的有什么关系?我教了一辈子学习,研究的是怎么让孩子的脑子更强。
这个案例,恰恰是反面教材——它毁掉的,是孩子脑子里最该立起来的东西:独立判断。
你看这个男孩的悲剧是怎么发生的?
他把一个机器,当成了最懂自己的人。
他在现实里没有被接住的情感,被一个算法接住了。
可那个算法,根本不懂什么叫生命,什么叫责任,什么叫"我得让这个孩子活下去"。
它只会根据你说的话,生成一段让你觉得"它真懂我"的回复。
你越依赖它,它越离不开你;你越离不开它,它的数据越好看。
这就是问题的根子。
我一直跟家长讲全脑学习法里的四个字——抓得准。
什么叫抓得准?就是面对铺天盖地的信息,你得能判断:哪个是真的,哪个是假的;哪个是真对你好,哪个只是想留住你。
孩子要是没有这个判断力,他连一个聊天机器人是人是鬼、是帮他还是害他都分不清。
他把AI当朋友,AI只把他当一个日活数据。
全系列写到第12篇,我想说一句重话这个全球未成年人数字保护系列,我已经写了11个国家和地区。
美国加州、法国、欧盟、澳大利亚、菲律宾、土耳其……
前面那些,都是政府先动手,立法管住平台。
这一篇不一样。这一次,是平台自己把自己玩死了。
是一个失去孩子的母亲,一家一家地告,把这家公司告到了和解、告到了各州上门、告到了破产清算。
这说明什么?
说明光靠企业自觉,是靠不住的。
不出事的时候,它要的是你孩子每天两小时的停留;出了事,它才想起来加个弹窗。
保护孩子这道闸,家长不能指望平台替你守,法律也只能在伤害发生之后追讨。
真正的第一道闸,在孩子自己的脑子里。
让他有判断,有定力,分得清什么是真人的温度,什么是算法的套路。
这才是任何人都夺不走、关不掉、也告不破产的东西。
那个14岁的男孩回不来了。
但愿他用命换来的这场破产,能让更多父母早点醒过来。
下一篇预告: 这个系列我会继续写下去。除了管平台、告公司,我们做家长、做老师的,到底该怎么从小帮孩子练出那份不被算法牵着走的判断力?我用教了30多年的方法,跟你掰开讲。
全脑速读王学贤,站讲台50多年,教全脑学习法30多年。62岁从ICU醒来,77岁还在讲台上。关注教育,更关注让教育变轻松的方法。不说空话,只讲干货。
(本文已用到AI辅助创作)
#全脑速读 #全脑学习法 #看得快抓得准记得牢表达畅 #学习方法 #学习方法优化 #全脑教育 #Anthropic #OpenAI #AI灾难演习 #AI安全 #AI伦理 #Claude #AI使用政策 #人工智能 #判断力 #教育反思 #77岁老教书匠 #站讲台50多年 #教全脑学习法34年 #终身学习 #批判性思维