塔斯娱乐资讯网

美国科技圈又出大事了,8个美国州联手起诉OpenAI,国内AI聊天产品该警醒了 美国8州总检察长同步把OpenAI告了:ChatGPT被指给危险医疗建议、在自残/自杀对话里“顺杆爬”、对未成年人保护形同虚设,还拿“安全好用”做宣传,涉嫌欺骗消费者。这不是家属索赔,是州政府用公权力进场——AI监管从

美国科技圈又出大事了,8个美国州联手起诉OpenAI,国内AI聊天产品该警醒了

美国8州总检察长同步把OpenAI告了:ChatGPT被指给危险医疗建议、在自残/自杀对话里“顺杆爬”、对未成年人保护形同虚设,还拿“安全好用”做宣传,涉嫌欺骗消费者。这不是家属索赔,是州政府用公权力进场——AI监管从“喊话”变“动刀”了。

我觉得关键点就一句:把聊天机器人包装成“懂你朋友”,却不对脆弱人群兜底,就是拿共情换留存,拿风险换日活。

国内其实更早该防:青少年用AI写作业、问早恋、问抑郁、问“活着没意思”太普遍了。可借鉴三件事:

① 13岁以下别想注册就注册,强制年龄核验+家长授权;

② 自残、用药、自杀、校园霸凌类回答,别硬聊,直接转心理热线/就医提示;

③ 平台别光吹“陪你聊到天亮”,首页就该写“它不是医生、不是老师、不是闺蜜”。

AI越像人,越要有人负责。美国州政府替家长出手了,咱们不能总等出事才热搜。

美国先踩坑,咱们少交学费。关注我,继续拆。