塔斯娱乐资讯网

说实话,我最担心的不是AI失控,而是有人说只有自己能管住AI。说AI危险没问题,

说实话,我最担心的不是AI失控,而是有人说只有自己能管住AI。说AI危险没问题,可把自己说成唯一的救世主,就有意思了。
Anthropic上市了,IPO发行价83美元,上市首日股价一度冲到115美元上方。但我对这家公司反而越来越警惕。
为什么?因为它的创始人兼CEO达里奥·阿莫代伊,一直在强调两件事:AI非常危险,而且必须有人管住AI,而Anthropic似乎一直把自己放在这个位置上。
我不反对AI安全监管,但问题是,你说AI危险,我认同,可凭什么只有你能管住它?你反对开源,理由是开源AI不安全,可如果最先进的技术只掌握在少数公司手里,这又真的安全吗?
还有英伟达和黄仁勋近期遭遇的种种争议,恰好发生在Anthropic上市前后。有人怀疑背后存在利益博弈,我也觉得值得关注,但目前没有证据证明是Anthropic在幕后推动,不能把猜测当成事实。
现在Anthropic上市了,融资渠道更广,资本和行业影响力也可能进一步扩大。我真正担心的是,一家公司如果既强调自己代表安全和道德,又想掌握更多技术和规则制定权,谁来监督它?
AI确实危险,但不能因为AI危险,就把控制AI的权力交给某一家企业。无论是Anthropic还是OpenAI,都应该接受公开、透明的监督。保护人类不能成为任何一家公司的特权,更不能让商业利益披上安全和道德的外衣。