随着豆包、千问、DeepSeek等AI应用的火爆出圈,现在很多人已经习惯了凡事问AI。
但AI一旦用不好,就会闹出大问题。
比如,最近媒体报道称,安徽滁州67岁的农户吴大伯,按照AI给出的除草方案给芝麻田喷药,结果150亩芝麻苗一夜之间全部枯萎,预计损失约15万元。
吴大伯一开始对AI还是将信将疑,但经过多次使用后,AI答复都比较完善,吴大伯便相信并依赖AI了,从农时安排到用药施肥,几乎事事请教,直到这次AI给出灾难性方案。
实际上,这两年由于盲目相信AI而导致的各种“事故”并不少。
据江南时报,四川一家人上山采摘酷似鸡枞的毒蘑菇,用AI拍照识别显示“无毒可食用”,结果全家吃下后集体中毒。
据三秦都市报,西安一名女子面部起红斑不愿去医院,询问AI被判定为过敏性皮炎,并开具了激素药膏。自行涂抹一周后症状加重,水疱溃烂,最终被医院确诊为接触性皮炎合并感染。
据解放日报,张女士根据AI生成的诉讼指导意见去打官司,可庭前沟通不到5分钟,局面就失控了,法官直截了当指出:“你告错了对象。”
据华商报,西安一股民完全采信AI给出的上市公司业绩预增虚假公告,投入20万元买入股票。后续证实业绩数据为AI编造,股价持续下跌,最终亏损近4.8万元。
……
如果你经常使用AI应用,应该也遇到过它有时候“一本正经地胡说八道”——这就是“AI幻觉”。
【什么是“AI幻觉”?】
AI幻觉(AI Hallucination),简单说就是人工智能生成的内容看似逻辑通顺、言之凿凿,但实际上完全不符合事实。
为什么会这样?这跟大语言模型的底层工作原理有关——它主要基于概率预测而非逻辑推理,它学习的并非事实本身,而是词语之间的统计关联性。模型在生成每个词语时,并非“查找”一个确定答案,而是在计算一个概率分布后,从中采样输出。
简单来说,大模型通过海量文本训练,学到的是“词语之间的搭配规律”,而不是客观世界的事实。就像一个熟读百科全书却从未出过门的人,能写出漂亮的文章,却可能分不清麦苗和韭菜。
大模型的技术一直在发展,通过思维链等技术,模型能在输出答案前先构建逻辑骨架,显著降低了逻辑断裂的风险。但推理能力的增强非但没消灭AI幻觉,反而把它包装得更隐蔽了——它让AI编造的内容看起来逻辑通顺、合情合理。
很多模型的训练目标是生成通顺自然的回答,当遇到知识盲区时,它不会老实说“我不知道”,而是会用概率最高的词语把句子“凑完整”,听起来毫无破绽。
AI模型的能力来源于训练它的数据库。如果一个模型的训练数据多是通用领域,碰到专业领域的问题,它就没法儿准确辨别和处理。比如,在医疗问答任务中,若训练数据仅覆盖常见疾病,模型对罕见病就容易生成错误信息。实际上,我们在前面举的AI“翻车”例子,都涉及专业领域。
而且,大模型训练所用的数据都存在固定的知识截止日期。模型对截止日期之后的事件一无所知,如果你拿一款刚刚发布的手机去问某个AI应用,有时候它甚至不联网进行确认,就说这款手机并不存在,是你编造的。
除了以上,还有数据污染的问题,AI训练时不小心使用了虚假信息,生成的自然也是虚假内容。新内容再被下一代AI吸收,形成“污染—吸收—再污染”的循环。
造成AI幻觉的因素有很多,各个AI大模型都在尽其所能减少AI幻觉的出现,但目前的技术还做不到杜绝。
【怎样安全地使用AI?】
刀是工具,能切菜也能伤人,关键看怎么用它。AI也是工具,掌握了使用它的恰当方法,就能避免被误导和欺骗。普通用户起码应该做到以下几点:
首先,高风险领域、专业领域,绝不盲目采信。
涉及人身健康、财产安全、生产决策、法律事务等专业内容,AI回答的内容可以作为了解和参考,不能全盘轻信,最终决策一定要经专业人士确认。
第二,养成“溯源”习惯,要求AI给出来源和依据。
凡是事实性内容,或者关键信息、结论,一定要追问一句:“信息来源是什么?请给出原始链接或文献出处。”
当AI给出链接后,自己点进去确认一下,看看AI是否断章取义、发布机构是否足够权威。如果AI给不出具体来源,只说“研究表明、专家认为”这类模糊表述,可信度就要打个问号。
第三,重要问题要交叉验证。
养成“一题多投”的习惯,这里边包含两层意思。一层是,同一个问题,分别问不同的主流大模型,如果答案差异很大,说明这个问题的幻觉风险很高。另一层是,同一个问题,可以多次独立问同一个AI,然后比较各次回答之间的一致性程度。如果多次生成的答案差异很大,说明模型对该问题缺乏稳定认知,幻觉风险较高。
第四,提问最好不要预设立场。
提问AI的时候,语气尽量中立客观,不要有引导AI的表达。AI大模型被强制要求必须有回应,而训练过程的缺陷导致AI存在讨好用户的倾向。如果预设的问题是错的,有的AI不会认为是用户出错,而是生成迎合用户需求的内容,并编造虚假的例证或看似科学的术语来支撑自己的假说。
虽然AI幻觉确实存在,也造成了一定的负面影响,但瑕不掩瑜,我们不必因此就否定其价值。作为划时代的效率工具,AI正在方方面面拓展我们的认知边界、压缩时间成本、提升生产与生活效率。但工具终究是工具,一味盲从与全盘依赖,只会让我们丧失独立判断的主体性。唯有始终保持批判性思维,守住专业领域的安全边界,以理性的态度驾驭技术,才能真正让AI为我所用。