【内容提要】围绕AI使用风险的这篇评论文中，作者特别引用了富坚义博《猎人》里的“风险骰子”作比喻，指出生成式AI看似便利，却可能因一次严重失误引发巨大后果，也让富坚作品中的设定再次成为讨论现实问题的经典案例。【正文】 ——［贫困东大学生·布施川天马］——大家平时会经常使用AI吗？最近，几乎人人都会在手机里常驻ChatGPT、Gemini等AI助手吧。我自己也开始在查资料、简单会议转写等可以归为基础性工作的场景中使用AI。在简单作业方面，AI的速度压倒性更快。而且，AI思考的“深度”也在逐步提升。只要是存在明确答案的问题，哪怕已经到了东京大学入学考试的级别，如今它也能流畅地解答出来。这仿佛在提醒我们：我们所相信的“知识”，归根结底其实也可以被机器以某种拟态方式重现，这多少让人感觉不太舒服。即便如此，与其因为抗拒而继续埋头于繁琐的重复劳动，不如尽量节省时间和体力，把精力投入到别的工作上——如果我们心里这样想，其实也未尝不可。不过，就算要使用AI，也必须认真考虑使用方式。生成式AI是一把双刃剑，稍有不慎，就可能造成严重后果。这一次，我想谈谈“绝对不能这样用AI”的方式。把从未打过高尔夫的人判断成职业高尔夫球手提到使用AI时必须注意的问题，首先就是“幻觉（Hallucination）”。每个人大概都曾被身边的人说过谎，而AI在这方面的表现，甚至远超人类。以前，在AI刚刚面世不久的时候，我曾出于好奇问过一句：“布施川天马是个怎样的人？”那时候我也不过刚出过一本书，这个专栏也才连载了一两年左右。结果AI给出的回答竟然是：“出生于20世纪80年代的职业高尔夫球手。”当然，我根本不是什么职业高尔夫球手。别说职业了，我甚至连高尔夫球杆都没握过。可AI还是把我介绍成了职业选手，恐怕只是根据名字的感觉之类的信息做了推测。生成式AI非常擅长制造“看起来像那么回事的答案”。它会基于学习到的数据，预测“接下来最可能出现什么词语”，从而生成最像样的回答。也正因为如此，如果你问的是“谁都知道的事情”，它往往能瞬间作答。但学习和更新似乎需要一定时间。所以，哪怕你去问“今天傍晚刚刚曝出的新闻”，很多时候它也会直接把真消息说成“毫无根据的假新闻”。它既可能把不存在的事说得像真的一样，也可能把真实发生过的事说成从未发生。因此，如果你想和它建立“超过聊天对象”的关系，那它就会变得非常难以控制。面对AI时，“毫无意义的提问”是什么？原因就在于：AI每次给出的，往往都是“真伪未明的答案”。如果使用者本身并不具备判断AI回答真伪和妥当性的能力，那从一开始就不如不要使用AI。也就是说，不应该直接问“○○是什么？”采用这种问法的人，其实很荒谬。因为提问者连最基本的概况都没掌握，无论AI给出什么答案，也只能照单全收。哪怕那其实完全是无中生有的谎言，AI所营造出的“像真的一样”的感觉，也会让我们不容易察觉。这种不稳定性，显然不适合让它充当真正的“商业伙伴”。如果要用AI做调查，比起问“○○是什么？”，更应该问成“○○是不是指△△？”这样，至少要带着一个假设去提问。或者，也可以这样问：“○○是什么？请注明你调查时所使用的网页地址和网站名称，并用300字左右概括说明。” 这样一来，你就能沿着AI给出的线索自己继续核查。既能参考AI的回答，也能省去自己从零寻找相关页面的麻烦。视情况而定，甚至还可以要求它“用连初中生也能理解的词汇水平来说明”。虽然这样会让说明变得更粗略，准确性也会相应下降，但如果你的前提本来就是之后还要自己继续调查，那么这种“简单易懂但较为粗略的概述”，反而能成为很实用的方向指引。无论如何，如果连自己去读文字、去学习、去核实的工夫都舍不得花，那被AI误导的概率就会大幅上升。因此，更理想的态度应当是：把AI的回答仅仅当作参考，在把内容当作线索的同时，再自己动手调查。当然，这件事真的很麻烦。并不是说AI每次都错；事实上，越是接近常识层面的问题，它给出“正确答案”的概率往往越高。如果每次都要怀疑AI、每次都要再去核实，那原本应该省下来的时间和精力，反而会消耗在额外的确认工作上，未免有些本末倒置。要是AI大致上说得都对，直接接受确实更省事。但是，正因为大家都把那些“看似正确的答案”照单全收，最终才引发了各种各样的事件。因AI而引发的诉讼与风波今年3月，日本生命保险的美国法人起诉了OpenAI。原因是，曾经已经达成和解的一名用户，在没有律师资格的AI建议下，试图推翻和解内容，甚至还对日本生命提起了诉讼。此外，因为AI不负责任的建议而导致阿部慎之助卷入风波的事件，想必大家也还记忆犹新。过去，在富坚义博的人气漫画《猎人》中，曾出现过一个名为“风险骰子”的道具。那是一枚20面骰子，其中只有1面是“大凶”，其余19面全是“大吉”。掷出大吉时，会带来惊人的好运；但如果掷出大凶，则会遭遇足以致命的不幸——可谓是名副其实的“高风险”道具。不做核实就直接使用生成式AI，其实和这个道具是一样的。 如果你总想着“这次没事，那下次应该也没问题吧……”，继续一次次尝试下去，终有一天，会遭遇一次足以把此前所有成功都一笔勾销的猛烈反噬。也许那只会以你一个人的不幸收场；也可能牵连到你的家人；甚至可能把公司、地方政府等大型组织都卷进来，酿成重大风波。只是因为AI方便的一面太过突出，我们才不容易看见而已，但那个“ 大凶 ”的面，确实存在。只是运气好，暂时还没掷到而已。归根结底，这仍然是概率问题；如果无限次使用，迟早总会撞上那一次“坏结果”。如今想完全脱离AI生活，恐怕已经不现实了。正因为如此，再麻烦也要用人工去为AI补位、兜底。与其把成败全都寄托在AI这种听天由命的用法上，不如尽可能采取更能降低风险的方式行动。这样，至少不至于轻易跌进那种“直通失败者”的陷阱。话虽如此，“不要把一切都交给机器，自己也要认真动手”这种道理，想必大家其实都明白得不能再明白了。可即便如此，人性往往还是会让我们避开楼梯，转而去乘自动扶梯。或许，说到底，人与AI该如何相处，终究是一场“与自身心态之间的内在斗争”。＜文／布施川天马＞——［贫困东大学生·布施川天马］——【布施川天马】 作家、教育专栏作者。一般财团法人“龙樱财团”评议员。1997年出生。出身于家庭年收入仅300万日元级别的家庭，但通过摸索高效率学习法，经历一年复读后考入东京大学。著有《东大式节约学习法》，系统整理了以最低成本取得成果的方法论；以及《东大式时间术》，讲解其在面对庞大考试范围与学习量时领悟到的“将时间性价比提升到极限的方法”。现于Carpe Diem株式会社传播“不花太多金钱与时间的省能型学习法”等理念。也是MENSA会员。（X账号：
