AI“幻觉”的类型、原因与应对方法（3/3）——如何应对AI“幻觉”

产品经理崇生 2024-07-01 15:08:51

在了解了AI“幻觉”产生的原因后，我们需要对其进行有效的应对，以确保AI能够有效地“为我们所用”。

首先，AI的研发团队是会持续地改善AI的“幻觉”问题。其次，我们作为使用者，也是有一些手段和技巧来尽量避免AI产生“幻觉”问题的。

对于AI研发团队来说：

迭代优化模型：研发团队会通过持续的模型迭代和优化，来改善AI的理解和推理能力，减少AI“幻觉”。
模型解释性：研发团队可以使用模型解释工具来解释模型的预测结果，从而理解模型为何会产生“幻觉”，并据此优化模型。
更丰富的训练数据：研发团队可以提供更多丰富且平衡的训练数据，让模型有更多元的视角和理解，以减少过度推断或假设。
用户反馈：研发团队会通过收集用户反馈，获取模型“幻觉”现象的实际案例，并根据这些反馈进行模型优化。
使用RAG控制内容：相对于上面都是细水长流的几项手段，引入“RAG”可以取得立竿见影的效果。RAG（Retrieval Augmented Generation），即检索增强生成，是指对大模型输出进行优化，使其能够在生成答案之前，引用训练数据来源之外的权威知识库。RAG的作用类似为大模型配备搜索引擎，相当于让大模型在“开卷”而不是“闭卷”环境中做出反应。

对于AI使用者来说：

提升个人判断力：不论是阅读AI的回答还是处理其他信息，不盲目接收信息，保持批判性思维，提升自我判断力并永远是第一位的。
理解AI的局限性：了解AI当前的技术发展程度和存在的问题，不完全依赖它作为唯一信息来源，特别是在关键的决策当中。
优化问题提问方式：通过使用更加明确和具体的提问方式，以减少AI的过度推断和假设。对问题进行细化，尽量避免让AI进行过多的揣测。（这里展开来讲就涉及到Prompt的编写问题了，我们就留到另外的文章来解答吧。）
重复或重新提问：如果对AI的回答有疑问或不满意，可以试着以不同的角度或方式，进行重复或重新提问。如果每次得到的答案都一致，那么AI的答案可能更可信。
索取支持信息：在向AI寻求答案时，可以要求AI提供答案的来源，这样我们可以验证答案的准确性。

总的来说，AI不是无所不能的，它有自己的局限性，AI“幻觉”是一个无法避免的存在。但只要我们持续学习，掌握科学使用AI的方式方法，AI就能够更好地为我们工作，成为我们的左膀右臂。

结语

到这里，我们已经完整介绍了AI“幻觉”的类型、成因与应对方法了。接下来还有一份“番外篇”，我将针对国内的主流AI大模型，进行一轮“幻觉”横向对比个人测评。那么，到底哪家产品表现最佳，我们下一篇文章来揭晓。

讨论话题：你有哪些对应AI“幻觉”的妙招？评论区里也分享一下吧。