产品经理的AI基础：浅谈大模型的局限性（下）

wanee 2024-09-20 08:52:15

人工智能模型转化为实际可用产品的过程中，涉及到多个方面的挑战和限制。这些限制是否能够解决，需要产品经理、工程师、设计师、各个厂商间的合作，共同克服这些限制。

一、意图理解

意图理解侧重于理解和解释用户的指令。

什么是意图理解？

意图理解是指系统从用户的输入中识别出其目的或意图的能力。在人工智能应用中，如聊天机器人和语音助手，这是至关重要的功能。

例如用户对智能助手说：“明天提醒我开会。” 意图理解使得智能助手能够识别这是一个设置提醒的请求，并据此创建一个日程提醒。

再例如用户对智能在线客服输入：“我的订单什么时候发货？” 客服系统通过意图理解识别出用户想要查询订单状态，然后提供相关的物流信息。

意图理解的步骤：

意图理解的局限性：

创作能力侧重于生成新颖的内容。

什么是创造能力？

创作是指生成新颖和原创内容的能力。在AI领域，创作可能涉及文本、音乐、艺术作品等。

AI创作系统包含什么：

创造能力的局限性：

基于Transformer架构的模型，虽然在自然语言处理（NLP）领域取得了显著进展，但其创造能力仍存在一些局限性：

数据依赖：大模型的创造能力很大程度上依赖训练数据，训练的数据有限或者不具有代表性，这会导致模型的输出缺乏多样性和创新型

理解深度：大模型在生成文本时可能只是模仿了语言的表面结构，而没有真正理解或推理生成内容的深层含义。因此，尽管大模型在许多任务中表现出色，但在需要深度理解和创新思维的场合，它们的表现仍有待提高。比如用户询问大模型：“什么是量子纠缠？”大模型可能会生成一个看似合理且连贯的解释，例如：

“量子纠缠是量子力学中的一个现象，当两个或多个粒子以这样的方式相互作用时，它们的状态变得不可分割，即使它们相隔很远。这意味着对其中一个粒子的测量会立即影响另一个粒子的状态。”

尽管这个解释在技术上是正确的，但大模型可能并不真正理解量子纠缠的物理意义和背后的复杂性。如果用户进一步询问更深入的问题，比如量子纠缠如何应用于量子计算或者它与量子隐形传态的关系，大模型可能就无法提供准确或深入的答案。

创造性限制：大模型通常在模仿和扩展已知模式方面表现出色，但在生成完全新颖和原创的想法方面可能存在局限。假设大模型“创作一个全新的科幻故事概念，包含一个尚未探索的宇宙和独特的生命形式。”大模型可能会生成一个故事，其中包含一些已知科幻元素的混合，例如：

“在遥远的未来，人类发现了一个新的星系，名为‘Noviensis’。这个星系由一个巨大的黑洞统治，周围环绕着几个行星，这些行星上居住着能够进行光合作用的生物，它们通过吸收宇宙射线来生长。”

尽管这个故事听起来很有创意，但大模型生成的概念可能仍然基于已知的科幻主题，如黑洞、外星生命和宇宙探索。这些元素在科幻文学和电影中已经被广泛探索。大模型可能难以创造出完全新颖的、从未在人类文化中出现过的概念，如一种基于完全不同物理法则的生命形式或一个全新的宇宙维度。

解释性：大模型的决策过程往往是黑箱，难以解释和理解，这在需要可解释性的创造性任务中可能是一个缺点。

法律和版权：大模型生成的内容可能会涉及版权和知识产权问题，尤其是在模仿特定风格或作品时。

推理则侧重于逻辑分析和决策过程。

推理能力指的是什么？

推理是指系统使用逻辑和已有知识来得出结论的能力。在AI中，推理可以用于解决问题、规划行动或做出决策。

推理过程包括：

推理过程的局限性：

大模型在推理能力方面虽然取得了显著的进步，但仍然存在一些局限性。以下是大模型推理能力的一些限制：

逻辑一致性：大模型可能在处理长逻辑链或复杂推理时出现错误，尤其是在需要多步骤推理的情况下
因果推理：尽管大模型可以识别语句中的因果关系，但它们可能难以理解现实生活中复杂的因果网络。
常识推理：大模型可能缺乏对人类常识的理解，导致在需要常识推理的任务中表现不佳。用户问：“我可以穿着溜冰鞋去超市吗？”大模型可能回答：“可以，只要你觉得舒服。”然而，这忽略了常识推理，即穿着溜冰鞋在超市可能不安全，也可能违反超市的规定。
情感和语境理解：情感和语境对于人类推理至关重要，但大模型可能难以准确捕捉和应用这些细微差别。用户说：“我今天在会议上被老板表扬了，但我还是不高兴。”大模型可能回答：“恭喜你被表扬。”但是，它可能没有捕捉到用户的情感状态和语境，没有询问用户为何不高兴。
专业领域的知识，例如用户问：“我的车需要新的火花塞，我应该买哪种？”大模型可能回答：“买一个适合你车型的火花塞。”但是，它可能无法提供具体的火花塞型号或品牌建议，这需要汽车领域的专业知识。