为AI而服务设计：构建以人为本的AI创新方法

陈昱志Yeutz 2023-08-09 17:11:42

写在前面

随着人工智能技术的发展，越来越明显的是，仅靠技术和设计都不足以构建有效的人工智能解决方案、解决实际用户的问题并对社会产生积极影响。在没有设计师的情况下工作的人工智能工程师可能会基于未经验证的假设过快地跳到解决方案，导致团队解决“错误的问题”。相反，缺乏技术知识可能会导致设计者对人工智能的功能产生不切实际或模糊的想法，存在要么高估要么低估其能力的情况。

在人工智能解决方案方面，设计师可能会面临新的挑战，例如如何设计人工智能系统的透明度、“可解释性”或可信度。或者如何评估人工智能解决方案对用户和社会的影响和结果。因此，我们认为人工智能 (AI) 工程师和服务设计师应该合作创建以人为本、符合道德规范且能产生积极影响的解决方案。本文中，我们提出了一种整合两个学科优势的六步方法，即“人工智能设计”。

产品经理，产品经理网站

一、我们需要人工智能(AI) 吗？

我们将人工智能设计视为一种以人为本、迭代和协作的人工智能创新方法。它利用设计师解决问题的方法，同时考虑人工智能的动态组成部分，应用人工智能创新的工程方法。该方法基于英国设计委员会提出的双钻石1、CRISP-DM2 数据管理方法以及我们在 OLX Group 人工智能创新方面的经验，OLX Group 是全球增长最快的市场和分类平台网络之一，超过3亿在线访问者。

人工智能和设计团队都可以从合作中受益。我们相信，这将带来更有效的工作方式和更以客户为中心的解决方案。这就是为什么：

1. 人工智能创新采用以人为本的方法

AI-by-Design 采用以人为本的人工智能创新方法，在开发解决方案之前深入了解客户需求。有时人工智能并不是正确的解决方案。有时，更简单的解决方案（例如电子表格）可能会做得很好并节省资源。因此，在开发开始之前，需要确定人工智能是否确实是解决问题的正确工具。团队应该构建任何能解决问题的东西，赋予人类权力，而不是规定特定的工具或技术。

2. 利用跨学科性

AI-by-Design 鼓励跨孤岛的工作方式，而不是从设计研究团队向人工智能工程师冷冰冰地移交见解。当设计师和人工智能工程师合作时，他们可以弥补彼此的盲点，并且减少沟通错误的空间。该流程更加高效、有效，解决方案将更加以客户为中心且技术上可行。这将确保他们应对正确的挑战，从而节省团队时间。事实上，在麦肯锡 2021 年发布的《人工智能现状》中，“开发人工智能工具时使用设计思维”被认为是人工智能高绩效者最重要的差异化因素。

3. AI-by-Design 解决方案专为我们动态的世界而设计

人工智能模型通常在沙箱环境中进行训练，但最终却被用于我们混乱、复杂的世界。因此，我们认为人工智能模型需要持续的再训练。

在现实世界中，解决方案受到用户与最终产品交互方式的影响，而人工智能具有许多动态组件。设计一种收集用户反馈和实际行为数据的方式至关重要。需要这些输入数据来改进模型，确保人工智能解决方案按预期并以合乎道德的方式工作。

这之间其实存在一种差距，虽然这听起来很理想，但我们不能只是将几位人工智能工程师和设计师放在一个团队中，并期望他们毫不费力地一起创新。我们经常观察到这两个学科没有共同语言，对彼此持有错误的假设，并且以不同的方式工作。

例如，人工智能工程师使用 Visual Studio 代码工作，而设计师通常使用 Miro 等工具。机器学习模型需要尽可能细致和准确地工作，而设计原型可能非常概念性和推测性。机器学习指标围绕数字和预测发展，而设计指标则围绕人类需求和客户体验发展。比较方法时也存在同样的差异，如图 2 所示。在图中，设计委员会的双钻石与 CRISP-DM 数据管理方法重叠。出现三个差距：

产品经理，产品经理网站

差距 1：缺少“原因”

如果人工智能工程师被排除在项目的初始阶段之外，那么他们构建的解决方案就有可能偏离最初的客户问题，了解客户需求是关键。

差距2：缺乏技术理解

另一方面，设计师常常对人工智能的可能性抱有不切实际的期望，并且并不总是了解最新的技术发展。由于设计人员无法轻易理解工程组件，因此他们通常需要帮助来掌握所提出解决方案的可行性，以避免倾向于难以实施的解决方案。

差距3：缺乏反馈循环

在流程结束时，当构建解决方案时，需要有一种方法来检查解决方案是否按预期工作、是否收集了正确的数据以及模型是否符合道德规范。这可以通过反馈循环来解决。反馈循环可以提供解决方案的大量可见性和透明度。这非常重要，因为在大多数情况下，现实世界与开发人工智能的训练环境有很大不同。此外，由于用户与已开发的人工智能解决方案之间的持续交互，将可以获得新的数据。当收集到正确的数据时，可以通过消除偏差和异常值来不断改进模型。

二、AI-by Design 的六个步骤

为了填补空白并找到工作方式，我们创建了一个六步方法。

产品经理，产品经理网站

1.发现：第一步旨在了解项目的目标、客户需求以及他们的问题以及商业机会。它通常涉及客户研究。

2. 定义：第二步，团队定义挑战范围：他们选择要解决的问题或要追求的机会。此步骤包括研究背景和人工智能的可能性。

3.人工智能设计决策：在这个阶段，鼓励团队问自己这是否是一个可以而且应该解决的问题。可以用AI来解决。如果是，他们会评估需要哪些数据，并研究解决方案是否可能产生不道德的后果。如果人工智能不是正确的解决方案，这也是一个很好的结果。人工智能既昂贵又耗时。如果其他替代方案可以解决问题，则应选择它们。

4. 开发：第四步旨在了解如何才能最好地解决问题。现在是探索不同解决方案并研究所需数据和建模的时刻。人工智能工程师可以进行探索性数据分（EDA），这意味着深入研究数据以更好地理解数据，看看是否存在异常值、缺失值以及是否可以建立基线模型。

5. 测试：在致力于构建和部署解决方案之前，团队应该确定有哪些风险假设并尝试验证它们，例如使用原型测试。这是检查是否应该构建解决方案或是否需要“pivot”的最快方法。

6. 交付和评估：最后，团队应该迭代、完善、推介并最终将解决方案交付给最终客户和关键利益相关者。然而，这个过程并没有就此结束。相反，团队需要不断迭代解决方案。随着时间的推移，将会出现更多的数据，这些数据可以为解决方案带来新的启发。需要设计一个监控系统（反馈回路），以确保尽快检查和纠正现实生活中的偏差和数据漂移。

前面的六个步骤旨在为那些希望改进团队实现人工智能创新方式的人提供指导。