如何让 AI 学会忘记？

无论对于人类还是AI机器人而言，忘记都是一件棘手的事情。

忘记是一件棘手的事

我们都知道忘记一些事情是怎样的感觉。比如，忘记一个亲人的生日、一段同年的记忆。但即使是能够在不到20秒内记住一张牌顺序这样记忆力超凡的人，仍会忘记把钥匙放在了哪里。似乎，人们从来没能够完全掌控自己的记忆。

忘记是一件棘手的事，对于人类和人工智能来说都是如此。

图片来源：NASA / B.斯塔福德/ J.布莱尔/ R.Geeseman

目前，研究人员正在以不同的方式探索机器人的记忆概念。这不仅仅关乎技术问题，还同样涉及到了隐私、法律和伦理方面的问题。试想，尽管你已经答应自己的配偶不再抽烟，但你的家庭机器人却在某日目睹了你鬼鬼祟祟的抽烟全过程。又或者，如果它看到你犯了谋杀案呢？

如果有人有能力让机器人忘记一些记忆，那将会是谁呢？这是一个很重要的问题。不过，首先研究人员需要找出好办法让AI能够忘记一些记忆。这之前，我们需要先思考人类的记忆。

为什么人们忘记？

一个比较流行的比喻解释了为什么人们会忘记：人们的大脑的容量会饱和，因此，我们需要忘记一些东西给大脑腾出更多的存储空间。但是，对于一些患罕见“超忆症”的人来说，他们几乎能够记住生活中的每一个细节。这表明，上面那个比喻的解释并不完整。

那么，如果我们忘记一些事情不是为了给新记忆腾出空间，那我们为什么还会忘记呢？有一个解释是，记忆帮助我们了解这个世界，而不仅仅是记住它。用这种方法，我们似乎保留了有用的、有价值的和相关的记忆，同时忘记了低价值的信息。

例如，一些研究表明，比起重复的信息，人们可以更好地记住有冲突的信息。其它因素还包括事件的重要性和新颖性，以及我们在经历一些事时所伴随的情感和情绪。譬如，细想2001年9月11日，许多人能够清晰地记得自己当天在哪里，以及做了什么。

机器人如何忘记？

计算机记忆（电脑内存）通常被描述存储信息和找回信息的容量，以及存储这些信息的计算机物理组件。当计算机的某些内存不再被任务需要时，计算机将“忘记”这些数据，释放空间供其他任务源。

这也适用于人工智能。尽管忘记可能会使我们感到沮丧，但人类忘记的方式使得我们仍然优于人工智能。而且，机器学习算法尤其不知道需要什么时候保留旧信息，什么时候抛弃过时的信息。不仅如此，它还会面临着与“遗忘”有关的几个问题。

举个例子，连接者AI（AI通常使用大脑结构的神经网络模型）面临着与“遗忘”有关的几个问题，譬如“过学习”这个问题。“过学习”指的是当一个学习机器存储了源于以往经验的过于详细的信息时，阻碍了其概括和预测未来事件的能力。

另一个问题是“灾难性遗忘”。 研究人员正在努力建立可以适应新信息，又不会突然忘记以前所学知识的人工神经网络。

还有就是，有时人造神经网络的神经元在学习过程的早期采用不良的激活模式，损害了AI的未来学习能力。

机器人存储记忆的另一种方法是象征性的记忆表征，其中，知识是由逻辑事实来表示的（如“鸟飞”，“Tweety是鸟”，因此“Tweety可以飞”）。这些高度结构化的人造表示可以很容易地删除，就像在电脑上删除一个文件。

这些记忆范围包含了从原始的感觉运动数据（相机记录）到存储在知识库中的逻辑事实（“圣诞节是12月25日”）的丰富内容。

机器人应该忘记什么？

要创造更好的人工智能，首先要了解我们的大脑在关于什么是值得记住的，什么是要遗忘的方面是如何做决定的。

就像人一样，人工智能应该记住重要和有用的信息，同时忘记低价值，无关紧要的知识。然而，确定什么是相关和有价值的信息，除了手头的任务之外，可能还包括如伦理，法律和隐私问题等因素。

聊天机器人进行医疗诊断，智能家居设备监控我们的一举一动，安全机器人使用摄像机和热成像进行巡视。这些都是存储的数据。

例如，亚马逊的家庭助理Echo是一个语音控制的免提扬声器，它始终监听命令提示符。最近，阿肯色州警方要求亚马逊移交由Echo收集的显而易见的谋杀嫌疑人回声信息。

或者，思考一下人工智能性机器人的问题，性机器人应该记得或忘记她们的客户吗？是否要忘记这些客户对她们做了什么？谁可以拥有机器人的数据？而谁又可以查看并删除数据？

不得不说，谈到记忆，决定机器人何时忘记是人类面临的一个深刻的挑战。

编译：梓色扬光

原文链接：https://futurism.com/how-to-make-ai-forget/

来源：http://www.jianshu.com/p/db50cc04413f

关键字：产品经理, 忘记

版权声明

本文来自互联网用户投稿，文章观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处。如若内容有涉嫌抄袭侵权/违法违规/事实不符，请点击 举报 进行投诉反馈！