是时候确定我们与早期 AI 的关系了

编者按：从《银翼杀手》到《西部世界》，人类一直没有停止对人类与AI关系的思考，但是最近AI的进展使得曾经是科幻小说故事情节中才有的东西正在变成现实，Andrew Heikkila呼吁，是时候探讨AI伦理以及人类与AI的关系了。

我见过的东西你们人类是无法相信的。战舰在猎户星座边缘燃起熊熊火焰。万丈光芒在天国之门附近的黑暗中闪耀。所有的这些瞬间都将湮没在时间的洪流里，就如同雨中的泪水。死亡时刻到了。

——Roy Batty，《银翼杀手》

人工智能令人类着迷了半个世纪多，计算机智能第一次被公开提及要追溯到1947年阿兰·图灵在伦敦的一次演讲。最近，无论是AlphaGo击败了传奇围棋选手李世石，还是微软名为Tay的种族主义机器人，公众接触到反映机器学习新进展的头条新闻越来越多。曾经是科幻小说故事情节中才有的东西正在变成现实——人类即将被迫定义自己与AI关系的时刻来得更快而不是更迟了。

Peter Diamandis，Human Longevity的联合创始人兼副主席，在LinkedIn的一篇题为《下一场性革命将会被数字化》的博客中谈到了这个主题。Diamandis引用最近一些报告指出，日本人日益放弃了对性爱与关系的追求，而越来越多的一部分男性宁愿找虚拟女友也不愿找真正的女朋友。

他说：“这仅仅是个开始。随着虚拟现实变得越来越普及，色情VR不可避免地将成为主要的应用之一。这种东西会变得更加强烈、逼真，更容易上瘾——我相信人类与由AI驱动的替身与机器人关系会越来越多，类似电影《Her》以及《机械姬》里面描写的那些角色。”

我们与AI的关系正在萌芽

我们先退后一分钟。Diamandis真的说他认为人类将开始建立与机器人的关系吗？考虑到之前已经有宁愿要虚拟女友也不愿要真正女友的先例，相信这一点并不是太难——但是我们距离创造出一个会爱回我们的“阿凡达”化身究竟有多近呢？

为了回答这个问题，首先我们必须理解 AI 实际上是什么，AI对这个公众世界又代表着什么。AI有两种基本类型，一种是强AI，另一种是实用或者“弱”AI（技术上而言，认知仿真，或者“CS”属于另一种类型，但是我们主要还是关注前两种）。

强 AI 目前还在开发中，但它的终极目标是开发出一个无法分辨出与常人智力差异的机器。MIT实验室的 Joseph Weizenbaum 把强 AI 的终极目标描述为“完全是按照人的模型开发机器，这个机器人会有自己的童年，要像小孩一样学习语言，通过其自身的器官感受世界来获取知识，并最终要思考人类思想的整个领域。”

强AI还是你在电影里面看到的那种AI——比如《未来终结者》里面反抗人类创造者的天网程序，或者《2001漫游太空》里面的HAL 9000。这些电影预测，一旦这类超越人类的智能出现并且上线，我们将触发奇点。这类AI距离实现还需要时日，如果说有可能实现的话——很多人还在质疑这一天会不会到来。

另一方面，弱/实用性AI则是你在新闻头条里面读到的那种AI。任何添加上“智能”这个形容词的东西往往或多或少对弱AI都构成了一定的依赖——任何人工形式的智能也许能“学会”甚至想办法自己写代码，但是仅限于很少任务的功能实现上。

驱动智能汽车的程序，为我们提供指导的客服聊天机器人，甚至前面提到的AlphaGo都是弱AI或者实用性AI的例子。这些系统存在于AI所认识的“微世界”之内，其先进程度甚至顶多只能算作“专家系统”。这些系统并没有“常识”。或者说它们对自己的推荐如何适应更大的上下文环境，或者说微世界以外的事儿并不了解。它们基本上属于擅长某个领域的复杂输入/输出系统，基于其自身的这些缺陷，很容易就能分辨出与人类智能的不同。

对接口的关注

在AI方面，对类似人的输入/输出系统的关注似乎吸引了社会大量的注意力。要想衡量人类智能的幻觉，最好的办法是像人一样跟人交流。显然，事实上我们总是强调把图灵测试作为确定某个东西是否具备人工智能的手段。如果该程序能够跟某人对接并被当成是另一个人，嘭：一般用户就会称之为“AI”。

如果它并未通过图灵测试，哪怕已经很接近，我们也知道屏幕的另一头的是假的，而会话真实性也就丢失了。不过即便我们知道了自己正在跟AI对话，如果该AI能够娴熟地引导这场对话的话，我们往往也会惊讶于这种交互给人的感觉是如何的人性化——以至于我们会暂时放下自己的怀疑，忘了我们是在个一个机器在讲话。

不幸的是，即便是在设定所服务的微世界范围内，AI的对话能力往往也不合格。我们几乎每天都看到的聊天机器人就是例子。微软和Facebook年初都发布了自己的聊天机器人，许多公司都开始转变口风，说技术帮助自己改善了客户互动——但即便是Salesforce这家去年在客服支持TA CR市场指数领先的公司，也指出聊天机器人根本就没有达到对它们的要求。解决聊天机器人低效的唯一办法，似乎只有让这些系统行为更加的……人性化。

但究竟应该让弱AI人性化到什么程度呢？

接下来就是所有这一切的高潮。AI的聊天机器人和接口方面的因素还在。比方说，我们可以看看Siri或者Cortana。从技术上来看，它们是兼具虚拟助手角色的聊天机器人——随着时间的转移，它们只会变得越来越先进。从目前来看，这些以及其他未通过图灵测试的聊天机器人——而且即便通过了测试，我们还是可以说这些机器并没有“智能”或者“知觉”，因为它们缺乏对实际进行的会话的理解。它们，就像早期的斯坦福沟通程序“Eliza”和“Parry”一样，需要依靠预编程、预回复来模拟会话。在哲学家Ned Block看来，这使得这些系统“比自动点唱机聪明不到哪儿去”。

但无论如何，到了某个点时，我们都必须向自己提出这个问题：究竟我们愿意让弱AI人性化到什么程度？在不了解弱AI与强AI区别的情况下，应该往无法与人无异的聊天机器人部署什么类型的心理效应呢？

AI 理解人类情感的微妙区别是有好处的。

Joseph Rauch是提供网上聊天治疗的TalkSpace的作者，他谈到了他这一行验证人性化的必要性：

“我们经常收到潜在客户的意见说，他们想要确认自己是在跟理疗师而不是聊天机器人对话。我们所有的治疗师都是有执照的，是血肉之躯，不过我们能理解他们的担心。无论是在线理疗、社交媒体，还是网上约会，每个人都应该跟他们认为自己正在联系的人去聊。”

他提到了网上约会，这方面我们已经知道聊天机器人会假冒约会对象骗人加入联盟网站，或者甚至为了男女比例不至于太过失调而冒充女性。但聊天机器人用到商业上面会怎样呢？回到前面的那个CRM的例子，一个名为Legion Analytics的团体正在试图把自己的潜在客户开发机器人Kylie推销出去，这个聊天机器人不仅能闲聊，能聊回之前谈到过的话题（比如小孩的足球比赛），甚至还可以跟潜在客户调情。

如果类似这样的聊天机器人足够先进的话，大家会不会觉得受到了似乎比自己更懂自己的机器操纵或者甚至是冒犯呢？尤其是如果这些聊天机器人在推销东西方面真的比一般人表现更好的话？显然这还有很长一段路要走，但是一个精通对话又背靠数据仓库，知道你完整的心理特征的机器人，是可以利用信息加上有说服力的举措来完成销售的，而这些一般人是做不来的。

教会机器人情感

当然，真正能让弱AI人格化的手段应该是教机器人懂得情感——或者至少教它模拟情感——这个正是Fraser Kelton联合创办的Koko想要做的事情。Kelton在Fast Company的一篇文章上谈到了赋予聊天机器人更多拟人感的必要性：“我们正在努力为任何语音或聊天平台提供同理心即服务（empathy as a service）。我们认为在这个跟计算机对话的世界里，这是一项关键的用户体验。”文章其实是指Koko把同理心API授权给几乎任何的聊天机器人，给后者提供一颗心。

AI 理解人类情感的微妙区别是有好处的。JAMA最近的一项研究表明，诸如Siri这样的智能手机助理，在响应用户带有情绪的抱怨时表现极其糟糕，甚至有的还在用户寻求强奸、性侵犯、性虐待等方面的帮助时冷嘲热讽。东北大学D’Amore-McKim商学院的助理教授Carl W. Nelson也对今后20年的医疗保健问题表达了自己的担忧，他指出“大数据在机密性等令人担忧的事情方面的确存在挑战，但使用得当的话可以指导进行决策判断……”，但对人类情感缺乏适当了解的情况下，一个自动化的医疗诊断系统能有多完整呢？

所以尽管即便是弱AI也有理解和模拟感情的需要，我们是不是会遭遇这样的风险呢——会不会造出一个假装能识别我们身心状态，甚至会根据对线索的消化对用户产生出情绪反应（尽管是预置的响应）的人造人？这些对感情几乎一无所知的机器人会不会开始不仅仅把自己当作机器人来看呢？

社会后果

随着时间的转移，我们的技术显然还会继续让人震惊。我们在电影电视上看到AI机器人越多，毫无疑问，我们不再会把这些东西视为科幻小说的元素，而是开始猜想它们什么时候会变成真的。虽然《银翼杀手》这样的电影很早就开始探讨这个问题，但最近像Android Dick项目以及新翻拍的《西部世界》等进展让我们意识到，处理AI伦理的问题应该宜早不宜迟了。

这个伦理问题的核心不在于这些AI是否有感受或权利或任何类似的东西——相反，其核心是对于保留它们的我们人类来说，这会产生什么样的后果？比方说，你怎么跟小孩解释这个与真人无异的男管家不是人，也永远成为不了人，所以把它扔进垃圾堆去是OK的？或者就像《西部世界》里面一样，“杀死”或者“强奸”它们是可以的，因为它们既不是活人也无法表示赞同？什么时候模拟生命才会变得跟人的生命一样重要呢？

这些都是我们日后需要梳理的问题，而且都不好回答。到头来，我们都必须确定跟AI的关系，找到弱AI与强AI之间那条很细很模糊的分界线，如果后者有可能的话。希望我们人类在审视这些人形创造物时，能够了解到更多的人性并予以强化，而不是粗暴地遗弃它们，或者像雨中的泪水那样把它们忘却。