人工智能革命揭秘下篇（下）
编者按：李世石与Alphago的人机大战掀起了一股AI的热潮，但是也引起了我们对未来的担忧。AI是不是智能已经超过了人类？AI会不会抢走我们的工作甚至对人类造成威胁？针对这些问题，滚石杂志最近推出了人工智能革命特别报告，报告分上下两篇。上篇总结人工智能取得的进展以及它对人类的意味；在下篇则重点探索AI对无人车以及未来战争的影响。我们编译出来供大家参考，由于篇幅较长，下篇会分上下两部分刊出。此为下篇的下半部分。
如果说有什么公司可以成为机器人变革美国制造业的广告明星的话，这个公司一定是波音。据路透社，与1990年代相比，现在波音飞机的产出率提高了20%多，但所需人工却减少了1/3。就在过去这一年，波音又用60吨重的机器人替代了数百名工人。波音说这些机器人的速度是人类的两倍，缺陷率却只有后者的1/3。自动化对该公司劳动力的影响是巨大的。1998年该公司1年生产了762架飞机，每架飞机大概需要217人制造。2015年，该公司生产了762架飞机，每架飞机所用人数大约是109人。白宫最近的一份经济报告得出结论说，从机器人获得的劳动生产率提升在量级上与19世纪蒸汽机带来的生产力提升类似，这个一点儿也不奇怪。
几乎没有经济学家会质疑智能机器很快就会在从快餐服务到卡车司机的各种工作中取代人类。2000年到2015年间制造业几乎消失了500万份工作。这些工作部分是转移到了海外，但许多都是被自动化吃掉了。
但是机器人入侵的经济后果并不像看起来那样简单。这一点1970年代在硅谷长大的我就能看到。我一位朋友的父亲在Fremont附近的一家老通用工厂工作。他在装配线工作，靠着一门焊接的手艺养活了全家。在1970年代末的巅峰时期，这家工厂雇用了6800人。
不幸的是，他们造出来的车很差劲。在1970、1980年代，通用汽车以糟糕的可靠性著称。“在通用汽车Fremont工厂那里你可以买到任何东西，”密歇根大学教授Jeffrey Liker在2010年美国生活的一个剧集当中说：“如果你想要性，想要毒品，想喝酒，想赌博—去那家工厂就行，那儿什么都有。”
不久前我参观了那家通用老厂。现在它已经归Tesla所有，并且被改造成了全球最先进的汽车制造厂之一。大卷大卷的铝原材料在这头进入工厂，10万美元的电动车就从另一头出来了。“我们在这里建设未来，”公司负责制造的副总裁Gilbert Passin这样说。
在装配线上工作的机器人超过了1000个。这些机器人有的是从天花板上吊下来的，有的则在地上疾走运送材料，还有些体型庞大的机器人有着像Iceman这样的名字，它们身高15英尺，可以将重达千磅以上的Tesla像玩具一样举起来。尽管这里是全世界自动化程度最高的汽车制造厂之一，但Tesla每周也只能造大约1000辆车（通用汽车一般一天造1000辆）。但真正令人惊奇的是这个：Tesla雇用了大约3000名员工。Tesla是造出了更好的汽车，但是它生产一辆车所需要的人工也要比通用汽车多3倍多。也就是说在这种情况下，工厂自动化并没有摧毁工作，实际上还增加了就业机会。
人该怎么办？部分装配线工作对于机器人来说太细腻太复杂了，比如说仪表板的安装还得靠人来做；有的则要维护机器人以及机器人使用的工具附件。“这家工厂是人与机器人的合作，”Passin说：“机器人做自己擅长的，人也是。”换句话说，这不是一家自动化工厂，而是精心编排的人机共舞。
Tesla拥有全球最先进的汽车制造厂之一，机器人和人类雇工在这里每周能生产1000辆汽车
但是毫无疑问智能机器的发展会对工作产生重大影响。部分失业情况会被高科技领域创造的新的就业机会抵消；有的则会一去不复返。2013年牛津大学的一份研究认为，现有工作中约有一半会在未来20年内消失。“我们面临着一次思考模式的转移，这将改变我们生活以及工作方式，”美银美林最近一份报告的作者说：“近年来颠覆性技术创新的节奏已经从线性变成了抛物线。”
不难看出哪些工作是机器人的目标：文书岗位、装配线工作、烤汉堡之类。上月白宫经济报告预测，如果（美国）工作时薪低于20美元/小时的话，那这种工作有83%的可能最终会被自动化掉。但除此之外很难预测影响。蓝领和受教育程度不高阶层的失业、工资滞涨问题已经改变了美国的政治气候，导致了Donald Trump的崛起—而自动化程度的增加只会加速这种趋势。
加州大学伯克利分校的机器人学家Ken Goldberg说：“这方面存在着许多恐惧。”为此他发起了“人与机器人”运动，希望能找到办法来加强人与机器人的协作。“机器人和人有各自擅长的东西，所以我们需要同时考虑，因为这样你才能找到机器人会让人类做得比以前更好的案例。”
Goldberg正在做的一个手术机器人就是人机协作的例子之一。手术机器人已经诞生有15年了，但直至现在其角色也只不过是充当机械臂，由医生通过摄像头进行观察，然后以安全的方式进行微创手术。机器人没有自主权，尽管这种情况很快就会改变。手术涉及到许多单调乏味的子任务—比如缝合就是。“你付钱给这位明星外科医生就是为了让他坐在那里给人缝几针，” Goldberg说：“这不是好的时间利用方式。”另一项沉闷的工作叫做“清创术”—就是把坏死组织或者癌细胞组织从体内取出来。“我们认为这些工作机器人可以干得很好，”他说：“我们可以通过传感器扫描，找到组织表面之下的肿瘤，然后割走清理掉。这会让外科医生失业吗？不会。我们在讨论的是开发工具让外科医生变得更好，让他们专注于重要的工作，把单调乏味的事情留给机器人。”
尽管如此，对于许多缺乏技能的工人来说经济变革仍然是残酷的。Thrun认为，应对这种即将到来的剧变的最好办法不是放慢技术进步的脚步，而是改善教育。“我们仍然套用1800、1900年代形成的教育体系，”去年秋天时他这样告诉经济学人。他的在线大学，Udacity，现在在全球已经有400万注册用户，并且可以授予计算机相关领域的“微学位（nanodegrees）”。“我们现在面临的情况是高技能人士与缺乏技能的人之间的差距正在加大，”他说：“我要教育每个人的使命是延缓AI最终会怎样对待我们的一次尝试，因为我真心相信应该给人类一个机会。”
根据2014年新美国安全中心的一份有影响力的报告，未来的战争将会是一种“全新的作战形式，在这当中无人和自动武器将会扮演中心角色……美国国防领袖现在就应该为这一并不遥远的将来—为机器人时代的战争做好准备。”想想看，大批携带轻武器的无人机，通过3D打印制造出来，黑压压的一片出现在大城市的上空，遮天蔽日；士兵都有钢铁侠式的外骨骼保护，配备了神经植入，可注入来自远程计算机的目标数据；沿海水域会有无人潜水艇经常出没；会有黄蜂大小的无人机执行刺杀行动。在这种新的战争时代里，昂贵的冷战时期技术如战斗轰炸机会变得越来越落伍，这玩意儿就好比过去的大型主机，而现在已经是笔记本和iPad的天下。
带外骨骼的士兵有朝一日也许会利用神经植入控制机器人。
军事技术革命似乎受到3个因素的推动。首先是风险的降低。机器人能够去士兵去不了的地方，有可能拯救地面部队的生命。在阿富汗和伊拉克，有超过1700个PackBots，这种玩具火车大小的背负式机器人可通过无线连接控制并配有远程控制机器臂，这种机器臂可配备抓爪检测地雷或者摄像头用来监视。更新一点的军事无人机，如MQ-9 Reaper（收割者侦察机）已经可以在无人干预的情况下起飞、降落和飞行到指定点。风险降低也改变了战争的政治算计：既然机器人没有生死问题，使用智能机器让军事领袖敢于部署在其他情况下难以想象的艰巨任务。
第二个因素是钱。美国的年度国防预算开支将近6000亿美元，这个数字比接下来的10大国家军费开支之和都要大。军方在研发已有15年的F35战斗机的总开支估计将达到1.5万亿。在ISIS时代，这类开支不仅很难证明其合理性，而且完全是愚蠢透顶。F35面对一群小型武装无人机或者购买商场的人肉炸弹恐怖分子一点用都没有。还有一个事实是人的使用和供养都非常昂贵。“军事开支大约有1/3是花在人身上” Peter Singer（New America资深研究员，反映未来战争的小说《Ghost Fleet》的作者）说。最近一位美军上将推测，未来几年一支战斗旅的人数可能要从4000人下降到3000人，那部分的缺口将由机器人补上。
第三个因素是对迅速崛起的中国的恐惧（也有人称之为妄想狂）。自冷战结束以来，凭借着精确制导等比前苏联更精明的技术，美国对其竞争对手展现出了前所未有的优势。但现在中国似乎正在迎头赶上。如果爆发冲突的话，中国新的反舰导弹会对游弋在西太平洋的美国航母构成极大威胁。中国还大力发展先进武器，尤其是军事无人机。
对于军方来说，问题是如何推进智能机器的部署，以及部署到何种程度。对部分工作来说，机器干预是明摆着的。“从航母起飞以及降落是军队最危险的航空任务之一，” Mary Cummings说。她曾经是美军首批女性飞行员之一，现在她管理着杜克大学的一家机器人实验室。Cummings曾有朋友在驾驶飞机尝试降落航母时因坠毁身亡，所以她现在正在攻关跟更深度的人机协作，尤其是针对充满焦虑，会导致致命误判的情况。“现在，F18的自动导航仪在航母的起飞降落要比人类好得多，”她说：“并且安全多了。”但人类仍然在这些环节当中牢牢占据着位置，尽管在技术上并没有这种必要。虽然无人机的复杂程度很快就足以识别、定位目标，在4万英尺以外置人于死地，在这条“刺杀链”中所有的无人机攻击都需要官方的签字。
我们最好把许多出于军事目的开发的智能机器理解为人类能力得到延伸（视觉、听觉，以及某些情况下扣动扳机的手指）。卡内基梅隆大学一个开发机器蛇的项目获得了美国军方的支持，这条蛇配备了摄像头，可以爬行接近敌方目标。获DARPA支持的哈佛大学研究人员开发了一种“机器蜜蜂”，其翼展只有3厘米，可从窗口飞进室内执行隐蔽的监视任务。DARPA还在攻关所谓的吸血鬼无人机，这种无人机由可“升华”的材料制成，这样在完成任务后就可以在空气中熔化。DAPRA的一些研究想法完全就是从James Cameron的一部电影获得的灵感：据《五角大楼的大脑》（一本反映DARPA历史的书）作者Annie Jacobsen说，该机构攻关所谓的“增强认知”已有15年的历史。“通过增强认知计划，DARPA想创造出人机合体的生物，也就是所谓的赛博格（cyborg，半机械人，电子人），” Jacobsen写道。DARPA科学家正在实验在人的大脑进行神经植入，从而在人的大脑与计算机之间充当快速信息交换的通道，从而让士兵远程（无论有多远）控制战斗机器人成为可能。注意，这种控制不是通过操纵杆，而是通过发送类似思想的东西去执行—想法会被编译为电脉冲传送给远端的机器人。
尽管如此，把DARPA资助的科幻项目与现实世界正在进行的东西区分开来仍然很重要。去年6月，我出席了DARPA机器人挑战赛的决赛。这场比赛第一名的奖金达到了200万美元，它由美国国防部推出，旨在激发救灾机器人（比如福岛核电站那种环境下的应用）的创新。
最终幸运获得大奖的是Chimp，这个体重443磅的机器人是由卡内基梅隆大学的团队制作的。Chimp有5英尺高，手臂能举起300磅重的东西。“我们设计的是一个不会摔倒的机器人，”Chimp的一位软件工程师这样吹嘘。
但在机器人的世界里，事情往往并不能按计划进行。比赛很快变成了一出机器人摔跤喜剧：一个跌倒的机器人溢出的液压油就像是外星人流的血；另一个机器人跌倒后干脆脑袋都搬家了。甚至威猛的Chimp在试图开门时也一头栽倒在地。未来看起来似乎还有一段距离。
正在比赛中的Chimp
谈到机器人和战争，中心问题并非技术性的，而是哲学性的：机器能不能被赋予杀人的权力和能力？把这一决定和能力外包给机器的想法是非常可怕的。去年7月，康涅狄格州的一位年轻人激起了一场激烈的辩论，起因是他给一架简单的无人机加装了一把手枪，然后上传到YouTube上。想象一下，只要把一架商店购买的无人机绑上一步带摄像头的手机，再加上一把半自动武器，在效果上就相当于创造了一架自制的远程控制的刺杀无人机。
当然，简单的自动武器并不是什么新东西：比如地雷。这是愚蠢的自动武器的体现，因为无论是敌人还是3岁小孩踩到它都会爆炸。1990年代，在美国活动家Jody Williams的帮助下发起的一场反地雷的国际运动终于让162个国家签署了一项禁止使用、开发或者囤积地雷的条约。为此Williams还获得了诺贝尔和平奖。现在，她是一项名为制止杀人机器人运动的名誉领袖。在20位诺贝尔奖得主的帮助下，她希望能在全自动武器成为现实前禁止这种杀人武器。“我发现杀人机器人的想法比核武器还要可怕，”去年她在日内瓦告诉NBC：“如果有人认为把决定人生死的权利交给机器也可以的话，那人性何在？”联合国自2014年以来就一直在考虑制定国际指南的可能性。
美国这边，五角大楼要求“在使用武力时要有适当程度的人类判断。”但什么才是“适当”的呢？实际上，目前正在制造的一些武器系统当中已经有全自动的了。美国很快就会部署远程导弹，这种导弹的自治系统能够自行搜寻目标。韩国已经研发出一种自动枪塔，这种枪塔能够在黑暗中感知到一英里以外的人类目标并向其射击。
在去年的那次机器人比赛上，我跟Georgia Tech的教授Ronald Arkin进行了交谈，他就机器人伦理这个话题写了很多东西。“我不是终结者式武器的拥护者，”Arkin告诉我：“但我认为这的确是一个复杂的议题。”他的观点是更智能的武器可以减少人员伤亡。“因为机器没有情感，它们不大可能在危险情况下恐慌，”他说：“或者因为哲学家所谓的‘战争迷雾’而作出坏的判断。”比如说，去年10月，在美军一架AC-130武装直升机错误地朝阿富汗昆都士的一家医院开火导致至少42人丧生之后，美军上将John F. Campbell称这是一起“本可避免因人为失误造成的悲剧。”自动无人机会犯同样的错误吗？
“现在，我们是遥控着无人机去杀死那些真正可怕的人，”计算机科学家兼作者Jaron Lanier说：“但我们正在设立能够自己走自己寻找目标的系统。”当然，问题在于那些可怕的人弄到了无人机并反过来狩猎我们该怎么办？会发生什么？“是的，历史教导我们这种事情会发生，”他说：“出现这种情况时，我们的态度不应该是诅咒‘那些邪恶的机器’，而应该指责那些工程师不负责任，不够聪明，考虑不够宏观。我们要讨论的不应该是AI的邪恶，而是工程师的责任，他们应该开发出一套可靠的不会反戈一击的系统。这才是正确的讨论姿势。”
一些研究人员认为，我们应该能够把略显粗糙的伦理守则编程进机器里面，但这会需要某种程度的复杂性，复杂到我们只能靠猜测。不管怎样，越来越多自动武器的出现也许是不可避免的。跟需要大规模投资、只有国家才能支撑的核武器不一样的是，这种新技术是由商业开发推动的。“我敢保证，Google和Amazon对无人机的监控能力很快就要比军方还要强，” Cummings说：“他们拥有大得多的数据库，好得多的人脸识别技术，强得多的无人机制造和控制能力。这些对你的了解比CIA还要多得多。如果政府要指望企业来提供最新的国防技术这世界会变成什么样？”
但是Cummings认为真正杀手机器人的到来还很遥远。在实验室设想自动机器人和武器要比在现实世界部署容易些。这一点我在机器人大赛结束后就认识到了。我漫步回到车库那里，这是参赛团队经常去的地方。这地方给人的感觉就像是NASCAR的车库，堆放着工具箱的架子，各种高科技的装备以及喝着啤酒的队员。不同的是这里放着的是机器人而不是车子。第一名被一个叫做DRC-Hubo的小机器人夺得，设计者是来自韩国的团队，这被人开玩笑说五角大楼这是要武装我们正好是中国邻居的盟友。
至于机器人本身，它们的表演时间已经结束了。它们安静地挂在吊具上，跟一辆停泊着的车并无二致。即便是威猛的Chimp，原本亮丽的红色喷漆也因为那次摔跤而被磨失了光泽，看起来有点软弱无力。而卡内基梅隆团队的程序员和工程师有的放下了手中的工具，有的盯住屏幕。这是绿野仙踪时刻，幕后的惊鸿一瞥会让你看到，像Chimp这样出色的机器其实是人类辛勤汗水和心灵手巧的结晶，没有这群人数年设计制造的努力，就不会有机器人的存在。同样地，Google无人车或者刺杀基地组织领导的CIA无人机也是一样的道理。跟烤面包机相比，它们是智能机器。但它们是人类想象和人类工程的产物。如果说未来我们设计的机器会挑战我们，伤害我们，破坏我们热爱的东西，甚至要根除我们的话，那也是我们让它们干的。最终，智能机器崛起的可怕并不在于它们有朝一日会有自己的思想，而在于它们拥有我们（存在缺陷和复杂性的）人类为它们设计和制造的思想。
