第11章
全自动决策

2016年12月12日，特斯拉汽车俱乐部会员jmdavis在一个电动汽车论坛发帖，汇报自己驾驶特斯拉的体验。他以大约60英里的时速行驶在佛罗里达州的一条高速公路上，特斯拉的仪表板上显示前面有一辆小汽车，因为前方的卡车挡住了他的视线，他没法看到这辆车。突然，尽管前面的卡车并未减速，他的紧急刹车采取了制动。一秒钟后，卡车转向路肩，以避免撞到前方因为道路上有碎片而迅速停下来的车辆。在前方的卡车刹车之前，特斯拉就决定刹车，好让jmdavis有足够的制动距离。jmdavis写道：

如果我是手动驾驶，车子不太可能及时停下，因为我看不到前面的车停下来了。特斯拉在前方车辆还没做出反应之时就做出了很好的应对，它启动了紧急刹车，而我自己驾驶的话，恐怕就撞上去了。特斯拉做得很棒，谢谢它救了我的命。

特斯拉刚向旗下的汽车发送了软件更新，允许其自动驾驶仪利用雷达获取车辆前方环境更清晰的图片。尽管，该功能是在汽车处于自动驾驶模式下才发挥作用，但我们很容易设想如下情形：在未来，面对即将发生的事故，汽车将从人类手里接管控制权。美国的汽车制造商已经与交通部达成协议，到2022年，汽车自动紧急制动将成为车辆的标准配置。

很多时候，人工智能和自动化之间的区别很模糊。机器承担整个任务（而不仅仅是预测），就会出现自动化。截至本书的撰写期间，人类仍然需要时不时干预驾驶过程。我们什么时候可以指望实现完全的自动驾驶呢？

在当前阶段，人工智能只指执行单一元素（预测）的机器。其他各项元素都代表着对预测的补充，而随着预测变得越来越廉价，它们会越来越有价值。完全自动化是否有意义，取决于同样执行其他元素的机器所带来的相对回报是高还是低。

不管是针对输入、训练还是反馈，人类和机器都可以根据类型累积数据。人类最终必须做出判断，但人类也可以在预测之前，对判断进行编码，将之输入机器。又或者，机器可以通过反馈来学习预测人类的判断。这促使我们采取某种行动。什么时候让机器（而非人类）采取行动效果更好呢？更微妙的是，机器处理预测的事实在何种情况下会提升对机器执行的回报，而不是提升采取同样行动的人类的回报？我们必须决定机器执行其他要素（收集数据、判断、行动）所带来的回报，好决定该任务是否应该完全自动化。

夜里的太阳镜

澳大利亚偏远的皮尔巴拉地区拥有大量的铁矿石。大多数采矿场跟最近的大城市珀斯的距离都在1000英里以上。矿上所有员工都是飞过来执行高强度的工作，每次轮班会持续好几周。因此，他们理应以工资的方式获得津贴和外勤费。不足为奇，矿业公司希望趁着他们在工地，最大限度地利用他们。

矿业巨头力拓集团（Rio Tinto）的大型铁矿是高度资本密集型的产业，这不光体现在成本上，也体现在它庞大的规模上。他们从巨大的矿坑（矿坑面积之大，陨石撞击地球也不见得能形成这么大的坑）坑底采集铁矿石。因此，工人主要的工作是用足有两层楼高的卡车把矿石从坑底运上地面，再运到附近的铁路，接着把铁矿石运送到北面数千英里外的港口去。因此，矿业公司的真正成本不是人，而是停工期。

当然，矿业公司试图整夜运转，以改善这一状况。然而，就算是最能适应轮班制的人类员工，在夜里的生产效率也不高。最初，力拓采用可在珀斯远程控制的卡车，解决了部分人力部署的问题。但2016年，它又朝前推进了一步，它采购了73辆可自动运转的无人卡车。这一自动化，已经为力拓节省了15%的运营成本。矿山上的卡车全天24小时满负荷运转，在白天室外温度飙升到50摄氏度的条件下，不需要给它们提供冲凉时间，驾驶室里也不用安装空调。最后，没了司机，卡车就不需要区分前后了，也就是说它们不需要掉头，这从安全、空间、维护和速度上节省了更多的成本。

人工智能通过预测卡车路上的危险因素，对它们进入矿坑的路线进行调节。驾驶员不需要在现场甚至远程监控卡车的安全。此外，周围的人类越少，就越不容易带来安全风险。这样的尝试还在向前推进：加拿大的矿工正在探索让人工智能机器人到地下开采，澳大利亚的矿工则努力使从矿坑到港口的整个链条（包括挖掘机、推土机和火车）实现自动化。

采矿是实现全面自动化的绝好机会，因为它已经将人类从很多活动里移除了。如今，人类负责执行具有指导性但极关键的操作。在人工智能的最新进展之前，除预测之外的所有事情都已经能够自动化了。预测机器代表着将人类从诸多任务中移除的最后一步。从前，人类扫描周围的环境，准确地告诉设备做什么。现在，人工智能从传感器获取信息，学习怎样预测路上出现的障碍物并清扫干净。由于预测机器可以预测道路是否畅通，矿业公司便不再需要人类做这件事了。

如果任务中最后一项人类因素是预测，那么，一旦预测机器能跟人做得一样好，决策者就可以从方程式里移除人类。但正如我们在本章中将要看到的那样，像采矿一样清晰明朗的案例很少。对大多数自动化决策而言，有了机器预测，也不一定意味着移除人类判断并代之以机器决策者是值当的，也不意味着取消人类行为并代之以实体机器人是值当的。

没有思考的时间或必要

预测机器制造了像特斯拉那样的自动驾驶汽车。但使用预测机器来颠覆人类对交通工具的控制权是另一回事。基本原理很容易理解：在预测事故和所需反应之间的短短瞬间，没有可供人类思考或采取行动的时间（“无暇思考”）。反过来说，对车辆的反应编程则相对容易。在对反应速度有要求的时候，把控制权交给机器，回报很高。

使用预测机器时，机器所做的预测必须传达给决策者。但如果预测可直接带来显而易见的行为过程（“无须思考”），那么，在整套重复的指令中保留人类判断的意义就减少了。如果一台机器可以对判断编码，相对容易地处理后续动作，把整个任务都交给机器也就合乎情理了。

这带来了各种各样的创新。2016年的里约奥运会上，一台新的摄像机器人通过在泳池底部找准位置，追踪运动员的动作进行拍摄。此前，同样的过程是靠人为远程操控摄像机来完成的，操作员必须预测运动员的位置。现在，预测机器可以做到这一点了。游泳只是个开始。如今，研究人员正致力于将这种摄像自动化装置应用到篮球等更复杂的运动上。再一次，对速度的需求，再加上可编码的判断，使这一过程可以完全自动化。

事故预防和无人操作的运动摄像机有什么共同之处呢？两例中，对预测快速做出行动反应都有着很高的回报；判断不是可编码的，就是可预测的。如果机器操作所有功能带来的回报，高于人类参与此过程的回报，自动化就会应运而生。

沟通成本很高的时候也可能会产生自动化。以太空探索为例。发送机器人进入太空，比发送人更容易。现在，好几家公司正在探索从月球上开采有价值矿物质的方法，但它们需要克服许多技术难题。这里，我们着眼于月球机器人怎样导航和行动。无线电信号至少需要两秒才能到达月球并传回，因此，地球上的人类对月球上的机器人进行操作是一个缓慢而痛苦的过程。这种机器人无法迅速对新情况做出反应。如果沿月球表面运动的机器人突然遇到悬崖，通信稍有延迟，恐怕就意味着地球上的指令成了马后炮。预测机器提供了一种解决方案。依靠良好的预测，月球机器人可以自主行动，无须地球上的人类指导每一步。没有人工智能，这种商用探索恐怕无法实现。

当法律要求人类采取行动

完全自动化可能导致危害。这是科幻小说的一个常见主题。就算我们容忍机器的彻底自主，法律恐怕也不允许。艾萨克·阿西莫夫（Isaac Asimov）对监管问题的设想是，为机器人硬性编入三定律，通过巧妙设计来消除机器人对人类造成伤害的可能性。（这三条定律如下：一、机器人不得伤害人类，或通过不作为使人类受到伤害；二、除非违背第一定律，机器人必须服从人类的命令；三、除非违背第一和第二定律，机器人必须保护自己。）

类似地，现代哲学家也经常提出看似抽象的伦理困境。以电车难题为例：假设你站在开关旁，能把电车从一条轨道切换到另一条轨道。你发现，电车此时所在的轨道上有五个人。你可以将它切换到另一条轨道，这条轨道上有一个人。你没有其他选择，也没有时间思考。你会怎么做？这个问题让很多人感到困惑，很多时候，他们会彻底不去思考这个难题。然而，对自动驾驶汽车来说，这种情况是有可能出现的。必须有人解决这一困境，并将恰当的反应编入汽车程序。这个问题无从回避。必须有人（最可能的是法律）决定谁生，谁死。

目前，我们并没有将道德选择编码到自动化机器当中，而是在循环中保留人的位置。例如，假设有一种可以完全自主操作的无人驾驶武器——能完全自主识别、瞄准并击毙敌人。就算军队将领能找到一种预测机器，把平民和作战人员区分开来，作战人员需要多长时间才能找到方法迷惑预测机器呢？预测机器恐怕无法快速地达到规定的精确度。因此，2012年，美国国防部出台了一项规定。在许多人看来，这项规定就是要求在循环中保留人类的位置，让人类来决定是否发起攻击。虽然目前还不清楚是否随时都要遵守这一规定，但不管出于什么原因，对人类干预的需要会限制预测机器的自主性，哪怕它们已经能够自主运行。（例如，若作战时存在时间压力，会有各种条款允许采取别的行动。）就算是特斯拉的自动驾驶仪（尽管它完全能够驾驶汽车）也要遵守法律规定：在任何时候，驾驶员都要把手放在方向盘上。

从经济学家的视角来看，这是否有意义，取决于潜在危害的情境。例如，自动驾驶车辆在偏远的矿山或工厂车间运行，跟在公共道路上运行是完全不一样的。“工厂内部”和“开放道路”之间的区别就是可能存在的“外部性”——这是经济学的术语，指的是他人（而非关键的决策者）所感受到的成本。

经济学家对外部性问题有各种解决方案。方案之一是分配责任，让关键的决策者内化这些外部成本。比方说，在内化与气候变化相关的外部性这一背景下，碳税发挥着一定的作用。但对自动机器来说，确认责任方很复杂。机器越是具备对组织外部的事物造成危害（当然，也包括对组织内部的人造成的身体伤害）的潜力，它就越是应该保持审慎，并在法律上要求保留人类在整个循环里的位置。

当人类采取的行动好过机器

问题：有什么东西是橙色，听起来又类似“parrot”（鹦鹉）？答案是“carrot”（胡萝卜）。

这笑话有趣吗？再看看这个。一个小女孩问父亲：“爸爸？所有童话故事的开头都是‘很久很久以前’吗？”他回答说：“不，有一个系列的童话故事是这么开头的：‘如果当选，我保证……’”

哎呀，我承认，经济学家并不是最擅长讲笑话的人。但我们好歹比机器做得好些。研究人员迈克·约曼斯（Mike Yeomans）与其合著者发现，如果人们认为给自己推荐笑话的是一台机器，那么，他们会觉得这个笑话不如人推荐的有趣。研究人员发现，机器其实挺擅长推荐笑话的，但人们就是会倾向于相信这些推荐来自人类。如果听笑话的人以为是另一个人给出的推荐（其实是机器推荐的），他会感到最为满意。

艺术成就和体育比赛也是如此。艺术的力量往往源于赞助者对艺术家的人类经验的认识。观看体育赛事的部分快感有赖于这是一场人与人的较量。就算机器跑得比人类快，但那样一来的比赛结果就不会叫人感到那么兴奋了。

陪孩子玩耍、照料老年人，以及其他许多涉及社交互动的行为，从性质上说，由人来完成大概比由机器来完成要好。就算一台机器知道出于教育的目的该向孩子展示什么样的信息，有时候，由人来完成此种沟通恐怕是最合适的。虽然，随着时间的推移，人类可能会更为接受让机器人照顾我们自己和孩子，甚至可能喜欢上观看机器人体育比赛，但眼下，就某些行为而言，人类还是更喜欢自己来完成。

如果某一行动最适合由人来完成，那么，这样的决定就不会完全自动化。在其他时候，预测是自动化的关键限制条件。如果预测变得足够好，并且可以预先确定收益（不管是靠人来硬编码，还是机器通过观察人的行为来学习），该决定就会自动化。

本章要点

※在任务中引入人工智能，并不一定意味着该任务将完全实现自动化。预测只是组成部分。在很多情况下，人们仍然需要做出判断并采取行动。然而，有时候，判断可能进行硬编码，又或者，如果有足够的例子，机器可以学习预测判断。此外，机器可以执行该行为。一旦机器执行任务中的所有部分，任务就完全自动化，循环中将彻底取消人的位置。

※最有可能首先实现完全自动化的任务是全自动化能带来最高回报的那些任务。这就包括以下情况：（1）除了预测之外的其他部分已经自动化（例如挖掘）；（2）快速响应预测的行为能带来高回报（如无司机的车辆）；（3）缩短预测等待时间带来的回报高（如太空探索）。

※在城市街道上运行的自动驾驶汽车和在矿区内运行的自动驾驶汽车有一个重要的区别，那就是前者可带来显著的外部性，后者不会。在城市街道上运行的自动驾驶车辆可能会导致意外，而且代价由决策者之外的人承担。相比之下，在矿场运行的自动驾驶车辆引起的事故，只会影响到与矿场相关的资产或人员。政府对产生外部性的活动进行监管。故此，对能产生显著外部性的应用而言，监管是完全自动化的潜在障碍。为解决这个问题，经济学家常常采用分配责任这一常用工具，内化外部性。我们可以预期，随着大量新领域对自动化的需求越来越高，与责任分配相关的政策将迎来一股发展浪潮。