第19章
商业之外

当前有关人工智能的大多数热门讨论都着眼于社会议题而非商业问题。人工智能是不是个好东西，很多人都拿不准。特斯拉首席执行官埃隆·马斯克是其中最坚定、最高调、最有经验的一位，他敲响警钟道：“我接触过非常前沿的人工智能，我认为人们真的应该关注这个问题……我不断敲响警钟，但除非人们亲眼见到机器人走上大街杀人，否则，人们不知道该怎么应对（人工智能的问题），因为它似乎太虚无缥缈了。”

另一位就此发表过意见的专家是著名心理学家、诺贝尔经济学奖得主丹尼尔·卡尼曼。非学术界人士或许会因为他2011年出版的《思考，快与慢》（Thinking,Fast and Slow）而认识他。2017年，我们在多伦多组织了一轮关于人工智能经济学的会议，他解释了为什么自己认为人工智能比人类更聪明：

一位著名小说家前些时候写信给我说，他正打算写一部小说。小说主题是关于两个人类和一个机器人之间的三角恋，他想知道机器人跟人有什么不同。

我提出了三点主要区别。最明显的一点是，机器人更擅长统计推理，对故事和叙述不像人那么着迷。另一点是，机器人的情商更高。

第三点是机器人更智慧。智慧是心怀宽广。智慧就是视野不会太狭隘。这是智慧的本质，它有着宽广的框架。机器人拥有宽广的框架。我觉得，等它学得足够多，它会比我们人类更睿智，因为我们没有宽广的框架。我们是眼界狭隘的思考者，喧嚣嘈杂的思考者，在我们的基础上进行改进很容易。我不认为会有太多人类能做而机器人怎么都学不会的事情。

埃隆·马斯克和丹尼尔·卡尼曼对人工智能的潜力都充满信心，同时也担心它的出现可能会给世界带来不良后果。

因为没有耐心等待政府对技术的进步进行回应，行业领袖们提供了政策建议，有时候还采取了行动。比尔·盖茨主张对取代人类劳动力的机器人征税。高调的初创公司孵化机构Y Combinator，以迂回的方式踏进通常属于政府权责范围的领域，他们正在推进一项实验，致力于为社会中所有人提供一份基础收入。埃隆·马斯克组织了一群企业家和行业领导者为Open AI注资10亿美元，以确保没有任何一家私人企业能垄断该领域。

这些建议和行动凸显了这些社会议题的复杂性。随着我们攀登到金字塔的顶端，我们的选择只会变得更加复杂。当把社会视为一个整体时，人工智能经济学也就不再简单了。

人工智能会终结就业吗

如果爱因斯坦在当今的世界转世，那一定是斯蒂芬·霍金。由于霍金对科学所做的卓越贡献，以及他写过的《时间简史》（A Brief History of Time）等畅销书，在世人的心目中，他是个不折不扣的天才——哪怕他患有肌萎缩侧索硬化症（ALS）。故此，2016年12月，人们毫不意外地接受了他所写的一段话：“工厂的自动化已经减少了传统制造业的就业岗位，人工智能的兴起，则有可能进一步破坏中产阶级的就业，只有那些最需要付出关怀、最有创意、最需要监督的岗位能保留下来。”

若干研究结果统计了自动化对就业岗位的破坏可能达到的程度，而且这一次，受波及的不光是体力劳动，连原本一直被认为不会受波及的智力工作也无法幸免。但毕竟，马匹在马力上落后，而不是智力。

身为经济学家，我们从前就听说过这些说法。尽管自几百年前失业的手工工人（卢德主义者）砸掉纺织机以来，技术性失业的幽灵一直徘徊不去，但总的失业率一直都很低。企业管理者可能会担心，采用人工智能一类的技术会导致岗位被削减；然而，另一个事实兴许可以给我们带来些许安慰：农业就业岗位自100多年前起就开始逐渐消失了，却也未出现对应的长期大规模失业。

但这一次是不是不一样呢？霍金的担忧许多人也有，他们认为，这一回情况非比寻常，因为人工智能有可能抢走人类对机器剩余的最后优势。

经济学家怎样看待这个问题呢？想象一下，突然出现了一座完全由机器人把持的岛屿——机器岛（Robotlandia）。我们想跟预测机器之岛做生意吗？从自由贸易的角度来看，这听起来像是个绝妙的机会。机器人可以完成各种任务，解放我们的人力，让我们去做自己最擅长的事情。换句话说，我们不会拒绝跟机器岛做生意，就如同我们并不要求所有的咖啡豆都在本地种植。

当然，机器岛并不存在，但当技术变革使软件能以更廉价的方式完成新任务时，在经济学家们看来，这就跟与上述虚构之岛开展贸易差不多。换句话说，如果你赞成国与国之间的自由贸易，你就会赞成与机器岛进行自由贸易。你支持开发人工智能，哪怕它会取代一部分就业。数十年来有关贸易影响的研究表明，其他就业岗位自然会出现，整体就业不会大幅跳水。

我们对决策的剖析暗示了这些新的就业岗位有可能来自什么地方。人类和人工智能有望一起工作；人类为预测提供互补品，即数据、判断或行动。例如，随着预测越来越廉价，判断的价值越来越高。故此，我们预计，与回报函数工程相关的岗位会增加。这些岗位中的一部分专业性强，报酬也高，它们将由那些在预测机器出现之前就已在应用这类判断的人来填补。

其他与判断有关的工作会更为普遍，但它们对技术的要求或许不如人工智能所取代的岗位高。当今许多高薪职业的核心技能都包括了预测，如医生、金融分析师和律师。正如机器对于方位的预测减少了伦敦出租车司机相对较高的收入，却增加了收入相对低的优步司机的人数那样，我们预测，医疗和金融方面也会出现相同的现象。随着任务的预测部分逐渐能自动完成，更多的人可填补这些岗位，其所需的技能也收窄到与判断相关的技能内。如果预测不再是约束性的限制条件，对更广泛的互补性技能的需求或许会增加，这会带来更多低薪的就业机会。

人工智能和人有一点重要的区别：软件能成规模地扩增，人却不能。也就是说，一旦人工智能在特定任务上的表现超过了人类，岗位流失很快就会发生。我们固然相信，几年内新的工作岗位会出现，人们会找到事情可做，但对那些渴望工作、等着新工作出现的人来说，这算不上什么安慰。从长远来看，就算与机器岛进行自由贸易不会影响岗位的数量，人工智能引发经济衰退仍是可能的。

不平等会加剧吗

工作岗位是一回事，它们创造的收入又是另一回事。开放贸易往往会造成竞争，而竞争会导致价格下降。如果竞争的对象是人类劳动力，人类的工资就会下降。仍以机器岛开放贸易为例，机器人与人类会抢夺一些任务，这些任务的薪资报酬会因此下降。如果你的工作是由这些任务构成的，那么，你的收入就可能会下降，你会面临更多的竞争。

和国与国之间的贸易一样，与机器进行贸易也会产生赢家和输家。岗位仍然会有，但有些人会从事不如其当前工作那么有吸引力的工作。换句话说，如果你了解自由贸易的好处，你就应该感激预测机器带来的收益。关键的政策问题不在于人工智能是否会带来收益，而在于如何分配这些收益。

因为人工智能工具可以被用来取代“高级”技能，也就是“脑力”，许多人担心，哪怕工作岗位依然存在，它也不会再是高薪岗位了。例如，贾森·弗曼（Jason Furman）在担任奥巴马总统经济顾问委员会主席期间，这样表达了自己的担忧：

我的担心不在于人工智能会使这一次的情况有所不同，而在于这一次会跟我们过去几十年所经历的完全相同。传统观点认为，我们不必担心机器人会接管就业，但我们的担忧是，人类仍然有工作是因为我们愿意以较低的工资来完成这些工作。

如果机器的工作份额继续增加，工人的收入就会下降，而人工智能拥有者的收入则会增加。

托马斯·皮凯蒂（Thomas Piketty）在畅销书《21世纪资本论》（Capital in the Twenty-First Century）中强调，过去几十年，劳动力所占的国民收入（在美国及其他地方）一直在下降，而资本所赚的份额却在走高。这一趋势令人担忧，因为它使得不平等的趋势不断加剧。这里的关键问题在于，人工智能会强化这一趋势，还是会使其得到缓解。如果人工智能是一种新的、高效的资本组织形式，那么经济中的资本所占的份额可能会继续上涨，以牺牲劳动力为代价。

这个问题没有简单的解决方案。比方说，比尔·盖茨提议对机器人征税，这会减少不平等，但也会使购买机器人带来的收益减少。因此，公司对机器人的投入将减少，生产力减缓，整体而言，我们都会变糟。政策权衡很明确：我们的政策能够减少不平等，但这么做可能是以牺牲整体收入为代价的。

导致不平等加剧的第二个趋势是，技术往往有着技能偏好。它不成比例地增加了受过高等教育的人的工资，甚至可能降低教育程度低的人的工资。前一批技能偏好的技术，包括计算机和互联网，是过去40年来美国和欧洲收入不平等现象日益严重的主要原因。经济学家克劳迪娅·戈尔丁（Claudia Goldin）和劳伦斯·卡茨（Lawrence Katz）指出：“受过更多教育、有着更高天赋能力的人能更好地掌握复杂的新工具。”没有理由期待人工智能会有什么不同。受过高等教育的人往往更擅长学习新技能。如果成功使用人工智能的必需技能经常发生改变，那么，受过教育的人将享受到不成比例的收益。

人工智能的生产性应用需要额外技能，对此，我们有诸多理由。比如，回报函数工程师必须了解组织的目标和机器的性能。由于机器可以高效扩展，如果这项技能很稀缺，那么最优秀的工程师就可在数百万甚至数十亿台机器上收获自己的工作带来的成果。

正因为人工智能的相关技能目前甚为稀缺，人类和企业的学习过程所需的成本都将十分高昂。2017年，斯坦福大学的7000多名本科生里，有1000多人报名参加了机器学习的入门课程。其他地方也出现了同样的趋势。但这只是劳动力中的极小部分。绝大多数人的职业技能都是几十年前训练出来的，也就是说，他们需要重新培训和获得新的技能。我们的产业教育体系并不是为此而设计的。企业不应该指望这种体系能及时迅速改变，为它们提供可在人工智能时代参与竞争的员工。政策上的挑战并不简单：提高民众的受教育程度的成本很高。这些成本需要有人来负担，要么提高税收，要么直接由企业或个人来支付。但即便成本可以被轻易负担，许多中年人恐怕也并不渴望重返学校。受技能偏好伤害最大的人大概是没有做好终身学习准备的那批人。

少数大公司会控制一切吗

担心人工智能的不仅仅是个人。由于人工智能有望实现极大的规模经济效应，许多公司都害怕自己在保护和使用人工智能上落在竞争对手后面。更多客户意味着更多的数据，更多的数据意味着更出色的人工智能预测，良性循环一旦建立，就会持续运转。一旦碰到合适的条件，只要一家公司的人工智能在绩效上领先，竞争对手说不定就永远跟不上了。在第二章讨论的亚马逊通过预测来送货的思想实验里，亚马逊的规模和先发优势让其在预测的准确性上有着极大的优势，竞争对手根本没办法追上它。

一种新的技术带来了培育大公司的可能性，这种情况并不是首次出现。AT&T公司（美国最大的固网电话服务供应商及移动电话服务供应商。）在50多年里一直控制着全美的电信行业。20世纪90年代到21世纪的最初十年，微软和英特尔垄断了信息技术。最近，谷歌主导了搜索，而Facebook统治了社交媒体。这些公司之所以能发展到如此规模，是因为它们的核心技术随着其规模的扩大，能够降低成本，而且提高质量。与此同时，哪怕存在规模经济，竞争对手还是会出现；问问微软（苹果和谷歌）、英特尔（AMD和ARM（AMD为美国超威半导体公司；ARM（安谋控股公司）是英国的半导体设计与软件公司。） ）和AT&T（几乎所有人）就知道了。在经济学家约瑟夫·熊彼特（Joseph Schumpeter）所谓的“颠覆性创新风暴”的作用下，技术垄断只能得一时之利。

有了人工智能，由于规模经济的作用，大公司有大的优势。然而这并不是意味着，只会存在一家巨头企业，或某个巨头企业就能长久生存。从全球范围来看，事情更是如此。

如果人工智能具有规模经济效应，那么它并不会均等地影响所有行业。如果你的公司已经功成名就，预测的准确性恐怕并不是它成功的唯一因素。今天给企业带去价值的能力或资产在搭载了人工智能之后恐怕仍然至关重要。人工智能除了要优化航空公司的航班时间和价格，还应该提高其提供个性化客户服务的能力。不过，拥有最优秀的人工智能的航空公司不一定就拥有能战胜所有对手的优势。

对所有业务都依赖人工智能的科技公司而言，规模经济或许会创造少数几家领头企业。但当我们在说规模经济的时候，我们说的到底是多大的规模呢？

这个问题没有简单的答案，我们在人工智能方面的预测显然也并不准确。但经济学家已经研究了人工智能一个关键互补品——数据的规模经济。很多原因或许都可以解释为何谷歌能占据美国搜索市场的70%、欧盟市场的90%的份额，但最主要的一点是，谷歌比竞争对手拥有更多数据来训练其人工智能搜索工具。谷歌多年来一直在收集这些数据。此外，它的市场占有率创造了其他人永远也比不上的数据规模的良性循环。如果存在数据规模优势这个东西的话，谷歌显然已经牢牢把握住了它。

两位经济学家——莱斯莉·邱（Lesley Chiou）和凯瑟琳·塔克研究了各搜索引擎在数据留存实践上的差异。为响应欧盟2008年的提议，雅虎和必应减少了保存的数据量。谷歌没有改变政策。这些改变，足以让邱和塔克衡量数据规模对搜索准确性的影响。有趣的是，他们发现规模并没有那么重要。比较所有主要竞争对手使用的总体上的数据量发现，较少的数据不会对搜索结果带来坏影响。任何当前的（规模）效应都太小了，小到无法真正造成什么后果，这显然也不足以成为竞争优势的基础。这表明，或许是因为世界变得太快，历史数据可能不如许多人想象中那么有用。

不过，我们也想给出一条重要的告诫。每天有高达20%的谷歌搜索据称是独一无二的。故此，谷歌可能在罕见搜索上享有“长尾”优势。数据的规模优势在常见案例中并不显著，但在搜索这一竞争激烈的市场中，哪怕是低频搜索上的小幅优势也可能带来更大的市场份额。

我们仍然不知道，人工智能的规模优势是否足以让谷歌在面对其他劲敌如微软的必应等时能获得优势，或许，谷歌的优秀与它的数据和规模毫无关系。鉴于这种不确定性，苹果、谷歌、微软、Facebook、百度、腾讯、阿里巴巴和亚马逊都在大力投资和激烈抢夺关键的人工智能资产。它们不光彼此竞争，还跟一些尚不存在的企业竞争。他们担心一家初创公司“更善于发展人工智能”，并且直接跟自己的核心产品展开竞争。在数十亿风险投资的支持下，许多初创公司都在进行这方面的尝试。

尽管存在这些潜在的竞争对手，领先的人工智能公司仍有可能变得过于庞大。它们兴许会在初创公司尚未成为威胁之时就将其收购，最后慢慢扼杀新创意，降低生产力。它们兴许会给人工智能设定过高的价格，伤害消费者和其他企业。遗憾的是，没有简单的方法可判断最大的人工智能公司是不是已经过于庞大，如果它们真的过于庞大，也没有简单的解决办法。如果人工智能有规模优势，要弱化垄断带来的负面影响就要进行各种权衡。打破垄断会缩小规模，但规模又能让人工智能变得更好。还是那句话，政策问题不简单。（更多对反垄断问题的评述以及算法、数据、人工智能的其他影响，见Ariel Ezrachi and Maurice Stucke,Virtual Competition：The Promise and Perils of the Algorithm-Driven Economy（Cambridge,MA：Harvard University Press，2016）。关于各种算法有可能自行浓缩成一种算法的观点，见Pedro Domingos,The Master Algorithm（New York：Basic Books，2015）。最后，史蒂夫·洛尔概述了企业是如何通过先发制人的数据投资获得战略优势的，见Steve Lohr,Dataism（New York：Harper Business，2015）。）

一些国家会获得优势吗

2017年9月1日，俄罗斯总统弗拉基米尔·普京就人工智能领先地位的重要性做出这样的断言：“人工智能是未来，不仅是对俄国，对全人类也如此……它带来了巨大的机会，也带来了难以预测的威胁。无论谁成为这个领域的领导者，都将成为世界的统治者。”国家能不能跟企业一样，从人工智能的规模经济中受益呢？各国可以设计监管环境，由政府直接掏钱加快人工智能的开发。这些有针对性的政策可能会给该国及其境内的企业带来人工智能上的优势。

就大学和企业而言，美国在人工智能的研究和商业应用方面领先于世界上任何一个国家。就政府层面而言，奥巴马主政的最后两个季度，白宫发布了4份报告。相较其他领域内的技术进步，美国政府的努力和协调，说明了政府级别的机构对其十分重视。在奥巴马政府的领导下，从商务部到国家安全局，几乎所有主要政府机构都在积极加速商业级人工智能的到来。

但趋势正在发生变化。特别是，相较过去一个世纪相对落后的技术发展，中国这个全世界人口最多的国家开始在人工智能领域脱颖而出。该国不仅有两家以人工智能为导向的科技公司（腾讯和阿里巴巴）按估值排进了全球前12位，还有证据表明，中国对人工智能的科学推动或许很快也会引领世界。举例来说，中国在全球最大的人工智能研究会上发表的论文数量占比，从2012年的10%上升到了2017年的23%。而同一时期，美国的占比从41%下降到了34%。

人工智能的未来会像《纽约时报》所说的那样，变成“中国制造”吗？除了科研上的领先之外，至少还有3个理由表明中国将领跑人工智能领域。

第一个理由是，中国在人工智能上投入了数十亿美元，其中包括大型项目、初创公司和基础研究。单单一座城市（而且仅仅是中国的第八大城市）分配给人工智能的资源就比加拿大全国还多。“6月，位于北京东面的天津表示，其政府计划设立50亿美元的基金来支持人工智能行业。天津还建立了一个占地20多平方公里的‘智能产业区’。”与此同时，特朗普执政期间的美国政府在科研方面的开支似乎正在缩水。

研究不是一场零和博弈。世界范围内出现更多的创新对所有人都好，无论创新发生在中国、美国、加拿大、欧洲、非洲还是日本。几十年来，美国国会一直担心其在创新方面的领导地位受到威胁。1999年，密歇根州第13区议员和民主党人士林恩·里弗斯（Lynn Rivers）向经济学家斯科特·斯特恩请教，美国政府应该怎样应对日本、德国和其他国家在研发经费上的增长。斯特恩回答道：“我们头一件该做的事就是给这些国家寄去感谢信。创新投资可不是非赢即输的局面。美国消费者将从其他国家增加的投资中受益……这是一场人人都赢的比赛。”如果中国政府为人工智能投资数十亿美元，发表相关论文，兴许，我们也该寄去一张感谢卡。这些举动让所有人都过得更好了。

除了投资在研究上之外，中国还有第二个优势：规模。预测机器需要数据，中国有比其他任何国家都多的人来提供这些数据。它拥有更多的工厂来训练机器人，更多的智能手机用户来训练消费品，更多的患者来训练医疗应用。微软北京实验室的创办人、谷歌中国的创始人兼前总裁、中国人工智能专家李开复评论道：“美国和加拿大拥有世界上最优秀的人工智能研究人员，但中国拥有数以百计的足够优秀的研发人才，以及多得多的数据……人工智能是将算法和数据结合起来，不断演化发展的领域，大量的数据能带来极大的优势。”只有当中国公司比其他公司能更充分地接触到这些数据，数据优势才具有重要性——证据表明，中国公司的确能接触到更多的数据。

数据访问是中国的第三项优势。中国对公民的隐私保护不够充分，令其政府和私营企业在人工智能的性能上获得了明显优势，尤其是在个性化领域。例如，微软最高调的一位工程师陆奇在离开美国前往中国时，认为中国是开发人工智能最好的地方。他说：“不完全是技术的问题，而在于环境的结构——文化和政策体系。这就是为什么人工智能加上中国在我看来是个如此充满吸引力的机会。它有着不同的文化、不同的政策体系和不同的环境。”

显然，面部识别功能的流行正是如此。与美国相比，中国拥有大量集中的用于识别的照片库。这让旷视（Face++）等中国初创公司得以发展，并使它的面部识别人工智能得以帮助滴滴（中国最大的用车服务公司）的乘客验证司机的身份，和使用支付宝（这是一款移动支付应用程序，其中国用户超过1.2亿）实现转账。该系统完全依靠面部分析来授权付款。此外，百度也使用面部识别人工智能，在用户取火车票时进行身份验证，或是对进入旅游景点的游客进行身份验证。相比之下，欧洲对隐私的监管比其他地方更加严格，这彻底断绝了欧洲公司在人工智能上抢占先机的可能。

随着各国竞相放松隐私限制以改善自己在人工智能领域的地位，这些因素可能会引发逐底竞争。然而，公民和消费者很重视隐私；这不仅是一条只有企业在乎的规定。在入侵隐私、个性化以及获取用户数据引发客户不满的可能性之间，存在一个基本的权衡。与此同时，进行更好的个性化预测也会带来潜在的收益。权衡由于“搭便车”效应变得更为复杂了。用户希望企业使用个人数据对产品进行更好的训练，但他们更乐意数据来自其他人而非自己。

还是之前的那句话，目前说不清哪些规则最合适。计算机科学家奥伦·埃齐奥尼（Oren Etzioni）认为，人工智能系统“在未得到信息源的明确许可下，不得保留或泄露隐私信息”。亚马逊的智能音箱Echo正听着你家里的每一次对话，你当然希望对其加以控制。这似乎是一目了然的事情，但情况并没有那么简单。你的银行信息属于个人隐私，但你收听的音乐或观看的电视节目属于什么信息呢？说得极端些，每当你向智能音箱提出一个问题，它都可以用另一个问题回答：“你是否同意亚马逊接入你的数据，以寻找答案？”读完所有收集你数据的公司的隐私条款，要花上几周的时间。人工智能每向你征求一次使用数据的许可，产品就变得更糟一些。它妨碍了用户体验。但如果人们不提供数据，人工智能就无法从反馈中学习，进而限制了其提高生产力和增加收益的能力。

这就可能带来创新的机会：找到一种方法，既能保证人们数据的完整性，同时在允许人工智能学习的时候对其加以控制。区块链这一新兴技术提供了一种对数据库去中心化、降低数据校验成本的方式。考虑到这些技术已经应用于金融交易，它们也可以跟人工智能搭配使用，规避隐私风险（实际上也就是安全问题）。在金融领域，隐私等问题至关重要。

就算有足够多的用户提供数据，促进人工智能的学习，可如果这些用户与其他所有人都不同，那会变成什么样呢？假设，只有加利福尼亚和纽约的富人为预测机器提供数据，那么，人工智能将学会为这些群体效力。如果限制对个人数据的收集是为了堵上一个漏洞，那么，它也会带来一个新的漏洞：用户将无法从人工智能带来的更优质产品和更庞大财富中受益。

人工智能会成为世界的终结吗

人工智能会对人类本身构成事关存亡的威胁吗？往简单的方向说，会不会出现像电影《2001太空漫游》里哈尔9000那样不愿配合的人工智能？又或者，往稍微复杂些的方向说，会不会出现电影《终结者》里类似天网的东西？后一点疑问，显然会令埃隆·马斯克、比尔·盖茨、斯蒂芬·霍金等严肃思考着此类问题的聪明人辗转难眠。他们担心，会出现一种“超级智能”（该词由牛津大学哲学家尼克·博斯特罗姆最先提出），它会迅速地把人类当成威胁、麻烦，或可以奴役的生物。换句话说，人工智能有可能是人类的最后一项技术创新。

对这个争议，我们没有立场加以评判，甚至我们自己都无法达成一致意见。不过，让我们吃惊的是，这场争论与经济学的关系如此紧密：竞争是一切的基础。

超级智能是一种在大多数认知任务里超越人类的人工智能，并且能够通过问题进行推理。具体来说，它可以进行发明和自我改进。虽说科幻小说家弗诺·文奇（Vernor Vinge）称之为“奇点”，未来学家雷·库日韦尔（Ray Kurzweil）认为人类没有足够的能力预见届时将发生的事，因为按照定义，我们还不够智能，但实际上，经济学家拥有足够能力对此展开思考。

多年来，人们一直批评经济学家，认为我们的理论得以建立的动因基础是一些过分理性且不切实际的人类行为模型。没错，可如果说到超级智能，这就意味着我们走对了路。我们已经在分析中假设存在高级智能了。我们将理解建立在数学证明之上，它是一种关乎事实却又独立于智能存在的标准。

这个视角很有用。经济学告诉我们，如果超级智能想控制世界，它需要资源。宇宙有很多资源，但即使是超级智能也必须遵循物理定律。获取资源的成本很高。

博斯特罗姆讲过一个痴迷回形针的超级智能，它什么也不在乎，只想制造更多的回形针。为了制造回形针，这个超级智能可以不管不顾地消灭一切。这是一个强大的想法，但它忽略了对资源的竞争。不同的人（以及现在的人工智能）有不同的偏好，经济学家尊重这种差异。有些人工智能对探索、发现与合并保持着开放心态，另一些却只想制造回形针。只要存在不同的利益，竞争就会如火如荼，这意味着，回形针人工智能会发现交换资源比抢夺资源更有利，就像受到无形之手的指引一样，最终会背离它的初始用意，提高与之截然不同的收益。

因此，经济学提供了一条有力的途径，帮我们理解一个由超级人工智能组成的社会将怎样演变。这也就是说，我们的模型并不能测定出在此过程中人类会发生些什么。

我们在本书中所说的人工智能，并不是通用人工智能，而是更狭义的预测机器。谷歌DeepMind开发的AlphaGo Zero等引发了一轮恐慌：超级智能或许并不遥远。它在没有人类对之进行训练的条件下（只靠着跟自己对弈来学习），打败了曾击败过人类世界冠军的那一版AlphaGo，但把它称作超级智能为时尚早。如果棋盘从19乘19，变成29乘29，或者变成18乘18，人工智能不会轻松调整，人类却可以很快适应。至于让AlphaGo Zero为你做个烤奶酪三明治，你想都别想，它没那么聪明。

迄今为止，所有的人工智能都是如此。没错，人们正在研究怎样让预测机器在更广泛的环境下运行，但人类尚未找到通用人工智能的突破口。有些人认为通用人工智能太遥远，没必要花时间担心这个。在美国总统行政办公室起草的一份政策文件中，国家科学技术委员会（NSTC）下的技术委员会称：“私营领域的专家社群与NSTC下的技术委员会目前所达成的共识是，通用人工智能至少在近几十年是无法实现的。NSTC的技术委员会的评估结果是，对拥有超级智慧的通用人工智能的长远担忧不应该对当前政策产生太大影响。”与此同时，若干宣称要创造通用人工智能或类人智能机器的公司，如Vicarious、谷歌DeepMind、Kindred和Numenta等，已经从见多识广且聪明过人的投资人手里筹集了许多个百万美元级的投资。和许多与人工智能相关的问题一样，未来充满了不确定性。

这难道便是我们所熟知的这个世界的终点吗？尚未有定论，但这的确是本书的终点。无数公司都在部署人工智能。就人工智能而言，运用简单的经济学原理（预测成本降低，则预测的互补品将获得更高的价值），你的企业也可以做出投资回报率最高的选择和战略决策。

等我们超越预测机器，进入通用人工智能甚至超级智能的时代，我们就将迎来一个不同的人工智能顿悟时刻。这一观点想必所有人都认同。等到了那个时候，我们可以信心满满地预测，经济学将不会再这么简单了。

本章要点

※人工智能的兴起为社会提供了许多选择。每一个选择都代表一种权衡。在这一阶段，尽管技术仍处于起步阶段，但社会层面上已经显现出3种特别重要的权衡。

※第一项权衡是生产力与分配。许多人认为人工智能会让我们变得更贫穷，境况更糟糕。并非如此。经济学家认为，技术进步会让我们的生活更加美好，还能提高生产力。人工智能无疑能提高生产力。问题不在于财富的创造，而在于它的分配。人工智能可能加剧收入不平等的问题，原因有二。首先，人工智能将接管某些任务，这或许会加剧人类对余下任务的竞争，工资降低，与资本所有者的收入相比，它将进一步削减劳动力赚取的收入的比例。其次，与其他计算机相关的技术一样，预测机器可能存在技能偏好，故此，人工智能工具不成比例地提高了高技能工人的生产力。

※第二项权衡是创新与竞争。与大多数软件相关的技术一样，人工智能具有规模经济的特征。此外，在一定程度上，人工智能工具往往具有收益递增的特征：预测越准确，用户越多，于是生成更多的数据，而更多的数据将带来更准确的预测。如果企业拥有更多的控制权，它会有更大的动力去开发预测机器，但随着规模经济的发展，这有可能导致垄断。从短期角度看，快速的创新可能造福社会，但从社会或更长期的角度看这或许并非最理想的结果。

※第三项权衡是性能与隐私。数据越多，人工智能表现越好。尤其是，如果它们可以访问更多的个人数据，就能更好地做个性化预测。提供个人数据通常会以失去隐私为代价。一些地区，比如欧洲，选择创造一种为公民提供更多隐私保护的环境。这可能会让公民受益，甚至为隐私信息创造更活跃的市场，个体可以轻易决定是交换、售卖，还是捐赠隐私数据。另一方面，这种高准入门槛可能会带来摩擦，并使欧洲的企业和公民在人工智能接触更多数据即可提高竞争力的市场中处于不利地位。

※对于这三项权衡中的每一项，司法者都需要对权衡中的双方进行斟酌，以设计出最符合其整体战略，同时满足公民偏好的政策。