迈克尔·乔丹，加州大学伯克利分校计算机科学与统计学教授。
2018年4月19日

人工智能（AI）是当今时代的口头禅。这句话被专家、学者、记者和风险投资家们所津津乐道。如许多技术名词进入大众流行一样，对它的使用伴随着明显的误解。但这并不是一个公众不理解科学家的经典案例，而实际情况是在对AI的理解方面，科学家往往和公众一样困惑。我们的时代似乎能够看到一种可以与人的智能相竞争的智能芯片，这种想法让我们所有人都感到兴奋，着迷，同时也让我们感到害怕。不幸的是，人工智能这个名词的流行分散了我们的注意力。
关于当前的时代，有一种不同的叙述。下面的故事涉及人，计算机，数据和生死决策，而不是强调对人工智能的幻想。14年前我的配偶怀孕时，做了超声波检查。房间里有一位遗传学家，她指出胎儿心脏周围的一些白色斑点，是唐氏综合症的标志，风险已经上升到1/20。她进一步告诉我们，可以通过羊水穿刺来了解胎儿是否真的有唐氏综合症。但是羊膜穿刺术是有风险的，手术过程中胎儿致死的风险大约是1/300。作为一名统计学家，我决心找出这些数字的来源。长话短说，我发现十年前在英国做过一项统计分析，这些白色斑点反映了钙的积累，确实被确定为唐氏综合症的预测指标。但我也注意到，我妻子的超声测试中使用的成像机器比在英国研究中所使用的机器每平方英寸多了几百个像素。我回去告诉遗传学家，我认为白色斑点可能是假阳性，实际上是“白噪音”。她说：“啊，这就解释了为什么我们在几年前就开始看到唐氏综合症诊断率上升的原因，和新机器使用的时间相吻合”

我们没有做羊水穿刺，几个月后，一个健康的女孩出生了。但这件事让我很困扰，尤其是在做了粗略计算之后，我估计当天全世界有成千上万的人得到了这样的诊断，其中许多人选择了羊水穿刺，而且许多婴儿已经毫无必要地失去生命。这种情况日复一日地发生直到它被纠正。这一事件揭示的问题并不是关于我个人的医疗健康，而是关于一个医疗系统，它仅依赖特定时间和地点的测量数据，进行统计分析，并将其利用到其他地方和时间所带来的后果。这个问题不仅与数据分析本身有关，而且与数据库研究人员所称的数据 “发源地” 有关。广义而言，数据是从哪里产生的，从数据中得出什么推论，以及这些推论与当前情况的相关性如何？一个受过训练的人或许可以在个案列上解决问题，但问题是我们是否可以设计出一个全球规模的医疗诊断系统，自动解决问题，而不需要如此详细的人工参与和监督。
作为一名计算机科学家，我意识到建立全球适用的推理决策系统需要将计算机科学与统计学结合起来并考虑到各种人类实用性才能构建出这样一个系统。在我们目前的教育体系中还找不到有关设计这个决策系统的原理知识。我突然想到，这些原理知识的发展不仅在医学领域，而且在商业、交通和教育等领域至少和建造可以让我们眼花缭乱的游戏或视觉效果的人工智能系统同等重要。

无论我们是否很快就能理解 “智能”，我们都面临着一个巨大的挑战，要把计算机和人结合在一起，以改善人类生活。虽然这一挑战被一些人视为从属于 “人工智能 ”的创造范畴，但它也可以被视为一门平淡而不失崇敬的新型工程学分支的开拓。就像几十年前的土木工程和化学工程，这些新学科的目标是集思广益，以安全的方式，为人们带来新的资源和能力。正如土木工程和化学工程是建立在物理和化学的基础上，这个新型工程学科将建立在上个世纪赋予实质内容的思想之上，这些思想包括 “信息”、“算法”、”数据“、”不确定性“、“计算”、"推断” 和 “优化”。此外，由于这门新学科的大部分重点将放在来自和关于人的数据上，它的发展需要社会科学和人文学科的视角。
虽然构建这个新型工程学科的模块已经开始出现，但将这些块组合在一起的原理还不存在。所以这些模块目前以随意的方式组合起来。

因此，就像人类在土木工程出现之前建造建筑物和桥梁一样，人类已经开始构建社会级的涉及机器、人和环境的推理决策系统。就像早期的建筑物和桥梁有时会以不可预见的方式倒塌，并带来悲惨的后果一样，我们早期的许多大规模的推理决策系统已经暴露出严重的概念性缺陷。

不幸的是，我们并不善于预测下一个将要出现的严重缺陷会是什么。我们所缺少的是一门工程学科及分析和设计原理。
当前关于这些问题的公共对话经常使用 “人工智能” 作为通配符，这使得人们很难辩论这门新兴工程技术的范畴和后果。我们先从仔细地思考 “AI” 在当下和历史上的定义开始。

今天，大部分被称为 “人工智能” 的东西，尤其是在公共领域，是过去几十年一直被称作 “机器学习”（ML）。ML是一个算法学科领域，它融合了统计学、计算机科学和许多其他学科的思想，设计处理数据、预测和辅助决策的算法。就对现实世界的影响而言，ML是真实存在的，而且不仅仅是在最近。事实上，在20世纪90年代早期，ML将成长为巨大的产业的迹象已经很明显，在世纪之交，像亚马逊这样的前瞻性公司已经在他们的业务中使用ML，解决后端关键任务，如欺诈检测和供应链预测，并建立创新的面向消费者的服务，如推荐系统。随着数据集和计算资源在随后的二十年中迅速增长，很明显ML支撑着亚马逊及任何与大规模数据挂钩的公司。新的商业模式出现了， “数据科学”，开始被用来泛指这种现象，这反映了ML算法专家与数据库和分布式系统专家合作建立可扩展的，健壮的ML系统的需要，同时也反映出对ML系统在更大的社会和环境范围内应用的需求。

在过去的几年里，这种思想和技术趋势的融合被重新命名为 “人工智能”。这种品牌重塑值得仔细推敲。
从历史上看，“AI” 一词是在20世纪50年代末创造出来的，指的是通过计算机软件和硬件实现一个拥有人类同等智能水平的实体系统的愿望，这个愿望令人兴奋与冲动。我们将使用 “模仿人类智能的人工智能” 来指代这种渴望，来强调这样一个概念，即人工智能实体应该看起来是我们的一员，即使不是身体上的，至少是精神层面上的（先不论这究竟意味着什么）。这在很大程度上是一项学术事业。虽然相关的学术领域，如运筹学、统计学、模式识别、信息论和控制理论已经存在，这些学科常常受到人类智能（和动物智能）的启发，但这些领域可以说是集中于 “低层次” 的信号和决策。例如，松鼠能够感知它所居住的森林的三维结构，并在树枝间跳跃，这对这些领域的发展是很有启发意义的。“人工智能” 旨在关注一些不同的东西（人类的“高级”或“认知”能力，“推理”和“思考”）。然而，六十年后，高层次的推理和思想仍然难以捉摸，扑朔迷离。现在被称为 “人工智能” 的进展主要出现在与低层次模式识别和运动控制相关的工程领域，以及统计学领域（该学科专注于数据中的模式识别，并做出有依据的预测、假设检验和决策）。
事实上，著名的 “反向传播” 算法是大卫·鲁梅尔哈特在20世纪80年代早期重新发现的，现在被认为是所谓 “人工智能革命” 的核心，它最早出现于20世纪50年代和60年代的控制理论领域。它的早期应用之一是优化阿波罗飞船向月球前进时的推力。

自20世纪60年代以来，人类已经取得了很大的进步，它并不是来自于对模仿人类的人工智能的追求。相反，就像阿波罗宇宙飞船的例子一样，这些想法往往被隐藏在幕后，是专注于具体工程挑战的研究人员们辛苦劳动的成果。尽管公众看不到这些幕后英雄，但他们在文档检索、文本分类、欺诈检测、推荐系统、个性化搜索、社交网络分析、规划、诊断和A/B测试等领域的研究和系统建设取得了重大成功。正是这些成果进步推动了谷歌、Netflix、Facebook和亚马逊等公司的发展。

人们可以简单地同意将所有这一切称为 “人工智能”，事实上，这似乎已经生米煮成熟饭了。这样的标签可能会让优化或统计研究人员感到惊讶，他们一觉醒来发现自己突然被称为 “人工智能研究人员” 了，但是，抛开研究人员的标签不谈，更大的问题是，使用这个单一的、定义不清的首字母缩略词 AI，会阻碍对一系列知识和商业问题的清晰理解与认知。
过去二十年来，工业界和学术界在模仿人类智能的人工智能（通常被称为 "智力增强"（IA）方面取得了重大进展。在这里，计算和数据用于增强人类智能和创造力。搜索引擎可以被看作是 IA 的一个例子（它增加了人类的记忆和事实知识），自然语言翻译（它增加了人类的沟通能力）。计算机声音和图像生成可作为艺术家的调色板和创造力增强器。这类服务想象中可能涉及高级推理和思想，但实际上目前它们并不涉及，它们大多执行各种字符串匹配和数值操作，以捕获人类可以使用的模式。
希望读者有耐心容忍最后一个首字母缩略词，让我们大致设想一个"智能基础设施"（II）的工程学科，来指导设计一个由计算、数据和物理实体组成的网络系统，使人类环境更加友好和安全。这种智能基础设施开始在运输、医药、商业和金融等领域出现，并对个人和社会产生了巨大影响。智能基础设施的话题有时会出现在关于 “物联网" 的谈话中，但通常是指仅仅将"物"放到互联网上的问题，而不是与这些"物"相关的一系列更宏伟的挑战：这些“物”能够对数据流进行分析，以发现所处环境的事实，并在比单纯抽象水平更高的抽象水平上实现与人类和其他"物"进行交互。
例如，回到我家人的医疗经历，我们可以想象生活在一个 “全社会规模的医疗系统”，该系统在医生和位于人体周围或周围的设备之间建立数据流和数据分析流，从而能够帮助人类诊断和提供护理。该系统将整合来自人体细胞的信息、DNA、血液测试、环境、人口遗传学以及关于药物和治疗的大量科学文献。它不仅只关注单个患者和医生，还关注所有人类之间的关系。就像目前的医学测试允许对一组人群（或动物）进行实验，实验结果可以推广到在其他人群。这将有助于保持数据的相关性、可追本溯源性及和可靠性的理念，类似于目前的银行系统在金融和支付领域的面对这些挑战。虽然可以预见到这种系统会出现的许多问题：涉及隐私问题、责任问题、安全问题等，但这些问题应适当视为挑战，而不是不可逾越的障碍。

现在来讨论一个关键问题：研究经典人工智能是解决这些更大挑战的最好或唯一途径吗？事实上，最近一些最受欢迎的ML（机器学习）成功案例可以关联到人工智能领域，例如计算机视觉、语音识别、游戏和机器人技术。或许我们应该等待在这些领域取得进一步进展。这里要说两点。首先，单从报纸上是不能得知人工智能的成功实际上是有限的：我们离实现人工智能愿望还很遥远。不幸的是，尽管在模仿人类智能的人工智能领域目前取得的进展非常有限，引发的这种过度兴奋（和恐惧）及媒体的关注程度在其他工程领域几乎不存在。
其次，更重要的是，在这些领域成功没有为解决重要的IA（智力增强）和II（智能基础设施）问题创造出充分必要条件。在充分条件方面，考虑自动驾驶汽车。要实现这种技术，一系列的工程问题需要解决，可能与人类的能力（或人类缺乏的能力）关系不大。整个运输系统（典型的II系统）可能更像当前的空中交通管制系统，而不是目前的松散耦合，面向前方，不专心开车的人类司机的集合。它将比当前的空中交通管制系统复杂得多，特别是在使用大量数据和自适应统计建模来做细粒度决策方面。解决这些挑战问题应该是我们攻关克难的重中之重，相反过度关注模仿人类智能的人工智能可能会分散我们的注意力。

至于必要性的论点，有观点认为，模仿人类智力的人工智能的愿望包括IA和II的愿望，因为一个模仿人类智力的人工智能系统将不仅能够解决AI的经典问题（体现在图灵测试），但它也将是我们解决IA和Ⅱ的问题最好的赌注。这样的说法几乎没有历史先例。土木工程是通过设想创造人造木匠或砖匠而发展起来的吗？化学工程是否也是建立在创造一个人工化学家的基础上？更有争议的是：如果我们的目标是建造化学工厂，我们是否应该先创造一个人造化学家，然后再研究如何建造一个化学工厂？

一个相关的论点是，人类智能是我们所知道的唯一一种智能，我们应该把模仿它作为第一步。但事实上，人类并不擅长某些类型的推理：我们有自己的失误、偏见和局限。此外，批判地说，我们没有进化好来执行现代II系统必须面对的那种大规模决策，也不能应付在II环境中出现的各种不确定性。有人会说人工智能系统不仅可以模仿人类的智能，而且可以 “修正” 它，还可以扩展到任意大的问题。谈到这已经进入到科幻的领域了，我们以猜测的方式在争论，虽然在虚构的背景下讨论很有趣，但不应成为我们应对关键的IA和II问题的主要策略。我们需要根据IA和II的自身的特点来解决它们，而不是作为人工智能的必然结果对待。

不难发现，II系统中的算法和基础设施挑战并不是模仿性人工智能研究的核心主题。II系统需要管理分布式知识库的能力，这些知识库正在迅速变化，而且是多样化的。这样的系统必须应对云端边缘端的相互作用，在作出及时的，分布式的决策的同时，他们必须处理长尾现象，其中针对一些人有大量的数据和针对大多数人数据却很稀缺。另外还要解决跨行政和竞争边界共享数据的困难。最后，特别重要的是，II系统必须把经济因素，如激励和定价纳入统计和计算的范围，连接人类彼此，链接人和物。这样的II系统可以被看作不仅仅是提供服务，而是创造市场。在音乐、文学和新闻等领域，数据分析将生产者和消费者联系在一起，迫切需要这种市场的出现。这一切都必须在不断发展的社会、伦理和法律规范的背景下进行。

当然，经典的仿人人工智能问题仍然是有意义课题。然而，当前的重点是通过收集数据、部署“深度学习”基础设施、演示模仿某些狭义人类技能的系统来进行人工智能研究——几乎没有新兴的解释性原理的出现——往往会转移人们对经典人工智能重大未解问题的注意力。这些问题包括需要将意义和推理引入自然语言处理的系统，需要推断和表示因果关系，需要解决计算上对不确定性的表达，以及制定和追求长期目标的系统需求。这些都是模仿人类的人工智能中的经典目标，但在当前 “人工智能革命” 的沸沸扬扬中，人们很容易忘记它们还没有得到解决。
IA仍然非常重要，因为在可预见的未来，计算机在抽象地思考现实世界的能力方面将无法与人类媲美。我们需要深思熟虑的开发人和计算机之间的互动技术来解决我们最紧迫的问题。我们希望计算机能激发人类创造力的新高度，而不是取代人类的创造力（不管这意味着什么）。
是约翰·麦卡锡（当时是达特茅斯大学的教授，不久他就要接受MIT的邀请）他发明了 “人工智能” 这个术语，显然是为了区分他刚刚开始的研究领域与诺伯特·维纳（当时是麻省理工的一位老教授）的研究方向。维纳创造了“控制论” （Cybernetics）来指代他自己对智能系统的看法——这种看法与运筹学、统计学、模式识别、信息论和控制理论密切相关。另一方面，麦卡锡强调逻辑推理的关系。有趣的是，在麦卡锡的AI术语的大旗下，维纳开创的控制系统的诸多成果却在当今时代占主导地位。（然而，这种状态当然只是暂时的，因为钟摆向人工智能方向摆动的幅度相比大多数技术领域过头了。）

我们需要超越麦卡锡和维纳的特定历史视角。
我们需要认识到，目前关于人工智能的公众对话——它侧重于工业的狭窄领域和学术界的狭窄子集——有可能使我们对AI、IA和II整体范围带来的挑战和机遇视而不见。这个范围不是关于实现科幻梦想或超级人类机器的噩梦，而更多是关于人类需要理解和塑造技术，因为技术在我们的日常生活中无处不在，无处不有。此外，在理解和塑造技术的过程中，需要各行各业发出不同的声音，而不仅仅是科技圈内的对话。狭隘地关注人工智能会阻止听到更广泛的声音。
工业界将继续推动许多发展，学术界也将继续发挥重要作用，提供一些最具创新性的技术理念，将计算和统计学科的研究人员与其他学科的研究人员整合在一起，特别是社会科学、认知科学和人文学科。

另一方面，虽然人类的进步与人文科学是必不可少的，但我们也不应假装我们谈论的不是规模空前的工程伟业——人类社会的目标是建造新型的人造实物。这些人造系统应该建造的像声称的那样工作。我们不想建立起诸如医疗，交通和商业系统，然后发现这些系统并不能真正工作这样一个事实，系统的失误造成生命和幸福的损失。在这方面，正如我所强调的，对于以数据和学习为重点的一门工程学科还没有出现。尽管这个新兴领域令人兴奋，但它还不能被视为构成了一门工程学。

此外，我们应该接受这样一个事实，我们正在目睹一个新的工程学科的创建。尽管 “工程” 一词在学术界内外狭义的和冰冷、无情的机器和人类失去控制的负面含义相联系，但工程学科能够成为我们想要的工程学。在当前时代，我们确实有机会设想一门具有历史意义的新学科，一个以人为中心的工程学科。我将拒绝给这个新兴的学科起个名字，但如果我们继续将 "AI" 用作这个新型工程学科的占位符，我们必须意识到这个占位符的真正局限性。让我们扩大视野，调低行事，面对未来的严峻挑战。