●刘慈欣

　　目前，人工智能已经成为热点话题，在这里想首先讨论一个时常被忽略但很基本的问题：人工智能的定义。

　　目前广为人知的定义是图灵测试，但这只能被看作一种泛泛的描述，并不是严格和精确的定义。比如参与测试的人是什么样的人？向机器提出的问题的内容是什么等等都不明确。

　　上溯历史，我们发现人工智能的概念与自动化有着密切的关系，可以说自动化是这个概念的起源。在过去有一段相当长的时间，在人们的心目中，自动化就是人工智能。其实，人类制造和使用自动化装置的时间比我们想象的要早，远在电气时代之前。蒸汽机上就有自动调节蒸汽流量的装置，在更早的十六世纪，在伊丽莎白女王的宫廷里首次使用的抽水马桶也是自动化装置，如果向前追溯，肯定还有更早的例子。自动化大批出现是在电气时代，先是由模拟电路实现的自动化，后来电子管被晶体管所代替，再后来出现了集成电路，由日益复杂的软件所驱动。在今天，我们在生活中要与无数的自动化系统打交道，比如电子商务系统、网上银行系统和网上购票系统等。

　　毋庸置疑，自动化系统表现出了相当多的智能特征，像网上银行这类系统处理着相当复杂的业务，其效率和精准度已高于人类雇员。即使是抽水马桶这样最简单的系统，也表现出一定的智能行为，它能够在感知水箱的水位，适时开启和关闭给水阀门，这事它做的与人类一样好。但从抽水马桶到网上银行，我们都不把它们看作是人工智能。笔者曾经编写过一个写现代诗的软件，现在还在网上流行；而目前网上其他比较完美的自动作诗软件，所写出的中国古典诗词很难与人类所做的诗词区分开来。另外，近年来已经有不止一个系统在不同的实验室环境下通过了图灵测试。但这一切，我们都不把它们看成心目中的人工智能，为什么？

　　笔者在二十世纪八十年代最早参与开发的工业监控系统是以Z80处理器为核心的，用汇编语言编程。这个系统能够监测上百个机组参数，并根据参数的变化做出适当的调节，其功能是人工无法实现的。但在我们的眼中它也完全不是人工智能。汇编语言的特点就是透明性，它要在硬件层次手把手地教机器做每一步操作，比如把数据从这个存储器送往那个存储器，中断的调用和返回等等都一一写明，所以当我从外部看到系统的动作时，脑子中立刻有一幅明晰的流程图，立刻能知道哪几条指令被执行了。所以这个监控系统，在我看来与抽水马桶没有本质的区别。现在那些更复杂的系统，如网上银行和电子商务也一样，这些软件的编制者一定清楚所有的内部操作流程，他们知道系统的每一步操作在软件中是如何进行的，这同样也是抽水马桶更复杂的版本。至于那些电子诗人和通过图灵测试的系统也一样，程序员清楚地知道它们是如何根据逻辑树检索数据库，然后组合出诗和答案的，所以至少程序员们知道这不是智能。

　　这就涉及人工智能学术中高明的中文房间比喻，当我们意识到房间中那些忙碌的查找卡片的人的时候，智能的感觉就荡然无存了。

　　现在我们认为拥有人工智能的那些系统，比如进化算法和深度学习等，都有一个共同特点：它们都或多或少地表现出了黑箱的特点，虽然从理论上它们内部的运算步骤仍然可以追踪，但由于计算量的巨大，使这种追踪实际上很困难甚至不可能。于是，我们真的感觉它们有智能了。

　　到这里，我们仍然无法得出人工智能的准确定义，但能够看到它的一个重要特点：一个具有智能特性的人造系统，它产生输出的内部的运算过程是人类智能所无法解析的。换句话说，只有我们不知道机器在想什么，怎么想时，才认为它有智能。

　　看到这一点，每个人的心中应该都生出一股隐隐的寒意。是否人工智能的本质中，就隐含着它们最终失控的可能性？

　　这正是目前人们对人工智能关注的热点，用马斯克的话来说，人工智能正变成比核弹更危险的东西。媒体舆论给人一个印象，似乎机器的征途已经开始，AI征服世界指日可待。有本书的题目“让人工智能站在我们一边”就显现了这种担忧。库兹维尔甚至在《奇点临近》中给出了AI纪元到来具体年份：2045年，那时，现在读这篇文章的人有三分之二还活着。

　　但理智地考察目前人工智能领域的状况，我们就能发现智力远超人类的强AI仍然属于科幻的范畴。公众喜欢从科幻的角度看问题，比起平淡的现实，科幻确实能让人兴奋，任何从现实出发所进行的理智的预测都被斥为保守和没有想象力。但笔者作为科幻作家却只能说，与大家通常的印象不同，科幻小说中的预言真正变为现实的是少数，大部分要实现仍然遥遥无期。人们的潜意识中都认为，只要在理论上可能突破的技术障碍，在未来就一定能够被突破，但事实并非如此。在人工智能方面，强AI的实现面对着许多巨大的技术障碍，如非冯·诺依曼体系的新结构计算机、对人类思维机制的深刻认识等，现在都无法确知最终能否取得突破。另外一些看似有希望的技术，如量子计算等，距实用还相差甚远。

　　所以，在对人工智能进行科学幻想的同时，我们更需关注即将面对的近未来。

　　人工智能近年来发展的趋势，是开始走出实验室进入生活，用一位互联网大佬的话来说，它们变的能用了。这样我们就面对着一个即将到来的挑战：人工智能不会夺走我们的自由和生命，但会夺走我们的饭碗，这不需要AI的失控，它们可以在资本家的完全控制下做成这件事。

　　有学者认为不必为这件事担忧，他们回顾工业化的历史，在上世纪初，美国有50%的农业人口，但随着农业机械化，现在的农业人口降到4%，而城市化吸收了多余的农民。但眼前发生的事情是不同的，当人工智能大规模进入社会后，人能做的工作它们大部分都可以做，城市不会再有更多的就业岗位留给人类。通行的美好说法是，人们在常规工作中被AI取代后，可以去从事创造性的工作。问题是创造性的工作不是人人都可以从事的，也不需要那么多的人，如果社会分配制度不改变，一个全部由科学家和艺术家构成的人类世界几乎是一场噩梦，这上百亿科学家和艺术家的绝大部分注定一生碌碌无为，对社会和自己都毫无用处，且沦入“创造性”的穷困潦倒中。

　　但这种思维方式总有些不对的地方，人类自古以来为生存而劳作，实在是迫不得已，工作着是美丽的，但谁都知道，不需工作的生活更美丽。现在终于能够制造出把自己从工作重负中解放出来的机器，这是人类文明最伟大的成就，无论如何不应该被看作一场灾难，相反，这可能是人类所面对的前所未有的伟大机遇，只是，我们需要改变。

　　如何完成由现代社会向人工智能社会的过渡，有两种可能。

　　一种可能十分黑暗：在现有的社会、经济和政治体制下，人工智能带来的问题几乎是无解的。在AI迅速取代人类的过程中，没有及时建立起与之相适应的社会体制，在席卷全球的失业浪潮下，世界的政治和经济将陷入长久的混乱之中，一切都笼罩在人工智能及其使用者与新卢德派领导的大众无休止的冲突中。

　　另一种可能是，社会成功地完成转型。这将是有史以来人类生活方式最大的一次改变，不劳动者不得食，这个理念是人类社会的基石，文明诞生以来经历过多次巨大变革，这一基石从未改变，但人工智能可能会移除这一基石，进而导致从所有制和分配制度，到基本的经济结构，再到政治体制，直到文化，都发生根本的变化。这是真正的人类解放，是向着古老的乌托邦理想迈进的一大步，今年是《乌托邦》发表500周年，但托马斯·莫尔无论如何不会想到，他的理想会借助于智能机器实现。我很有兴趣地想，如果卡尔·马克思知道人工智能这回事，他关于资本主义和共产主义的理论会是什么样子？

　　想象AI时代的社会和生活是困难的，即使在科幻小说中，我们也只能把种种可能性排列出来，而哪种可能性最有可能成为现实，取决于我们的努力和选择。但不管怎么说，那是一个诱人的时代，我们正向它走去。