特斯拉公司创始人、SpaceX首席执行官埃隆·马斯克曾撰文称：“我们需要万分警惕人工智能，它们比核武器更加危险！”他非常担忧谷歌CEO拉里·佩奇开发出一支能够毁灭人类的人工智能机器人大军。微软创始人比尔·盖茨也表示同意埃隆·马斯克的想法：“不明白为什么有些人并不关心。”
著名理论物理学家霍金则在接受英国广播公司的采访时表示，人工智能会迅速演变并超过人类，他的理由很直白，“一旦经过人类的开发，人工智能将会自行发展，以加速度重新设计自己”。人工智能发展的奇点，是不是近在眼前了？
最近，几位科技界大佬先后在不同场合表达了对人工智能的担忧。事实上，大多数担忧者都认为人工智能在达到某个临界点后会突然开始进化，重新设计自己，并把人类远远甩在身后。这个临界点有个特别的名字——人工智能奇点。未来学家库兹韦尔在《奇点临近》一书中预言：2045年，奇点来临，人工智能完全超越人类智能。他的论据在于呈指数发展的技术使人工智能的发展很快就会达到奇点。
人工智能成为机械公敌？
然而，学术界的主流看法似乎与这些科技大佬正好相反，他们普遍认为，人工智能末日景象更多属于科幻小说，不是什么科学事实。没有可靠的论证表明人工智能奇点存在，更别说部分“未来学家”所预言的2045年就是人工智能奇点了。正如科学家所说的那样，人工智能技术还处于非常初级的阶段，目前只有针对实现特定功能的算法，它还远远不能像人脑一样获得普遍的学习能力。科学家并不是缺少警惕，而是人工智能的发展有不同的阶段。我们可以把人工智能分为两类，一类是生活中已经很常见的“弱人工智能”，一类是目前只存在于科幻电影里的“强人工智能”。
弱人工智能是指没有知觉的机器智能，只能局限于完成某些特定任务。现在大家生活中能接触到的人工智能几乎都是弱人工智能，比如淘宝的商品推荐、谷歌的机器翻译、百度的图像识别、苹果的Siri，这些看起来更像“功能”而非“智能”的东西属于弱人工智能。
而担忧者放不下的是真正拥有推理和问题解决能力的“强人工智能”。威尔·史密斯主演的科幻电影《机械公敌》里就发生了由一个“强人工智能”主导的机器人叛变。在电影里，机器人跃过奇点具备了自我进化的能力，他们对“机器人三定律”也产生了自己的理解，认为控制人类才是照顾人类，随时会转化成整个人类的“机械公敌”。
从目前人工智能的发展来看，我们拥有多种极为有用的算法，但它们也仅限于初级的功能，比如亚马逊的商品智能推荐、Facebook的面部识别、Google的广告推送。目前最有前景的算法当属“神经网络”算法。被认为潜力无限的深度学习（Deep Learning）的基础就是深度神经网络，由众多可调的“神经元”连接权值连接而成，具有大规模并行处理、分布式信息存储、良好的自组织自学习能力等特点，但归根到底还是非线性函数的多层次映射而已。
即使IBM的“深蓝”计算机战胜了世界第一的国际象棋大师加里·卡斯帕罗夫，深蓝与强人工智能也有云泥之别。深蓝使用的是搜索算法，它搜索了接下来12回合的走法，从而战胜了卡斯帕罗夫，但这种遍历搜索算法与人脑的思维过程是完全不同的。目前科学家们还不能很好地理解大脑的机制，所以很多人认为，在理解人脑前，不可能让模拟大脑神经系统的神经网络算法达到强人工智能。
呈指数模型发展的摩尔定律被认为是人工智能奇点即将来临的根据，它是由英特尔创始人之一戈登·摩尔提出来的。其内容为：当价格不变时，集成电路上可容纳的元器件的数目，约每隔18—24个月便会增加一倍，性能也将提升一倍。这一定律揭示了信息技术进步的速度。然而，原子的尺寸为芯片的尺寸设限，摩尔定律还有十年寿命是业界普遍观点。
自然界中更常见的发展趋势实际上是sigmoid函数的模式。比如说，细菌在一个培养皿里繁殖，初期是指数增长，但受资源所限到达瓶颈后很快就会停止。再比如，部分互联网产品在初期增长很快，接近指数增长。但是潜在用户规模有限，增长始终会停下来。指数发展往往只在初期有效，更多的技术发展是“爆发期—繁荣期—衰落期”或者“爆发期—繁荣期—稳定期”。
奇点冲击，不可不防？
尽管人工智能并不像一些人认为的那样将在近期达到奇点，但对于技术进步保持警觉的确是必要的。
第一个理由是，在历史上人类已经犯过类似的错误了，再在人工智能上犯错也不是不可能。氟利昂是其中突出的例子，过去空调冰箱都用这个物质，因为方便便宜，制冷效果也好。用了很多年后才发现，氟利昂对大气层有巨大的破坏作用。另一个例子是含铅汽油。托马斯·米吉利倾毕生心血发明了含铅汽油来提高汽油性能，结果却造成了巨大的危害，当时的石油商却雇人宣传含铅汽油对人无害。直到科学家帕特森发现含铅汽油危害的铁证，石油商们的第一反应居然是对他威逼利诱，还雇用了权威科学家为含铅汽油辩解。如果出问题，人工智能发展失控的形势会比氟利昂和含铅汽油严峻得多。因为人工智能利益相关更多，商业巨头有更多的机会、资金和利益动机来掩盖问题。
人工智能反抗人类的可能性大约有多少？无人知晓，而且这根本不是有意义的问题。就像坐一趟超载超速的客车一样，或许出事故的概率小于1%，我们有99%甚至99.9%的可能性安全抵达。但这并不代表乘坐这种客车是一个好主意。因为哪怕0.1%的事故风险也是我们无法承受的。人工智能就像一把左轮手枪，6发子弹只有1发是真的，其他5发都会给你黄金白银，但那发子弹要了我们的命。
第二个理由是，“more is different”。现在的人工智能还是“有多少人工就有多少智能”的状态。但是，正如斯坦福大学Andrew Ng教授在机器学习课上说的，虽然神经网络模型很简单，但实际上人们并不完全理解神经网络是怎么学习的。100个神经元（10乘10）的人工神经网络基本上就复杂到没人可以完全理解它整个学习的过程。人脑有多少神经元呢？1000亿个。所以，没有人能预言人工神经网络有1000亿结点时会发生什么。
诺贝尔物理学奖得主Anderson P. W.在《Science》上发表过一篇名为《More Is Different》的文章。不要以为我们理解两体运动，我们就能搞定三体运动，三体运动就会出现混沌现象了。不要以为我们可以近似处理三体运动就以为我们能处理1mol粒子的系统。
数量会给系统的性质带来巨大的差异。觉得10个神经元的人工神经网络很容易理解，就认为1000亿个神经元的人工神经网络很容易理解，这是可信度很低的观点。说不定神经元一多，智能就出现了呢。人工智能不等于拟人智能，就像飞机不需要像鸟一样扇动翅膀就能飞行，人工智能不需要模拟人脑就可能表现出智能。霍金、盖茨、马斯克这三位杰出的人物提出了非常有价值的问题，即使最后证明他们是杞人忧天，这个问题对人类的警示和防范也远比“放心吧人工智能很傻的”这种观点有意义得多。后者的观点和坐超载超速的客车一样危险，和开车不系安全带不买保险一样不负责任。
所以我们要停止发展人工智能吗？
不，这是不可能的。人工智能是宝藏，就算某个小国放弃发展人工智能技术，参与全球竞争的大国也绝对不会放弃；追求钱财的商人也不会放弃；追求技术的科学家和工程师也不会放弃。其次，禁止科技发展是不可取的行为。让人工智能产业黑色化是非常糟糕的选择，因为不受监管的研发不可控性更高。
或许应该让Elon Musk去创建一家世界第一的人工智能公司，让最警惕人工智能的人处在最前沿的位置是最好不过的。想一想，一个热爱人工智能的工程师或者一个利欲熏心的商人会怎样对待人工智能的风险？工程师是溺爱自己造的“轮子”，不会觉得轮子有问题。而商人则会像对待含铅汽油和氟利昂一样，雇用科学家，雇用媒体，将一切问题掩藏起来，直到问题大到再也无法掩盖。所以马斯克这种警惕的科技领袖和一批警惕人工智能的工程师反而应该成为创造强人工智能的先锋。
附录：人工智能（AI）发展的高低潮
1950年
图灵测试
图灵发表了一篇划时代的论文，文中预言了创造出具有真正智能的机器的可能性。由于注意到“智能”这一概念难以确切定义，他提出了著名的图灵测试：如果一台机器能够与人类展开对话（通过电传设备）而不能被辨别出其机器身份，那么称这台机器具有智能。这一简化使得图灵能够令人信服地说明“思考的机器”是可能的。
1956年
人工智能的诞生
达特矛斯会议提出断言：学习或者智能的任何其他特性的每一个方面都应能被精确地加以描述，使得机器可以对其进行模拟。会议组织者麦卡锡说服与会者接受“人工智能”一词作为本领域的名称。这一事件被广泛承认为人工智能诞生的标志，人工智能的名称和任务得以确定，同时出现了最初的成就和最早的一批研究者。
1974—1980年
第一次AI低谷
到了1970年代，人工智能开始遭遇批评，随之而来的还有资金上的困难。AI研究者们对其课题的难度未能作出正确判断：此前的过于乐观使人们期望过高，当承诺无法兑现时，对AI的资助就缩减或取消了。1970年代后期，尽管遭遇了公众的误解，AI在逻辑编程、常识推理等一些领域还是有所进展的。
1980—1987年
繁荣
在1980年代，一类名为“专家系统”的AI程序开始为全世界的公司所采纳，而“知识处理”成为了主流AI研究的焦点。专家系统是一种程序，能够依据一组从专门知识中推演出的逻辑规则在某一特定领域解决问题。专家系统仅限于一个很小的知识领域，从而避免了常识问题，其简单的设计又使它能较为容易地编程实现或修改。
1987—1993年
第二次AI低谷 1
980年代中期商业机构对AI的追捧与冷落符合经济泡沫的经典模式，“AI之冬”一词由经历过1974年经费削减的研究者们创造出来。他们注意到了对专家系统的狂热追捧，预计不久后人们将转向失望。事实被他们不幸言中：1987年AI硬件市场需求突然下跌。老产品失去了存在的理由：一夜之间这个价值5亿美元的产业土崩瓦解。
1993—现在
AI谨慎发展
现已年过半百的AI终于实现了它最初的一些目标。这些成就有的归功于计算机性能的提升，有的则是在高尚的科学责任感驱使下对特定的课题不断追求而获得的。“实现人类水平的智能”这一最初的梦想曾在1960年代令全世界的想象力为之着迷，其失败的原因至今仍众说纷纭。AI比以往的任何时候都更加谨慎，却也更加成功。
文章来自《周末画报》
人工智能
作者：夏天和四叶草