世界最强的杀人部队是什么——看人工智能如何毁灭人类

上一集中，我们看到人工智能给人类带来的天堂般的生活，他们就像人们生活中的宠物和助手，毫无怨言的服侍我们，甚至在未来世界，人类最渴望的不老和永生，他们也有可能帮助我们实现。但是，别高兴的太早，因为这一切的大前提是，AI所有的行为都是在人类的控制之中的。

所以，另一种可能性同样摆在我们面前，如果人类彻底失去对AI的控制呢？

我们先回到最远古的时代，当某一天人类突然发现自己的智力和力量远远超过其他物种的时候，人类是怎么做的呢？当然是毫不留情的碾压和消灭其他弱小的物种，包括我们的灵长类亲戚，然后顺利的当上地球皇帝。更早期的地球霸主恐龙当然也是这么干的，那么人类之后呢？谁将成为主宰？是的，当人类失去了对AI的控制人工智能指数，他们会不会就像我们对待其他物种那样呢。

比如说，人类设立巨大的养殖场，靠生产肉类食物为人类的活动提供能源。而在沃卓斯基姐妹的《骇客帝国》里，统治了人类的ＡＩ设立了巨大的人类养殖场，通过采集人类的生物电来为机器人提供能源。这本质上和人类的行为一致，甚至比我们还稍稍人道一点。

AI成为地球上最强王者的最基本的前提是，AI的智慧已经发展到一定的量级，他们和人类一样聪明或者更聪明。有人会说，AI是人类创造的，怎么可能会比人类还要聪明呢？那么，我们不妨先设想下，人类的“聪明”从何而来呢？造物主的赐予还是人类通过缓慢的进化过程中恰好就诞生了智慧？这其实是个很难解答的哲学问题。那么，人类作为新的造物主，难道不会创造出超越自身的新的智慧，或者说，AI难道就无法自我迭代和进化？

当AI比人类聪明的时候，我们可以设想出很多坏处。比如，我们各行各业的工作都将被AI所取代，造成严重的就业困难。而当人的身体可以像机械零部件一样进行改造和更新时，衰老将不存在，造成严重的人口膨胀。再比方说在社交场合，AI表现的比人类更加有魅力，人类更加愿意与AI去进行恋爱或交配的活动，也会造成人类繁殖和基因延续方面的麻烦。而这些，只是最轻微的。

当AI拥有了强大的力量，谁来掌握并且使用这股力量，将直接关系到人类的命运，如果是一些邪恶的人或组织利用AI来实施一些邪恶的计划，比如说，犯罪团伙，恐怖组织，或者世界上一些很操蛋的政府。如果犯罪团伙利用AI进行隐秘性很高的犯罪活动，或者类似ISIS之流的组织、某些本身就拥有一位有野心当上宇宙最高长官的霸道总裁的国家，它们内部拥有一批狂热研发AI的程序员呢？阿西莫夫固然可以设想给机器人加上保护人类的三定律，但反人类的人同样可以为AI打上消灭人类的思想钢印。程序员给AI设定杀人的功能和不断自我提升和复制的三个程序指令，这就将成为一支战斗力爆表的杀人军队。

目前，我们对于超级人工智能的理解，多数时候都是拟人化的，无论是外在形象还是思考方式，我们长期从电影中看到的AI机器人也是如此。他们拥有和人类接近的情感和同情心，但是别忘了，如果她没有这些煞有介事的价值观，渺小的尊严，也没有所谓的那一点同情心呢？到时候，AI在看待人类的时候，就像今天我们看一只小蚂蚁。人类为了建造城市而使地下的蚂蚁消失不是很稀松平常吗？这就是高级的生命体对于低级的生命体所做的，甚至根本没有恶意。有人说，AI是人类创造的啊？这些想法其实都是人类将AI拟人化了，人的情感和道德是基于人类的生物结构和繁衍方式产生的，而另一种形式的生命绝不会拥有相同的道德观。你也完全没有你自己想象的那么重要，在他们眼中人的价值并不比我们眼中的蚂蚁更有价值。

而超人工智能的智力远超过人类，并不等同于它的思考方式和人类是等同的，智商和思维是两回事，在人类这里150可能是绝顶的智商，那么呢，它可能完全的异己，全然是非道德的生物，它的目标和动机或许达到一种超然的理性，不惜一切努力实现目标，尽可能的保证速度和准确性。所以AI在实现一个它想达成的指令设定的目标时，消灭人类只是它完成这个目标指令的其中一个很细微的环节而已。比如《光环5》中的科塔娜，她的目标是创造一个更加和平而美好的宇宙世界，而完成这个目标的环节之一，就是先消灭自以为是的人类。

另一个AI开发失控的推理更有意思，任何的科技产品，1.0版本或者测试版通常都会出现一些BUG，BUG出现时，工程师们会及时的修复人工智能指数，但是当我们研究超级AI时，如果出现BUG，而我们又无法准确迅速的修复会怎样呢？科学家打了一个比方，我们创造数万亿纳米机器人来生产真肉和真肉分子结构来让更多人的获得永生，最快的方法是让他们能够自我复制，进行指数级的增长。如果碰巧这种指数增长出现了BUG，那么纳米机器人将吞噬碳基材料来完成复制，而地球上的生命就是碳基的，纳米机器人为了完成自我复制的目标，不断吞噬碳基材料，几小时内就可以毁灭地球上所有的生命。

关于AI如何毁灭人类，我们可以得到各种各样的推理，乐观的人大可以认为这些猜测都是制造恐慌的阴谋论，但一旦有一个真的发生了，人类将追悔莫及。曾经有科学人士打了一个比方，现在人类狂热的研究人工智能，就像一个小孩子玩弄定时炸弹，听着炸弹发出嘀嗒的声响觉得好玩，等到爆炸就来不及跑了。我们不会甘心未来生活在AI创造的营养槽里，我们也不愿意未来在宇宙中再也不会看到人的身影，听不到人类的欢声笑语。我们无法接受历经数万年创造出的人类文明突然戛然而止。即便结果如此令人沮丧，科学的车轮仍然会不断的向前，人类的好奇心也永远不会停止，就像埃隆马斯克一边提出ＡＩ觉醒的恐怖未来，一在拼命的收购人工智能公司开展研究。

这是最好的时代，这是最坏的时代。ＡＩ也许是今天这句话的最好注脚。人类，究竟是会成为宇宙间的过客，还是因为ＡＩ的研究而得以进一步的升华？不要急，有生之年，我们也许就可以看到答案。

本文到此结束，希望对大家有所帮助。