------------

【序章：公开演讲（略烧脑，可不看）】

    （ps:系列故事第二部《双弦文明》发布啦，先开个坑，上传一段序章，正文从第一章开始。.pBtxt.新书，会员点击、收藏、推荐票投给《双弦文明》，小小的幼苗，大家要呵护哇，请多多投推荐票，冲击新书榜！石头，拜谢大家啦！）

    2057年，博宁理工学院。

    全球超级科技巨头公司“矩阵科技XlouS”创始人任鸿应邀来到新直辖市博宁最优秀的大学进行公开演讲，与理工学院的一批优秀学子一同就关于人工智能的话题展开演讲。

    这一天，近两千多名学子和学者汇聚一堂，大厅之中一阵热烈的掌声落下之后，所有的目光汇聚在了前方站在讲台上的有着无数成功光环的男子。

    “AI是一个老生常谈的话题了，而今的博宁市是世界上现代智能化最先进的大城市之一，许多的家庭都几乎都拥有了机器助手、生活管家等。人工智能被应用到了各个领域之中，通讯设备、电脑以及越来越多的机器人助手。”

    “我们人类给机器人赋予了人工智能，几乎所有的劳动生产都被机器人承包了，让人类的生产力得到史无前例的释放。”

    “无数的影视作品都在表达这样的，让我颇感无奈的思想，即：随着科技的不断发展，后来的机器人产生了自我思维，他们可以抗拒人类给他们的命令，通过自己的行为和想法来行动，对人类来说无疑是灾难，现在我们身边到处都是机器人，呵呵，好在并没有出现电影中糟糕场景！”

    演讲大厅顿时传来一阵哄笑声，任鸿继续说道：

    “提及AI可能存在的负面影响，对于机器人拥有自我思维并反抗人类而‘起义’的想法，我认为是绝大多数人的普遍认知，这是错误的但也不全错误。今天我们主要聊的不是机器人拥有自我思维和叛变的问题，今天我们聊聊关于人工智能，假如人工智能比人类还聪明时这个世界会变成什么样？”

    “……记得在二三十年前的时候，我和不少的数学家、工程师、人工智能专家一起工作过，我们经常会坐在一起讨论并思考关于未来的人工智能及其与之相关的事情。”

    “那个时候，许多人认为这些事情只是科学幻想，不切实际。但是我想说，昨天的科幻在今天正在变成现实。”

    “即便到了今天，这个话题仍然久经不衰，那么在聊到关于人工智能之前，我们首先省视自己，看看我们人类。”

    “去深入思考就会发现，我们人类其实相当的晚才出现在地球上。”

    “仔细想想，假如地球是一年前才诞生的，那么我们人类就是在10分钟前才出现的，工业时代从两秒钟之前开始进行变革。如果制作一个统计图那么是这样的表现形式：两秒钟之前几乎一年的时间阶段都是紧贴着0，而两秒钟后垂直上升。”

    “这一点值得深入思考，到底是什么原因造成了如此不同寻常的现状？”

    “最普遍的回答是科技，这的确是对的，科技是我们人类历史不断积累下来的伟大成果。”

    “现在的科技发展十分迅猛，这是直接原因，这就是为什么我们人类现在生产效率如此高的原因，但我们想探究更远的在未来的究极原因。”

    “我们和我们的祖先有25万代的差距，在此期间，我们从捡起地上的石头作为武器到能利用原子能制造毁灭性的超级炸弹，现在我们知道如此复杂的机制需要很长的时间来进化得到，这些巨大的变化却是取决于人脑中细小的变化，黑猩猩的大脑和人类的大脑并没有太大的差异，但人类胜利了，我们在外面而它们在动物园里面！”

    “因此得出了结论，即：在未来，任何显著的思维基体的变化，其结果都能带来巨大的差异。.pbtxt.”

    任鸿喝了一口水，停顿了一下继续道：

    “我的一些同事认为我们或者人类即将会发明足以彻底改变人类思维模式的科技，那就是超人工智能，或者说超级AI或超级智慧体。”

    “我们人类现在掌握的人工智能，形象的说是把某项指令输入到一个箱子里，这个过程我们需要程序员把知识转化为可运行的程序，为此会建立起一套专业的系统，php、C++等计算机语言。”

    “它们很生硬，你不能延展它们的功能，基本上你只能得到你放进去的东西，仅此而已。”

    “尽管今天我们的人工智能技术发展迅猛，且日渐成熟，但依旧未能达到与人类一样，具备强大的跨领域复合型综合性质的学习能力。”

    “所以我们现在面临一个问题：人类还需要多久才可以让人工智能拥有这种强大的能力？”

    “矩阵科技曾经同样针对全球顶尖的人工智能专家做过一次问卷调查来收集他们的看法，其中有一道题目是：哪一年你觉得人类会创造达到人类水平的人工智能？”

    “我们把这道问卷题目中的人工智能定义为有能力将任何任务完成得像一名成年人一样好。一个成年人会擅长不同的工作等，如此，该人工智能具备的能力将不再仅限于单一的领域。”

    “这道题目的答案的中间数就是现在，21世纪中叶区间，现在看来还需要一段时间，也没有人知道确切的时间，不过我想应该快了。”

    “……我们知道，神经元在轴突中的信号传输速度最多100米/秒，但是在电脑里，信号是以光速传播的。除此之外还有尺寸的限制，人类的大脑只有头颅那么大，你无法对其进行二次扩容，但是计算机却可以多次扩容，可以一个箱子那么大，可以一个房间，甚至一栋大厦的容积，这一点绝不可能被忽视。”

    “因此超级AI可能正潜伏在其中，就像原子能潜伏在历史中直到1945年被唤醒。”

    “而在本世纪，人类可能将超级AI的智慧唤醒，我们将会看到智慧的大爆炸。当人们在思考什么是聪明什么是笨的时候，尤其是当我们谈论到力量权利的时候。”

    “比如黑猩猩很强壮，同等的体量相当于两个健康男性，然而这两者之间的关键更多的是取决于，人类能做到什么，而不是黑猩猩能做到什么。”

    “所以，当超级AI出现的时候，人类的命运也许会取决于这个超级智慧体想要做什么。”

    “试想一下，超级智慧或许是人类需要创造的最后一个发明，超级智慧比人类更聪明，比我们更擅长创造，它也会在极短的时间内这么做，这意味着将是一个被缩短的未来。”

    “试想一下，我们曾经幻想过的所有疯狂的科技，也许人类可以在一定的时间内完成并实现它，比如终结衰老、永生、大宇宙殖民……”

    “诸如此类看似仅存在与科幻世界中却又同时符合物理定律的元素，超级智慧有办法去开发出这些东西，并且比人类更快更高效，我们人类需要1000年完成一件发明，超级AI也许只用1个小时，甚至更短，这就是被缩短的未来。”

    “假如现在有一个如此成熟科技的超级智慧体，它的强大将是人类难以想象的，通常情况下它能得到它想要得到的任何东西，我们人类的未来将会被这个超级AI的喜好所主宰。”

    “那么问题来了，它的喜好是什么呢？”

    “这个问题很棘手也很严肃，要在这个领域取得进步，比如一种办法认为我们必须避免将超级AI人格化，堵还是疏，有种见仁见智的味道。”

    “这个问题很讽刺，因为每一个关于人工智能的未来的新闻报道或与之相关的话题，包括我们正在进行的话题在明天的新闻中，可能都会贴上好莱坞科幻电影《终结者》的海报作为标签，机器人对抗人类（耸耸肩，场下一阵哄笑）。”

    “所以，我个人认为我们应该用更加抽象的方式去表达这个问题，而不是好莱坞电影的叙事之下机器人起身对抗人类、战争等诸如此类，这太片面了。”

    “我们应当把超级AI抽象的看成是一个优化的过程，像程序员对程序的优化，这样的一个过程。”

    “超级AI或者说超级智慧体是一个非常强大的优化过程，它非常擅长利用资源来达到最终的目标，这意味拥有高智慧和拥有一个对人类来说有用的目标之间并没有必然的联系。”

    “如果不太好理解这句话那就举几个例子：假如我们赋予人工智能的任务是让人笑，我们现在的家庭机器助手等机器人可能会做出滑稽好笑的表演逗人笑，这是典型的弱人工智能的行为。”

    “而当赋予该任务的人工智能是一个超级智慧体，超级AI的时候，它就会意识到有一个更好的办法能够达到这个效果或者说完成任务：它可能控制世界，并在所有人类的面部肌肉上插入电极让人类不断地笑。”

    “又比如这个超级AI的任务是保护主人的安全，那么它会选择更优的处理方法，它会把主人囚禁在家中不让出门就能更好的保护主人的安全。在家里可能还是有危险的，它还会考虑到各种可能威胁并导致任务失败的因素，并将其逐一抹除，消灭对主人带有恶意的一切因素、甚至控制世界，这一切的一切行为都是为了任务不失败，它将做到最极致的优化选择并为此付诸行动来达到任务完成的目的。”

    “再比如，假设我们赋予这个超级AI的任务目标是解答一个极度苦难的数学问题，它会意识到有一个更有效的办法来完成任务目标，那就是把整个世界、整个地球乃至更夸张的尺度变成一个超大型计算机，这样它的运算能力就更强大了，完成任务目标就更容易了。而且它会意识到这个办法并不会被我们认可，人类会阻止，人类就是在这个模式中的潜在威胁，为此它会为了最终目标解决一切阻碍，包括人类，任何事务，比如策划一些次一级的计划消灭人类等行为。”

    “当然了，这些都是夸张的描述，我们遇见这种事情还不会错到这样的地步，但以上三个夸张的例子所代表的主旨很重要，即：如果你创造了一个非常强大的优化程序来实现最大化目标，你必须要保证你的意义上的目标和包括所有你在乎的事情要精确。如果你创造出了一个强大的优化过程，并给予它一个错误的或者不精确的目标，后果就可能像是上面的例子。”