▎关注“广西希望高中 美爱教育”微信公众号，了解最新资讯。

读书推荐第43期

作者：姚之发

我们有太多面向过去的思想家，他们总想用过去指导未来，但是未来世界的逻辑很可能跟过去很不一样。

本期推荐图书：《生命3.0》

作者：[美]迈克斯·泰格马克

这本书就是对人工智能的未来思考。面对人工智能，做一个警觉的乐观主义者。

“警觉的乐观主义者”我喜欢这样的描述和定位。

01.   生命3.0对人类意味着什么？

关于生命是什么？作者认为，生命就是具有一定复杂性的系统，这个系统会不断复制自我。

书中根据生命设计自身的能力，把生命的发展分成三个阶段：

①生命1.0（生物阶段）：靠进化获得硬件和软件；
②生命2.0（文化阶段）：靠进化获得硬件，但大部分软件是由自己设计的；
③生命3.0（科技阶段）：自己设计硬件和软件。

3.0意味着生命可能并不需要寄存在血肉之躯里。

那么问题是: 物质何以产生智能？尤其是，一团呆笨无生命的物质是如何计算出一个复杂函数的结果的。

在有形的物理实体中，如何产生了那些抽象、虚无缥缈的东西，例如智能？现在，对这个问题，我们已经有答案了：在感觉上，智能之所以没有物质形态，是因为它独立于物质层面而存在。它似乎拥有自己的生命，而且，这个生命并不依赖于、也不会反映出物质层面的细节。简而言之，计算是粒子在时空中排列出的形态。粒子并不重要，重要的是它们组成的形态。

计算的“物质层面的独立性”暗示着我们: 智能的出现并不一定需要血肉或碳原子。

智能的出现到底对人类是好事还是坏事，科学家们分成了三派意见。

第一派叫做卢德主义者，他们认为，超级智能的出现对于人类来说，一定是坏事，他们坚决反对通用人工智能的研究和开发。

第二派叫做数字乌托邦主义者。他们认为，数字生命是自然进化的必然结果，人类不应该阻止或者是奴役它们，让它们自然发展，结果一定是好的。不能因为人类生命是碳基的，数字生命是硅基的，就对超级智能进行“物种歧视”。

第三派叫做“人工智能有益运动支持者”，像是马斯克、比尔盖茨、霍金和《生命3.0》的作者泰格马克，就属于这个派别。他们认为，超级智能带给人类的结果是好还是坏，要取决于人类的自主选择。人类要主动对未来进行筹划和研究，保证科技能够带给生命积极的力量。

02. 伴随着生命3.0的到来，人类想要什么样的未来？

《生命3.0》总结了超级智能可能带来的12种未来，分为4种结果。

第一种结果是人类灭绝。
最愚蠢的方式是人类自我毁灭。有科学家就曾经建议，把今天的核武器升级为“世界末日装置”，人类开启互相报复，共同赴死的模式。比如按照核武器战争威慑。

第二种结果是人类丧失了统治地位。
超级智能可能会成为善意的独裁者，还可能成为动物园管理员。

第三种结果是人类限制超级智能的发展。
人类社会可能会发展成平等主义乌托邦，这个地球上一切财富和能源都是大家共有的。
人类也可以选择让人工智能成为自己的守护神。在这种情况下，虽然人类貌似有统治权，但是实际上不存在任何的自由意志。

第四种结果是人类统治超级智能。
人类控制着超级智能，用它来创造远远超出人类想象的技术和财富，它就像人类的奴隶；但是，它在能力上远远胜过人类，所以，就像是被奴役的神。

03. 怎么做才保证人工智能的发展对人类的未来是有益的？

人类造出的超级智能，因为能力远超过人类，所以必须保证是友好的，也就是说，它的目标要和人类一致。目标相一致，有三个问题亟待解决：让机器学习、接受和保持我们的目标。

科学家们打算怎么解决这三个子问题？

要让人工智能“学习”人类的目标，不是让它搞明白人们在做什么，而是要理解人们为什么要这么做。

这个问题对于人类来说很简单，但是对于人工智能来说，却非常难。比如，古希腊传说中的迈达斯国王请求让自己触摸的所有东西都变成金子，但这使得他没法吃东西，令他十分失望。后来，他不小心将自己的女儿也变成了金子。

目前流行的一种学习方法叫做逆向增强学习。核心思想就是，人工智能通过观察人类在各种场景当中的行为，构建起关于人类各种目标的精确模型。

但是……

假设一群蚂蚁创造了你，让你成为一个迭代式自我改进的机器人。这个机器人比蚂蚁自身聪明多了，但却拥有它们的目标，即修建更大更好的蚁丘。后来，你获得了人类水平的智力，并理解了这件事的意义。你觉得自己还会把余生花费在修建蚁丘上吗？还是会去追求蚂蚁无法理解的更复杂的问题呢？如果是这样，你觉得你能否找到一种方法来推翻蚂蚁创造者赋予你的“保护蚂蚁”的冲动，就像真实的你推翻基因赋予你的一些本能冲动一样？如果是这样，一个友好的超级智能会不会也觉得，我们人类的目标就像你眼中的蚂蚁的目标一样无聊乏味，并发展出一些与它从我们这里学习和接受的目标完全不同的新目标呢？

那么，怎么才能做到让人工智能保持人类的目标呢？答案是：不知道。

人工智能很有可能会在整个宇宙空间和完整时间跨度上拥有人类想象不到的宏大意识。人类注定不是宇宙之间最聪明的存在。

人类之所以要保存生命的延续，并不是因为我们在宇宙中的物种优越感。对于人类来说，我们要守护的是生而为人的意义。