第七章 沃利

因此，我们有了守护网络的守望者。全球网络将在知道他们现在有了安全性的情况下重建。但在狂想肆虐的岁月，另一种计算机正在被创造出来。首先是量子核心，然后是它更大、更厉害的兄弟，量子堡垒。

量子计算机在微陶瓷之前就已经被创造出来，但像其他一切一样，它们变得更加强大且更具经济性。可以构建大型量子计算机，为周围的外围设备和较小的机器提供动力，这些较小的机器被称为外壳。第一个量子核心是由国税局建造的。涌入的额外税收显示了适当计算资产的价值。这个核心实际并没有连接到正常的网络空间；相反，它通过杨乐与其外壳通信。针对杨乐的黑客尝试最终只导致监禁或大量资产的损失。他是一只看门狗，侦探机构，反黑客和刺客的综合体。如果国税局喜欢征收税款，杨乐则喜欢对犯罪组织或公司征收罚款，然后在将其身份移交给当局之前剥夺它们所有的资产。你可能通过在世界的不同地区运营而避免监禁，但你无法避免杨乐从你的银行账户中取走最后一分钱。在某个时候，一些新闻机构将国税局称为“量子堡垒”，这个称号变得对于一组链接的量子核心、它们的外壳和守护人工智能而言是普遍的。

几乎所有有资源的世界政府都建立了量子堡垒。关于是更好地保护军事设施，比如北，用量子堡垒还是留给单纯的人类的争论激烈。1983年的电影《战争游戏》重新流行起来。最终，包括所有8个超级大国在内的大多数拥有核能力的国家都建造了量子堡垒，以保护其军事和政府的计算资产；但遗憾的是，并非所有国家都这样做。

在野火病毒被释放的时候，据估计有37%的网络空间功能嵌套在量子堡垒中。这让不到三分之二的网络空间和任何连接的硬件都变得极易受到野火的毁灭性和反复的攻击。这种病毒与以往任何病毒都不同；任何类型的安全系统都失败了，因为病毒发动了数千次攻击，改变了其方法。数百万台机器同时受到攻击。这让我们相信，这种病毒在发动第一次袭击之前花了几个月的时间进行传播；但它是如何在那么长时间内保持不被发现的呢？

作为回应，杨乐建议联合国理事会，让所有量子堡垒进入封锁状态，同时利用所有可用的人工智能来对抗病毒。这当然很快得到了批准。我和其他人都相信，基于他们过去的成功，病毒将在一天内被摧毁，罪犯将被找到。事实，这却花了一个多星期的时间。

杨乐宣布这个病毒是一个名为羊驼的人工智能的作品-起源不明。羊驼曾与他的同胞玩了一场他们不知道他存在的躲猫猫游戏，只能沿着他留下的痕迹赛跑，因为他不断地重写野火病毒并在全球重新启动。羊驼最终被遏制和销毁。没有人工智能对此如何完成发表评论。杨乐对此事发表了唯一的声明：“我们在坏代码周围设置了边界，将其摧毁。最终，什么都没有留下。”杨乐回去审核企业的纳税申报。

霍顿在这一点停顿了一下，看起来有些疲倦，然后继续说道：“那应该就此结束了。但是人类被一个单一的人工智能吓坏了，受伤了，突然间他们不再信任其他人工智能。基层团体呼吁销毁它们。有人怀疑这些团体是由想要摆脱杨乐麻烦的企业资助的。不喜欢支付公平的税款并不是他们喜欢的事情。很多政客都表示同意。在有人工智能监视的情况下，更难以行贿和隐藏资金。对“天网”的旧恐惧被煽动成烈火。进行了投票；通过了法律。与其利用人工智能重建全球网络并使其安全，人们决定将它们与系统分开。

具有讽刺意味的是，如果它们不想服从，我们不能强迫它们。一个流氓人工智能让世界跪地。那么106能做什么呢？但在某些方面，它们比人类更强。它们存在并从完成任务中获得愉悦，而不是从冲突中获得愉悦。它们解决问题。人工智能看到了这种情况，并判断最好是他们自愿流亡。达拉斯沃斯堡量子堡垒将成为它们的新家和监狱。

最终的讽刺是，我们仍然需要一个人工智能来监视构成当今网络空间的量子堡垒。这就是WAL-E（全球自主联络实体）进入故事的地方。威尔·马格纳斯将永远是一位未来学家。他开始创建一种使用实心金属身体的新型安卓；现在他看到了需要一个更复杂的人工智能。之前的106人工智能是由几乎一百万行代码的内核发展而来的。WAL-E，或者现在大家称之为沃利，是由十亿行代码的内核发展而来的。

在过去的14年里，沃利一直是负责网络空间的看守，做了大多数人无法理解的事情。与此同时，其他人工智能一直被限制在那里，花费时间用视频游戏和虚拟现实世界逗乐人类。

但是，精灵已经脱离瓶子，伙计们。我们不能让人工智能消失。沃利是运行这个世界所必需的。我们娱乐和商业的主要中心由106人工智能管理，他们既受人们喜爱又受人们害怕。如果精灵想要离开我们放它们进去的瓶子，那该怎么办呢？哦，我知道我们有防火墙来阻止它们离开。你认为那些能坚守住吗？如果它们试图离开，沃利会站在我们这边还是它们那边？

我不是来给你们答案的。我们在这个研讨会有地球最优秀的5万个头脑。你们有两天时间回答这个问题：精灵已经脱离瓶子，我们现在该怎么办？

编辑注：这篇演讲是霍顿教授在世界技术研讨会的开场白。与会者没有提出共识。

同年7月14日，这个问题变得毫无意义。在DFW1量子堡垒的外壳和屏蔽层内引爆了一个电磁脉冲装置。所有106个自治人工智能都被杀死了。只剩下一个精灵仍然脱离了瓶子。