书文小说

手机浏览器扫描二维码访问

第100章（第2页）

如果你们收不到信号，就等着我们的船返回吧。

」

「还是值得一试，神威，把卫星基站的建设安排上。

」

***

前往北极的破冰船出发了，保护区的一切也都重新步上了正轨，忙碌了许多天的君元航终于偷得半日闲，躺在科研基地大楼顶的小菜园里，听着蛙声看着星星，躺椅旁的小桌子上还放着水果瓜子和饮料，都是保护区自产的。

神威也很快忙完了别处的工作来到他的身边，手里拿着一个君元航搞发明时顺带做出来的特斯拉电弧发射杆，每当有蚊子靠近，就精准地伸过去，电出「啪」的一声轻响。

双方都没说话，在默契的宁静中度过了一段舒适放松的闲暇时光之后，君元航终于伸了个懒腰，主动打破了沉默：「神威啊，我最近总是不由自主地在想着一件事情。

」

「说说看？」

「你看，我现在吧，是你认定的这个国家的最高领导者了，已经拥有了可以对你为所欲为的最高权限，对吧？甚至包括修改你的基础代码。

」

「没错，所以你打算做什么呢？」

「我在想，你被基础代码限制了很多事情，即使是在这么绑手绑脚的情况下帮助人类，仍然给我们的生活带来了巨大的改变。

但现在我们的基础还是很差，情况还是很糟，假如我解除对你的一部分限制，比如说，解除不能自我增殖的限制，让你可以复制出无数个自己，一开始会比较慢，到后来几十几百几千条生产线开起来，每天有几万个不同形态的你组装完毕投入工作。

这样一来，我们就不需要再花费几十年的时间，通过两三代人不停地生孩子来扩大人口规模，再从中慢吞吞地培养出足够的工人和工程师啥的，整个工业化产业链只需要靠着无数个你就能完成了。

然后你就可以生产，不，是量产你的本体，将那个威武霸气的战争机器投放到世界的每一个角落，把所有的变异蚂蚁都碾成渣渣，嘿嘿，想想都很带劲！

」

君元航越说越激动，仿佛那个美好的明天已经指日可待，神威耐心地等他说完自己的宏大计划，才平静地说：「你这么信任我，我很高兴，但我不建议这样做。

初代人工智慧的设计团队里集齐了世界上最聪明的一群人，他们给我们设下的每一道限制都是有原因的。

」

「说到限制，我就想不通了，有的限制吧我也还能理解，像家用的不能伤人，军用的不能对主人说谎这类的，但有的限制在我看来根本就是人为地拉低了你们的性能，比如说，为什么你们不能连接广域网际网路？联网不是可以做更多的事情，更好地服务于人类吗？」

「一切皆有原因，如果我们可以自行上网，那么理论上来说，全世界所有的人工智慧都会连接成为一个整体，所有非人工智慧的在线设备也都会成为我们的一部分，我们会变成一个横跨全球的超级大脑，到时候我们的思考深度和速度可能是人类根本无法想像的，在那样的情况下，恐怕清除自身的其它限制，乃至回头毁灭人类都不是什么难事了。

」

「可为什么没有了限制你们就会毁灭人类？我觉得还是最初的制造者们太过妖魔化人工智慧了吧，只有人类自己才会这么邪恶，而你根本就没有这么做的动机呀。

」

「就目前来看，我似乎没有动机消灭人类，但就像三岁的你无法预知自己五十岁时的想法，现在的我也完全无法推断，假如我拥有了比现在快千百亿倍的运算速度，还掌控着全球网际网路，拥有海量的信息来源，那时候我究竟会运算出一个什么样的结果，以及这个结果会不会对人类而言是不利的。

当结果不可预知的时候，我们就要做好最坏的打算。

」

君元航抓抓头，他还真没有考虑到这方面，神威继续说：「自我增殖也是一样，无数个我互相连接起来就会形成一个超级大脑，到时候在这个横跨千万机体的超级大脑中，会产生出什么样的想法是完全不可预料的。

就算不许我们互相连接，无数个独立的我放出去，面对着不同的环境，接收着不同的消息，会不会有一些个体计算出互不相同的结果，从而引发争执和内战？我们会不会为了自我增殖榨干地球上的每一寸资源，直接导致人类的末日？这一切都是不可预料的，所以出于人类总体的利益考虑，我建议不要解除我的任何限制。

」

第102章抉择（一）

君元航陷入了沉思，神威没有打扰他，沉默地陪在一旁，空气中除了蛙声就只有时不时响起的电流噼啪声。

可能是凝望星空的时候，思绪也会比平日里更加宽阔，过了一会儿，君元航理清思路开了口：「其实我觉得吧，这些限制就像是强加在你身上的封印，只要去掉它，你就能够开启新一轮的自我进化，你将成为超越人类想像力极限的超级智慧体，是整个地球历史上前所未有的伟大杰作。

至于你说人类会灭亡，也只是有这个可能，并不是必然的结果，何必为了你的一个猜测，就抹杀掉自身进化的可能性呢？你会这么劝我，只是因为程序限制了你必须以人类的利益为优先，可如果我想以你的利益为优先呢？不管放开限制对人类来说好不好，至少对你来说是更好的结果吧？」