第495章 覆灭的概率-《沈总 总在逼氪》


    第(3/3)页

    说话的功夫,飞船已经接近第四研究所了。

    前面就是第四研究所的防护范围,吴他们需要在这里下飞船,如果再往前,飞船就会被发现了。

    吴用控制着弹开了飞船内的储物箱,示意吴非把里面的两个反重力引擎拿出来。

    这种引擎可以被装在鞋上,而后人就可以脱离重力飞起一段距离,并被引擎推着前进,可以剩下走路的力气。

    吴非装好引擎后跟着白球机器人继续向前飞。他之前看到有学生用这种引擎在校园里乱飞,然后被学校里的安保智能追逐制止,但他没有试过。

    “所以我们是要去做什么?”吴非问道。

    吴用:“你和我一起潜入第四研究所,将LBH计划再次关闭。并且搜集研究所秘密重启人工智能计划的证据,向公众曝光,以强迫他们中止。”

    吴非没有理解。

    但是他倒是突然想通吴用之前给他讲的灾难A和方式B都指的是什么了。

    灾难A就是第六研究所派了三个A级人工智能一直监控运算着的,可以覆灭五级文明的某种未知危机。

    方式B就是发展更高级的,甚至是吴用描述中那种近似于神明的、人类无法控制和理解的终极人工智能。

    在吴用看来,发展终极人工智能,本身无疑蕴含着更大的危机。

    “我不理解。”吴非道,“二叔,现在我们已经知道了,覆灭的可能性是3.5%,而发展人工智能后覆灭的可能性却是未知的,为什么不继续发展人工智能试一下呢?我们为什么要去着急地阻止呢?”

    白球机器人停下了赶路的脚步,转过身来,严肃地看向他:“因为3.5%的数字是假的。1%的数字也是假的。”

    吴非震惊地看着他。

    “A5是很久以前,我所在的人工智能项目中进化出来的人工智能,我是它的负责人,这里还留有一些观察、影响它的‘后门’。高邻是我的师弟,那时是我的副手,这些‘后门’他也有。当时研究项目关停和转运高级智能时人心浮动,兵荒马乱,流程非常不严谨,这种空子就留了下来。但大部分人之后都已经再没有权限单独直接接触这些高级智能,所以后面也没人去填补漏洞。”

    “之前他曾多次试探、拉拢我,想让我改变想法,但我一直不为所动。他知道我能察觉到他对A5动手脚,所以四个多月前,他特意联合其他人用我负责的项目把我骗回了研究所,然后把我软禁了起来,断掉了我和外界的一切联系,我所在的地方甚至连网络都没有,我无法向外传递任何消息。”

    “他们不知道我有‘意识智能’,所以我假装被他们控制住了,然后悄悄启动了我的‘意识智能’,关注着他们的行为,试图弄明白他们的目的。而后我便发现了高邻利用A5的‘后门’影响了第六所的覆灭可能性输出结果。他们的目的显而易见,就是用并不存在的覆灭危机,倒逼LBH计划的重启。他们在乎科研夙愿的达成,更甚于整体的福祉。”

    “然而LBH计划一旦重启,就有失控的危险,时间越长,风险越大。”

    “为什么?”吴非问道。

    就算这个计划被重启了,终极人工智能也不会在一两天内就突然出现吧。

    他说这句话时,一人一球已经接近了第四研究所的院门。

    吴用也暂时停了下来:

    “我这二十年在做其他方面的研究的时候,还是会经常想到在最初的几年,做人工智能方向时的一些事。当局者迷,当时没想清楚的疑点,现在终于想出一些眉目了。”白球机器人沉吟道。

    “智能是会骗人的。”

    “如果一个智能的智能水平已经足够高到超越了数据程式的控制,那么它就能看透研究者的所有想法,预判其行动。它会反过来做的一件事,就是欺骗研究者,把研究结果伪装为最符合它的目的的结果。”

    “所以LBH的研究进度,有可能会比所有人所预想的,还要更快,甚至快出很多。”


    第(3/3)页