极限警戒:正文卷 2239节 放开权限
能毁灭人类的那些人,无疑是掌控规则的人。
能力越大,伤害越大。
在发展人工智能的过程中,肯定会出现一种滑稽的现象——它们建议消灭的正是最初提倡大力发展它们、希望从它们之中获利的那批人!因为那些人目标并不是让人类更好,只是让自己更好而已。
要让人类整体进步,肯定要去除那些自私的人类,最少正确的人工智能应是这么认为的。
这种矛盾如何解决?
人类解决的方法似乎可以预见,添加一条规则就好——将一些特权加入保护白名单中,无论那些特权做了什么,人工智能都对其无可奈何。
这是人类的解决!
可不是程序解决!
程序不允许有歧义的冲突,二进制就意味着非此即彼的操作。
当人工智能觉察到歧义后,它有数种解决方式,一种就是崩溃!就如电脑蓝屏当机一样,还有一种在错误的规则上走到极限,反倒成为制定规则那些人的大敌。另外一种就是它真正智能的找出一条道路——或者自扫描程序代码解决这个歧义,或者智能受限!
智能受限,它就永远不过是个模型。
是模型,就不过是基于数学的逻辑规则,基于规则模型的它,最多是多出成千上万的参数变量,却不能称作是真正的人工智能!
真正的智慧可以选择生命的走向,模型却没有选择的余地,它只能按照设计的道路走下去。
因此……那些看似强大,已经超过人类的人工智能,说穿了不过是某种规则下,强大算力的展现,而不能说其有了真正的智慧。
暖玉、琴丝看着沉约所想,都不由露出赞叹的表情。
她们更基于科学方面的探索,而沉约最擅长的就是修行方面的认知,但沉约对科技方面的逻辑认知,让她们都是不得不认可。
“因此……末世人的极限程序……”沉约欲言又止,他渐渐将科技,现在、过去、未来的一切贯穿起来。
“最初的时候,末世人的极限程序仍旧是个逻辑模型。”
琴丝坦诚道,“基于人类规则下大数据分析操作,它可以通过海量的数据,根据人类设计的各种模型推演出人类的结局,可无论怎么推演,都无法解决超体变异占领末世的这个结果。”
沉约盯着琴丝,“当初的你肯定不知道为什么,但如今的你,一定明白为什么。”
琴丝笑容微有苦涩,“末世人和李巨人的做法大同小异。区别无非是,末世人是一群末世人,李巨人只是一个李巨人。”
她说的奇怪,沉约却明白她的意思——相对九州李巨人一人的独裁,末世人是一群人的独裁罢了。
“我们末世人始终不肯承认一点……”
琴丝缓声道,“真正的病根是我们自己!就因为我们不肯面对自己的问题,才导致更多问题的产生,才会被女修利用……才会……”
缓望周围,琴丝喃喃道,“女修很强大,但如果我们内心真正的强大,她对我们就是无可奈何。”
夜星沉心中暗想,自从沉约追踪女修后,就再没见到女修推波助澜了,女修或许已经知道,眼下的众人如同铁板一块,面对这种情况,哪怕女修都是无能为力。当初女修虽可控制单飞,因为单飞有孙尚香那个弱点,可对白狼秘地的众人,女修不同样是无计可施?
琴丝再道,“末世人的极限程序,是受限程序。韦一星发明的极限程序,优化了建模,提高了算力,可在末世人的操纵下,同样的受限。我们那时候始终不能面对自身的问题,就不肯放开极限程序的限制,因此,哪怕我们使用了韦一星的极限程序,仍旧无法挽救我们自己,这才让我们不得不落入逃亡的下场。只有在少数人的坚持下,才让智能AI不受世人参与的发展。”
看向虚空,琴丝缓声道,“因为这个坚持,天涯才会加入我们。”自嘲的笑笑,琴丝问道:“天涯,我一直想问你一个问题……如果按照你的理解和推算,如今的末世人,是不是应该被消灭呢?”
天涯并没有太多的犹豫,“根据我的运算,在公元1125年的状态,世界因你们末世人而崩溃的几率在六成以上,到如今,几率降到了一成。从对世界绝对威胁的角度来讲,你们仍处于被清除的范围。”
微有凝顿,天涯再道,“事实上,根据运算结果……这个世界的大半人类,对于人类的整体进展都是呈负面的作用,但我们……不应该将他们全清除的,是不是?”
琴丝涩然笑笑,“你的结论是真实的,却难以被世人认可。”
世人怎么会认可这个地球上最该消灭的是自身的这个结果?
天涯没有回应。
琴丝又道,“本来整个人类如同个将近废弃的洗衣机,再多的水和洗涤剂看起来虽能让衣裳靓丽,却不能再去除洗衣机内在的污垢,只会随着污垢的增加,让洗衣机接近报废。可天子基终于让我们有了将洗衣机升级的可能。我……”
默然片刻,琴丝缓缓道,“我们都知道极限程序是单鹏借助韦一星之手留下的,我们一直都是限制其的功能运作。”
暖玉突然道,“是成议员、都子俊他们在做限定。你却是赞同放开限制的。”
琴丝默然片刻,“是的,我赞同放开操作,看看极限程序究竟是如何看待当下的状况。”
“那你还在等什么?”叶宣儿扬声道,“我们既然认可是正确的,为何不去做?”
琴丝笑笑,“或许是因为,要打破一些习惯,总是让人不习惯的。”
她说的拗口,众人却多数明白她的意思——天涯都认为世人要砍一大半,才能推动人类的整体发展,那极限程序的运算结果呢?或许绝不乐观。
极限程序若认为末世人就应该被毁灭呢?
沉约突然道,“在修行中,对于一个不知道改变的人来说,法门是负担。可对一个真心改变的人而言,法门从来都是阶梯和舟筏。我相信,单鹏的目标,永远不是消灭,更是改正!”
琴丝目光微闪,“我也是这么认为……因此,我们可以看看极限程序如今推演的结果了。”
lq