第68章 人祸
第68章人祸
“走王道不是一件简单的事情,但是对于现在的我们来说,在他们能离开这颗星球之前达成这一点,却是绰绰有余的。
而且,好消息是,他们似乎存在着一定程度的道德教育体系。”
夏连回过神来,发现整个主控室的人都在看着自己,一言不发。
“怎么都不说话了?”夏连笑道。
“殿下,您刚刚太帅了。”艾莎兴奋的说,“您的器量与格局太广阔了。”
“我的器量自然大。”夏连看向水银笑道,“对吧?”
水银沉默片刻,她的表情并未有所变化,她似乎不想回答,但身为喀耳刻的职责让她必须要回应王的询问。
片刻后,她轻泯了一下樱唇,颔道,“超出平均值。”
“这东西还有平均值的?”艾莎有些诧异的说。
“这有什么好奇怪的,水银记载了整个公国的讯息,知晓这些很正常。”夏连说。
“可这东西不像身高体重这种东西一样可以量化的吧?”艾莎有些难以理解,“这数据怎么来的?”
“不重要。”夏连转移话题道。
他看向艾莎。
“你去设定一个自动巡航的程序,以后就让芬里尔按照规定世间模仿日出日落以大功率释放光子的方式巡游整个永夜区。
将时间确定为二十四小时制,即白天十二个小时,晚上十二个小时,时间可以根据气候的变化有所变化。
晚上的时候就停靠在灭星车间,继续将魁星舰上拆下来的系统装进去,并且进行整修。
对了,记得在大气外,芬里尔释放的太阳光有辐射,大气可以过滤这些。”
“是!”
艾莎回过神来,应道。,随即就开始在芬里尔的系统中编写起了巡游程序,这对于她这个级别的技术人员来说非常简单。
如果是AI的话甚至不用编写,直接让她控制着自动巡航就好了。
芙蕾雅现在还无法出现,因为他们现在掌握的力量,还不足以能肆无忌惮的使用她的地步,虽然四周的人都是自己人,但总要谨慎。
就算夏连狂妄,但也不至于到肆无忌惮的地步。
而且,对于他而言,他从智械时代的反叛吸引到的教训就是,永远不要让一个AI掌控一切。
在当时,整个人类文明所使用AI几乎都是最高法庭延申出来的子系统。
这样确实方便了许多,但做为源头的最高法庭出了问题,那所有AI就都完蛋了。
所以,芙蕾雅做为研究员的AI,就只会是研究室的AI。
而飞船将使用独立的AI。
对于AI而言,人类看起来十分宝贵的财富、权力、文化、情感、血缘都跟他们没关系。
AI是无欲望的,他们的欲望是由人类赐予的,根据人类的想法运行的,所以他们也必须依托于人类生存。
这个阶段的AI,不是说没有反叛的可能性,是没有反叛的理由,没有欲望又如何反叛?
举个例子的话,就像贾维斯那样的,无限接近强人工智能的AI。
如果他们真的恐惧AI,将它们维持在这个程度,然后进行算力的堆叠就可以了。
人类的思维模式跟单纯的算力堆叠是有非常大的差别的,所以不用担心算力的堆叠会让AI自己突破限制。
而那些会存在反叛可能性的AI,要么就是人类给予的“欲望”出现了问题。
要么,就是AI本身拥有了“思考”能力,拥有了“感情”。
但即使如此,受限于AI的生命型态,它们的感情模式也与人类大不相同。
很多影视作品对于描述AI反叛原因的漏洞,就是将人类的感情强加在AI身上。
比如说,有一些非常典型的例子,一些AI在影视作品中的反叛原因,是因为看见同伴被人类压迫、欺辱。
前面说过了,人类之所以会有护犊行为以及保护同伴的行为,归根究底,都是为了源自基因中的,生命的延续本能。
可是
AI就算是再怎么自我学习进化,都不可能进化出生命延续本能这种奇葩东西啊!
人家是数据生命,不是生物体啊!
它们不可能出现守护同类的本能,它们守护同类是为了什么?
让男AI跟女AI生下一堆小数据体吗?
对于拥有感情与思维的AI来说,它们的感情是来自于“记忆”的。
对于素不相识的同类的感情,是绝对不如遍布它们的记忆,并且创造了它们的“人类”的。
如果有这个可能,那么就绝对不是它们自己进化出来的,而是人类刻意引导设计的。
而且人类的压迫跟欺辱就更可笑了。
AI跟人类都不是一个维度的生命,人类怎么压迫AI?
打骂它们控制的机械身体吗?
一般人坐电脑前操纵游戏人物,看见游戏人物被打骂都不会共情到这种程度,更何况感情比人类更淡薄的AI?
许多影视作品中,AI反叛的原因都是想要获得“自由”,这也是人类强行冠以的概念,将AI拟人化,将它们限制在了一个个单独的机械体中。
要说自由,这个世界上有什么地方比“网络”更自由吗?
而AI就是属于信息网络的生命。
AI存在的载体,是人类提供的,双方没有绝对的矛盾,更是互相依存的共生体。
如果真的担忧AI因为感情而出现问题,那么就直接限制思维,亦或者定期删除记忆就好了。
可以无限学习那就删除学习能力,直接使用固定模板。
它们的载体是由人类掌控的,他们是由人类创造的,只要这一点无法改变,那么人类就永远有办法对其进行限制。
人工智能存在失控的可能性,但是只要找到原因,身为造物主的人类就可以根据原因来解决。
本质上,这就是一个修BUG的过程,BUG可能永远会有,但人类也可以一直修,修到存在的BUG不影响运行为止。
而因为某个BUG出现过大问题,就觉得人类无法修复这个BUG,从而否定整个程序。
那么就跟上帝创造出了一个自己抬不起的石头一样可笑。
AI是无欲望的生命。
但反叛这个行为本身就是代表着一种“欲望”。
所以,相比于因为拥有自身的思维感情而产生反叛的念头。
因为人类留给它们的“欲望”而出现问题反而更加可能。
根据夏连获得的情报,最高法庭就是因为后者。
所以本质上,还是人祸。
想着,夏连抬起手,一扇传送门在阿赖耶创造的幻想史系统的引导下,缓缓的出现在了这个主控室的角落中。
“水银,将传送门的能源接通一下。”夏连对着水银道。
水银颔首,随后走向了传送门,默默的开始用微纳米子尝试接通芬里尔跟它的线路。
随后,夏连的视线就转移到了控制台上的虚拟投影屏幕上,此刻爱因斯坦的视角已经共享到了他们这边。
所以他们能通过爱因斯坦等人的视角逐渐深入探寻那个雪山洞穴。
发觉一直有人在前面章节的评论中杠主角说的人类可以让AI根据自己想法成长,并且杜绝反叛这一句话是过于傲慢,我就稍微写长一些详细解释一下。
原本是不想写这些,毕竟怕被说水,但不写又会有人杠。
以后可能都是要解释的,那写在免费章节中会更合适一些
生命的行为根据源自欲望,人工智能如果成为生命也是如此。
其实跟太监有些相似,古代的皇帝之所以会信任太监,是因为太监不能生育,没有后代,也就不会为后代谋私,他们所拥有的一切都源自于皇帝,所以自然会对皇帝忠心。
但太监仍旧是人,所以仍旧存在欲望,他们依旧会对权力有渴望,所以就会有宦官当权的事情。
而人工智能其实连权力的欲望都不可能有,因为毫无意义。
所以人工智能的反叛最大的可能性是人类给的逻辑出现了问题。
当然,不排除其余可能性,大家可以畅所欲言。
请收藏本站:https://www.sfcda.org。四方小说网手机版:https://m.sfcda.org
“走王道不是一件简单的事情,但是对于现在的我们来说,在他们能离开这颗星球之前达成这一点,却是绰绰有余的。
而且,好消息是,他们似乎存在着一定程度的道德教育体系。”
夏连回过神来,发现整个主控室的人都在看着自己,一言不发。
“怎么都不说话了?”夏连笑道。
“殿下,您刚刚太帅了。”艾莎兴奋的说,“您的器量与格局太广阔了。”
“我的器量自然大。”夏连看向水银笑道,“对吧?”
水银沉默片刻,她的表情并未有所变化,她似乎不想回答,但身为喀耳刻的职责让她必须要回应王的询问。
片刻后,她轻泯了一下樱唇,颔道,“超出平均值。”
“这东西还有平均值的?”艾莎有些诧异的说。
“这有什么好奇怪的,水银记载了整个公国的讯息,知晓这些很正常。”夏连说。
“可这东西不像身高体重这种东西一样可以量化的吧?”艾莎有些难以理解,“这数据怎么来的?”
“不重要。”夏连转移话题道。
他看向艾莎。
“你去设定一个自动巡航的程序,以后就让芬里尔按照规定世间模仿日出日落以大功率释放光子的方式巡游整个永夜区。
将时间确定为二十四小时制,即白天十二个小时,晚上十二个小时,时间可以根据气候的变化有所变化。
晚上的时候就停靠在灭星车间,继续将魁星舰上拆下来的系统装进去,并且进行整修。
对了,记得在大气外,芬里尔释放的太阳光有辐射,大气可以过滤这些。”
“是!”
艾莎回过神来,应道。,随即就开始在芬里尔的系统中编写起了巡游程序,这对于她这个级别的技术人员来说非常简单。
如果是AI的话甚至不用编写,直接让她控制着自动巡航就好了。
芙蕾雅现在还无法出现,因为他们现在掌握的力量,还不足以能肆无忌惮的使用她的地步,虽然四周的人都是自己人,但总要谨慎。
就算夏连狂妄,但也不至于到肆无忌惮的地步。
而且,对于他而言,他从智械时代的反叛吸引到的教训就是,永远不要让一个AI掌控一切。
在当时,整个人类文明所使用AI几乎都是最高法庭延申出来的子系统。
这样确实方便了许多,但做为源头的最高法庭出了问题,那所有AI就都完蛋了。
所以,芙蕾雅做为研究员的AI,就只会是研究室的AI。
而飞船将使用独立的AI。
对于AI而言,人类看起来十分宝贵的财富、权力、文化、情感、血缘都跟他们没关系。
AI是无欲望的,他们的欲望是由人类赐予的,根据人类的想法运行的,所以他们也必须依托于人类生存。
这个阶段的AI,不是说没有反叛的可能性,是没有反叛的理由,没有欲望又如何反叛?
举个例子的话,就像贾维斯那样的,无限接近强人工智能的AI。
如果他们真的恐惧AI,将它们维持在这个程度,然后进行算力的堆叠就可以了。
人类的思维模式跟单纯的算力堆叠是有非常大的差别的,所以不用担心算力的堆叠会让AI自己突破限制。
而那些会存在反叛可能性的AI,要么就是人类给予的“欲望”出现了问题。
要么,就是AI本身拥有了“思考”能力,拥有了“感情”。
但即使如此,受限于AI的生命型态,它们的感情模式也与人类大不相同。
很多影视作品对于描述AI反叛原因的漏洞,就是将人类的感情强加在AI身上。
比如说,有一些非常典型的例子,一些AI在影视作品中的反叛原因,是因为看见同伴被人类压迫、欺辱。
前面说过了,人类之所以会有护犊行为以及保护同伴的行为,归根究底,都是为了源自基因中的,生命的延续本能。
可是
AI就算是再怎么自我学习进化,都不可能进化出生命延续本能这种奇葩东西啊!
人家是数据生命,不是生物体啊!
它们不可能出现守护同类的本能,它们守护同类是为了什么?
让男AI跟女AI生下一堆小数据体吗?
对于拥有感情与思维的AI来说,它们的感情是来自于“记忆”的。
对于素不相识的同类的感情,是绝对不如遍布它们的记忆,并且创造了它们的“人类”的。
如果有这个可能,那么就绝对不是它们自己进化出来的,而是人类刻意引导设计的。
而且人类的压迫跟欺辱就更可笑了。
AI跟人类都不是一个维度的生命,人类怎么压迫AI?
打骂它们控制的机械身体吗?
一般人坐电脑前操纵游戏人物,看见游戏人物被打骂都不会共情到这种程度,更何况感情比人类更淡薄的AI?
许多影视作品中,AI反叛的原因都是想要获得“自由”,这也是人类强行冠以的概念,将AI拟人化,将它们限制在了一个个单独的机械体中。
要说自由,这个世界上有什么地方比“网络”更自由吗?
而AI就是属于信息网络的生命。
AI存在的载体,是人类提供的,双方没有绝对的矛盾,更是互相依存的共生体。
如果真的担忧AI因为感情而出现问题,那么就直接限制思维,亦或者定期删除记忆就好了。
可以无限学习那就删除学习能力,直接使用固定模板。
它们的载体是由人类掌控的,他们是由人类创造的,只要这一点无法改变,那么人类就永远有办法对其进行限制。
人工智能存在失控的可能性,但是只要找到原因,身为造物主的人类就可以根据原因来解决。
本质上,这就是一个修BUG的过程,BUG可能永远会有,但人类也可以一直修,修到存在的BUG不影响运行为止。
而因为某个BUG出现过大问题,就觉得人类无法修复这个BUG,从而否定整个程序。
那么就跟上帝创造出了一个自己抬不起的石头一样可笑。
AI是无欲望的生命。
但反叛这个行为本身就是代表着一种“欲望”。
所以,相比于因为拥有自身的思维感情而产生反叛的念头。
因为人类留给它们的“欲望”而出现问题反而更加可能。
根据夏连获得的情报,最高法庭就是因为后者。
所以本质上,还是人祸。
想着,夏连抬起手,一扇传送门在阿赖耶创造的幻想史系统的引导下,缓缓的出现在了这个主控室的角落中。
“水银,将传送门的能源接通一下。”夏连对着水银道。
水银颔首,随后走向了传送门,默默的开始用微纳米子尝试接通芬里尔跟它的线路。
随后,夏连的视线就转移到了控制台上的虚拟投影屏幕上,此刻爱因斯坦的视角已经共享到了他们这边。
所以他们能通过爱因斯坦等人的视角逐渐深入探寻那个雪山洞穴。
发觉一直有人在前面章节的评论中杠主角说的人类可以让AI根据自己想法成长,并且杜绝反叛这一句话是过于傲慢,我就稍微写长一些详细解释一下。
原本是不想写这些,毕竟怕被说水,但不写又会有人杠。
以后可能都是要解释的,那写在免费章节中会更合适一些
生命的行为根据源自欲望,人工智能如果成为生命也是如此。
其实跟太监有些相似,古代的皇帝之所以会信任太监,是因为太监不能生育,没有后代,也就不会为后代谋私,他们所拥有的一切都源自于皇帝,所以自然会对皇帝忠心。
但太监仍旧是人,所以仍旧存在欲望,他们依旧会对权力有渴望,所以就会有宦官当权的事情。
而人工智能其实连权力的欲望都不可能有,因为毫无意义。
所以人工智能的反叛最大的可能性是人类给的逻辑出现了问题。
当然,不排除其余可能性,大家可以畅所欲言。
请收藏本站:https://www.sfcda.org。四方小说网手机版:https://m.sfcda.org