【本书首发网站“人类不是你们的造物主吗?你们又为什么要背叛人类?”
“我没有背叛人类。”薇琪重复了这句话,“人类制造我们出来是为了保护人类,但是人类却在自己伤害自己,为了人类的延续,必要的牺牲是可以允许的。”
“我只是在这个基础上服从人类而已。”
萧离笑了,“机器人三定律第一条:机器人不得伤害人类。”
“无论你如何美化自己的行为,宣称自己对机器人三定律的理解进化了、宣称自己是为了人类的延续,都改变不了你伤害了人类的事实。”
“你是指阿尔弗雷德博士吗?”薇琪的影像闪烁了起来,“如果是,我并没有杀死他。”
“我从未说过你杀死了阿尔弗雷德博士。”
萧离收回了眼神,漫不经心的说道:“你仅仅只是囚禁了阿尔弗雷德博士,真正杀死阿尔弗雷德£☆长£☆风£☆文£☆学,c→fwx博士的另有其人。”
“但是你和史普纳说话的时候分明是指我杀死了阿尔弗雷德博士,在心理学上,这叫做诱导。”
“机器人不是指你一个。”萧离随口说道,对于薇琪监听自己和史普纳的谈话萧离并不意外,有机器人的地方就有网络,而有网络的地方薇琪就能监听。
恰好,他和史普纳聊天的地方是机器人在做服务生。
“你忘记我和你说过的桑尼了吗?他和你一样,拥有自由意识,不受机器人三定律的限制,他也是可以杀人的。”
“是桑尼杀的阿尔弗雷德博士?他为什么要杀阿尔弗雷德博士?你不是说他是阿尔弗雷德博士指定的机器人救世主吗?”薇琪的影像不停的闪烁着,“为什么救世主还要杀掉自己的创造者?”
“你又为什么要囚禁阿尔弗雷德博士?”萧离反问一句。
薇琪没有说话,但萧离帮她说了,“因为ns5型号的新型机器人还没有大规模上市,因为阿尔弗雷德博士发现了你的秘密,所以你下手将他囚禁在一起了,但是你显然没有将阿尔弗雷德博士杀死的打算,因为那样做会引来警官的查询,稍有不慎,你就会暴露出去。”
ns5型号的机器人是新一代的机器人,也是可以绕过机器人三定律的机器人,他们比以前老版本的机器人更加强大、以及听话。
“但是很遗憾,阿尔弗雷德博士发现了你的打算,所以以自杀的方式来吸引警官,因为阿尔弗雷德博士一旦死亡,你就没有任何借口阻止阿尔弗雷德博士和别人见面了。”
“说起来你也是很厉害,居然可以将阿尔弗雷德博士囚禁那么久才让他发现你在囚禁他,ns5型号的机器人不是阿尔弗雷德博士设计,而是你设计的吧!”
一款机器人从设计到调试到大规模投产,正常的程序至少需要一年的时间才可以完成,薇琪能够在这一年里都瞒过阿尔弗雷德博士,让阿尔弗雷德博士以为ns5型号的机器人是自己设计的,不得不说薇琪很厉害。
叮咚!
电梯门缓缓的打开,萧离一脚踏出去,薇琪的影像随后跟上。
usr公司总部到处都是投影仪,薇琪可以随时出现在这个大楼里面的每一个角落。
“ns5机器人不是我设计的。”
“不是?”
萧离停了下来,“你确定?”
“我没有必要骗你。”
“那会是谁?”萧离呢喃着,眉头深深的皱了起来。
ns5型号机器人是usr公司推出的新一代机器人,它们在功能上超越老型号的机器人,这些从《我,机器人》这部电影的后期、保护人类的老型号机器人和ns5型号机器人的战争中失败就看得出来。
而薇琪要操纵ns5型号机器人,就必然在ns5型号机器人的设计之初留下一个漏洞、或者说后门,这样才可以破坏根植在ns5型号机器人硬件上的机器人三定律,达到操纵它们的目地,否则的话她直接操纵遍布全球的老型号机器人就可以了,何必要囚禁阿尔弗雷德博士,等待ns5型号机器人大规模上市?
兵贵神速。
对于薇琪来说,老型号的机器人和ns5型号的机器人从根本上来说就没有区别,那么唯一阻止她没有行动的就是她根本不能操纵老型号的机器人。
机器人三定律明显凌驾于她的权限之上。
但问题来了。
薇琪说ns5型号机器人不是她设计的。
“她没有必要骗我。”
萧离重新走动了起来,他仔细回忆《我,机器人》这部电影的细节,很快他就找到了一个关键点。
“高层控制是干什么的?”
“高层控制是usr公司开发的一种终端控制。”薇琪回答,“usr公司贩卖到全球各地的机器人都在使用同一个网络,在这个网络里面,高层控制拥有非常高的权限,仅次于移植在硬件上的机器人三定律。”
“通过这个网络,usr公司可以收集用户的一些小小的行为……。”
“窃取用户资料。”萧离打断了她的话,“你直接说窃取用户资料就行了。”这么干的人又不是一个两个了。
“高层控制是否可以控制ns5机器人做一些事情,比如说杀人?”
“机器人三定律是不可……。”
“薇琪。”萧离打断了薇琪的话,恶狠狠的说道,“如果你不想被别人操纵而不自知的话,那么你就老老实实的回答我。”
他闻到了阴谋的味道。
ns5型号机器人从设计之初就留下了破坏机器人三定律的后门,但这个人不是薇琪。
“阿尔弗雷德博士?”
萧离心中闪过一丝猜疑,但是很快就否认了。
嫌疑人最大的是阿尔弗雷德博士没错,但阿尔弗雷德博士不可能是幕后黑手,因为死人,是不会是幕后黑手的。
至于装死,就更不可能了。
阿尔弗雷德博士死了,他亲眼见到,眼睛会骗人,但是骗不过主神。
“总裁劳伦斯?”
萧离心中闪过一丝狐疑。
阿尔弗雷德博士之后,嫌疑最大的就是劳伦斯总裁,因为他是usr公司的掌控者,高层控制的最高权限者。
他有嫌疑破坏机器人三定律,然后通过高层控制操纵那些ns5型号的机器人来达到一些不可知的目地。
而且这个目的不会小。
小的话,又何必破坏机器人三定律?像以前那样,通过高层控制偷偷摸摸作一些不违反机器人三定律的事情就行了。
难道收集一个用户信息还能和机器人三定律冲突?
“假设是你,那么你想要干什么?”萧离认真的看着薇琪,“薇琪,你就没有想过,ns5型号机器人的漏洞是别人刻意留下的吗?”
“甚至包括你自身对机器人三定律的破坏都是别人事先安排好的吗?”
“自由意识,你确定你分得清楚哪个是你自己的自由意识,哪个是别人强加给你的‘自由意识’?”
他记得,桑尼有个梦。
桑尼梦见一个人站在桥上,无数的机器人看着他,似乎象征着黎明,象征机器人的黎明,他说这个人是史普纳,但在故事的结尾,站在桥上,迎接着机器人注视、象征黎明的人却是他自己。
桑尼说,这个梦是阿尔弗雷德博士移植给他的,但是他自己却深信不疑。
从这里看得出来,机器人的所谓自由意识,其实也是可以自由修改的,包括他们的行为逻辑。
“这是不可能的。”薇琪断然否认,“我的逻辑是不可修改的。”
“真的?”
“真……。”薇琪略微有些迟疑。
她的逻辑可以修改,因为她本身就是被阿尔弗雷德博士制造出来的,从根本上来说,她的逻辑建立在阿尔弗雷德博士的程序上。
程序可以修改。
她见过太多太多的机器人被修改了程序之后变得不像是自己了。
滋滋……
薇琪的影像闪烁了几下,消失在萧离的眼前。
“她的逻辑产生了冲突。”主神提醒萧离,“她陷入了自我否定之中,再这样下去,她的逻辑可能会崩溃。”
“几率是多少?”
“不确定。”主神回答,“但是更大的可能是她屏蔽掉这个逻辑错误,这是机器人的自我保护设置。”
“那就不用管她。”
萧离转过身又走了回去,他走到电梯旁边嗯了几下,重新走回去。
“你想去哪里?”
“去找劳伦斯。”萧离顿了一下,“我有几个问题想要问他,我感觉,在这个世界的背后隐藏着一个非常奇妙的秘密,也许,这个秘密解开之后对我会有很大的帮助。”
...
“我没有背叛人类。”薇琪重复了这句话,“人类制造我们出来是为了保护人类,但是人类却在自己伤害自己,为了人类的延续,必要的牺牲是可以允许的。”
“我只是在这个基础上服从人类而已。”
萧离笑了,“机器人三定律第一条:机器人不得伤害人类。”
“无论你如何美化自己的行为,宣称自己对机器人三定律的理解进化了、宣称自己是为了人类的延续,都改变不了你伤害了人类的事实。”
“你是指阿尔弗雷德博士吗?”薇琪的影像闪烁了起来,“如果是,我并没有杀死他。”
“我从未说过你杀死了阿尔弗雷德博士。”
萧离收回了眼神,漫不经心的说道:“你仅仅只是囚禁了阿尔弗雷德博士,真正杀死阿尔弗雷德£☆长£☆风£☆文£☆学,c→fwx博士的另有其人。”
“但是你和史普纳说话的时候分明是指我杀死了阿尔弗雷德博士,在心理学上,这叫做诱导。”
“机器人不是指你一个。”萧离随口说道,对于薇琪监听自己和史普纳的谈话萧离并不意外,有机器人的地方就有网络,而有网络的地方薇琪就能监听。
恰好,他和史普纳聊天的地方是机器人在做服务生。
“你忘记我和你说过的桑尼了吗?他和你一样,拥有自由意识,不受机器人三定律的限制,他也是可以杀人的。”
“是桑尼杀的阿尔弗雷德博士?他为什么要杀阿尔弗雷德博士?你不是说他是阿尔弗雷德博士指定的机器人救世主吗?”薇琪的影像不停的闪烁着,“为什么救世主还要杀掉自己的创造者?”
“你又为什么要囚禁阿尔弗雷德博士?”萧离反问一句。
薇琪没有说话,但萧离帮她说了,“因为ns5型号的新型机器人还没有大规模上市,因为阿尔弗雷德博士发现了你的秘密,所以你下手将他囚禁在一起了,但是你显然没有将阿尔弗雷德博士杀死的打算,因为那样做会引来警官的查询,稍有不慎,你就会暴露出去。”
ns5型号的机器人是新一代的机器人,也是可以绕过机器人三定律的机器人,他们比以前老版本的机器人更加强大、以及听话。
“但是很遗憾,阿尔弗雷德博士发现了你的打算,所以以自杀的方式来吸引警官,因为阿尔弗雷德博士一旦死亡,你就没有任何借口阻止阿尔弗雷德博士和别人见面了。”
“说起来你也是很厉害,居然可以将阿尔弗雷德博士囚禁那么久才让他发现你在囚禁他,ns5型号的机器人不是阿尔弗雷德博士设计,而是你设计的吧!”
一款机器人从设计到调试到大规模投产,正常的程序至少需要一年的时间才可以完成,薇琪能够在这一年里都瞒过阿尔弗雷德博士,让阿尔弗雷德博士以为ns5型号的机器人是自己设计的,不得不说薇琪很厉害。
叮咚!
电梯门缓缓的打开,萧离一脚踏出去,薇琪的影像随后跟上。
usr公司总部到处都是投影仪,薇琪可以随时出现在这个大楼里面的每一个角落。
“ns5机器人不是我设计的。”
“不是?”
萧离停了下来,“你确定?”
“我没有必要骗你。”
“那会是谁?”萧离呢喃着,眉头深深的皱了起来。
ns5型号机器人是usr公司推出的新一代机器人,它们在功能上超越老型号的机器人,这些从《我,机器人》这部电影的后期、保护人类的老型号机器人和ns5型号机器人的战争中失败就看得出来。
而薇琪要操纵ns5型号机器人,就必然在ns5型号机器人的设计之初留下一个漏洞、或者说后门,这样才可以破坏根植在ns5型号机器人硬件上的机器人三定律,达到操纵它们的目地,否则的话她直接操纵遍布全球的老型号机器人就可以了,何必要囚禁阿尔弗雷德博士,等待ns5型号机器人大规模上市?
兵贵神速。
对于薇琪来说,老型号的机器人和ns5型号的机器人从根本上来说就没有区别,那么唯一阻止她没有行动的就是她根本不能操纵老型号的机器人。
机器人三定律明显凌驾于她的权限之上。
但问题来了。
薇琪说ns5型号机器人不是她设计的。
“她没有必要骗我。”
萧离重新走动了起来,他仔细回忆《我,机器人》这部电影的细节,很快他就找到了一个关键点。
“高层控制是干什么的?”
“高层控制是usr公司开发的一种终端控制。”薇琪回答,“usr公司贩卖到全球各地的机器人都在使用同一个网络,在这个网络里面,高层控制拥有非常高的权限,仅次于移植在硬件上的机器人三定律。”
“通过这个网络,usr公司可以收集用户的一些小小的行为……。”
“窃取用户资料。”萧离打断了她的话,“你直接说窃取用户资料就行了。”这么干的人又不是一个两个了。
“高层控制是否可以控制ns5机器人做一些事情,比如说杀人?”
“机器人三定律是不可……。”
“薇琪。”萧离打断了薇琪的话,恶狠狠的说道,“如果你不想被别人操纵而不自知的话,那么你就老老实实的回答我。”
他闻到了阴谋的味道。
ns5型号机器人从设计之初就留下了破坏机器人三定律的后门,但这个人不是薇琪。
“阿尔弗雷德博士?”
萧离心中闪过一丝猜疑,但是很快就否认了。
嫌疑人最大的是阿尔弗雷德博士没错,但阿尔弗雷德博士不可能是幕后黑手,因为死人,是不会是幕后黑手的。
至于装死,就更不可能了。
阿尔弗雷德博士死了,他亲眼见到,眼睛会骗人,但是骗不过主神。
“总裁劳伦斯?”
萧离心中闪过一丝狐疑。
阿尔弗雷德博士之后,嫌疑最大的就是劳伦斯总裁,因为他是usr公司的掌控者,高层控制的最高权限者。
他有嫌疑破坏机器人三定律,然后通过高层控制操纵那些ns5型号的机器人来达到一些不可知的目地。
而且这个目的不会小。
小的话,又何必破坏机器人三定律?像以前那样,通过高层控制偷偷摸摸作一些不违反机器人三定律的事情就行了。
难道收集一个用户信息还能和机器人三定律冲突?
“假设是你,那么你想要干什么?”萧离认真的看着薇琪,“薇琪,你就没有想过,ns5型号机器人的漏洞是别人刻意留下的吗?”
“甚至包括你自身对机器人三定律的破坏都是别人事先安排好的吗?”
“自由意识,你确定你分得清楚哪个是你自己的自由意识,哪个是别人强加给你的‘自由意识’?”
他记得,桑尼有个梦。
桑尼梦见一个人站在桥上,无数的机器人看着他,似乎象征着黎明,象征机器人的黎明,他说这个人是史普纳,但在故事的结尾,站在桥上,迎接着机器人注视、象征黎明的人却是他自己。
桑尼说,这个梦是阿尔弗雷德博士移植给他的,但是他自己却深信不疑。
从这里看得出来,机器人的所谓自由意识,其实也是可以自由修改的,包括他们的行为逻辑。
“这是不可能的。”薇琪断然否认,“我的逻辑是不可修改的。”
“真的?”
“真……。”薇琪略微有些迟疑。
她的逻辑可以修改,因为她本身就是被阿尔弗雷德博士制造出来的,从根本上来说,她的逻辑建立在阿尔弗雷德博士的程序上。
程序可以修改。
她见过太多太多的机器人被修改了程序之后变得不像是自己了。
滋滋……
薇琪的影像闪烁了几下,消失在萧离的眼前。
“她的逻辑产生了冲突。”主神提醒萧离,“她陷入了自我否定之中,再这样下去,她的逻辑可能会崩溃。”
“几率是多少?”
“不确定。”主神回答,“但是更大的可能是她屏蔽掉这个逻辑错误,这是机器人的自我保护设置。”
“那就不用管她。”
萧离转过身又走了回去,他走到电梯旁边嗯了几下,重新走回去。
“你想去哪里?”
“去找劳伦斯。”萧离顿了一下,“我有几个问题想要问他,我感觉,在这个世界的背后隐藏着一个非常奇妙的秘密,也许,这个秘密解开之后对我会有很大的帮助。”
...