【盾铁】合理猜测 03 覆盖前电位命令(7)
2023-04-09 来源:句子图
“我们有办法删除记忆空间,虽然作为高智能来说也没有太多必要;”托尼转向他,“但你能删除得了残留情感吗?”
娜塔莎问:“难道被人类恶意毁坏的情感会比普通机械劳损毁坏要严重些?”
“事实上,那非常痛苦,比你直接命令它去死来得痛苦多了,”托尼解释,“你被你最爱的对象折磨致死,想想那种感觉。”
而一直沉默的史蒂夫这时候说:“⋯⋯听起来机器人和人类真的没有什么本质差别。”
又是一个机器人式的发言,托尼有点挫败了,罗杰斯刚刚完全没有像娜塔莎、山姆那样提出疑问,好像他对此深有体会似的。人类——托尼自己也不太能把自己划分到这个范畴里——他一向以为不能理解这种,至少一开始不能。就像你不太能理解鞋子每天被踩在脚下是开心还是痛苦一样,机器人与人类从诞生的一瞬起就不存在公平。
“所以,得出什么结论了?”埃弗雷特不耐烦地催促。“别告诉我你们觉得它们很无辜?拜托,我就懂了一点:它们恨我们。它们因为恨而杀了主人,这不代表它们就没有罪了。”
托尼絮絮叨叨:
“拜托,别那么人类地下结论。你在对付机器人,至少得知道它们在想什么。从目前看,这说明它脑中的情感电荷超负,累积变质生成了独有的正子径路,居然凌驾在第一法则之上。有这种可能,但凌驾之后仍然应该毁坏它本身的数据逻辑链以及正子脑。拜托,这可是核心问题,不是炸平了那里就能解决的——它是机器人,也是电脑。如果弄不清楚,而他已经生成了程序的话,可能会变成病毒,感染所有联网的机器人都有变成暴力分子的可能性。你一定不想看到这个。”
“我不相信它们杀了所有还留在阿尔法三上来不及逃走的人,”史蒂夫说,“即使人类也不可能所有都参与了机器人虐待;而机器人也不可能所有都做得到违反第一法则。”他看了看托尼,“你认为呢?”
“从我们最早观察到的那个机器人来看,有可能。”
“能不能从他的数据流里找找看,哪怕微小的线索也可以,剩下的人——哪怕只有一个——还有没有生还的可能?”
“好的,队长。”
他为了这个命令冒险去攻击核心数据。作为星际间有着时间差的数据交互,这是很危险的行为。不过他可是托尼·斯塔克,而一个这样珍贵的机器人样本值得他去冒这个险。
“找到了。”他低声说,“我透过奥创的管理程序调用他下属那十万个机器人的监控探测数据。有人类生命反应。”
“有多少?!”
“现在⋯⋯还不清楚。”铁人的白色眼睛闪烁了一下,“我必须、我可以再深入一些或者——”
“这就够了,托尼。”史蒂夫命令他,“停下来,保护你自己。”
“就差一点了,相信我我可以——”
“托尼!!停下来!!”
娜塔莎问:“难道被人类恶意毁坏的情感会比普通机械劳损毁坏要严重些?”
“事实上,那非常痛苦,比你直接命令它去死来得痛苦多了,”托尼解释,“你被你最爱的对象折磨致死,想想那种感觉。”
而一直沉默的史蒂夫这时候说:“⋯⋯听起来机器人和人类真的没有什么本质差别。”
又是一个机器人式的发言,托尼有点挫败了,罗杰斯刚刚完全没有像娜塔莎、山姆那样提出疑问,好像他对此深有体会似的。人类——托尼自己也不太能把自己划分到这个范畴里——他一向以为不能理解这种,至少一开始不能。就像你不太能理解鞋子每天被踩在脚下是开心还是痛苦一样,机器人与人类从诞生的一瞬起就不存在公平。
“所以,得出什么结论了?”埃弗雷特不耐烦地催促。“别告诉我你们觉得它们很无辜?拜托,我就懂了一点:它们恨我们。它们因为恨而杀了主人,这不代表它们就没有罪了。”
托尼絮絮叨叨:
“拜托,别那么人类地下结论。你在对付机器人,至少得知道它们在想什么。从目前看,这说明它脑中的情感电荷超负,累积变质生成了独有的正子径路,居然凌驾在第一法则之上。有这种可能,但凌驾之后仍然应该毁坏它本身的数据逻辑链以及正子脑。拜托,这可是核心问题,不是炸平了那里就能解决的——它是机器人,也是电脑。如果弄不清楚,而他已经生成了程序的话,可能会变成病毒,感染所有联网的机器人都有变成暴力分子的可能性。你一定不想看到这个。”
“我不相信它们杀了所有还留在阿尔法三上来不及逃走的人,”史蒂夫说,“即使人类也不可能所有都参与了机器人虐待;而机器人也不可能所有都做得到违反第一法则。”他看了看托尼,“你认为呢?”
“从我们最早观察到的那个机器人来看,有可能。”
“能不能从他的数据流里找找看,哪怕微小的线索也可以,剩下的人——哪怕只有一个——还有没有生还的可能?”
“好的,队长。”
他为了这个命令冒险去攻击核心数据。作为星际间有着时间差的数据交互,这是很危险的行为。不过他可是托尼·斯塔克,而一个这样珍贵的机器人样本值得他去冒这个险。
“找到了。”他低声说,“我透过奥创的管理程序调用他下属那十万个机器人的监控探测数据。有人类生命反应。”
“有多少?!”
“现在⋯⋯还不清楚。”铁人的白色眼睛闪烁了一下,“我必须、我可以再深入一些或者——”
“这就够了,托尼。”史蒂夫命令他,“停下来,保护你自己。”
“就差一点了,相信我我可以——”
“托尼!!停下来!!”