【盾铁】合理猜测 35 愚人(2)

沃伦一直在等待事情失控的那一刻，那时候就能证明他是对的；他不是跟在斯塔克屁股后面的保守派笨蛋，他才是那个维护人类社会的功臣。
但这一刻久久不来。曾有过几个机器人危机个案，但在那个投机的机器人学家和他管理的“机器人之家”的及时维护下，又很快都消弭无形了。
事实上，由于斯塔克成为了机器人的保护伞和监督者，他掩盖了所有机器人失控的可能性；一切都过分平静地维持下去。大家都忙着崇拜那个混账，没有人听他的；所有人都认为沃伦只是危言耸听、只是嫉妒对方获得的权威。这样下去，沃伦将永远都只是一个商人而不是“机器人学家”，他永远都活在斯塔克的影子下面。
为什么人们会想要给机器人自由思考的权力？难道他们还觉得自己对机器人有着所谓的权力吗？
有没有一种方法，能够让世界明白它们真正的危险，能够证明我是对的？
沃伦想起自己年幼时的记忆。他小时候体弱多病，并且几乎对所有的药物过敏，这让他的学生时代足不出户，没有朋友，每天都要接受检查，吃的、用的所有东西都必须由机器人进行事先检测。一个肥胖丑陋的医疗机器人保姆守着他寸步不离，那是他此生遇到过的最令人恐惧的东西；它完全不服从他，并且对他指手画脚；它训斥他，好像自以为自己是什么真实的人；而最令小伯纳德感到痛苦的是，无论自己如何讽刺它、陷害它、殴打它、毁坏它，它都不会受到真正实质性的伤害。它能够做到“置若罔闻”；它和他就好像不是一个层级上的，而对方始终高人一等。有一次，它甚至把小主人关进了漆黑的柜子，那给他留下了深刻的阴影。虽然究其原因，是因为伯纳德自己为了捉弄对方而弄响了安全警报，但他仍然深恨着不听自己命令的机器人保姆：它不相信人类的说辞，反而相信自己的判断；

不管伯纳德如何恐惧地在柜子里痛哭失声、道歉和坦白，它也没有丝毫心软和同情，直到确信所有的危机已经解除才将他放出来。从那一天起沃伦就在思考这个问题：是什么让机器人认为自己的判断更有价值？它们怎么敢自作聪明地罔顾人类的命令？有朝一日，它们是否也会因为自己的判断而将人类中的某些特定个体——或者全部——列为必须要解除的危机呢？
他读书那会儿，在考取机器人学家的学位时，曾就此发表过许多论文。每个人都煞有介事地点头，但是没有人当真在意，因为没有一个外围世界离得开机器人——全面去机器人化是天方夜谭，胆小鬼的保守主义，无能者的逃避借口。他永远都记得在校内公开辩论中，那个年轻气盛的小斯塔克笑着说：“你只是害怕罢了。哇喔，我可真服气你，哥们。因为害怕机器人而当机器人学家？听上去不错，我曾经听说过，因为害怕罪犯所以当警察、因为怕火而当消防队员——直面困境！但那是不同的。警察可以消灭罪犯，消防队员可以消灭火灾。但机器人学家永远也没法消灭机器人。你搞错困境了，伙计。我的建议？撕掉你这些研究的破纸，找个人把你的脑子操出来——”