我们误会了“机器人三原则”

“第一，机器人不得伤害人类，或看到人类受到伤害而袖手旁观；第二，机器人必须服从人类的命令，除非这条命令与第一条相矛盾；第三，机器人必须保护自己，除非这种保护与以上两条相矛盾。”阿西莫夫的“机器人三原则”是《我，机器人》留给后世最为宝贵的财富。

但正因为它太出名，很多人误以为阿西莫夫的“三原则”是控制机器人思维逻辑的唯一真理，甚至有不少翻译者将其上升至“准则”或“定律”的层面，这实在是对“机器人三原则”与《我，机器人》这部小说的误读。

《阿西莫夫：机器人短篇全集》

【美】艾萨克·阿西莫夫

出版时间：2016年9月

《阿西莫夫：机器人短篇全集》中的小说《我，机器人》是由艾萨克·阿西莫夫于1940年创作的。作者陆续在科幻杂志上发表了9篇关于自己构想未来机器人生活的短篇小说。这9篇小说的内容看似相对独立，但又由共同的逻辑架构完美地整合在一起。

阿西莫夫是俄裔美国科幻作家，他穷其一生致力于科幻写作。其代表作包括《基地》系列、《机器人》系列和《银河帝国》三部曲，曾七次荣获雨果奖、三次获得星云奖。其中，《我，机器人》在引言部分提及的“机器人三原则”被后世人工智能生产与研究者奉为经典。由该书改编、威尔·史密斯主演的同名电影已于2004年上映。

“机器人三原则”贯穿于《我，机器人》的每一个章节，但阿西莫夫从未将其奉为普世真理。事实上，在一个个由人类与机器人的关系所引发的故事中，我们可以发现，作者着力刻画的恰恰是由于“三原则”中的矛盾内容所导致的一系列逻辑漏洞，印证的是其不完美性。例如，当面对“只有伤害一个人时才能避免更多人受到伤害”，机器人又应该如何去做？

由于“机器人三原则”的不完善，《我，机器人》还深刻揭露了人类与机器人看待彼此时产生的错综复杂的情感纠葛。在执行人类命令的过程中，一些机器人开始对自己的诞生产生了困惑与怀疑。“我从哪里来”成为机器人想要知道的问题。例如，一个名为“库蒂”的机器人反对接受自己是人类制造的事实，而认为自己和人类一样是由“主”创造出来的。尽管制造它的科学家竭尽全力证明自己才是机器人的造物主，甚至当着“库蒂”的面造出了一个一模一样的机器人，但“库蒂”仍然坚持认为人类和机器人都是“主”的造物。这就像最早创立并崇拜宗教的人类一样，误以为自己是由神所创造，殊不知是自己创造出了神。人类的造物和人类自己有时就是那么的相似。

另一些机器人尽管依然根据“三原则”遵循着人类的命令，但会对这些命令产生自己的情绪，如喜怒哀乐。虽然这种情绪不直接危害人类的安全，但在一直将机器人视为助手和仆从的人类看来，这无疑是一种危险的僭越。在“说谎话的机器人”一章中，机器人“赫比”悲惨的命运既令人同情，又发人深省。“赫比”能够读懂人类的心思，甚至可以为了取悦人类而制造善意的谎言。这令受其影响的人类既惊恐又愤怒。最终，“赫比”被一位机器人心理学家利用“三原则”产生的逻辑悖论所毁灭。

在阿西莫夫设想的世界里，机器人最初是作为儿童的保姆而诞生的；后来慢慢开始被用于参与更加复杂、危险的任务，例如勘探外星球上的矿物；而发展到最后，机器人在外观和能力上与人类已别无二至，甚至可以代替人类从政。在“证据”一章中，人类选民对一位亲民能干的市长候选人产生怀疑，认为他是混迹于人类中的机器人。尽管他对此百般辩解，甚至故意打了选民一拳（违背机器人不得伤害人类的原则）以示清白，但依然无法消除人类与机器人之间的隔阂。

幸运的是，《我，机器人》里的机器人大体上对人类是和善、友好的，即使逐渐觉醒了自我意识，它们也大多依从于人类社会的生存法则与道德伦理。然而，伴随着科技的发展，现实社会中日渐完善、壮大的机器人，其能力远远超越了人类的想像。人类对于机器人的恐惧与戒备之心也日益增加。在阿西莫夫之后，为了防备由于“机器人三原则”的逻辑漏洞所导致的机器人失控，科学家与科幻作者们不遗余力地对“三原则”进行修复完善，进而又提出了所谓的“第零原则”“第四原则”“第五原则”……而在这一宏伟、非凡的历史进程中，人们会永远铭记阿西莫夫的远见：因为直到《我，机器人》出版9年后，世界上第一台工业机器人才被生产出来。

节选

格洛莉的目光落在六七个机器人身上，它们正在屋子当中的圆桌旁工作。她惊讶和怀疑地睁大眼，房间太大了，她不能完全相信，但有一个机器人很像……很像……是的，就是他！

“罗比！”空气中响起她的一声尖叫。桌旁的一个机器人打了个哆嗦，丢下了手里的工具。格洛莉高兴得发狂了。在她的父母亲还没有来得及制止她之前，她钻过防护栏杆，轻轻地往下一跳，跳到了低1米多的地板上，挥舞着双手，朝着她的罗比跑去。三个成人吓呆了。因为他们看到了激动的格洛莉所没看到的东西：一台巨型的自动拖拉机轰隆隆地正朝她开过来。

几分之一秒钟后，威斯顿醒悟过来了，可是这几分之一秒决定一切。格洛莉已经是追不上了。威斯顿在一瞬间翻过了栅栏，这显然是毫无希望的尝试。斯特拉兹先生拼命挥动双手，向工人示意制止拖拉机。但是这些工人也是一般人，他们执行这个命令需要一定的时间。

只有罗比毫不迟疑地、准确地行动起来，它迈开金属腿猛跨着大步迎着它的小主人飞奔而来。说时迟，那时快，它在毫不降低速度的同时，一把将格洛莉抱起来，快得使她喘不出气。威斯顿还没明白过来眼前发生的一切，只是感觉到罗比已经从他身边冲过去了，于是不知所措地站住了。这时，拖拉机从格洛莉站过的地方开过去，只比罗比晚了半秒钟，一直冲过3米多才发出吱吱声刹住车。

格洛莉喘过气来，挣脱父母的拥抱，高兴地奔向罗比。对她来说只发生一件事情——她找到了自己的朋友。

可是威斯顿太太脸上轻松的表情很快就变成怀疑。她向着丈夫转过身来，顾不得激动和散乱的头发，气势汹汹地问：“这是你安排的吧？”

乔治擦去头上的汗。他的手还在发抖，颤动的嘴唇只能发出勉强的微笑。威斯顿太太继续说：“罗比不是为工厂工作而设计的。你故意安排它坐在这里，让格洛莉找到它，这是你有意安排的。”

“不错，是我。”威斯顿说，“可是，格雷斯，我哪里知道见面会这么狂热！而且罗比救了她的命，这一点你得承认。你不能再把它打发走了。”

格雷斯·威斯顿沉思了一会儿。她心慌意乱地朝格洛莉和罗比望去。格洛莉是那么紧地搂着罗比的脖子，如果这是有血和肉的人，一定会窒息的。女孩感到无比幸福，她俯在机器人的耳朵上，兴奋讲着许多傻话。罗比用它那铬钢铸造的、能将5厘米粗的钢条拧成蝴蝶结的手温柔地抚摸着女孩。它的眼睛发出暗红的光芒。

“好吧。”威斯顿太太终于开口了，“就让罗比留在咱们家吧，直到铁锈把它锈坏的那一天。”

人类会被自己的造物毁灭吗？

机器人由人类所创造，而人类自其诞生之日起便时刻警惕这些聪明能干的机械拥有真正的智慧，并走向自己的对立面。“机器人三原则”是人类约束机器人的“紧箍咒”，但人类也始终忧心着机器人冲破束缚“大闹天宫”，颠覆人类对地球的主宰的那一天。这也成为无数疯狂导演们的灵感源泉：如同人们对自然灾害电影的偏爱一般，没有什么比用大银幕呈现机器人毁灭人类的悲剧更加刺激的了。

黑客帝国

生活在矩阵中的年轻黑客尼奥发现，看似正常的世界似乎被某种力量控制着，便在网络上调查此事。而生活在现实中的人类反抗组织船长莫菲斯也一直在矩阵中寻找传说中的救世主。尼奥在莫菲斯的指引下了解到，原来他一直生活在虚拟世界中……

终结者

终结者是一类覆盖人类组织（或其他模仿材料）的机器人，在外观上与人类完全一致，便于完成刺杀人类的任务。操纵它们的是高智能化电脑程序——“天网”。这个由人类打造的AI最终产生了自我意识，并将人类视为敌人，最终毁灭了人类文明……

复仇者联盟：奥创纪元

奥创是由超级英雄发明的助手机器人。与一般机器人不同的是，奥创被载入了人类的脑电波。产生自我意识的奥创厌倦了超级英雄守护的世界，它制造出大量自己的分身，试图创造由机器人统治的世界。