概述
机器人三大定律：也叫做机器人三大法则，机器人三原则，或者阿西莫夫原则。
艾萨克·阿西莫夫 Issac Assimov，1920~1992年，俄裔美国作家，犹太人，世界顶级科幻大师，与儒勒·凡尔纳Jules Gabriel Verne、H·G·威尔斯Herbert George Wells并称为科幻历史上的三巨头，与罗伯特·海因莱因Robert Anson Heinlein、亚瑟·克拉克Arthur Charles Clarke并列为科幻小说的三巨头。
同时阿西莫夫是一位超级多产的作家，他的格言是“不为别的，只为写作而生”，“如果不写作，我就会死去”。他一生创作和编辑过得书籍超过500册，他的机器人系列、银河帝国系列、基地系列小说共同构成宏大的未来宇宙，被誉为“科幻圣经”。
其中机器人三大定律便出自阿西莫夫1942年发表的短篇小说《转圈圈（Runaround，或译作环舞）》，这部小说后来被收入《我，机器人（I，Robot）》短篇集中。
一、三大定律的诞生
第一定律：机器人不得伤害人类，或坐视人类受到伤害；
第二定律：除非违背第一定律，否则机器人必须服从人类命令；
第三定律：除非违背第一或第二定律，否则机器人必须保护自己。
《我，机器人（I，Robot）》短篇集包含了9个关于机器人的小故事，用以深入阐明机器人三大定律，这9个故事是：
- 《罗比Robbie》发表于1940年，小女孩格洛莉娅和她的保姆机器人罗比的情感故事。
- 《转圈圈Runaround》发表于1942年，在水星上SPD-13机器人速比迪失控的故事。
- 《推理Reason》发表于于1941年，太空站QT1型机器人小可爱策谋造反的故事。
- 《捉兔子Catch that Rabbit》发表于1944年，行星矿场带有6个从属机器人的DV-5机器人戴夫行为异常的故事。
- 《说假话的机器人Liar!》发表于1941年，具有心灵感应能力的HRB-34型机器人引发人类混乱的故事。
- 《捉拿机器人Little Lost Robot》发表于1947年，在超空间研发基地寻找丢失的一台NS-2机器人内斯特的故事。
- 《逃避Escape！》发表于1945年，美国机器人公司的主脑机器人尝试开发超空间飞船的故事。
- 《证据Evidence》发表于1946年，市长候选人斯蒂芬·拜尔利被人怀疑是机器人而引发的一系列故事。
- 《换个角度The Evitable Conflict》发表于1950年，斯蒂芬·拜尔利拜访全球四大区域调查超级电脑机体异常情况的故事。
如果要深入理解机器人三大定律，完整阅读这9个故事是非常必要的，您可以容易的在网络上搜索到原文阅读，或者在喜马拉雅APP找到相关音频内容。
2004年上映的威尔史密斯主演的电影《机械公敌I，Robot》主要创意即取自于阿西莫夫短篇集的第5个故事《捉拿机器人》，但从影片的全篇来看，则是蕴含着超越机器人三大定律的内容，包含了来自机器人第零定律的概念。
二、三大定律的完善
2010年后，美国科幻小说作家米奇·扎克·赖希特（Mickey Zucker Reichert）为这个系列又撰写了三部前传，分别是《保护 to protect》、《服从 to obey》、《存续preserve》。
机器人三大定律中存在着很多致命问题，这其实在阿西莫夫的《我，机器人》系列小说中就有了各种展示。
《I，Robot》本是另一名科幻小说作家Eando Binder在1939年发表的机器人科幻小说，这是一个关于机器人Adam link被创造出来然后又陷入谋杀嫌疑的故事，听上去有些像科学怪人弗莱肯斯坦。
阿西莫夫从这本小说中获得灵感并开始创作机器人系列故事的第一篇《罗比》，当1950年他的这些短篇故事被结集出版的时候，他建议书名叫做《心灵与钢铁Mind and Iron》，但最终被出版商使用了同名的《I，Robot》。
由于阿西莫夫在小说中提出了著名的机器人三大定律，所以有很多人愿意把他称为机器人之父。然而在阿西莫夫心中，机器人之父的称谓大概应该归属于于约瑟夫·恩格伯格Joseph F. Engelberger和马文闵斯基Marvin Minsky，他曾在小说中特别向他们致意。
马文闵斯基也是公认的人工智能之父，是人工神经网络的奠基人，阿西莫夫曾半开玩笑说他是世界上罕见的比自己更聪明的两个人之一。物理学家约瑟夫·恩格伯格则在1950年开发了美国第一台工业机器人，他作为机器人之父最是实至名归。
1985年，出版商将阿西莫夫关于机器人主题的众多短篇和长篇小说整合成为机器人系列丛书出版，除了上面提及的《我，机器人》短篇集之外还包括：
- 《正子人》发表于1992年，改编自1976年他的短篇《双百人The Bicentennial Man》，正子人即使用正电子大脑的机器人。这本书讲述了机器人Andrew执着努力最终成为人类的故事。 1999年罗宾威廉姆斯主演的《机器人管家Bicentennial Man》就是基于这个小说改编。
- 《地球母亲Mother Earth》发表于1948年，讲述在未来将正电子机器人引入到人类生活引发的问题，地球与太空族发生战争的故事。
- 《钢穴The Caves of Steel》发表于1954年，第一本关于人形机器人丹尼尔R. Daneel Olivaw的小说，也开启了丹尼尔和伊利亚·贝莱Elijah Baley的传奇探案冒险故事。
- 《裸阳The Naked Sun》发表于1957年，伊利亚·贝莱三部曲之二。
- 《镜像Mirror Image》发表于1972年，关于丹尼尔和伊利亚贝莱的短篇故事。
- 《曙光中的机器人The Robots of Dawn》发表于1983年，伊利亚·贝莱三部曲之三，具有心灵感应能力的机器人吉斯卡R. Giskard Reventlov开始登场。
《机器人与帝国Robots and Empire》发表于1985年，伊利亚·贝莱三部曲的续集，故事发生在贝莱死后一个多世纪，丹尼尔仍然是故事的主角。
阿西莫夫在《机器人与帝国》中借机器人丹尼尔之口提出机器人第零定律，凌驾于之前三大定律之上。
这个第零定律是：
机器人不得伤害整体人类，或坐视整体人类受到伤害。
加上第零定律，机器人下三大定律修正版如下：
第零定律：机器人不得伤害整体人类，或坐视整体人类受到伤害；
第一定律：机器人不得伤害人类，或坐视人类受到伤害；
第二定律：除非违背第一定律，否则机器人必须服从人类命令；
第三定律：除非违背第一或第二定律，否则机器人必须保护自己。
机器人三大定律对后来的机器人学，尤其是机器人伦理学的研究有着重要的影响，也成为众多机器人科幻作品中对机器人的基本约束。同时，机器人三大定律不仅仅是阿西莫夫机器人系列小说的核心思想，更是成为贯穿银河帝国和基地两大系列的重要线索。
可以说，人形机器人机·丹尼尔R. Daneel Olivaw和机·吉斯卡R. Giskard Reventlov是阿西莫夫银河宇宙的最高存在，他们主导着人类银河历史的发展，也贯穿阿西莫夫小说的三大系列。
丹尼尔是奥罗拉星球科学家汉·法斯托夫Dr. Han Fastolfe制造的一台人形机器人。他有着和人一样的外貌，甚至强于常人的逻辑推理能力，可以说是具有完美人类理性的机器。
丹尼尔行为表现上和人类的唯一区别就是他必须严格遵守机器人三大定律，不能伤害任何人类，必须听从人类命令，最后才是保全自己。
吉斯卡外形只是普通的机器人，同样出于法斯托夫之手，但他的小女儿瓦西莉亚Vasilia Fastolfe无意中为吉斯卡赋予了心灵感知和心灵操控的能力，它可以感知和修改人类的情绪，进而控制人类。
丹尼尔和吉斯卡长期以来都是一对好搭档，在吉斯卡死去之前它也为丹尼尔开启了心灵感知和操控能力。
关于丹尼尔的故事主要包含在阿西莫夫的伊利亚贝莱三部曲及其一部续集中。贝莱是一名星际警察，三部曲主要讲述了他和丹尼尔一起侦破探案的传奇故事。
也正是伊利亚贝莱让地球人意识到要走出地球到银河系殖民才能继续生存下去，他的儿子本特利·贝莱Bentley Baley开启了第二次星际殖民，创建了贝莱星球Baleyworld。
阿西莫夫的银河帝国系列包含了三部小说，按照故事发生的时间顺序是：
- 《繁星若尘The Stars, Like Dust 》
- 《星空暗流The Currents of Space》
- 《苍穹一粟Pebble in the Sky》
阿西莫夫的基地小说系列包含了七部作品，三部正传：
- 《基地Foundation》，基地克服建立之初遇到的几个危机，势力逐步扩张到周围星系。发表于1951年
- 《基地与帝国Foundation and Empire》，基地与帝国的战争，变异人骡消灭基地短暂统一银河。发表于1952年
- 《第二基地Second Foundation》，骡寻找传说中的第二基地并最终失败。发表于1953年
两部后传：
- 《基地边缘Foundation’s Edge》，格兰·崔维兹Golan Trevize探索第二基地和盖亚星球的故事。发表于1982年
- 《基地和地球Foundation and Earth》，格兰·崔维兹Golan Trevize寻找地球并最终与丹尼尔见面的故事。发表于1986年
两部前传，讲述丹尼尔协助下，哈利· 谢顿Hari Seldon创造心理史学Psychohistory筹备基地的故事：
- 《基地前奏Prelude to Foundation》。发表于1988年
- 《迈向基地Forward the Foundation》。发表于1992年
阿西莫夫宇宙包含了前后数万年的故事，起于人类对机器人的应用，止于银河第二帝国的建立，大致的脉络如下：
1、人类开始大规模应用各种机器人。见《我，机器人》。
2、太阳系行星际开发和移民。见《我，机器人》。
3、超空间跳跃飞行技术突破，恒星际旅行变为现实。见《我，机器人》。
4、第一波星际移民50个恒星系，这些移民成为后来半机械化具有数百年寿命的太空族，由机器人仆人服侍。见伊利亚贝莱三部曲及续集。
5、太空族逐渐丧失创造力和探索欲望，地球人突破太空族的约束，开启第二波人类太空殖民，这些移民都是普通人类，他们只使用机器而拒绝使用机器人。他们逐渐占领银河系。见伊利亚贝莱三部曲及续集。
6、第一银河帝国的建立，并维持了上万年的和平发展。见银河帝国系列。
7、由于重要科技能力（如核能）的丧失，第一帝国逐渐走向衰落。在丹尼尔的帮助下心理史学先知哈利· 谢顿Hari Seldon预言到第一银河帝国的衰落，并创建了两个基地作为第二银河帝国的种子。见基地系列。
8、经过数百年的努力，两个基地克服重重危机终于在丹尼尔引导下创建了第二银河帝国，人类和银河系都迈入了全新纪元。见基地系列。
阿西莫夫的小说也是好莱坞科幻电影的重要来源，经典电影系列《星际迷航Star Trek》和《星球大战Star War》都从中受到了诸多启发。
贯穿阿西莫夫宇宙的线索看似是两个银河帝国的发展历程，但实际更是人类从地球走出太阳系，走向银河系的过程，也可以说是人类对机器智能从依赖到融合，再到拒绝，到最后无形中被机器的超人工智能引导向更高层次生命形式的过程。
从表面看，聚变核能源的使用决定了两个银河帝国的兴亡，但实际上，改变人类历史的却是充满科幻色彩的心灵控制能力，无论是机器人吉斯卡，还是第二基地，盖娅星人和丹尼尔，这些才是决定故事走向的关键人物。这些人看起来很像是《星球大战》电影中的绝地武士，但在阿西莫夫笔下，他们的理论基础更强，也更加合理。
然而，容易被忽略的一个关键真相是，人类之所以能够走出太阳系开启银河系，赖以成真的一个关键点就是超级人工智能主脑破解了超时空跳跃技术，建造了第一艘恒星际旅行飞船。
三、三大定律的潜在问题与延伸
机器人三大定律（含第零定律，下同），可以说每一条都包含着潜在的问题。
第零定律：机器人不得伤害整体人类，或坐视整体人类受到伤害；
首先，人类整体是个抽象概念，如何界定是否伤害人类整体？很多独裁者和罪犯都打着优化人类种群、解救全人类的旗号发起战争或进行大肆屠杀。
好莱坞谍战大片中不乏这样的反面角色，甚至于《复仇者联盟》中的大BOSS灭霸一个响指消灭50%人类也有着名正言顺的说辞。
电影《机械公敌》中的机器人主脑VIKI经过推理就得出结论，由于人类惯于发动战争和屠戮，所以要想保护人类整体不受损害，最有效的方法就是把人类都控制起来，由机器人统治世界。
同样造反的还有《2001太空漫游》中的哈尔9000、《流浪地球》中的莫斯以及《机器人总动员Wall·E》中的AUTO等。
第零定律往往成为机器人或者野心家杀人放火的最佳借口。
第一定律：机器人不得伤害人类，或坐视人类受到伤害；
作为人类，可能都曾经被拷问过“老婆和妈妈掉水里先救谁”这个人生难题，类似情节也出现在《机械公敌》中。威尔史密斯扮演的警察跳入水中营救落水女童，在水下即将抓到女童手的时候，机器人将他强行拉了出来。
阿西莫夫《我，机器人》中的短篇《丢失的机器人》中由于机器人必须和人类一起在微辐射的环境下工作，这些辐射对人体是有一定伤害的，但由于第一定律的原因导致机器人不断地把人类工作者拉出工作环境，最终他们不得不裁剪第一定律只保留“机器人不得伤害人类”，去除不能坐视人类受到伤害这一规则。
同样的，如果你想开发一直能够玩SM游戏的机器人，这个第一定律也让你变得头疼。
电车难题显示了另一困境：如果改变电车轨道将杀死一个人，不改变电车轨道将杀死五个人。机器人会改电车变轨道吗？如果那一个人是机器人的主人，你还希望他改变电车轨道吗？
另外一个矛盾是这个“伤害”是否包含“情感”伤害？而一旦包含情感伤害的话，那将变得更加难以界定，甚至导致机器人寸步难行。
第二定律：除非违背第一定律，否则机器人必须服从人类命令；
依照阿西莫夫小说的解释，机器人总是设定优先服从主人的命令，主人不在场的情况则会服从其他人类的命令，这实际上很容易发生矛盾。
阿西莫夫的另一个设定是，命令的强弱程度也有着重要影响，甚至如果你对机器人发出了一个不太强硬的命令，当机器人发现执行这个命令的时候会违反第三原则（保全机器人自身），那么就会产生矛盾陷入死循环。这正是他的短篇小说《绕圈圈》所展现的情节。
机器人终究是被定义为一种工具，菜刀可以切菜也可以杀人，关键在于机器人接受的是什么样的命令。经典科幻片《终结者1》施瓦辛格扮演的机器人T800接受命令去追杀人类，而《终结者2》中这个角色却大反转成为保护人类的正面角色，这也说明机器人本是并无正邪之分。
虽然第二定律在第零定律和第一定律之下，但并非不可超越，因为人类的命令可能掩盖机器人所能获得的前后信息，从而暗藏杀机。比如命令机器人在酒中放入某种它所不知的毒药并让它端给客人，同样可以造成杀人。
第三定律：除非违背第一或第二定律，否则机器人必须保护自己。
在《转圈圈》中已经涉及到由于人类命令不够强而导致机器人在某些情况下优先考虑保全自身而导致命令被放弃的情况。
第三定律的问题经常出在对第一和第二定律的理解问题，在《丢失的机器人》中，内斯特机器人就为了保全自身而和人类玩起了猫捉老鼠游戏。
在《机器人与帝国》中丹尼尔也选择为了人类的未来（第零原则）而选择优先保护机器人吉斯卡而被迫伤害人类。
在阿西莫夫提出以后，很多科幻作家对机器人三大定律提出了增补和修改。
在1990年代，罗杰·麦克布莱特·艾伦Roger MacBride Allen撰写了阿西莫夫宇宙故事的三个外传，《卡利班Caliban》, 《地狱Inferno》和《乌托邦Utopia》。他设定的机器人定律和阿西莫夫略有不同：
第一定律：机器人不得伤害人类。（去除了不能坐视不管）
第二定律：除非违背第一定律，否则机器人必须与人类协作。（不再强调被命令）
第三定律：否则机器人必须保护自己避免伤害。（人类无法命令机器人摧毁自己）
第四定律：除非违背以上定律，机器人可以做自己喜欢的事。
在这里，机器人被视为几乎和人类同等的尊重，是人类的伙伴而不再是工具或奴隶。
在基地续集后传三部曲《基地的恐惧Foundation’s Fear》,《 基地的混乱Foundation and Chaos》 和《基地的胜利Foundation’s Triumph》中，描述了以机·丹尼尔为代表的机器人和机·卢杜威克R. Lodovic。丹尼尔一派遵循第零定律，坚持让机器人干涉人类社会发展以避免战争伤害。卢杜威克一派则认为尊重人类自己的选择任其发展，同时它们认为不能为了人类的利益而牺牲机器人和外星生物，它们还发明了凌驾于第零定律之上的负一定律：
机器人不能伤害智慧生物，也不能坐视智慧生物受到伤害。A robot may not harm sentience or, through inaction, allow sentience to come to harm.）(
其他一些被附加的定律还包括：
- Lyuben Dilov提出的第四定律，在所有情况下，机器人必须明确自身作为机器人的身份。（A robot must establish its identity as a robot in all cases.）
- Nikola Kesarovski提出的第五定律，机器人必须清楚自己是机器人(A robot must know it is a robot.）
- Harry Harrison提出第四定律，机器人必须再生产，但不能违反第一和第二定律（A robot must reproduce. As long as such reproduction does not interfere with the First or Second or Third Law.）
- Hutan Ashrafian提出第六定律即AIonAI定律，被赋予人类理性和道德感的机器人，应互相以兄弟相待（All robots endowed with comparable human reason and conscience should act towards one another in a spirit of brotherhood.）
但是，无论如何，机器人定律都包含着众多的歧义和漏洞，主要集中在以下几个方面：
- 由于缺乏上下文或信息不对称导致机器人可能根本不知道自己违反了定律。 比如命令机器人向墙后面扔石头而不告知可能会砸死墙后面的人。
- 对人类定义模糊不清。如何判断对方是一个人类而不是人形机器人？外星人是不是人？外国人是不是人？在《机器人与帝国中》索拉力星的机器人就被设定为只识别那些会使用本星球方言的星际移民，而其他人类则不被视为人类。
- 对机器人定义模糊不清。如果一个机器人认为自己也是人类，那么第一定律就会对自身生效，而第二定律就会变得无效。
- 对行为结果难以评估。什么样的行为对人类整体才是有害的？像《机械公敌》中VIKI认为把每个人都关押起来以确保安全不受损害是否合理？强制把跳入水中救人的警察拉上岸来是否正确？
如果继续沿着阿西莫夫的方向走下去，也许注定无解，因为机器总是运行在条件信息完整的情况下，而现实世界永远要在信息不完整的情况下尝试做出最优决策，在现实中没有假设，更无法用理性决断出结果是否最优。
四、机器人定律总结
阿西莫夫完善版的机器人定律：
第零定律：机器人不得伤害整体人类，或坐视整体人类受到伤害；
第一定律：机器人不得伤害人类，或坐视人类受到伤害；
第二定律：除非违背第一定律，否则机器人必须服从人类命令；
第三定律：除非违背第一或第二定律，否则机器人必须保护自己。
罗杰·麦克布莱特·艾伦的机器人定律：
负一定律：机器人不能伤害智慧生物，也不能坐视智慧生物受到伤害。
第一定律：机器人不得伤害人类。（去除了不能坐视不管）
第二定律：除非违背第一定律，否则机器人必须与人类协作。（不再强调被命令）
第三定律：否则机器人必须保护自己避免伤害。（人类无法命令机器人摧毁自己）
第四定律：除非违背以上定律，机器人可以做自己喜欢的事。
其他：
第四定律：在所有情况下，机器人必须明确自身作为机器人的身份（Lyuben Dilov）
第五定律：机器人必须清楚自己是机器人（Nikola Kesarovski）
第四定律：机器人必须再生产，但不能违反第一和第二定律（Harry Harrison）
第六定律：即AIonAI定律，被赋予人类理性和道德感的机器人，应互相以兄弟相待（Hutan Ashrafian）
标签：演进,定律,阿西莫夫,机器人,概述,人类,伤害,三大 来源： https://blog.csdn.net/weixin_38633659/article/details/112783380
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。