遵循艾阿西莫夫机器人三定律的智能机器人能否实现？
梁丽珍
1997 年5月，IBM 的计算机程序 “深蓝”，以 2.5:3.5 （1胜2负3平）在正常时限的比赛中击败了等级分排名世界第一的棋手——加里·卡斯帕罗夫。2016年3月，谷歌（Google）旗下DeepMind公司开发的围棋人工智能程序——阿尔法狗，成功打败围棋世界冠军、职业九段选手李世石，以4:1的总比分获胜。不少职业围棋手认为，阿尔法围棋的棋力已经达到甚至超过围棋职业九段水平，在世界职业围棋排名中，其等级分曾经超过排名人类第一的棋手柯洁。人类开始感受到了智能机器人的威胁，并且更加认真地思考智能机器人是否将会伤害人类，取代人类。
很多人以为智能机器人离自己相当遥远，其实它早就渗透在我们的生活当中，无人驾驶车、驾驶飞机平安降落的自主系统、扫地机器人、苹果的Siri，这些已经是智能机器人的雏形。它们具有一定的自我判断能力的，能应对变化的实际情况。当然，它们离实现与人类的完全无障碍沟通还有很长的距离。所以，现在讨论机器人的伦理问题已经不再是无稽之谈了。
实际上，艾萨克·阿西莫夫，美国著名的科幻小说作家，1942年在《我，机器人》的第四个机器人短篇《转圈圈》中，已经提出了 “机器人学三定律”，他认为，所有的机器人程序都必须考虑到这三条定律，目的是为了约束这些自主机器的行为，让它们服从以保护人类为目的的强制性道德准则。这三大定律是：
第一定律：机器人不得伤害人类，或坐视人类受到伤害；
第二定律：除非违背第一法则，否则机器人必须服从人类的命令； 第三定律：在不违背第一及第二法则下，机器人必须保护自己。
此后，阿西莫夫又添加了一条定律：
第零定律：机器人不得伤害人类族群，或因不作为使人类族群受到伤害。 但是，现在的机器人拥有的功能和人们当初设想的不太一样。科技并没有让我们凭空创造出和自己一样的东西，我们并不能像对待奴隶或佣人那样命令并指使它们。现代社会中广泛使用的机器人的工作非常专业化，它们不具备与人类用通俗语言交流的能力。我们无法要求它们遵守阿西莫夫的机器人定律，是因为它们完全不能理解这些定律的意义。如果想要应用机器人定律，智能系统必须具备
逻辑分析和推理能力，并且能够预测行为所导致的后果，以判断人类下达的指令是否和任何一条定律相悖。
也就是说，我们必须把人类思考行动的每一步，用逻辑算法清晰地描述出来，并且这套算法不可以存在任何矛盾，把这样逻辑算法输入到机器人系统当中，这样机器人才能按照这套算法进行相应的人类活动。但是人类的活动千变万化，而且我们有所谓的直觉、第六感，这种判断其实是有一定的逻辑依据，但目前我们都很难用算法却一一描述出来。
举一个人类思考简单的例子，选择一家餐厅吃饭，我们会考虑距离、食物味道、环境、停车位、候餐时间等因素。如果我们将其变成一套可以让机器人执行的算法，但机器人是不能理解什么才是合适距离，什么才是满意的环境，什么才是好吃的食物，也就是说我们必须要用定量的语言表述。例如距离在3公里范围内，大众点评食物味道和环境因素大于或等于4星，停车位不少于50个，平均候餐时间不长于15分钟。这样，机器人才能够做出类似于人类的判断。但是算法之间确极有可能存在矛盾。
例如在经典的哲学问题上——“你是一辆快速行走的列车上的列车长，列车的刹车已经坏了无法使用，你发现前方轨道上有5个修路工人，向左拐的轨道中有1个修路工人，此时你可以选择向左拐或者是继续向前行驶。这时候你应该怎么办？”，我们的无人驾驶汽车（无人驾驶汽车已经具有初步的智能系统）遇到这种情景应该如何处理？这种情况下无论如何都要违背阿西莫夫的机器人三大定律。这种情况下，我们无法用清晰的逻辑算法描述应该如何处理，因为作为人类本身，我们都无法说明哪一种情况才是真正正确的选择。
但是，我们回头想一下，把所有逻辑关系都清晰列举出来让机器人执行的这种模式是否正确。回头看一下，我们对小孩的教育，难道我们是把所有的规矩都列出来，然后再每一个小孩子去执行的吗？显然不是。人类一生里面的学习，有理论知识的学习，也就是说确实有各种成形的方法和理论，告诉我们一步一步应该怎么做，但是这是不多的，完全不变通的理论应用是少之又少的。其实人类的学习过程中，更多是感知活动。例如，小孩子学说话的过程，其实就是不断地从视觉口型和听觉声音上，去不断地感受，其大脑通过无数次情景数据的收集，最后归纳出不同的情景应该说什么话，并在之后的应用中不断地修正。其实，这个
过程，就是现在我们所说的大数据应用的过程。
所谓大数据，就是数量得足够大，把数据的偏差能基本消除，得到一个相对规律的趋势。回到之前的例子当中，在选择一家餐厅吃饭时，如果收集了大量人们的用餐数据（尤其是与我本人相类似的人的用餐数据），那么这个机器人就可以给我推送一些较为符合我要求的餐厅。也就是说，这个机器人不再需要完整地了解我为什么这么选择，不知道了解我整个思考的逻辑过程，也不需要输入一套完整的不矛盾的算法规则，它就可以为我推荐一些合适的餐厅。它收集的用餐数据越多，那推荐餐厅的准备性就越高，出现偏差的可能性就越小。又如在刚刚的哲学案例中，我们也不需要告诉机器人，是应该直行撞向5个修路工人，还是应该向左转撞向1个修路工人。它会收集相关的数据，知道这种情况下大多数人是怎么选择的，从而做出自己的决定。当然我们不能保证大多数人的行为就是正确的，但是我要说的是，这种大数据的应用，恰恰是人类通过感知行为来进行学习的过程，具有这种学习模式的机器人才能真正称之为智能机器人。
如果我们将某个人（下文称为人类A）一生里所有行动的信息，包括起床时间、说话语气等全部生活习惯都以数据信息的方式进行记录，并将这些数据输入机器人的系统，那么理论上可以理解为这个机器人的行为举动将会与人类A的行为相近，当输入的信息量无限大时，机器人的行为就无限接近于人类A。尽管收集的人类A的行为数据当中必然会存在矛盾之处，但是当数据足够大时，这些偶然的偏差性就会被排除掉，使得机器人的行为无限接近于人类A。而且机器人并不单纯地去模仿人类A的行为，它应用的其实是大数据的预测功能，也就是说这个机器人可以在没有遇到过的情景中按照人类A的思维方式做出反应。举个例子，假设人类A实际上是生活是16世纪的欧洲人，在21世纪的中国的这个机器人也可以知道做出人类A穿越来到21世纪的中国后可能会有的反应。
那么，智能机器人是否能够超越人类的智慧，完全取代人类呢？我对此给出的答案是两面的。我认为，未来智能机器人是可以超过单个人的智慧的，因为智能机器人集合的智慧决非是来自于一个人，它是将许多人许多不同领域的知识和经验进行集合，因此它是很有可能超过单个人的智慧的。但是，正由于它是通过这种大数据的预测应用模式，因此它能预测到的是一种渐变性的变化，按原有的思维模式猜想可能会遇到的问题，但是它是很难存在天马行空的突破性创新的，
而由于人类的多样性和复杂性，其中的一些人很可能会由这些天马行空，完全不一样的创新思维，因此智能机器人是难以超过整个人类的智慧的。
智能机器人已经不再是天荒夜谈了。我们再也不能阻止智能机器人到来的脚步，但是我们可以更好利用科学，使得智能机器人成为一个优秀的公民。
遵循艾阿西莫夫机器人三定律的智能机器人能否实现？
梁丽珍
1997 年5月，IBM 的计算机程序 “深蓝”，以 2.5:3.5 （1胜2负3平）在正常时限的比赛中击败了等级分排名世界第一的棋手——加里·卡斯帕罗夫。2016年3月，谷歌（Google）旗下DeepMind公司开发的围棋人工智能程序——阿尔法狗，成功打败围棋世界冠军、职业九段选手李世石，以4:1的总比分获胜。不少职业围棋手认为，阿尔法围棋的棋力已经达到甚至超过围棋职业九段水平，在世界职业围棋排名中，其等级分曾经超过排名人类第一的棋手柯洁。人类开始感受到了智能机器人的威胁，并且更加认真地思考智能机器人是否将会伤害人类，取代人类。
很多人以为智能机器人离自己相当遥远，其实它早就渗透在我们的生活当中，无人驾驶车、驾驶飞机平安降落的自主系统、扫地机器人、苹果的Siri，这些已经是智能机器人的雏形。它们具有一定的自我判断能力的，能应对变化的实际情况。当然，它们离实现与人类的完全无障碍沟通还有很长的距离。所以，现在讨论机器人的伦理问题已经不再是无稽之谈了。
实际上，艾萨克·阿西莫夫，美国著名的科幻小说作家，1942年在《我，机器人》的第四个机器人短篇《转圈圈》中，已经提出了 “机器人学三定律”，他认为，所有的机器人程序都必须考虑到这三条定律，目的是为了约束这些自主机器的行为，让它们服从以保护人类为目的的强制性道德准则。这三大定律是：
第一定律：机器人不得伤害人类，或坐视人类受到伤害；
第二定律：除非违背第一法则，否则机器人必须服从人类的命令； 第三定律：在不违背第一及第二法则下，机器人必须保护自己。
此后，阿西莫夫又添加了一条定律：
第零定律：机器人不得伤害人类族群，或因不作为使人类族群受到伤害。 但是，现在的机器人拥有的功能和人们当初设想的不太一样。科技并没有让我们凭空创造出和自己一样的东西，我们并不能像对待奴隶或佣人那样命令并指使它们。现代社会中广泛使用的机器人的工作非常专业化，它们不具备与人类用通俗语言交流的能力。我们无法要求它们遵守阿西莫夫的机器人定律，是因为它们完全不能理解这些定律的意义。如果想要应用机器人定律，智能系统必须具备
逻辑分析和推理能力，并且能够预测行为所导致的后果，以判断人类下达的指令是否和任何一条定律相悖。
也就是说，我们必须把人类思考行动的每一步，用逻辑算法清晰地描述出来，并且这套算法不可以存在任何矛盾，把这样逻辑算法输入到机器人系统当中，这样机器人才能按照这套算法进行相应的人类活动。但是人类的活动千变万化，而且我们有所谓的直觉、第六感，这种判断其实是有一定的逻辑依据，但目前我们都很难用算法却一一描述出来。
举一个人类思考简单的例子，选择一家餐厅吃饭，我们会考虑距离、食物味道、环境、停车位、候餐时间等因素。如果我们将其变成一套可以让机器人执行的算法，但机器人是不能理解什么才是合适距离，什么才是满意的环境，什么才是好吃的食物，也就是说我们必须要用定量的语言表述。例如距离在3公里范围内，大众点评食物味道和环境因素大于或等于4星，停车位不少于50个，平均候餐时间不长于15分钟。这样，机器人才能够做出类似于人类的判断。但是算法之间确极有可能存在矛盾。
例如在经典的哲学问题上——“你是一辆快速行走的列车上的列车长，列车的刹车已经坏了无法使用，你发现前方轨道上有5个修路工人，向左拐的轨道中有1个修路工人，此时你可以选择向左拐或者是继续向前行驶。这时候你应该怎么办？”，我们的无人驾驶汽车（无人驾驶汽车已经具有初步的智能系统）遇到这种情景应该如何处理？这种情况下无论如何都要违背阿西莫夫的机器人三大定律。这种情况下，我们无法用清晰的逻辑算法描述应该如何处理，因为作为人类本身，我们都无法说明哪一种情况才是真正正确的选择。
但是，我们回头想一下，把所有逻辑关系都清晰列举出来让机器人执行的这种模式是否正确。回头看一下，我们对小孩的教育，难道我们是把所有的规矩都列出来，然后再每一个小孩子去执行的吗？显然不是。人类一生里面的学习，有理论知识的学习，也就是说确实有各种成形的方法和理论，告诉我们一步一步应该怎么做，但是这是不多的，完全不变通的理论应用是少之又少的。其实人类的学习过程中，更多是感知活动。例如，小孩子学说话的过程，其实就是不断地从视觉口型和听觉声音上，去不断地感受，其大脑通过无数次情景数据的收集，最后归纳出不同的情景应该说什么话，并在之后的应用中不断地修正。其实，这个
过程，就是现在我们所说的大数据应用的过程。
所谓大数据，就是数量得足够大，把数据的偏差能基本消除，得到一个相对规律的趋势。回到之前的例子当中，在选择一家餐厅吃饭时，如果收集了大量人们的用餐数据（尤其是与我本人相类似的人的用餐数据），那么这个机器人就可以给我推送一些较为符合我要求的餐厅。也就是说，这个机器人不再需要完整地了解我为什么这么选择，不知道了解我整个思考的逻辑过程，也不需要输入一套完整的不矛盾的算法规则，它就可以为我推荐一些合适的餐厅。它收集的用餐数据越多，那推荐餐厅的准备性就越高，出现偏差的可能性就越小。又如在刚刚的哲学案例中，我们也不需要告诉机器人，是应该直行撞向5个修路工人，还是应该向左转撞向1个修路工人。它会收集相关的数据，知道这种情况下大多数人是怎么选择的，从而做出自己的决定。当然我们不能保证大多数人的行为就是正确的，但是我要说的是，这种大数据的应用，恰恰是人类通过感知行为来进行学习的过程，具有这种学习模式的机器人才能真正称之为智能机器人。
如果我们将某个人（下文称为人类A）一生里所有行动的信息，包括起床时间、说话语气等全部生活习惯都以数据信息的方式进行记录，并将这些数据输入机器人的系统，那么理论上可以理解为这个机器人的行为举动将会与人类A的行为相近，当输入的信息量无限大时，机器人的行为就无限接近于人类A。尽管收集的人类A的行为数据当中必然会存在矛盾之处，但是当数据足够大时，这些偶然的偏差性就会被排除掉，使得机器人的行为无限接近于人类A。而且机器人并不单纯地去模仿人类A的行为，它应用的其实是大数据的预测功能，也就是说这个机器人可以在没有遇到过的情景中按照人类A的思维方式做出反应。举个例子，假设人类A实际上是生活是16世纪的欧洲人，在21世纪的中国的这个机器人也可以知道做出人类A穿越来到21世纪的中国后可能会有的反应。
那么，智能机器人是否能够超越人类的智慧，完全取代人类呢？我对此给出的答案是两面的。我认为，未来智能机器人是可以超过单个人的智慧的，因为智能机器人集合的智慧决非是来自于一个人，它是将许多人许多不同领域的知识和经验进行集合，因此它是很有可能超过单个人的智慧的。但是，正由于它是通过这种大数据的预测应用模式，因此它能预测到的是一种渐变性的变化，按原有的思维模式猜想可能会遇到的问题，但是它是很难存在天马行空的突破性创新的，
而由于人类的多样性和复杂性，其中的一些人很可能会由这些天马行空，完全不一样的创新思维，因此智能机器人是难以超过整个人类的智慧的。
智能机器人已经不再是天荒夜谈了。我们再也不能阻止智能机器人到来的脚步，但是我们可以更好利用科学，使得智能机器人成为一个优秀的公民。