机器人现代法则：如何掌控人工智能

  
本书阐释了人工智能（AI）的独特之处，它可能导致哪些法律和道德问题，以及我们如  
何解决这些问题。它认为 AI 与先前其他的任何技术都有不同，因为它能够独立且不可预测地做出决策。这引发了三个问题：责任——如果 AI 造成伤害，谁来负责；权利——赋予 AI 法律人格的道德争议和务实理由；以及围绕人工智能决策的伦理规范。该书建议，为了解决这些问题，我们需要跨行业和国际层面制定新的制度和法规。本书包含对复杂主题的清晰解释，将会吸引不同学科的受众，无论是对法律、政治和哲学感兴趣的人士，还是对计算机编程、工程和神经科学感兴趣的人士。  

◆    名家推荐语

一部十分及时、发人深省且意义非凡的著作。

——[英]廖柏嘉勋爵（英国最高法院前院长）

人工智能系统的创建者、经营者和监管者的必备读物。其中的一些结论尽管不无争议，但均基于丰富的历史和社会分析，经过了充分的论证。

——[美]斯图尔特·罗素教授 (美国加州大学伯克利分校计算机科学教授、《人工智能：现代方法( 全球版 ) 》作者）

上乘之作！

——[英]克莱门特·琼斯勋爵(英国议会跨党派人工智能事务组主席)

一部涉猎广泛、学术底色浓厚的著作。

——[英]阿德里安·朱克曼教授( 牛津大学荣休法学教授）

◆    作者中文版推荐语

作为一项独一无二的技术，人工智能给世界各地的政府、企业和公众带来了新的挑战。近年来，各类组织开始认识到其中存在的困难，并创建了新的监管结构，但仍然有很多工作要做。未来几年，世界各地仍需确定如下问题的答案:谁对人工智能造成的损害负责? 人工智能应该被赋予权利吗?人工智能面对一些难题时应当如何作出决定?是否有些事务不应该让人工智能作出决定?

中国一直是人工智能监管领域的主导力量之一，随着这项技术的应用日益广泛，中国将继续成为人工智能治理思想和准则的重要来源。因此，我很高兴向大家推介《机器人现代法则》一书的中文版，以期增进对人工智能区险治理的理解与合作。

——[英]雅各布·特纳

  
雅各布·特纳（Jacob Turner），英国，律师、作家，其曾担任英国驻联合国大使的演讲撰稿人和英国最高法院法官的书记员。  

朱体正，1979年生，法学博士，上海海事大学法学院副教授，硕士研究生导师，民商法教研室主任。  

  

第1章  

引　言.//.001  

1.人工智能的起源.//.003  

2.狭义人工智能和广义人工智能.//.005  

3.人工智能之界定.//.005  

4.人工智能无处不在.//.014  

5.超级智能.//.017  

6.乐观主义者、悲观主义者和实用主义者.//.019  

7.此时不为，更待何时？.//.021  

8.机器人法则.//.022  

第2章  

人工智能的独特性.//.034  

1.创新的怀疑论者：“马法”（HORSES）与网络法.//.034  

2.基本法律概念.//.037  

3.挑战基本法律概念的人工智能的特质.//.050  

4.本章小结.//.059  

第3章  

人工智能的责任.//.070  

1.私法和刑法.//.070  

2.私　法.//.071  

3.刑　法.//.094  

4.有益行为的责任：人工智能和知识产权.//.097  

5.言论自由和仇恨言论.//.101  

6.本章小结.//.103  

第4章  

人工智能的权利.//.114  

1.权利是什么？.//.115  

2.动物：人类最好的朋友？.//.117  

3.人类是如何取得权利的.//.120  

4.为什么要赋予机器人权利？.//.122  

5.本章小结.//.140  

第5章  

人工智能的法律人格.//.149  

1.缺失的环节？.//.149  

2.人工智能的法律人格是否可能？.//.150  

3.我们应该赋予人工智能法律人格吗？.//.156  

4.仍然存在的挑战.//.167  

5.本章小结.//.174  

第6章  

创建监管机构.//.180  

1.为何须在立法前设计机构？.//.180  

2.应当跨界制定人工智能规则.//.184  

3.人工智能新法律应由立法机关而非法官加以制定 .//.188  

4.当前各国政府的人工智能监管趋势.//.191  

5.国际监管.//.216  

6.各国为什么同意全球准则？.//.218  

7.可用于人工智能的国际法工具箱.//.224  

8.人工智能法的实施和执行.//.228  

9.本章小结.//.233  

第7章  

控制人工智能的创建者.//.246  

1.创建者和被创建者.//.246  

2.道德监管机构的正当性（legitimacy）.//.247  

3.协同立法.//.250  

4.规制方案述评.//.260  

5.主题和趋势.//.276  

6.许可和教育.//.277  

7.对公众的监管：人工智能从业执照.//.286  

8.本章小结.//.288  

第8章  

控制人工智能.//.296  

1.识别法则.//.297  

2.解释法则.//.299  

3.偏见法则（Laws on Bias）.//.308  

4.限制法则.//.318  

5.死亡开关.//.324  

6.本章小结.//.333  

第9章  

结束语.//.343  

  
人工智能（AI）对全球经济、政府和社会各个领域都在产生深远影响。中国在人工智能领域成效显著，不仅技术研发世界领先，而且也走在相关法律和伦理标准制定的前沿。  
人工智能是一种独特的技术，因为它能够在无须人类明确预先编程的情况下作出决策。几千年来，法律制度用以整饬社会秩序，保障民众安宁，促进商业繁荣，但迄今为止，其主体只有一个，那就是人类。人工智能的兴起提出了新的问题，目前的法律制度只有部分与之适配。我们若要与人工智能长期共存，就要解决这些问题，包括人工智能行为的责任承担，人工智能应该如何作出决定，以及是否有些事务不能让人工智能作出决定。  
这些伦理难题可能并无正确与否的答案，但是，达致一种在任何采用人工智能的地区都具有正当性的解决方案，仍然必不可少。保持公众对所采用的新技术的信赖至关重要。  
在我们制定法律之前，首先要设计出有资格制定法律并有能力执行的机构。中国的公职人员培训，历史悠久，堪为典范，既注重技术管理，也强调善政的哲学基础。为应对如何掌控人工智能所带来的挑战，这些技巧尤为需要。  
人工智能是非自然实体通过评估作出选择的能力，简言之，就是指能够自主决策的系统。被称为“专家系统”或使用纯符号推理（即“若X，则Y”）的技术不属于这一定义，因为它们具有确定性，对于给定的输入，始终有给定的输出。  
目前最突出、应用最广泛的人工智能技术是机器学习（也包括深度学习和强化学习）。然而，上述定义与技术无关，因为它不关注特定的人工智能或数据分析方法。明确这一点十分重要，因为中国采取的任何政策都要尽可能地面向未来，使其不仅适用于现在的技术，而且适用于未来几年可能会兴起的新技术。  
由于目前的法律和伦理都是以人类决策作为前提条件的，所以人工智能系统产生了新的问题，这些问题包括：  
如果人工智能造成损害，谁应当承担责任？  
如果人工智能创造了有价值的产出，而这些产出可能受到知识产权法或言论自由条款的保护，那么这些产出应当归属于谁？  
人工智能在存在竞争关系的价值之间进行权衡而作出决策时，应当考虑哪些因素？  
某些领域是否应当禁止使用人工智能，或人类应当强行干预？