▼高科技条件下，人类面临何种挑战？彗星来袭，恐龙灭绝，瘟疫肆虐，战争频发……这些都曾给地球及整个人类带来毁灭性的灾难。如今，人类还有哪些近在咫尺的危险？答案是：人工智能、基因编辑和现代战争。这些都是以高科技为支撑，利用不好的话，都足以操控、替代甚至毁灭人类。这是机会，也是预警；不是科幻，胜似科幻。

▼关注人的意义和丰盛的生命。葆有好奇心，拥抱技术带来的便利与开放，但不忘反思所技术瓦解的力量。为了避免“兴于智能，衰于智能”“生于好奇，死于好奇”，作者论证并倡导一种超越逐物、好奇和享受之上的节制、反思和创造意义的人生情怀，即培育一种关注丰盛的生命和非物化的幸福观。

▼提出一种底线思维和预防性的道德与法律的设想。人工智能高速和无边界的发展可能导致的人的受控，基因编辑的过度开发可能危及人类基因库和自然的生物世界，面对这种种困局，作者力倡一种底线思维和预防性的道德与法律，让精神支撑道德规则，以规则为立法奠基，底线伦理和中西文明传统智慧，可以规约我们人类的本性和可能的作为，并为世界各国协同参与构建预防性的伦理界限与法律规章提供精神资源。

◆为什么它值得推荐？

▼思想锐利和文笔凝练雅致的伦理学家、专栏作者和译者，撰写过厚重严谨的学术著作《良心论》和通俗畅晓的《伦理学是什么》《珍重生命》，也有畅销30年的翻译作品《正义论》（主译）和温家宝总理读过100多遍的《沉思录》，还是《南方周末》《新京报》等专栏作者，担任过中央电视台“道德观察” (最初名为“公民观察”)栏目的总策划。曾获首届正则思想学术奖，第一届、第九届国家图书馆文津图书奖，国家图书奖提名奖、全国输出版优秀图书奖等。

▼有力回应赫拉利《人类简史》《未来简史》、刘慈欣《三体》，心怀人类命运之忧思。与一般的科技专家、史学家不同，伦理学家何怀宏教授关注的不只是高科技带来的感官与智能的满足，而是关注智能机器对人的高级的精神意识、创造力、想象力与情意无限的爱欲的损害。着眼于技术突破人性尊严和人的生存的困境，作品回顾了“轴心时代”文明对人性尊严的表彰与忧思，并发出拷问：何以为人？人将何为？

▼一种科技伦理的前沿观察。这不是一部技术性作品，而是一部出色的研究人工智能、基因编辑等高科技伦理和人文思想作品。立足于人类的生命安全、人生的创造意义和身心幸福，作者以敏锐的视角关注和研究技术的*新进展、突破人性的危机和给社会带来的严重后果，提出一种底线的预防办法和人类协同的道德与法律设想方案。人脑不断植入芯片，或能成为长生*老的超人，但我们还会有属人的丰沛感受和无限创意吗？人工智能给世界带来巨大便利，但会不会某一天越过奇点转而操控、替代并加害人类？基因编辑生殖细胞，或能治疗许多疾病，但会不会危及人类基因库与自然的生物世界？凡此种种，对人类来说，到底是福音还是噩耗？

始于惊奇，终于敬畏。伦理学家、北大哲学系何怀宏教授从底线伦理和中西传统文化智慧的角度考察了人工智能和基因技术与我们的现实关系，并提出了预防性的道德与法律规范设想。高科技的种种挑战使我们不得不思考：何以为人，何以为物，人曾何为，人将何为？！何怀宏, 北京大学哲学系教授，主要从事伦理学及人生哲学、社会与文明历史等领域的研究。重要学术著作有《良心论》、《世袭社会》、《选举社会》、《底线伦理》、《道德·上帝与人》、《生生大德》、《新纲常》、《正义：历史的与现实的》、《转型中国的社会伦理》（英文）等。另有哲学随笔和文集《若有所思》《心怀生命》《比天空更广阔的》《中国的忧伤》《独立知识分子》等。编有《西方公民不服从的传统》《生态伦理》《平等二十讲》《域外文化读本》等。译著主要有《正义论》（合译）、《无政府、国家与乌托邦》、《沉思录》、《道德箴言录》、《伦理学体系》（合译）等。一位严谨治学、长于思考的优秀学者。

——季羡林何以为人 人将何为

——人工智能的未来挑战 / 001

人物、人际与人机关系

——从伦理的角度看人工智能 / 049

奇点临近：福音还是噩耗

——人工智能可能带来的最大挑战 / 077

回到“轴心时代”思考人工智能

——一些有关文明的感想 / 109

人工智能与底线思维 / 136

一种预防性的伦理与法律

——后果控制与动机遏制 / 152

基因工程伦理中的动机分析与后果预防 / 159

星空与道德律

——思考《三体》提出的道德问题 / 188

现代伦理如何应对高科技时代 / 215

影响战争的距离 / 240后 记

在这篇“后记”里，我想简要地叙述一下我思考本书所考虑的问题的缘起，也谈谈我理解这些是什么性质的问题；高科技的挑战是不是真实的危险；人在应对这些挑战方面可以有何作为；或者如人们常说，人类总是可以大有作为的，但这作为是不是也需要在方向上有所调整。而隐藏在最深处的一个终极和底线的问题可能是：如果我们在应对挑战方面完全无所作为，甚至走错方向，人类还会有未来吗？或者说会有怎样的未来？

我在2017年以前对技术问题并没有特别的关注，写过一篇《战争手段的发展与道德理性的成长》，做过一次“对这个世界的失望与惊奇”的讲演，也在主编《生态伦理》中了解到某些技术对生态环境的严重影响，但并没有做过专门的研究，甚至很长一段时间里不喜欢看科幻电影和小说，因为觉得那太虚幻，而现实生活中有许多紧迫的问题，直到后来认识到：技术才是我们时代的“最大真实”。

专门的思考开始于为2017年世界哲学大会启动仪式召开的学术研讨会准备论文，因为会议的主题是“学以成人”，而当时正逢机器的自我深度学习见出成效，还有阿尔法打败了人类的世界围棋冠军等事件，使我觉得似乎机器倒是在努力“学以成人”，当然，只是努力“成人”的一个方面——智能。因此开始阅读相关书籍，努力思考人与物，古代人和现代人作为的差别，警觉到近代以来人们精力投向的一个根本转折，就是开始了以驾驭物质和技术为主导的价值追求。而这种追求如果越来越强，一意疾行，有可能导致在推进文明的同时也走向文明衰退。

而我自己的经历可能也对我转向关注技术的飞跃与文明的命运起了作用。作为一个在乡下长大的孩子，从童年到“文化大革命”初失学的几年，经常去捡柴、抓鱼、采摘。高中的时候先是认真地务农一年，然后是泛泛地学工一年，接触到了一些不同的农活和工种，然后当兵十年，再进入大学读书，20世纪90年代开始就进入大家现已熟知的生活了，使用日益更新的电脑、手机，也开始游走世界。

像我这一代中国人，可能几乎都有这样一种相当长的文明史的体验：从农业文明到工业文明，再到今天的高科技文明，甚至最前面还有一个“采集狩猎”的阶段。一个人在几十年间似乎就走过了人类上万年的文明历程，尝试过文明各个阶段的滋味。

因此，可以说，我这一代人可能会更加明显地感觉到我们这个时代的变化之大和技术文明的发展速度之快，而且是越来越快。人类自然科学的兴起和繁荣也就四百来年，与科技紧密结合的工业革命的兴起还不到300年，而目前最有力地推动着我们的经济发展和社会改变，也最影响我们的日常生活的那些新兴高端技术如现代信息和医疗技术，它们的诞生和飞速发展甚至大多还不到100年。

我最初的感觉是惊奇乃至惊喜，直到现在我想我也还保留着一种对新技术的强烈好奇。但是，对发展如此之快的经济、对我们生活具有如此笼罩性影响的技术将把我们带向何方，我的心里却同时也生起一种越来越大的隐忧。尤其是看到人工智能包含着一种产生超越于人的智能的机器的可能性、基因工程包含着一种改变人这个物种或干脆创造一个新物种的可能性的时候，我就更感到不安了。当透过各种技术的可能性深察技术本质的时候，我开始感到畏惧。不再是国家，也许技术将变成一个远比国家更巨大而强有力的“利维坦”，我们将由它全面照管，但可能也要将权利乃至主体性全都交出。

有关技术及其与人的关系问题不是仅仅和某个国家，甚至某个文明有关的问题，而是和整个人类及其全球化文明有关的问题。这首先是人类的控物能力与自控能力是否相称的问题。打个比方，人类今天发展出来的高端技术似乎有点像孙悟空手里的金箍棒，这根金箍棒能够越变越大，越变越威力无穷。但是，拿着这根棒子的人却不是孙大圣那样的神灵，而就是一个人，当金箍棒变得很大很沉的时候，他就几乎举不起来了，更谈不上挥洒自如。他如果要拼蛮力使用，就很可能伤毁自己。而且，他只知道怎么将它变大，却不知道怎么把它变小（今天的技术可能停滞或倒退吗？），不能像孙悟空那样可以将其收缩自如，乃至塞入耳中，一切恢复原状。而这根金箍棒又还是这人的唯一生存之道乃至唯一乐趣，它既是工具，又是武器，还是玩具，他离开它还没法生活。而这金棒子会随意变化，看来也通点灵性，最后大概会鄙视这个人，乃至取而代之。