编者的话：太空飞行、外星智慧探索将不止于科幻作品？生物技术、网络技术、人工智能等将改变人类命运？《DK宇宙大百科》作者、前英国皇家学会会长、天文学家马丁·里斯的新作——“智识书系”之《人类未来》新近引进出版，这是一部立足科学、思考地球面临挑战的科普读物。在AI迅猛发展的当下，是时候再度打量人类的未来。现从书中摘选部分有关人工智能的章节：
一些科学家担心计算机可能会形成“自己的思想”，并追求某种对人类怀有敌意的目标。一个强大的未来人工智能是会保持温顺，还是会“无法无天”?它会理解人类的目标与动机，并与之保持一致吗?它是否能学习到足够的道德和常识，从而“明白”道德和常识应该在何种情况下超越其他动机?如果它能影响物联网，那么它也许可以控制整个世界。它的目标也许会与人类的愿望背道而驰，甚至可能将人类视为障碍。人工智能必须有一个“目标”，但真正难以传授的是“常识”。人工智能不应该痴迷于追求目标，而应当在其即将违背道德规范的时候适可而止。
计算机的运算技能将飞速提升，甚至包括创造力。智能手机已经让我们不必再记住日常生活中的事物，并且可以近乎实时地访问全世界的信息。很快，语言之间的相互翻译也会变得司空见惯。下一步可能是“插入”扩展记忆或将语言技能直接输入大脑——尽管可行性尚不明确。如果我们能用电子植入物增强我们的大脑，便可以将我们的思想和记忆下载到机器中。如果当前的技术趋势不受阻碍地发展下去，那么在目前在世的人中，有些人将会获得永生——至少在有限的意义上——他们下载的思想和记忆将会成为一个不受躯体约束的生命。寻求此类永生的人，用老式的唯心主义的说法，就是“去到了另一边”，实际是圣经中的句子，意为“让我们去到（海的）那一边”。
然后，我们将面临关于个人身份的经典哲学问题。如果你的大脑被下载到机器中，那它还会是“你”吗?你会因自己的躯体即将被销毁而感到轻松吗?如果有好几个从“你”克隆的人，那又会发生什么?此外，是否我们的感官输入，以及与外部世界的互动，对于我们的存在而言实际上如此重要，以至于那样的转变不仅令人厌恶，而且也是不可能实现的?这些是哲学家们的古老难题，但实践伦理学家也许很快就需要解决这些难题，因为它们很可能关系到如何选择21世纪将会制造出的真正人类。
所有这些有关2050年后的猜测，我们并不知道哪些可能会发生，而哪些依然将是科幻小说，就像我们不知道是否要认真对待弗里曼·戴森有关少年生物黑客的设想，这里有很大的意见分歧。某些专家，比如伯克利大学的斯图尔特·拉塞尔、DeepMind的德米斯·哈萨比斯，他们认为，人工智能领域就像合成生物技术，迫切需要一些方针来指导“负责任的创新”。此外，AlphaGo实现了其创造者认为需要花费数年时间才能达到的目标，这一事实令DeepMind的员工更加看好人工智能向前推进的速度。
但是其他人，就像机器人专家罗德尼·布鲁克斯认为，这些担忧距离变成现实还太远，不值得为其忧虑，与其担忧人工智能，还不如担忧真正的愚蠢。谷歌等公司与学术界和政府密切合作，引领人工智能的研究。这些部门现在用同一个声音说话，强调需要促进“强大且有益”的人工智能，但如果人工智能从研发阶段转变到跨国公司的潜在利润来源时，局势也许会变得紧张。
假如人工智能系统具有人类意义上的自主意识，那么这一切还会重要吗?在计算机科学的先驱艾兹赫尔·戴克斯特拉看来，这是一个伪问题：“机器能否思考，就像潜艇能否游泳的问题一样至关重要。”鲸鱼和潜艇都能在水中前进，但它们的方式在本质上是完全不同的。然而对许多人而言，智能机器是否拥有自我意识确实是一个至关重要的问题。在一个场景中，未来的进化主要基于电子实体，而不是我们头骨里的“湿件”。如果我们的能力被那些既无法欣赏它们置身其中的这个宇宙的奇迹，也无法像人类一样“感知”外部世界的“僵尸”所超越，那似乎很令人沮丧。尽管如此，社会依然将被自主机器人改造，即使陪审团尚未决定，它们是否真正拥有我们所谓的理解力，或者只是所谓的“白痴学者”——有能力而没有理解力。
一个多才多艺的超级智能机器人，也许是人类需要创造的最后一项发明。一旦机器人超越了人类的智能，它们就可以自行设计和组装更加智能的新一代机器人。有一些理论科学的“主要内容”困扰着今天的物理学家，如时间旅行、空间翘曲，以及超复杂性，但也许能被新机器人利用并改变物理世界。
《人类未来》
断断续续用了几个晚上看完了天体物理学家马丁·里斯的《人类未来》一书，抚卷常思，人类有未来吗？如果有的话，这种未来是什么，又掌握在哪些人的手中？
近年来，《十问：霍金沉思录》《给未来人类的终极12问》《宇宙》《霍金的宇宙》等科普读物集中面世。我从中不仅知晓了科学知识和科学发展的历程，更感叹于宇宙的惊奇，人类的孜孜以求，科学的破朔迷离，以及科学家们的博古通今。丘吉尔有句名言，“你能看到多远的过去，你就能看到多远的未来。”我想用它来总结《人类未来》一书也许是恰当的，因为作者在预测人类的未来时，并没有脱离开我们的现在，包括过去。当然，马丁·里斯在这本书中有着多重身份，就像他在前言中说的那样，“作为科学家、公众、以及人类这一物种中的忧心忡忡的成员。”
约20万年前，人类的直系祖先现代智人出现东非大草原上，并在大约6万年前走出非洲，扩散到其他各个大陆。如果说人类的起源与发展是自然选择的结果，那么在自然选择之后，尤其是在有了先进的科学技术之后，人类该往何处走这个问题就不仅仅是自然选择的结果了。
我们是谁，我们从哪里来，我们又要到哪里去，这“三问”包含太多科学内容了，也许个体科学家穷其一生也只能窥见冰山之一角。马丁·里斯在《人类未来》中把视野放到整个人类，放到了对人类现状和未来的忧思之中，这需要高超政治智慧的策略，同时也需要人类共同体为自己的未来“掌舵”。就像马克·奥康奈尔在《成为机器：机器人，乌托邦，黑客和未来主义者面对死亡 》中深刻阐述了超人类主义，当你将自己的身体想象为一种设备时会呈现出惊人的可能性和道德难题，甚至可能让人类这个物种进入到“非生非死，非死非生”的状态。这些都是在思考人类未来的过程中需要去面对的“诘难”，也可能是不得不去超越的“窘境”。不过马丁·里斯坚信，“我们越了解这个世界，就越发现它没有那么令人困惑，我们就越能改变它。”这大概也是他对人类未来持谨慎乐观态度的原因之一吧。