独家|剑桥大学未来智能中心主任PRICE：超级AI或会和人类和平共处
昨天上午，剑桥大学休维·普莱斯（Huw Price）教授在复旦大学哲学学院科学哲学和逻辑学系成立仪式上做了主题演讲Network for Beneficial AI
昨天上午，复旦大学哲学学院成立了全国高校首个科学哲学与逻辑学系。收到的最大的礼物是剑桥大学Leverhulme未来智能中心的休维·普莱斯（Huw Price）教授的越洋莅临，这位学界大牛为来自全国各高校关联学科的100余名哲学人做了主题演讲Network for Beneficial AI。
两年前的2016年初，由哲学学院罗素讲座教授Price担任主任的剑桥大学Leverhulme未来智能研究中心（CFI）成立，该中心旨在联合跨学科人才，协同牛津大学、伦敦帝国理工学院、加州伯克利大学共同研究人工智能对未来的影响。作为英国科学院院士、澳大利亚哲学学会前主席的Price教授在科学哲学、实用主义领域都颇有成果，其个人魅力和学术影响力促使该中心很快发挥了人才凝聚的平台作用，这也成为全球科学哲学界的一桩引领性大事。“我们该想想世界遇到的大问题。”“现在如何做决定了未来。”在成立仪式后的独家专访中，Price始终不离这些大视野，然而在谈到具体事务时，他又能非常敏捷地找出恰当的具体事例，我们甚至还谈到了他澳大利亚的哲学同行——伦理学家彼得·辛格，本报和复旦、华师大联手在八月世界哲学大会期间做的“24位世界哲学家访谈录”中的一位嘉宾，在穿越复旦光华楼前草地时他显示了极强的方向辨识感，这让记者强烈感受到了作为多学科协调人的外在魅力。
有趣的是，在近2小时的访谈尾声，时差正引发疲惫的Price教授主动要给记者看他的双胞胎孙子们的照片，他指着手机上可爱的宁馨儿，动情地说：七年前，我从悉尼大学到剑桥创建中心时，我刚当上了祖父，如今已经有了五个孙辈，他们将会和AI共处，所以，我们现在的思考和研究，其实是为子孙后代谋划，也是我一个祖父送给孙子们的礼物。
2012年，Price 教授当上祖父，AI的未来影响研究也成了他给孙辈们的礼物
3年内，从“危机生存中心”到“未来智能中心”
报：首先，恭喜剑桥大学的利文休姆未来智能中心（CFI,Leverhulme Center for the Future of Intelligence）创立两年来已经实施了近20个项目。从中心四个来源——剑桥大学、牛津大学、伦敦帝国理工学院、加州伯克利大学——就足以让人期待，而且又是跨学科，最提气的是，你们获得了1000万英镑的资金保障，请问是怎样的机缘促成了这个中心的成立？
Price：是啊，确实很幸运。这是一个很长的故事。7年前就是2012年，我卸任悉尼大学哲学Challis教授来到剑桥大学哲学学院，我和我的两位同事马丁·瑞斯（Martin Rees）、杰恩·托林（Jaan Tallinn）一起讨论，觉得这个世界存在很多大问题，直接威胁到人类生存的未来甚至现状，而剑桥大学似乎有责任去行研究这些复杂事务，因此，我们在2012年成立了“生存危机研究中心（The Study of Existential Risk）”，我担任了学术主任。4年前就是2014年，当时人工智能（AI）发展迅猛，报纸连篇累牍地报道，科学家霍金、企业家马斯克（领导太空探索公司SpaceX实现私企火箭顺利折返、海上火箭回收等壮举，后担任特斯拉汽车总裁）、科技专家凯文·凯利（《失控》《科技想要什么》《必然》的作者，著名的美国科技预言者）都在谈论AI技术的影响。我的团队感觉到，我们必须建立一个新的研究中心，研究AI对未来的影响等更大更重要的事情，尤其是要引导人们，除了知晓AI带来危机之外，还要正视AI正面意义。
报：科技带给人“进托邦（Protopia，与乌托邦相对）”。
”生存风险研究中心“倡议同事Martin Rees
11个月内，竞争1000万英镑基金，最后胜出
Price：有点接近。所以，从“生存危机研究中心”到“未来智能中心”，这个故事就变得很长了。正当我们达成共识时，天赐良机。英国最大的支持科研的信托基金——利文休姆（Leverhulme）打算拿出5000万英镑来支持国内大型的研究中心。
报：这个数字听起来令人神往。
Price：但是荣膺这笔基金非常不易。利文休姆基金这次是面对全英国高校，所有学科领域，而金额就是10年1000万英镑的规模。因此，每个高校都是从院级到校级对计划书进行层层筛选，每个高校只能报一个，最后，经过11个月，变成一个短故事就是：我们胜出了。
报：现在还可以感受到您的喜悦。评委会给你们的胜出理由是什么？剑桥大学自身的声誉是否也是一个很大的因素？
Price：主要是因为我们这个题材好，时机好，远景目标和方向符合基金会的“大型研究”宗旨。我们主要是通过跨学科来研究人工智能对人类未来的影响。包括跨学科人才的培养、寻找，社群意识的培养，新科技对人的影响研究等。
报：1000万英镑是个怎样的概念？
Price：比起对AI技术的上亿级别的研究投资，在人文领域的这些投入是杯水车薪，如何使用也是一个挑战，但是，基金会有这种意识毕竟是件好事。在我看来，意义和影响的研究的重要性，一点也不亚于科技开发的投入。
CFI主页
CFI成立后的两种反响，竞争式和合作式，霍金参加揭幕仪式
报：在中国这几年成立了不少产学研一体的AI研究，也听闻其他一些著名高校有AI研究机构，相比较而言，CFI是否是世界高校中最大的一个跨学科研究机构？成立后有怎样的反响？
Price：是的，我们不同于微软、谷歌等科技研究机构，这是一个跨学科的引导全球关注点的高校跨学科研究中心。我想，我们是全球第一家。我知道，纽约大学有关联项目、牛津大学有互联网研究、MIT（麻省理工大学）有未来生命研究所、布朗大学有道德机器人研究、斯坦福大学刚成立了“人类中心和AI”研究中心，它们在我们之前或之后有类似主题的研究，但是我们云集了脑科学、神经科学、心理学、社会学、哲学等各种学科。
成立当天，即2016年，斯蒂芬·霍金来参加了揭幕仪式并做了主旨演讲（网页链接https://www.cam.ac.uk/research/news/the-best-or-worst-thing-to-happen-to-humanity-stephen-hawking-launches-centre-for-the-future-of）。反响大概可以分成两类：一类是竞争式的，他们看到剑桥大学成立了这么一个CFI，也竞相成立类似机构。一类是合作式的，提出和剑桥大学合作。
就我个人而言，我更欢迎后一种，这样的研究中心对人才需求具有特殊性和广泛性，我们特别希望和中国大学进行这样的合作。
霍金出席CFI成立仪式并做主旨演讲（左图），右图为当日网页报道截图
对复旦哲院科逻系的“哲学+”的建议：耐心、从小事做起
报：感谢您不远千里来到复旦大学，参加中国高校中第一个科学哲学和逻辑学系的成立，并且做了一个很精彩的演讲。上午的开幕式上，一年前从弗罗里达大学全职加盟复旦的刘闯教授介绍了该系的一些研究思路，他们将以“哲学+”的力度从事前沿科学研究，跨学科是突出和自然科学的联手，AI研究是他们的课题之一，您对他们的跨学科研究有何建议？
Price：是的，复旦大学哲学学院科逻系的成立是很有远见的。以我们CFI的实践经验来看，跨学科研究会有很大挑战，主要是不同学科的人会有不同的术语，因此要有耐心，从小的对话开始，尤其是从年轻学者的共同喝咖啡开始讨论，共同写论文进行合作，这样的融合慢慢会取得很大的共识。
PRICE 向科逻系系主任张志林赠送礼品（于明志摄）
“水波链”式的人才集聚，后年计划在中国开国际会议
报：您上午介绍中心已经运作了不少合作项目，能否给中国学人一些具体的例子来说明这种跨学科平台的功能？给一些例子说明跨学科人才是如何凝聚的？
Price：澳大利亚有位知名科学哲学家，他研究墨鱼的智能。他一直认为他的研究和AI没有什么关系，我们邀请他来参加我们的工作坊。期间，他听到了来自东京大学一位科学哲学家的见解，很受震动，会后立即和我说：我改变主意了，我的研究也和AI有关。这说明我们确实起到了火花碰撞的平台作用。再告诉你一个更为具体的例子，就是面前的这位刘洋博士，他在美国哥伦比亚大学完成了决策学的博士学习，CFI有子项目“决策论和AI未来”，我们向全球招聘博士后和工作职位，三年前，刘洋就来CFI做博士后了。我们的同题的国际研讨会已经举办了两届，第一届是去年在三一学院，今年在慕尼黑，明年在悉尼大学，后年，希望能在中国的大学。
因此，我们吸引人才的范式如同水波荡漾。先是资深学者领衔项目，剑桥的同事加入，然后发工作广告招聘博士后或研究岗位，吸引一圈人；接着是举办工作坊，就又会有更多人参加。
参与的人都是跨学科的，拿刘洋参与的项目而言，我们让做决策的人思考在AI领域如何发挥作用，让做AI的思考如何对未来做决策。这些是他们以前很少思虑的，通过这样的融合，不可能变成了可能，一个更大的社区人才就慢慢建立起来了。
2016年CFI项目（摄自PRICE演讲PPT）
注重5-10年后成效：全球人才资源平衡、全球人才社群建立
报：基于某些偏见，本来以开放著称的美国对中国人才在美国某些前沿领域的交流采取了消极的做法，剑桥大学能在广泛吸引全世界人才上做出一个表率，给我的感觉是，我们除了经济全球化外，“人才全球化”也完全有可能。
Price：美国比较大，一直是科技强国，因此也习惯了以全球科技发展中心自居。对英国、澳大利亚这样一些小一些的国家而言，我们愿意更开放，和别的国家合作。从更深一层而言，我们希望不仅仅在英国内部、欧盟内部，而是在亚洲，尤其东北亚、南亚等地建立一个人才网络，以此和美国的人才资源平衡。
报：根据很多资讯来看，中美是世界上对AI研发和应用投入最大的国家，但英国或者说英国的高校在人文影响领域走出了关键一步，您对这两种趋势怎么看？
Price：现实确实如此。企业界的投入方面，美国和中国确实走在前沿。从AI的未来影响研究方面，我们着重在于培养一个人才社群，因此，这个研究中心使命是以10年为一轮规划。我们更追求在年轻学者成长的学术生涯中，建立一个全球化的人才社群，我们要推动和普及这个观念。
CFI在东京的合作团队（摄自PRICE演讲PPT）
报：非常感谢您和CFI这样的远见和实践。从您个人而言，学习数学，然后以研究时间哲学著称，您的著作《时间之箭和阿基米德点》在业界广为知晓；您后来又在实用主义方面有所建树，著有《表达主义、实用主义和表象主义》《实践转向》等力作，您是科技哲学重镇悉尼大学“时间研究中心”十年的主任，您同时是英国科学院院士、澳大利亚哲学学会前主席，您还同时兼任斯坦福哲学百科全书顾问、劳特利奇国际哲学文库编委，《澳大利亚哲学》《欧洲科学哲学杂志》编委，应该说，在科学哲学界和哲学界，您颇有声誉和号召力，对您个人而言，现在转战AI领域，您有何优势和挑战？
Price：从课题上来说，时间命题、实用主义和AI，彼此没有必要联系。担任CFI主任，是因为剑桥这个地方，有很多尖端的人才，我非常乐意做这种协调工作。同时，CFI的成功运作也是一个团队的成果，很多报告都是同事撰写。
从左到右分别为：1988年专著《事实与真理的功能》，1996年专著《时间之箭与阿基米德点》，澳大利亚版2011年专著《没有镜子的自然主义》
从左到右分别为：2013年专著《表达主义、实用主义和表象主义》，合著Making a Difference，合著《实践转向——英国20世纪实用主义》
将来的AI是怎样情形，取决于当下我们的认知和设计
报：谢谢您的付出。我们转回核心话题，有关AI。对AI影响目前有不同的看法，有的彼此之间甚至针锋相对。一种较为主流的观点是：AI是人类制作的产物，它没有生命、情感，最终是为人类服务的高级智能机器。而您主张，我们也要把AI当做一种和人类一样的物种来看待。您为何这么看？
Price：人类将面对怎样的AI，取决于我们现在怎样做。目前，我们是在制造一个为人类服务的AI，但是，机器自己的学习能力如此之强大，很久以后，能造出一个有感情的物种并非不可能。那么，就需要我们不仅有近期的权衡，还要有远期的权衡。现在很多团队要么关注近期造出的AI是怎样的，要么关心以后AI时代会怎样，很少会去关注，今天的行为如何影响未来的可能，这恰恰是我们CFI要研究的。
报：我是否可以理解，CFI要做的事情有点像当年研究出了克隆技术，而CFI的一个使命就如同禁止克隆的伦理委员会？
Price：有点类似。但我想，“凡事预则立”。我的体会，将来的AI的具体形态还是要取决于设计AI的工程师们。仅仅靠立法和哲学家施压等外界压力是不够的，还必须来自工程师内部的自觉。
报：因此，CFI的使命之一是先要影响这些科研人员的思想和观念？
Price：是的。
CFI参与的2018年5月举办的联合国《向善的AI》峰会（摄自PRICE演讲PPT）
“人类例外类”或终结，超级AI尊重人类，人类解决自己的烦恼
报：您曾经设想过有具备伦理道德的AI，这是否意味着会结束“人类例外论”？因此自从笛卡尔说“我思故我在”后，人类从上帝那里自我解放出来，成为宇宙的中心，但是，如果有了这样一种AI的物种，我们如何再去从哲学上思考人类自我，康德一生的四大追问——我能够知道什么？我应该做什么？我可以希望什么？人是什么——是否要有所改变？
Price：AI未来究竟如何，现在谁也无法准确预言。在追寻这个答应中，我咨询请教了很多AI专家。有一类观点是，很久的将来，会诞生“超级AI”，他们的体能、智能、道德远远优于人类这个物种。你知道的，人类有贪欲、自私等缺陷，但超级AI并没有。于是，超级AI作为一个物种也生活在地球上或宇宙中，但是，他们尊重人类，不干涉人类的生活和习惯。他们去解决全球气候变暖等大事件，而人类的烦恼交给人类自己去解决。我们都知道，人类是如同达尔文所说的动物进化的高级发展阶段，因此，将来，我们和超级AI的关系，就像我们和其他动物一样，我们也不干涉动物的生活习惯。CFI工作的重要在于，这些人类也是我们制造出来的，我们如何使得未来，更高级的他们不伤害人类这个物种。
这里需要避免的是，由于人类存在缺点，而超级AI并没有这种道德缺陷，因此，这个物种就变成了“道德上帝”一样完美，他们会剥夺人类的一些自由，届时，我们怎么办？这就是CFI需要做的研究。
如果这样说还有点抽象，就举个类似的例子，比如现在医院里的AI诊断越来越发达，人对AI的依赖也越来越大，发展到极致，就会剥夺医生的诊断权；又如无人驾驶，从飞机发展到汽车，无人驾驶时如何控制汽车呢？
报记者李念采访后与PRICE 教授，刘洋博士在复旦哲学学院合影
如同罗素当年预言核技术，当下的思维转变是建立全球合作体
报：是啊，如很多著名学者预言的，AI是21世纪的重大发明。1950年代，核武器诞生了，哲学家罗素曾说，核技术这个新事物会催生新思维。您现在是剑桥大学哲学的罗素讲席教授，在当下，AI技术是否也会催生我们人类某些思维的转变？
Price：罗素的疑问是在1950年代，当时人类受困于冷战的壁垒。现在21世纪，依然有壁垒。我们现在有商业壁垒，不同国家之间有，同一国家的不同公司之间也有；学界也有壁垒。因此，我们要改变的思维是：要想办法穿越这些壁垒，为了人类面临的共同危机，为了更大的挑战。AI是比核技术更强大的技术突破，所以，需要我们建立一个全球体，而不是各司其政。
（感谢剑桥大学刘洋博士对此稿的支持。Price的主页http://prce.hu/w/index.html，刘洋的主页https://yliu.net。）
11月10日，复旦大学哲学学院科逻系成立大会，近百名全国科哲、逻辑学界老中青学人留下见证一刻
作者：李念，照片：除署名外均李念摄，PRCIE教授提供
编辑：袁圣艳
责任编辑：李念
*独家稿件，转载请注明出处。