科学发展为什么需要科幻作品的反思？以人工智能发展为例

美国科幻小说作家阿西莫夫，他提出的“机器人学三定律”被称为“现代机器人学的基石”

19世纪的幻想小说中已出现了人造人和会思考的机器之类题材，例如玛丽·雪莱的《弗兰肯斯坦》和卡雷尔·恰佩克的《罗素姆的万能机器人》。塞缪尔·巴特勒的《机器中的达尔文》一文探讨了机器通过自然选择进化出智能的可能性。

在早期涉及人工智能的科幻作品中，人工智能都是以人的形象出现。阿西莫夫的作品尤其有代表性。“上世纪五六十年代，他写了一系列关于机器人的小说，现在业界公认为基本原则的‘机器人三大定律’就是由阿西莫夫提出。他的作品还对机器人的人权做了相当有深度的反思。”上海交通大学科技史与科学文化研究院院长江晓原介绍，阿西莫夫的作品还没涉及对机器人反叛的反思，他的反思主要集中在过度依赖机器人可能带来的后果——人类的生存将没有意义，人类的文明会灭亡，属于哲学思考的范畴。

对机器人反叛的想象在后期的科幻作品中逐渐出现。比如电影《机器公敌》就讲到了这一主题。再后来的《黑客帝国》《终结者》中，人工智能都是以反叛的形象出现。“这一时期开始，很多事情如克隆人与人工智能、芯片植入与人工智能之间的边界变得模糊，代表作品有迪克的小说《仿生人会梦见电子羊吗》。”

江晓原介绍，科幻作品反思科学开始于19世纪末20世纪初科学技术迅速发展的时期。在西方，前沿人士做科学，科幻作者反思科学，一搭一唱似乎已约定俗成。“科幻作品的反思是必要的。科研人员都有种科学狂热，总是天然地愿意进行乐观想象，未必会看到隐藏的风险，更何况很多研究人员不愿意涉及这样的问题，这相当于结束了他的研究生命。”历史上也的确有过因为反思终止某项研究的例子，人工智能经历过的一个冬天就源起学界对其发展前景的质疑。如今的现状就如陈自富所说，人们所关心的人工智能到底会否超越人类之类的议题，就很少出现在人工智能研究专家的话题中。“他们更关心实际问题，比如算法的改进，如何写一个识别人脸的程序代码或是做吸尘器机器人……为之操心的多数是人文类的学者。”

“事实上，这些科幻作者也不能完全归类于‘人文学者’，他们很多出身理科，比如阿西莫夫本人就是医学院副教授，他们都有着科学背景。”江晓原说，需要科幻作品反思是因为科学本身缺乏反思的能力，而人文学科例如哲学、文学都具有反思的维度。

（节选自《人工智能是人类的“终结者”吗？》 刊2015年4月17日《报·学人》）

作者：刘力源
编辑：刘力源

*独家稿件，转载请注明出处。