作家会失业吗？新人文科技之辨，微软小冰说不会
200余名师生参加活动参加第五届思勉人文思想节主题论坛第1场
前天（16日）下午，一场《当微软小冰开始写书》的思勉人文思想节主题论坛火了华东师大校园，微软小冰首席科学家宋睿华博士在主题演讲《用代码可以构建心智吗》中，解释了微软小冰基于图文辨识的写诗原理，也强调了团队是为了让小冰塑造成人和世界的中介，成为人类的陪伴。但在开发写诗功能中，发现微软小冰能说自己的话，写人没写过的诗。下一步则需要语言、图像、艺术等更多团队的通力协作，将这个AI产品升级到“多感官、多模态交互”。（详见文末链接）
“脑洞大开”，在场的作家孙甘露、影评人毛尖、创意写作院副院长罗岗、复旦大学哲学院院长孙向晨、兼主持和策划的华东师大传播学院院长吕新雨等人文学者一致感慨，随即主题演讲引发了人文学者的经典辩护和人文、科技领域之间的大交流。
焦点一：小冰的诗是诗吗？机器能否写出好诗？
著名作家、上海作协专职副主席孙甘露
孙甘露：AI的诗，模仿人但可否超出人类水准？
作为大趋势，人工智能进行文学创作势不可挡。但我有个很大的疑惑，已经有这么多人在写诗、写小说，AI这么做的意义何在？AI写诗是一个二度创作，模仿是写作的规律，但不该是低端模仿。例如模仿唐诗，难道纯粹是为了证明AI可以超过唐朝人吗？这点我深有困惑。
从艺术角度来看，恕我直言，小冰的诗没啥艺术性，诗要给人惊奇感。音乐呢？有人说，要像弹莫扎特一样弹肖邦，像弹肖邦一样弹莫扎特。这就是文学艺术的奇妙处。AI是否应该写出更高级的东西？这是我自己感到悖论的地方：AI从模仿人写作与音乐创作起步，但能否超出人的能力？我希望它能习得人的最优秀成果，是一个更好的人，但又不要像人？
华东师范大学国际汉语文化学院毛尖教授
毛尖：小冰在正确的地方写作，只能离好作品越来越远
我觉得小冰不可能写出好的诗，这本诗集里已经界定了第一主题是离别，第二是爱情。她倒有可能写出好的类型小说或类型电影。理由是，微软小冰的文学算法只能在对的世界里工作，只能在数据库里工作，在对的地方工作只会和文学越来越远。而模糊地带、暧昧地带正是文学酝酿和产生的真正土壤。所以，我们是否该给机器留一个犯错的后门？
小冰让我们膜拜的地方是她的永远正确、永不疲倦，这种能力曾让我们膜拜，但今天会成为她的巨大缺陷。现在各种算法都无法解决人类意识的混杂，错误在人类的进化上有着不可磨灭的作用，这也正是人类比小冰高级很多之处。
华东师范大学中文系教授、中国创意写作研究院副院长罗岗教授
罗岗：AI只是征用人的文学创作和陪伴功能，并无主体性
微软小冰的意义不在于文学创作或者陪伴，它的目的就是如何征用人的交际性、主体性与情感。如果它真正写出好的作品来，就证明它对人主体性的提炼是更深一步的，但是它的逻辑不是人的逻辑，对她而言只要达到目的就可以了，最重要的是应该转化为一种商业化用途，而不是简单的展示。有些人觉得诗人会不会失业，未来有可能会失去某些具体工作，但是人工智能的意图完全不是在这个领域中与人类构成竞争。
微软小冰的首席科学家宋睿华
宋睿华：写诗是计算机领域对语言认识技术的试金石
我们尝试让AI写诗已经有60年历史了。因为做计算机的人在不断研究语言模型，想用数据的方法表达语言内在关联，每当技术有突破了，写诗更像是计算机领域对语言认识的试金石，是一张PH试纸。对人来说，写诗比交流更难，但对AI来说，交流比写诗更难，因为AI很难做到有逻辑地讲一件事情。
日本AI写小说，只是人设定情结，机器参与部分
关于日本AI写出小说的事情，我们也曾反复追问，情节是人设定的，比如：今天天气很热，屋里关着窗户，怎么热就请机器人写。小说三部分是一样的布局，第一部分说，一个女孩子买了一个服饰机器人，但很快不理睬机器人了，机器人就上网写小说，写出来是一连串字符；第二部分讲男孩子买了一个指导恋爱的机器人，但他已去约会了，这个机器人无事可做就自己去写小说了，打出一串字符；第三部分是超级机器人超级忙，但觉得还是该写小说。这篇小说有一定的哲思。
但今天人工智能技术做不到写小说，做文学的人可以非常放心大胆，因为作品后面有它对这个世界的认识，机器是感受不到的，也写不出来，光是感受力想要赶上人类就非常困难的。尽管可以在神经元网络上输入很多词，有个比喻，AI写出好诗的概率就像“猴子在键盘上敲出莎士比亚”。
焦点二：小冰为何是17岁的万能少女，而不是70岁老人？
毛尖：17岁就如此万能，是否是对人类智慧的一种打击？
微软小冰到底是人类的镜像还是他者？为什么小冰是17岁少女，而不是一个70岁的长者？好像是人类要进化到更高级阶段，又留在17岁的时间点上，这是对人类智慧毁灭性的打击，17岁就可以回答全部的问题，帮你做任何事情。这个人设需要重新考虑，否则就仿佛是对我们文科的蔑视，人类的智慧是由更长时间段积累而成，而不是17岁就能获得,否则只需要理科就行了。
复旦大学哲学学院院长孙向晨教授
孙向晨：AI的情商即实践智慧离人类的期待还很远
人类有EQ和IQ，其实从亚里斯多德以来的西方哲学传统，就把智慧分成实践的智慧和理论的智慧。但EQ所谓的情商其实很难处理，所有一些人类微妙的东西都基于这样的背景。人工智能真正处理情商问题的时候，和直接处理文本也有很大的差别。处理这些问题和我们真正智能意义上还是有区别的，和我们的期待也还是有差距。
在这个意义上，恰恰微软小冰绝对不是他者，整个西方哲学追求的是一个整体性，微软小冰和整个人工智能不是创造他者，不是突破边界，不是保持外在性。人之所以为人，是因为边界也是人定的，哪怕人类永远战胜不了AlphaGo，没有什么稀奇的，只是在人定的范围内比你做得好，但是边界没有办法突破。有句话“文学家艺术家都是边界的谈判者。”
宋睿华：17岁是一个犯错误容易被人原谅的年纪
为什么小冰是17岁？李迪曾说过：因为17岁是一个错误比较容易让人原谅的年纪。小冰现在还是非常不完美的，而且我们也没有定位在做正确的事、说正确的话，相反我们是以业界唯一一家不以这个为目标的厂家。人工智能每天都在犯错误，我们想在代码当中构建像人类思考一样非常复杂的程序，但依然会出错。
人工智能拟人化，一方面只有说你能听懂的话才能和你有交流，不管是写诗还是聊天，很多好的场景都是靠人脑补上去的。另一方面，科学家也是在不断探索边界的，到底人是怎么思考的，用外在模拟方式研究大脑里是什么样的，这是我们探索边界的工具。
论坛由华东师范大学传播学院院长吕新雨（左二）策划并主持，思勉人文高等研究院院长郁振华（中）总结。
焦点三：AI还能帮人类做什么？
孙甘露：AI评选最佳小说，居然选了莫言
《思南文学选刊》在2017年1月就曾经出版一期与人工智能相关的内容，入选人工智能作品、开设人工智能对读栏目，以及人工智能起源论述的文章。人工智能的出现，特别是写作领域，对传统的伦理形成了挑战。曾有一个人工智能阅读分析平台，进行文学评奖的排行榜。这个机器很厉害，评出第一名是莫言。后来增加了一篇小说，结尾里有一段关于AI写作的情结和字句，结果，这篇小说高于莫言成了第一名。我很惊讶：一个AI可以从小说当中指认出另外一个AI的身影。
孙向晨：小冰如此美好的形象折射了人自身的想象
从哲学角度来看，人类对自身非常敏感，当今时代的人机之辩，界限在哪里变成了非常具有挑战性的问题。人类坚守的东西并没什么了不起，人类有语言，机器也有；人类有情感，机器背后也有，这个问题从哲学上来说冲击力还是蛮大的，涉及人类自我生存的问题。
但同时，我们给小冰这么多美好的想象，其背后完全是一种算法、数据提炼等。可细想，其实什么都不是，所有人最简单的东西它都没有。依据人类构建的世界来反射，才完成了一个共同的东西。要感谢你们自己创造出了微软小冰，它的整个形象是共同创造的结果。这个可能就是对现在工作的基本评价，我们很多时候对于人工智能的恐惧、美好的感觉是基于我们固有的世界所投射出来的。
华中科技大学法学院助理教授杨安卓
杨安卓：AI和人的创作可以是辅助关系
小冰的诗歌实际上是从519个现代诗人的作品当中通过学习获得的创作技能，专业术语就是机器学习，将不同的诗人作品抽取一些内容组合在一起，这个东西在法律上能不能称之为创作呢？用算法得出一个结果，得出来的作品一定是均质的作品，小冰一定是均值的作者，在法律上不说人工智能作品，因为是不是作品还没有定论，一般叫人工智能生成物。
人的创造和人工智能的创造更多的不是一种取代的关系，有可能是辅助的关系。一个很著名的人工智能哲学家提出一个理论，你所描述的句子有一个句法、句型，但是背后表达的东西是语意，计算机可以知道句法和句型，不知道的是背后要传达的意思。
青年艺术家高洁
高洁：对当代艺术家而言，小冰才是作品，开创了新模式
今天已经处于人工智能环境里，我们就是代码，不用抵抗，只要享受就好了。第一，重新组织我们的结构。人和人之间沟通可能会更快，但必须通过人工智能这个中介，我们如何生活就会如何思考，人工智能重新构筑了我们的底层逻辑。第二，对小冰人脸的解读，为什么小冰是17岁少女，因为可以捕获我们，人工智能捕获的东西非常细微，人类的能力是有限的，但是人工智能能力无限，可以很轻松地找到我们喜欢的点。第三，对当代艺术家来说微软小冰所做的事根本不是作品，微软小冰是作品。艺术对我们来说是一个一个模型，也许小冰的创作能够创作新的模型，而不是模仿古代人的东西。
华东师范大学数据科学与工程学院院长钱卫宁教授
钱卫宁：警惕把AI用作整体性讨论，让其辅助人类阅读
不管是数据、互联网、云计算、人工智能，核心是应用学科，人工智能从来都不是整体的框架，小冰背后是分成一个一个模块做的。为什么现在会感觉到危机，因为互联网把这些东西都连起来了，这是根本性的改变。所以，我们不适宜把人工智能当做整体性讨论会带来障碍。
小冰做得非常好，不是说人工智能方面做得很好，它的服务模式和系统平台做得非常好。首先它技术上做得不错，不是功能性而是宽泛的，非常不容易。刚才我们讨论比较多都是说人工智能深层要看的东西，还有一个角度，人工智能能不能帮助我们阅读。现在是一个爆炸信息时代，人工智能是否可以针对阅读做自动分析，把人与人之间的交互网络可视化出来。比如读连载小说可能不是线性阅读，如果有这样一个工具帮助我阅读，会改变我们接受知识或者接受信息的形式；如果有这样一些工具，相信我们的娱乐生活会丰富很多。
卫纯：从启蒙思想史来看AI，是又一轮技术挑战
今天人工智能的兴起对于人文精神新的挑战是完全的结构化的东西，从我个人立场包括我们《读书杂志》的立场肯定还是比较偏向人文主义者的，对于人工智能的很多担心处于缺乏安全感，这来自两方面的感受。一方面，包括像小冰今天很多的呈现，在人工智能层面某种程度上还是弱人工智能，靠算法、系数、加减乘除来呈现，离我们想象当中的强人工智能还有很长的一段路要走。另一方面，思想讨论的层面来说，人工智能的兴起可以打开更多的讨论面向，有的讨论过了，有的还没有完全讨论，比如伦理、法律问题，或者没有进行深入讨论。同时从思想史的角度也有可说的地方，比如说今天评价互联网和人工智能这一套思维方式，启蒙时代开始这样的反思和质疑就一直存在，不是什么新的东西，只不过是在整个启蒙思想发展脉络当中不断重复的对于技术和传播的看法。
经典人文派在听技术派解释
毛尖：AI 让我们反思人的有限性和神性
小冰可以帮助我们重新思考人的有限性问题。我重新看了近年来的科幻电影，从《漫步2001》《机器公敌》《人工智能》等，科幻电影主要是说如果机器拥有人性会怎么样，《机器公敌》里面比较重要的台词，“总有一天我们会怀念只有人才能杀人的例子”，这意味着我们进入到机器杀人的时代。《人工智能》里AI小孩想方设法要回到人类妈妈的身边共度最后一天，这是人的局限性，也是人最后的神性，这是人可以打击机器的地方。因为我们死去以后永生，和机器做最后的博弈。
同时，用代码构建机器心智，我想说这是不可能的。但促使我们对人工智能进行约束和立法的规范，也需要反思到底AI要带给这个世界什么样的秩序。
罗岗：我们把自己交给了无法控制的异化的东西
今天对大数据时代最大的恐惧是，我们这样做了但是不知道为什么，从科学家的角度来说都是可以控制的。但是从人文性思考角度来说，我们把所有的东西都交给了自己不清楚怎么运作的机器，而且它的运作机制是没有办法用人脑逻辑来理解的。这可能是一种异化的逻辑，比如刷淘宝好几个小时，觉得这是生活中离不开的东西，某种程度上也是把自己交付给了没有办法控制的异化的东西，这种异化的状态实际上就是我们人主体性的丧失，这是最终的结果无法重新获得。
（李念整编，韩靖超基础整理）
相关链接：
作者：李念、韩靖超
编辑：袁圣艳
责编：李念
*独家稿件，转载请注明出处。