智能模拟引出的文化问题2：有无可能从人脑模拟到人心模拟，进而改善人心和改善社会？

人工智能的另一个文化问题，是我们有无可能从人脑模拟到人心模拟，进而改善人心和改善社会　(人际)。在现今的论辩中，人心模拟的问题似乎还没有提出，但我相信，人工智能的专家们，包括信息科学的、逻辑学的、语言学的、生命科学的和脑科学的专家们，他们或许并不满足于智能模拟，想走得更远，他们的野心是彻底弄清人心的秘密，进而模拟人心过程。特别是生命科学和脑科学的专家们，会有这样一种还原论，他们试图在大脑皮质和神经元的水平上，读懂人的道德判断、审美经验、爱恨感情，甚或宗教信仰，找到决定这些非智力过程的因素和机制，进而能用科学语言和技术手段，再现上述人心过程。

从人脑模拟走向人心模拟是不是可能，既是科学问题，更是文化问题。脑科学专家告诉我们，人类行为都有对应的神经过程，都有生理印记或表现，发生当事人兴奋的事件时，人脑中的特定区域会被点亮。问题在于，让人兴奋的事件可能在道德上截然对立，如损人为乐和助人为乐的对立，当他们为各自所作所为而乐时，他们脑区上的神经灯泡都应该被点亮了。解开人心秘密的研究，不仅要在行为和神经反应之间发现联系，更要辨别出，被点亮的灯是否能透露行为区别的消息：是给别人带去快乐的快乐，还是给别人带去痛苦的快乐。其中关键是人类行为的具体社会性质，是否能被还原到神经元的放电现象上；研究者有无能力在完全不了解被试者的情况下，读出两个放电事件，何为善行，何为恶行。

让我们将此思想实验进行下去，我们容易假定某人在社会化的过程中行为发生的变化，以浪子回头为例。先前的一个熊孩子，曾以恶作剧为乐，如今以读书为乐。他的这两种行为都会点亮特定脑区的神经细胞，专家们能否辨别出两种放电的不同，进而辨别出恶作剧产生的兴奋和读书产生的兴奋，再进而区分出先前的熊孩子和现在的好孩子，还是完全无法分辨？　一个人行为的变化、人格的改善，需要多年的努力———多少与他人互动的情节，多少具体使其改变的焦点事件，所有这些发生在社会世界里的人心故事，会有脑电波的运动，但能否一一转录成有善恶判断从而表现出善恶特征的脑电波波形？　所谓转录云云，就是还原论，如果还原是可能的，接下去的问题是，当我们把一个孩子叫做熊孩子，并在行为定义上打上负分，还被中国的脑科学专家在神经细胞的放电图谱上辨认出熊孩子时，放到文化传统不同于中国的国度，熊孩子还被视为“熊”吗？其在中国被认为是“恶作剧”的行为还“恶”吗？他的行为引发的神经元放电还能被打上负分吗？　进而他以读书为乐时还会有同样程度的发电吗？　这里关乎的问题是在一种文化中让人兴奋的活动，在另一个文化中未必如此。例如，运动的价值在美国的学校远比在中国的学校更高，这是环境和文化带来的差异。何为熊孩子及其行为判断，并没有一个普遍的标准，我们即使能从脑电波上辨认出我们文化定义的熊孩子，也无法辨认出别人家的熊孩子，如果一门研究人心的脑科学因研究者的文化背景不同而有了国别的分类，我们还能视其为科学吗？

IBM用48块TrueNorth试验芯片构建了一个电子的啮齿动物大脑，每一块芯片都可以模拟大脑的一个基本构件。

人脑模拟是为了解放人脑的创造能力，人心模拟为了什么？　我们知道了一个熊孩子的特定的神经过程波形，或一个好孩子的特定的神经过程波形，我们是否就有了办法来干预行为，甚至量产社会所期望的人格？关于人性，从来有性善论和性恶论的对立，各自都有好的道理，也各有死穴。这里不来站边，只想先摆出一个不大会有争议的前提，十年树木，百年树人，即使人生而性善，要成为善人，也需后天的日日奋勉，以仁为己任，弘毅而行，自强不息，百炼才能成钢，这一切不仅是人心的努力，人心的成就，也是人际的互动，人际的成就，需要行为人自己和他　(她)　所有关系的人们的共同努力；反过来说，即使人生而性恶，成为一个人神共愤的恶人，心理学家、社会学家、教育学家能讲出许多关于此人的故事及带出来的一部社会史。人心的纹理，是被社会时空的力量所铭刻和塑形的，若这一切都能被神经过程的工程所转录，所干预，所改变，这对人生对文化对社会，究竟意味着什么？如果通过人心模拟，我们都成了雷锋，由完全毫不利己的好人组成的社会，还需要道德和法律吗？我们能设想这样一个无仁无义的社会吗？还有，今天的世界，信仰是多元的，也是冲突的，至少在信徒个人的持守上，不可能兼容并蓄，一视同仁。若脑工程可干预道德，是否也要干预信仰？　谁来主导这一信仰工程，无神论者，还是有神论者？哪一家有神论，耶教、佛教、摩门教？工程师都是具体的个人，会有信念取向，人心模拟，包括信仰模拟，究竟以哪一家为神圣？

以上所论，对人心模拟的技术可能的问题是搁置的，引出的更似一个思想实验，指向此项可能的智能工程或激动或困扰人类的问题：人心的安身立命或人际的文化生命。我仍然将技术的可能性开放给科学家，及未来的人类，但以人类的社会生命和文化生命立场，思考可能的人心模拟对人类意味着什么，仍然是必要的。

明眼人不难发现，以上议论的核心问题是还原论有无可能。我对还原论向来谨慎，质疑多于接受。功利主义推向极端，就会把所有人的行为，不论贤愚不肖，都视为趋乐避苦，损人利己是为自己乐，助人为乐也是为了自己乐，如此一来崇高与卑鄙没有区别，贤愚不肖没有两样，我们会如何反驳？针对上述学说，马克思若有反驳，用马克思自己的话来说，“凡是把理论导致神秘主义的神秘的东西都能在人的实践中以及对这个实践的理解中得到合理的解决”，是的，用生活实践来反驳上述说是神秘主义有点勉强、说是诡辩则恰如其分的人性学说是最有力的，我们不妨提出两个问题，第一，此学说的主张者，在每日的生活中是愿意遇到雷锋还是损人利己者；第二，损人利己者给自己带来快乐，给别人带去什么。如此，损人的行为与助人的行为在人际互动的意义上还一样无别吗？

所以举出上面的例子，在我看来，极而言之的功利主义，仍然把人心的维度，还原到自然性的人身和人脑的水平。我会坚持，无论智能模拟，还是人心模拟的技术前景如何，都必须在人身、人脑、人心和人际四个方面，即自然、文化和社会三个维度上综合考量，这或许能让我们既不恐慌技术的未来，也对拥抱超级技术及其生成的生活方式持有必要的审慎。

（节选自《从人脑模拟到人心模拟的社会文化问题》，刊2016年7月29《报·学人》）

作者：于海（复旦大学社会学系教授）

编辑：刘力源

*独家稿件，转载请注明出处。