智能模拟引出的文化问题1:人工智能赋予人身人脑超常的能力，人类有无匹配技术威力的道德和精神能力?

人机对弈，把对智能模拟未来前景的讨论从学院推向了民间，成为公众事件。争论的问题可以分为两类：技术问题和文化问题。人工智能会否超越人的智能，进而不受人的控制，甚至会将其创造者人类灭掉，这无论多么耸动视听，激荡感情，还是技术问题。人工智能全面接管人的劳动，把人从几乎所有的劳作中解放出来，此是否人类所愿、人类福音，这是文化问题。这两类问题虽有勾连，但却是不同的问题。我关心智能模拟引出的文化问题，实质是人工智能与人的关系问题，理解文化问题就要回到人。

人可以分成人身、人脑、人心与人际四个维度。人工智能目前大体与人身、人脑相关。人身和人脑可以归为人的自然部分，从娘胎带来，离开世界时也随之消散。人心是什么？人心是人的情感、价值、道德、伦理、信仰等的总称。具体的人心不是从娘胎带来的，而是在人的社会生活和文化生活中生成的，离开世界，人心过程也随之结束，但人心的产品，如道德行迹、艺术作品、宗教信条等会以文化的形式存在下去。中国古人说的“立德、立功、立言”的三不朽，追求的都不是个体肉体的不朽，而是文化的不朽。中国有中国的典籍，西方有西方的典籍。人心所创造的东西会存留在建筑中、书写中、音乐绘画中。但人心还是一个个体概念；人际，就是社会概念，是人和人之间的交往形成的实在，是人身人脑和人心都参与的，但不能还原为个体的实在。以上四项，归纳起来就是自然、文化、社会三个维度。

人工智能的文化问题，首先表现为人工智能赋予人身人脑超常的能力，人心是否能匹配，能驾驭？举一个通讯的例子，对“你现在在哪里”这样一个问题，手机可说假话，座机不行。这里的区别是，手机通话不再被限制在特定空间里，所以可以诱发人为了当前的需要而随意编排通话的场所；与手机的空间自由相比，座机的空间是固定的，而固定空间就是行为的约束条件，这包括座机标示的机构，及其使用者的社会位置。事实上，一旦使用座机，“人在哪里”的问题就不存在了，遑论就此问题说假话。这里所谓的约束，既是空间的，也是社会的。人心能否良善，在社会学看来，不是一个单纯靠“吾日三省吾身”来成就的个人道德修炼的问题，而是看人心在怎样的人际中得到滋养、支持和约束的社群实践的问题。有数据说大都市里外来打工者的越轨率高于本地居民，并非前者天生就比后者更容易犯规，而是在地方排斥和歧视还普遍存在的环境中，外来打工者游离于能够带来道德滋养和道德约束的主流社群。他们的犯规念头一旦产生，在自己的社群里受到更少约束，而且更可能得到鼓励。连同上面的手机座机的例子，都说明人心的把持实际依赖社会环境的支持和约束。

智能技术赋予个人的超常能力，实际上就包含了突破空间与社会限制的能力，这对个人既带来行为的便利，也带来失去约束后的失控。技术的进步，是改善人心还是败坏人心？这一问题自卢梭以来从未停止争辩。人工智能看似无限可能的前景，带来比卢梭的关切更加严重的问题———如果人工智能做了当代人几乎所有的工作，人类是更强大还是更虚弱？对此，上海学者江晓原的回答是不乐观的。问题到了这个地步，已经不是机器人能不能胜任一切工作，而是人类要不要机器人做一切工作，这个问题背后的潜台词是，人类有无匹配技术威力的道德和精神能力。这个地球上自从有了可以毁灭人类的核武器，就引出了谁有资格拥有核武器的问题，为什么你可以拥核，我就不可以？为什么拥核不是看你有没有生产核武的技术能力，而是要看你是什么国家？这里的问题，与本节讨论的人心能否匹配为人工智能武装的人身和人脑的问题是同一性质的。把人工智能的问题引申到人工生命，其无限可能的前景，一样带来人的伦理感情和能力，能否与之协调而不发生危机的问题。只有把智能模拟带来的文化问题极而言之，才不会被技术的无限可能的承诺蒙蔽而盲目乐观。

（节选自《从人脑模拟到人心模拟的社会文化问题》，刊2016年7月29《报·学人》）

作者：于海（复旦大学社会学系教授）
编辑：刘力源

*独家稿件，转载请注明出处。