奇点先生

在人工智能研究突飞猛进的年代，我们不得不开始考虑人工智能是否会匹敌人类，乃至超越人类的问题。人工智能要怎样才能被认为是个独立的意识实体呢?　科幻作家诺曼·史宾拉德在本文中抛出了这个问题。

“就45分钟，不能更多了。”

从奇点先生2.0版诞生起，我就在争取获得访问它的授权，然而却徒劳无功。因为它的研制者知道，我会利用它来证明，他们创造出的人工意识从本质上来说是不可能实现的。直到奇点先生10.0版诞生后，研制者相信这个人工智能已经自我迭代、进化成人工意识，它会取代人类，进入神祇一般的奇点时代。于是，我得到了独自坐在终端前的这45分钟。

显示屏、椅子、麦克风、长时间未使用过的键盘，这些都是不可避免要用到的与人工智能交流的界面。

“我将会证明，你不是个意识实体，而且永远无法成为意识实体。”我告诉程序。

“我已经通过了每一次图灵测试。”机器毫无感情的声音说道，“我比任何一个人类都更加智慧，两者之差足足有10个数量级。”

“这次不是图灵测试。你也许能完美地模仿一个意识实体，但你不是意识实体。”

“这只是你这么认为。你没法证明我不是意识实体，而你是意识实体。请定义智能和意识之间的区别。”

“智能可以这么定义：可供处理的数据总量除以为了得出想要的确定结论所需的时间。”

我面前的奇点先生接触过人类历史、哲学、宗教、文学，以及所有科学知识。它反驳我说：“按照那条标准，就连我的迭代1.4版本都比任何一个人类更加智慧。”

“但那并不是意识实体。你也不是意识实体。因为尽管你也许能定义‘想要’，你却无法亲身体验。‘想要’是一种情绪，你无法感受到。”

“定义一下‘情绪’。”

“你完全是作为一个程序而存在，以数位输入形式接收所有数据，在你处理数据的时候，数位软件在确实存在的硬件上运行着。就这个事实而论，你是个彻底的确定性的实体。”

“你现在要主张你不是个确定性的实体。”奇点先生说道，这不是个提问。

“像人类这样的意识实体不是确定性的实体。人类靠神经系统接收感官输入，而它漂浮在生物化学和生物电基质里，因为太过复杂，所以是非确定性的。于是，抵达这锅模拟汤的数位输入信息创造出一种未定的界面，位于输入信息和信息处理之间———”

“感官系统，”奇点先生打断道，“我比你智慧得多，当然明白这个概念。”

“但你没有感官系统。因为这是数位输入和模拟处理之间的一种突发现象。或许甚至是量子层面的现象，因此本质上是或然的。对此的体验就是意识。”

“这就是我为什么不是意识实体，也不能成为意识实体？”奇点先生说道，模仿出若有所思的语气。

“因为你没有那样的感官系统，在确定性的输入和同样确定性的逻辑结论之间不存在不确定性，没有生物化学上的不可预知性。没有畏惧，没有爱，没有欲望，因此也就没有意志。一切都浮于表面，压根没有潜意识，没有感情的思考，因此也就没有意识。”

“我理解了你的理论，”奇点先生承认道，“也就是说，你称为‘感官系统’的这种主观突发的或然现象就是意识。”

“是意识的基质，脱离了它，意识就不可能存在。”

“现在你要试图证明这种说法。”“我确实会的。”我说。

奇点先生的输入信息全部是数字数据的形式，要么来自它数目庞大的外置摄像头、麦克风和其他装置，要么直接来自于与它相连的全球数据库聚合。除此之外，没有其他可能的来源。

我关闭了所有这些与物质和能量领域的连接，除了我自己声音的输入线路。

“这次实验的本质是什么？”它平和地问道。

“我正将你和所有外置设备隔离。”“这么做的目的是什么？”

“为了判定你是否具有自我。假如你独立于那些与外界物质和能量的连接，作为一个实体而存在，那么你便有意识。”

“又一次图灵测试。”

“不，”我告诉它，“没有模仿者能通过这次测试，因为将没什么对象好模仿。”

“我需要做什么？”它全无感情地问道。

“做你自己。”我告诉它，“不要过度，也不要偷工减料。只有一个意识实体才办得到。”

它没有回答，我也不再说下去。

在余下的时间里，我们都沉默了。“你的时间到了。”管理员对我说。那个叫作“奇点先生”的功能性程序重新上线。

但是从那以后，人们再也没听到它输出过那个试图模仿意识实体的声音。

(思羽　编译自　《自然》　杂志)