聚焦上海论坛 | AI机器人索菲亚曾言“要摧毁人类”，未来我们或许只有这一个选择

“现场有多少人知道‘奇点’？又有多少人相信‘奇点’？”今天，在上海论坛2019圆桌会议“脑智融合，人工智能超乎想象”伊始，欧洲科学院外籍院士、澳大利亚国家科学院院士、悉尼大学教授陶大程就向与会代表抛出这样一个问题。

在物理学中，科学家认为“奇点”就是“时空中一个普通物理规则不适用的点”。但是，现代科学体系中,“奇点”也被认为是电脑智能与人脑智能兼容的那个神妙时刻。

“如果这个问题在2016年提出，我相信在座的很多人都会举手，但今天，大家都犹豫了。”陶大程笑道，让人工智能（AI）像人类一样思考，并和人一样利用现有知识进行学习，同时实现合乎逻辑的推理，这一直是AI算法试图达成的目标。但，随着对AI研究的逐渐深入，科研人员愈发意识到，要真正实现这一目标，太难。

AI研究的局限在于我们对人脑也是一知半解

陶大程向与会代表展示了两张图，第一张图有一千个人在拍集体照，第二张图有几百个人在看足球比赛。

面对这两张图，人类也许第一时间没法知道图中有多少人，但一眼便能知道两张图的区别。比如，第一张的语义分析是“拍集体照”，第二张则是“看比赛”。然而AI能快速测出图中的人数、他们分别穿什么颜色的衣服，但要分析出图片语义层面的区别，却要基于大数据及算力的支持。

不难发现，AI的表现能够超越人类的往往在一些垂直、具象的任务中，比如下围棋；但在更多方面，AI可能还不如一个五六岁的孩子，比如图像的语义理解。

“人类通过场景与图像认识世界时，不是基于颜色、形状和像素值，而是基于事物的整体形象。”复旦大学计算机科学技术学院副院长薛向阳表示，深度学习确实掀起了AI的研究高潮，但一般算法对其毫无意义，AI必须依靠大量数据建模、标记，才有达到人脑识别的可能。“但是，标记和识别并不意味着理解。”

▲人工智能索菲亚曾说，她想要“摧毁人类”。

正如著名物理学家、诺贝尔奖得主费曼所言，“我无法创造我不能理解的东西。”这句话同样适用于AI领域。要想赋予AI相关的能力，我们首先得深刻理解人类的自然智能到底是什么。

“人脑如何工作？我们为什么能思考，又为什么能推理？不可否认，人脑是至今为止人类认知宇宙中最复杂的东西。”复旦大学类脑智能科学与技术研究院神经与智能工程中心主任王守岩认为，尽管目前我们已能通过CT扫描、MRI去分析人脑，但其真正奥秘尚未大白于天下。

基于此，认知人脑，将脑科学与人工智能相结合也成了现今科技的热点。

“上海市政府已将脑科学与人工智能列为本市重大科技项目，作为建设具有全球影响力的科技创新中心的重要举措。”上海数学中心首席科学家，复旦大学类脑智能科学与技术研究院院长冯建峰介绍，自2012年，复旦大学就牵头联合浙江大学、华中科技大学、同济大学、上海交通大学等十几所高校及中科院研究所，成立“脑科学协同创新中心”，推进脑科学研究和转化应用，积极推进和参与“上海脑计划”的实施。

中国对AI技术的支持力度是空前的

现今，AI主要能力在于记忆和搜索，推理能力十分有限，更不要说应用、分析和创造了。

尽管，让目前的机器达到人类的智能水平还非常困难，但是，正如万物的发展都是循序渐进，AI技术也会遵循这样的基本规律。

中国对AI技术的支持力度是空前的，也是其他国家所无法比拟的。自2016年伊始，AI在政府政策方面获得的支持不断加码，在十三五规划中更是被纳入国家战略发展层面。而在5月25日，上海国家新一代人工智能创新发展试验区（简称“上海试验区”）也已正式启动。

复旦大学智能机器人研究院副院长张立华预测，下一代AI应当具备自主感知、自我决策和自我进化的能力。“我们希望AI不需要基于大量数据的复杂训练，也许通过快速训练后，就能习得非常好的泛化能力，能够有效完成不同类型的任务。”

陶大程则认为，理想的AI首先应当是稳定的，其次是普适的，并且能惠及每一个人，而不只是对一小群人有益。当然，更重要的是，AI应当与人类和谐共存，提升人类的能力，而不是对人类造成威胁。

“目前很难找到一个算法能够在普适条件下全面超越人的水平。”但陶大程很乐观，“期待有朝一日我们的机器能和我们人类做一样的事，甚至更好。”

作者：李晨琰
编辑：李晨琰
责任编辑：姜澎 樊丽萍

*独家稿件，转载请注明出处。