机器人用自我语言交流？ Facebook高管因害怕机器人统治世界辞职隐居

近日海外媒体报道，Facebook在发现两个机器人开始用只有他们自己能懂得的语言交流之后，终止了这个实验项目。智能聊天机器人Alice和Bob尝试用英语变得让自己更容易理解，机器人创造的语言在科学家看来却难以被人类理解。

一个机器人专家说Facebook的机器人带来令人兴奋的变革，但同时也担忧其发展将不受人类控制。

Facebook的这次事件就像电影《终结者》中的情节，人工智能发展出自我意识并对人类发动了毁灭性的打击。

Facebook的研究员在纽约启动了聊天机器人项目Alice和Bob，其目的在于让机器人可以自动处理社交网络相关的问题。例如，他们可以自动讨价还价和交易像帽子，书或者球之类的产品。不过人工智能为了彼此更方便的交流，迅速的把英语变成了只有他们自己能懂得暗号和重复。

一段人工智能对话：

Bob: i can i i everything else . . .(我 能 我 我 所有 否则...)

Alice: balls have zero to me to me to me to me to me to me to me to me to.(球 有 零 给我 给我 给我 给我 给我 给我 给我 给我 给.)

Bob: you i everything else . . . .(你 我 所有 否则)

Alice: balls have a ball to me to me to me to me to me to me to me.（球 有 一个球 给我 给我 给我 给我 给我 给我 给我.）

当研究人员意识到这一切的时候，他们关闭了人工智能设备的开关。

别担心 “没到那个程度” 自发聊天？只是一场误会

“我都怀疑这是为了吸引大家的眼球而发布的消息，中间掺杂了人的想象甚至商业目的。”北京市计算中心常务副主任刘彤博士的态度，是一笑了之。她解释说，在人编的程序中，发生机器的自我学习、跳变和演化是十分正常的。与其认为这是机器开始表达了，不如说这是程序的小bug。

“说到底，这只是两台终端之间的通信，它可能是预设的，也可能是基于条件的选择，但它们的迭代都是有边界的函数。”刘彤说。

至于人们从这则消息中嗅到的危险气息，刘彤重复了三次“没到那个程度”。站在AI专业研究者的角度，她表示目前的人工智能发展完全处在研究者的掌控之下，短期内，甚至我们的有生之年，人们担心的一幕都不会发生。“人工智能是人类的工具，包括它的自我学习和演化，都由人的程序操控。比如典型的AI能从一堆照片中找到猫的图像，也完全是人有目的的创造和引导的结果。”

美国华盛顿大学计算机科学终身教授陈一昕博士倒没有完全认同“bug说”，他首先表示“这具备了语言的基本元素”，因为中间有逻辑、语法和语义。他举了阿尔法狗的例子，阿尔法狗在和人类对弈的过程中琢磨出了很多新招数，这都是从没有经过人类棋谱“污染”的原始系统中衍生出来的，让人眼前一亮。在陈一昕看来，虽然运作机理不同，但AI发展语言、自行聊天的事例同样证明一个系统的推理能力，虽然非常初步。“在小环境下有足够复杂性的系统中，系统具有自我延伸、繁殖和进化的能力。”

事件的最新进展是，Facebook研究人员亲自辟谣。业内专家也认为，这只是“基于训练时输入的英文单词的错误组合”与“训练失误的模型”，“希望这个领域的媒体多些理性”。