人工智能时代要“边发展边治理”

核心观点

几百年来创造丰富物质财富的工业革命留下的重要教训之一是“先发展，后治理”，它付出了生态环境失衡等严重代价。在人工智能时代，要充分吸取这一深刻历史教训，切戒以牺牲安全为代价的粗放式增长，坚决走“边发展，边治理”的科学之路。要充分认识和评估每项“颠覆性创新”可能存在的漏洞或盲点并及时加以处置，尽可能降低人工智能发展中的风险

人工智能的新一轮浪潮已经到来。日前，中共上海市委常委学习会重点围绕国际国内人工智能的发展和应用开展学习讨论。市委书记韩正强调，上海要牢牢把握、充分发挥在人工智能发展上的自身优势，努力打造国家人工智能发展高地。

人工智能的实用门槛已突破

从数字化、网络化到智能化，日新月异的信息技术不断加快和引领信息社会从低级向高级发展。当前，以机器人为代表的智能革命已成烈火燎原之势，世界诸国纷纷制定有关人工智能的国家战略，以期抢占下一个“主战场”。2016年10月，美国白宫发布了　《为人工智能的未来做好准备》《国家人工智能研究与发展战略规划》两份报告，确立了美国在人工智能领域的七项长期发展战略。同月，由美国国家科学基金会等资助的　《2016美国机器人发展路线图———从互联网到机器人》　报告发布，它具体在研究创新、技术发展和政策方面提出了建议，旨在确保美国在机器人领域的领先地位。2016年9月，日本内阁召开“人工智能技术战略会议”，将推进人工智能研究纳入国家级　《第5期科学技术基本计划》　和　《科学技术创新综合战略2016》。中国亦不落后，在感知智能领域、认知智能领域已取得较大进展。2016年中国人工智能市场规模快速增长，全年已超过230亿元，预计2018年将达到381亿元，复合增长率达26.3%。同时，在体现国家战略意图的“科技创新2030—重大项目”中新增了“人工智能2.0”计划。

人工智能应用正不断向广度和深度拓展，“让未来充满无限可能”，一些智能应用已经渗透到人们的生产实践和日常生活中，如语音识别、刷脸门禁、机器翻译、医疗诊断、自动驾驶、量化投资、仿生视觉、虚拟现实、无人机、VR技术、智能视频图片等。可以说，人工智能深刻改变几乎所有行业的工作方式、管理模式，以及人们的生活习惯和社会分层。

如果说当年托夫勒的“第三次浪潮”所描绘的信息社会是预测性的轮廓，那么现在“未来已来”，我们已不由自主地置身于这一前所未有的新时代，并构成这一网络型社会的一个“节点”。

“颠覆性变化”必然带来风险

人工智能不仅是人的肢体延伸，更是人的大脑替代，“颠覆性变化”将成为社会新常态。毋庸置疑，它是一把双刃剑———在给人们带来无限便利的同时，也以新的方式威胁着人们的安全。例如，智能摄像头导致大量用户隐私泄露，甚至在用户毫无觉察中“直播”其生活场面；一些智能家电，包括智能灯具、智能插座、智能手表、宠物婴儿监控器等，它们能泄露某些数据而为小偷等提供作案时间和地点；智能冰箱则可作为垃圾邮件的发送端。在国家层面，以人工智能为代表的新一轮颠覆性技术创新浪潮，以及随之而来的世界各国对未来新技术新产业的提前谋划和战略部署，也必将在国家安全领域引发许多非传统安全问题。

世界知名物理学家斯蒂芬·霍金警告过人工智能的危险。他认为，人类必须找到一种方法，在其重大破坏造成之前迅速发现所面临的威胁。特斯拉公司首席执行官伊隆·马斯克也持类似观点，他认为，人工智能的发展必须受到控制。

当然，我们不能因噎废食，但是要高度树立风险意识，时刻关注并及时处理人工智能发展中可能出现的各种挑战及问题。几百年来创造丰富物质财富的工业革命留下的重要教训之一是“先发展，后治理”，它付出了生态环境失衡等严重代价。在人工智能时代，要充分吸取这一深刻历史教训，切戒以牺牲安全为代价的粗放式增长，坚决走“边发展，边治理”的科学之路。要充分认识和评估每项“颠覆性创新”可能存在的漏洞或盲点并及时加以处置，尽可能降低人工智能发展中的风险。

在先行先试中探索发展之路

上海在大数据、相关人才和应用技术三方面的优势较为突出，这是发展人工智能产业的良好基础。如何在先行先试中探索走出一条人工智能的顺利发展之路？　笔者有几点建议。

首先，要坚持以人为本的发展路线，不仅有利于人的方便，更要有利于人的安全。要牢固树立风险意识，不片面追求发展速度，“颠覆性创新”成果必须过“安全关”，如用区块链技术给智能家电“加锁”等。

其次，要及时优化政府管理体制、监管模式，注意可能出现的社会新问题、法律新空白等。实现任何创新驱动都是复杂的社会系统工程，人工智能的健康发展需要与时俱进的完备的政策框架，避免用老办法处理新问题。同时，要形成“人工智能创新生态系统”，包括在数据整合、平台建设、示范应用、产学研效率提高、产业生态支撑体系、产业政策等方面的全面规划和协调推进。

第三，要科学预测人工智能的发展趋势，加强人工智能前瞻研究和理论探讨。信息社会的网络化智能化发展改变了人类认识和连接世界的方式，使得不少传统的经典理论面临时代的挑战。由于人工智能模糊了虚拟和物理世界的界限，更是衍生出许多复杂的法律、伦理和哲学方面的问题。对此，目前国际上尚未建立起相关方面的共识。

文/郭洁敏(作者为上海社会科学院信息所研究员)