法学家刘宪权：要确保人工智能在应用层面安全可靠可控

和大多数人憧憬人工智能（AI）技术发展会给人类社会带来哪些福利有所不同，法学家们思考的是刑法所秉持的立法前瞻性理念。法学界应该思考在法律层面对人工智能技术进行界定，“当风险转变为现实危险后才考虑刑法规制问题，将使人类陷入被动。”知名刑法学家、华东政法大学刑事法学研究院院长刘宪权日前就人工智能方面的相关问题，接受了本报记者专访。刘宪权认为，人工智能技术已呈爆发式发展，其速度远超法律的发展。他提出：法律应该未雨绸缪，刑法尤其应该秉持立法的前瞻性理念，确保人工智能技术在应用层面安全、可靠、可控。

刑法有必要修订以适应人工智能发展

当人工智能机器人被作为犯罪工具、开始危害社会时，现有刑法是否能够完全规制人工智能犯罪？对于这个问题，目前，法学界看法不一。

“有人认为，用于实施犯罪的人工智能，本质上就是一个作案工具，是一件器物，现行刑法完全可以对相关犯罪行为进行规制。但事实真的如此吗？刑法的完全规制能够适用多久？”结合近年在人工智能法学领域的研究，刘宪权认为，按照机器人智能化程度，目前暂分为普通机器人、弱人工智能机器人和强人工智能机器人。而这个升级发展的过程，本质上是机器人“机器”的成分越来越少，“人”的成分越来越多的过程。

众所周知，人是有意识和思维的。随着技术的发展，未来的强人工智能机器人一旦有了“思维”，刑法这道“最后的防线”为了保护社会的安稳有序健康，就有必要作出相应的修订。

即便是眼下，一些案件的发生，已经让司法界感到棘手。

刘宪权举了一个案例。2015年2月，英国进行首例达芬奇手术机器人心瓣修复手术。这原本是一场最尖端的医疗AI技术展示，没想到却成了一场鲜血四溅的惨案。当时，达芬奇手术机器人出现了严重失误，不但把患者的心脏缝错了位置，而且还戳穿了患者的大动脉，导致患者在手术后一周去世。分析可知，虽然医生在手术中存在医疗过错行为，但医疗机器人同样存在“失误”。这一案例提示人们注意，医疗机器人因机器故障或算法失误，就可能导致医疗损害，存在一定的刑事风险。

应增设适用于人工智能机器人的刑罚处罚方式

“就目前的人工智能技术发展水平而言，我国现行刑法规定可以规制大部分涉人工智能犯罪。但需要针对条文规定过于模糊的地方，通过司法解释予以明确，或者调整部分犯罪的构成要件。”刘宪权告诉记者，针对人工智能时代出现的特有新型犯罪，需要践行人工智能时代刑法的前瞻性理念，增设滥用人工智能产品罪和人工智能产品事故罪等罪名，实现技术飞速发展和刑法条文相对稳定性之间的平衡。

刘宪权还大胆地提出了一个观点：依据人工智能机器人自身的特点，应增设能够适用于人工智能机器人的刑罚处罚方式。

他建议，在对人工智能刑事立法具体条文的修订和增设方面，应当修改侵害计算机信息系统类犯罪、交通肇事罪、危险驾驶罪等犯罪的主体和行为方式，使其适应人工智能技术的发展现状和未来趋势。同时，在刑法中针对人工智能机器人增设删除数据、修改程序、永久销毁等刑罚处罚的方式。

今年并非刘宪权第一次针对人工智能发展提出新的立法建议和法学研究的新观点，他的“高产”一度是学术界的佳话。年逾六旬的刘宪权直言，这不仅是因为自己仍然保持着惯有的对学术研究的认真与执着，最根本的驱动力是他对新生事物的好奇。“像人工智能技术发展对法律和未来社会带来的挑战这类问题，是一个很大的时代课题，可以研究一辈子。”

作者：本报记者 樊丽萍
编辑：施薇

*独家稿件，转载请注明出处。