未来AI替代法官？数据权利边界何在？上海法学界探讨人工智能应用
前不久，法国艺术小组Obvious用人工智能完成的《埃德蒙·德·贝拉米肖像》在纽约佳士得拍卖中以43万美元成交；国内一款AI能根据随机的画面“三秒成诗”，甚至还出版了诗集；此外，人工智能也广泛运用在医学、交通、通讯、司法等领域……近年来，上海学者围绕国家发展战略，率先对人工智能的相关法律问题开展研究。其中，上海交通大学凯原法学院彭诚信教授主编的“独角兽法学精品·人工智能”丛书涵盖了国外科学界和法学界研究领域前沿成果，含《机器人是人吗？》《谁为机器人的行为负责？》《人工智能与法律的对话》三册，由上海人民出版社引进推出。
人工智能在未来是否可以替代法官？大数据时代如何平衡个人信息隐私与数据安全？法学界准备好了吗？日前，彭诚信教授主持的国家社科基金重大项目“大数据时代个人数据保护与数据权利体系研究”在上海交通大学开题，项目首席专家、子课题一负责人彭诚信从“徐玉玉案”入手，提出数据与人工智能，数据与信息，信息与隐私的概念范畴的区分等问题，探讨个人数据的基础理论问题。
著名理论物理学家霍金曾说过：“发明AI（人工智能）可能会成为人类历史上最大的灾难，如果管理不善，会思考的机器可能会为人类文明划上句号。”这一担忧不无道理，到底该以何种恰当的形式进行最合理的规范和引导，以便将这些技术真正推向前行并最终服务于全人类？
种种迹象表明，人工智能时代已经来临，它不仅改变人类世界，也会深刻改变人类的法律制度，但AI的“背后操手”依然是人类，AI能帮助人们探索与突破认知的界限。上海交通大学去年成立了人工智能研究院，致力打造跨学科研究高地，在学界看来，关注人工智能时代的法治，就是站在人类命运共同体的角度，积极应对互联网、大数据、人工智能、区块链等前沿科技对国家治理、社会公平正义建设所带来的机遇和挑战。
彭诚信指出，人工智能的短期影响取决于谁控制人工智能，而长期影响则取决于人工智能到底能否受到控制，人工智能的发展必须明确其法律人格。法律人格有无的争议，导致人工智能发展缺乏法律价值指引。目前，人工智能技术的发展已呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征，就国家层面而言，以各种可能的手段降低、控制风险，成为我国发展人工智能的重要战略任务。
结合上海和上海交通大学人工智能研究院的技术条件，国家社科基金重大项目“大数据时代个人数据保护与数据权利体系研究”，正是希望为大数据时代个人数据权利保护贡献法学力量，促进研究成果向社会实效的转化，尽早取得成果。会上，子课题二负责人高富平教授围绕“个人数据上的权利体系研究”，提醒业内应清楚数据信息的主体和数据权利所针对的客体，厘清数据权利中人格权和财产权的边界，注重数据保护和利用。子课题三负责人单勇教授指出，如何在利用技术治理重塑社会的过程中实现“数据正义”十分紧迫，同时应侧重消除弱势群体“数字鸿沟”，努力解决科技寡头问题。子课题四代表王杰助理研究员聚焦“个人数据权利的私法实现研究”，指出信息的“脱敏”问题也应得到重视，平衡好利用与保护之间的关系。子课题五代表何渊副教授汇报了“个人数据权利的公法保护研究”，指出完善数据权利的公法保护体系应得到重视，提出四个数据保护的维度。
多名学者谈到，信息被加工成数据后才发挥其作用，因此需要对数据进行双重保护，数据保护应注重“源头治理”和“定位保护”。而目前数据管理和控制存在较大问题，很难保障个人隐私，同时，数据权利保护不应限于个人，需尽快梳理清楚数据与信息的关系，从比较法角度结合国情、充分发挥上海地区的优势，通过该研究为立法提供一些建议。
<<<<延伸阅读
“独角兽法学精品·人工智能”丛书序言
文/彭诚信（丛书主编、上海交通大学凯原法学院副院长）
无论生物学意义上的自然人类是否做好准备，人工智能时代正逐步走来，而这恰恰是由人类自身所引起。
人工智能最核心的“大脑”就是算法，算法本身便是规则。初级人工智能对人类的服务就是规则服务；而人类要接受人工智能的服务，就必须接受算法设定的各种规则。人工智能，尤其是结合网络运用的人工智能，会促使与提升自然人的规则意识，因为无论自然人在线下是否遵守规则，也无论规则在线下如何难以推行与实现，只要自然人接受线上服务，就必须遵守线上规则；无论自然人在线下如何不守信，他在线上也必须诚实，否则他就进入不了虚拟世界，便也无从获得特定人工智能的服务。在初级的人工智能时代，人类仍是核心，是世界的主宰，毕竟自然人仍是规则的制定者，是人工智能的服务对象。
而到了高级人工智能时代，即，当人工智能能够进入深度学习与感情交流，可以进行团体合作与共同行动时，换句话说，当人工智能可以改变甚至完全脱离自然人为其设计好的初始算法而创制新的算法时，那时的人工智能物便实实在在地变成了人工智能人。人工智能人如何改变自然社会，甚至如何引导与影响整个自然社会走向，已非自然人所能完全掌控与想象，恐怕也为人工智能人本身所不知。尤其是，当人工智能人可以在虚拟世界制定规则(创制新的算法)，而这种规则又必然会影响到自然世界时，那时自然世界的主宰到底是人工智能人，还是自然人，或许现在的我们已经难以给出确定答案。那时的人类在自然世界或虚拟世界中处于何种主体地位，现在的我们也不得而知。
当人工智能人有了情感交流能力并具有生物生成功能后，在自然人与自然人、人工智能人与人工智能人以及自然人与人工智能人之间的多元关系中，谁来制定规则，为谁制定规则，谁是自然世界或者虚拟世界的主宰或规则主体，以及各种形态主体之间具体的生活样态如何等问题，可能都远远超出了我们当下的想象，或许那时的社会状态本身就不可想象！
2017年7月中华人民共和国国务院发布《新一代人工智能发展规划》，强调建立保障人工智能健康发展的法律法规，妥善应对人工智能可能带来的挑战，形成适应人工智能发展的制度安排。对于人工智能的探讨与研究，即便是对于人工智能的规范性研究，并非法学一个学科所能胜任。
人工智能本身就是一个具有综合性、复杂性、前沿性的知识、智识与科学，它需要几乎所有的理工与人文社会科学学科进行交叉性研究，也需要研究者、实体技术者与产业者等各个领域的人配合与对话。法律人在人工智能的研究、开发、规则制定等各个环节中是不可缺少的一环，但也仅仅是一个环节，他只有加入人工智能的整体研究与发展中去，才会发挥更大的价值。
无论未来人工智能时代的社会生活样态如何，无论人工智能时代的社会主体如何多元，多元的主体依然会形成他们自己的存在哲学，也许依然需要他们自己的情感系统。无论未来的人工智能时代多么不可预测，问题的关键还是在于人类的自我与社会认知。
就像苹果公司首席执行官蒂姆·库克在麻省理工学院2017届毕业典礼演讲中指出的，“我并不担心人工智能能够像人一样思考，我更关心的是人们像计算机一样思考，没有价值观，没有同情心，没有对结果的敬畏之心。这就是为什么我们需要你们这样的毕业生，来帮助我们控制技术”。
是的，我们或许不知未来的人工智能是否会产生包含同情与敬畏的情感，但我们能够确信的是，即便在人工智能时代，我们最需要的依然是人类饱含同情与敬畏的“爱”。
未来的人工智能时代无论是初级样态还是高级学习样态，能够让多元的主体存在并和谐相处的，能够把多元主体维系在一起的或许唯有“爱”。这个从古至今在自然世界难以找到确定含义的概念，在虚拟与现实共处的世界中更是难以获得其固定内涵，但我们唯一知道并可以确信的是，如果没有“爱”，那么未来的人工智能时代就真的进入了一个混沌而混乱的世界。
记者：许旸
编辑制作：许旸
责任编辑：王磊
*独家稿件，转载请注明出处。