如何与AI共舞?日本亮态度:以人类为中心
【导读】:2月1日的《布鲁金斯报告:AI风险前,中美或只能合作》刊发后,引起读者广泛热议,AI领域的伦理规范既是人类未来发展方向所在,也是大国博弈中国际话语权的竞争和合作,值得各国共商。欧洲委员会于去年12月18日发布了《关于可信赖人工智能的伦理准则》,同年12月27日,内阁府发布《以人类为中心的AI社会原则》(下简称“原则”),从宏观和伦理角度阐明了日本政府的态度。而同年10月31日,在中共中央政治局第九次集体学习时,国家领导人强调,要整合多学科力量,加强人工智能相关法律、伦理、社会问题研究,建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。
他山之石可以攻玉。日本的《原则》既从本国少子化、劳力不足出发,又综合考虑对人类、社会系统、产业构造、创新系统、政府带来的影响,并提出建设“AI-Ready社会”的明确倡议,也彰显了其人人平等,不唯效率至上的“Soceity 5.0”理念。如果春节聚会的话题是AI,愿此系列稿对您有所启发。
AI社会的基本理念:尊严、多元包容、可持续性
对AI的利用不能仅仅停留在实现效率、便利等现实利益层面,AI作为人类的公共财富,要通过推动社会方式的根本变革和真正创新,实现全球可持续发展目标。AI社会需要体现以下三个基本理念:
尊严(Dignity):AI社会是尊重人类尊严的社会。应将AI作为人类的工具之一,使人类能进一步发挥自身能力和创造性,通过从事具有意义的工作得到物质上、精神上的富足。
多元包容(Diversity & Inclusion):使用AI技术,不只为实现提升便利、解放劳动等传统效率目标,要能够使具有多元背景和价值观、想法的每个人都能获得幸福,对多元化采取灵活、包容的姿态,推动新价值创造。
可持续(Sustainability):通过灵活使用AI,强化科学技术储备,催生新的商业模式和解决方案,实现科技创新立国,减少社会差距、缓解全球环境问题等,推动可持续社会的构筑。
“AI-Ready社会”的愿景:对人类能力提出要求
AI、物联网、机器人、超高速宽带通信网等都是实现“Society 5.0”的重要技术。AI-Ready社会是实现“Society 5.0”所必需的社会变革。“设定怎样的目的去使用AI”是人类必须考虑的问题。《原则》分别从人类、社会系统、产业构造、创新系统、政府监管五个维度勾勒了“AI-Ready社会”的愿景。
第一,人类。
AI-Ready社会对人类能力提出要求:
(1)有能力理解AI的优缺点。数据、算法也会存在偏误(Bias),也会被用于不合理目的;
(2)能够使人们从事具有较高创造性、生产性的劳动。通过AI的帮助能够使人们基于出身、文化、兴趣等,获得实现梦想和发挥创意的能力;
(3)具有数据、AI基础知识和实施、设计等应用能力,跨领域、综合性、融合性的大量人才。
第二,社会系统。
AI的使用能够推动个性化服务、解决方案的升级和效率化。需要医疗、金融、保险、交通、能源等在内的社会系统整体的灵活调整。为了保障社会系统整体的互联、协作,尤其需要建立各类社会系统间互联共通的数据应用基础支撑平台。
第三,产业构造。
需要灵活地构筑国际化的劳动、雇佣和创业环境。需要企业实施公平竞争、采取灵活的工作方式,使人类的创造力通过产业能够得以持续发挥,拉动创新创业投资。
第四,创新系统。
大学、科研机构、企业以及民众都可以跨越领域和立场,参与到AI研发、利用及评估中。通过AI应用进一步产生新的创意,催生更多的可能性,进一步扩大创新的范围。
第五,政府监管。
产学官民利益相关方共同参与规则、制度、标准化、行为规范等方面的监管课题,兼顾弱势社会群体的意见,构建较为灵活且具实效性的监管方式。
“AI-Ready社会”的基本原则:防止出现“信息弱者”
第一,人类中心原则。
AI的使用不得侵害宪法和国际规范保障的基本人权。AI应该用于提升拓展人的能力、使人类获得多元幸福。为了防止人类过度依赖AI、恶意使用AI操纵人类意思决定的行为,需要把握以下原则:
(1)AI可以代替部分人力劳动,并作为辅助人类的高级工具,拓展人类能力和创造性;
(2)人类自己可以判断和决定如何使用AI。对使用AI带来的后果和责任,根据问题性质在利益相关者之间妥当分配;
(3)防止出现“信息弱者”和“技术弱者”群体。
第二,教育应用原则。
平等地向所有人提供教育、培育应用的教育环境:
(1)在幼儿教育、初等中等教育中提供广泛的教育机会,为社会人和老年人提供重新学习的机会;
(2)建立提升AI、数理、数据科学素养的教育系统。重视应用教育,增加有助于认识数据偏误及使用方法偏误的教育内容;
(3)转变单方向、均一化的教育方式,灵活运用AI激发人类兴趣,构建防止出现弱势群体的交互式教育环境;
(4)完善教育环境,发挥民企和市民的自主性。
第三,保护隐私原则。
AI社会中,依据个人行动等数据可以高精度推断其政治立场、经济状况、兴趣爱好等。需要谨慎对待个人数据:
(1)包括政府对个人数据的使用行为在内,均不得侵犯个人自由、尊严和平等;
(2)确保个人数据使用行为的正确性、正当性,使本人能够实质性参与并从中获益;
(3)对个人数据必须把握使用和保护之间的平衡。
第四,安全保障原则。
把握利益与风险之间的平衡,提高社会安全性和可持续性:
(1)正确评估及降低AI风险、推进AI深度研发和AI风险管理;
(2)重视AI使用的可持续性,不依赖少数几个特定的AI。
第五,公平竞争原则。
公平竞争环境有利于推动商业模式和服务创新,维持经济持续增长:
(1)防止特定国家利用AI资源优势地位,不当收集数据、侵害主权等行为;
(2)防止特定企业利用AI资源优势地位,不当收集数据、实施不公平竞争行为;
(3)防止由于AI的使用,导致财富和社会影响力过于集中于部分利益相关者。
第六,公平、说明责任及透明原则。
(1)在AI设计理念下,人不应因人种、性别、国籍、年龄、政治信念、宗教等被不当地差别对待;
(2)根据情况对使用AI的事实、数据获取及使用的方式、确保AI正确运行的相关措施等予以说明;
(3)根据需要设置沟通对话场所,使人能够理解和判断AI提案;(4)确保AI及数据的可信赖性。
第七,创新原则。
(1)为实现持续创新,跨越国境、产学官民、人种、政治理念等界限,从人才、研究两方面推进国际化、多元化及产学官民合作;
(2)推动高校科研院所与企业间的平等合作及人才流动;
(3)提升AI品质评估方法、,推动AI开发、测试、运用方法论等AI工学的确立;
(4)在确保个人隐私和安全前提下,打破数据壁垒,推动数据跨国境流动;(5)调整政府规制内容,推进AI技术的社会应用。
来源:部分主体内容来源于《光明日报》
作者:李慧敏(中国科学院科技战略咨询研究院助理研究员)等
编辑:周俊超
责编:李念