标题摘要内容
当前的位置:
详情
联合国权威发布:迈向全球包容性的人工智能治理方案
来源: | 作者:智法君 | 发布时间: 2024-02-04 | 130 次浏览 | 分享到:

2023年12月,联合国人工智能高级别咨询机构发布《为人类治理人工智能》(Governing AI for Humanity)的临时报告,并向公众征求意见。公开征询意见截止时间为2024年3月31日。


图片

联合国人工智能治理路线图


报告首先确定了人类利用人工智能获益的潜在机遇和推动因素,梳理了人工智能带来的风险和挑战,同时呼吁加强人工智能的国际治理,并给出了初步建议,详细列明了人工智能治理的指导原则和机构职责。


报告原文请戳:

https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pdf


本文节选《为人类治理人工智能》部分内容,了解联合国提出的迈向全球包容性的人工智能治理方案。





人工智能治理指导原则


指导原则1:人工智能治理应包容各方,由所有人管理并造福所有人


人工智能具有巨大的潜力,但人们尚未能够以有意义地改善生活的方式访问和使用人工智能。要充分发挥人工智能的潜力,使人们广泛参与其开发、部署和使用。全世界所有国家都要参与到人工智能治理中。


需要采取平权和纠正措施,包括获取和能力建设,以解决某些社群在技术开发、部署、使用和治理方面受到历史性和结构性排斥的问题,并将数字鸿沟转化为包容性的数字机遇。


指导原则2:人工智能治理必须符合公众利益


人工智能治理应该超越“不伤害”原则,为构建、部署和控制人工智能的公司及下游用户确立更广泛的问责框架。


人工智能治理应扩大不同利益相关方的代表性,并更加明确地划分公共和私营部门行为者之间的责任。为公众利益而治理还意味着对公共技术、基础设施和公职人员能力的投资。


指导原则3:人工智能治理应与数据治理并驾齐驱


数据对人工智能系统至关重要,治理人工智能不能忽视符合公共利益的数据治理。根据适用法律保护个人数据隐私和安全,同时积极促进数据使用而制定的监管框架和技术法律安排将是对人工智能治理模式的重要补充。


应当鼓励公共数据共同空间的发展,特别关注对帮助解决气候变化、公共卫生、经济发展、能力建设和危机应对等社会挑战至关重要的公共数据,以供不同利益相关方使用。


指导原则4:人工智能治理必须具有普遍性、网络化并植根于多利益相关方的协作


任何人工智能治理工作都应优先考虑不同成员国和利益相关方的普遍接受。有效治理应充分发挥现有机构的作用,与此同时建设新的拥有横向协调和监督能力的组织机构,二者形成治理结构中的重要网络节点。


人工智能治理框架可以借鉴世界各地的优秀实践经验和专业知识,并充分考虑到人工智能开发、部署和使用的不同文化意识形态。然后在这一治理框架内建立创新机构,让私营部门、学术界、民间社会和政府共同参与进来。


指导原则5:人工智能治理应以《联合国宪章》《国际人权法》及其他商定的国际承诺为基础


联合国可发挥独特的规范性和制度性作用,将人工智能治理与联合国的基本价值观相结合,为人工智能治理提供坚实的基础和方向指引。基于尊重人权和维护法治的需要,联合国需要综合考虑人工智能对全球经济、社会、卫生、安全和文化等各个领域的影响。一些联合国机构已经就人工智能在教育及军备控制等领域的影响开展了重要工作。


全球数字契约》和《数字合作路线图》是多利益相关方审议包括人工智能在内的全球技术治理框架的范例。联合国成员国的倾力参与、赋权联合国机构并让不同利益相关方参与其中,都对赋权制定全球人工智能治理对策和配置资源产生重要影响。





人工智能治理机构职能


报告指出为了妥善进行人工智能治理,针对人工智能设立的国际治理制度应包含以下职能。这些职能可以由个别机构或机构网络来执行。


机构职能1:定期评估人工智能的未来方向和影响


与政府间气候变化专门委员会类似,专门的人工智能知识和研究职能将定期发布一次科学的、基于证据的见解,该过程由专家主导,凝聚科学共识,以便决策者了解人工智能发展、部署和使用的未来轨迹。同时,将定期编制风险评估报告,并制定衡量人工智能对环境和其他方面影响的标准。


机构职能2:在普世价值认可的全球人工智能治理框架内加强各地治理工作的互通性,并符合国际规范


人工智能治理安排应考虑不同国家和地区的互通性,并以国际规范为基础。应充分利用现有的联合国组织和论坛,加强各管辖区监管措施的互通性。也可以建立一个平衡政策、推进共识、推广最佳实践、推动实施和促进对等学习的机构进行协调。


全球人工智能治理框架可支持政策制定和指导实施,以避免公共和私营部门、地区和国家之间出现人工智能鸿沟和治理差距,并明确各组织应遵循的原则和规范。


机构职能3:制定和协调统一标准、安全和风险管理框架


关于为人工智能制定技术标准、安全和风险管理框架相关的重要工作正在进行,但缺乏全球的统一标准和共识。考虑到联合国的全球化组织背景,联合国将联合不同成员国,制定共同的技术标准,并确保法律和技术的互操作性。


此外,还可以制定新的全球标准和指标,以衡量和跟踪人工智能对环境的影响及其对能源和自然资源的消耗,从而指导人工智能的发展,帮助实现与保护环境有关的可持续发展目标。


机构职能4:通过国际合作,促进人工智能的开发、部署和使用,以促进经济和社会效益


除了不伤害和不滥用标准,开发者和用户还需要一些关键的推动因素,如数据标签和测试标准、数据保护和交换协议。这些协议能够帮助初创公司进行跨境测试和部署,并包含法律责任、争议解决、业务发展和其他支持机制。


现有的法律、金融和技术安排需要不断发展,以应对未来复杂的自适应人工智能系统,这将需要考虑从反洗钱金融行动特别工作组、环球银行间金融电信协会等论坛和同等机制中吸取的经验教训。此外,对于大多数国家和地区而言,迫切需要发展公共部门的能力,以促进负责任地、有益地使用人工智能,并参与国际多方利益相关方合作框架,推进人工智能的发展。


机构职能5:促进在人才发展、计算机基础设施使用、构建高质量数据集、共享开源模型等方面的国际合作,实现可持续发展目标


需要一种(或多种)新的机制来促进数据、计算基础设施和人才的获取,以便通过升级的本地价值链,开发、部署和使用人工智能系统来实现可持续发展目标,使独立的学术研究人员、社会企业家和民间社会能够获取建立自己模型、进行研究和评估所需的基础设施和数据集。这可能需要网络化的资源和努力,以建立基于公共利益使用的公共数据集和公共数据资源,负责任地共享开源模型、计算资源以及大规模教育和培训。


汇集专家知识和资源,为私营部门提供研发工具制定激励措施,都可以为可持续发展目标提供推动力。


机构职能6:监测风险、报告事件、协调应急响应


人工智能工具具有无国界的特性,给国际安全和全球稳定带来了新的挑战。人工智能模型可以降低获取大规模杀伤性武器的门槛,可以迅速传播有害信息等。


必须在全球层面建立相关监测、报告和快速响应机制,以应对系统脆弱性和对国际稳定的破坏。例如,一种类似于用于增强中央银行弹性的宏观审慎框架的技术审慎模型,与国家层面开发的模型汇集在一起,可能有助于防范人工智能对全球稳定造成的风险。这种模式必须以人权原则为基础。


机构职能7:通过具有约束力的规范实现合规性和问责制


我们不能排除需要在全球范围内制定具有法律约束力的规范并加以执行的可能性。目前,缔结一项人工智能条约的区域努力已经开始。不具约束力的准则也可以单独或与具有约束力的准则相结合发挥重要作用。在国际安全等领域,联合国制定规范具有独特的合法性。但联合国不能也不应成为人工智能治理的唯一仲裁者,还要鼓励各国进行类似于可持续发展目标的定期审议报告,崔进对人权实践的监测、评估和报告。


同时,全球人工智能治理工作必须在目标和进程方面表现出坚决的透明度,并尽一切努力赢得公民利益相关方的信任,包括防止利益冲突。