ISO 42001

人工智能管理体系

产生背景 相关法案 标准内容

人工智能管理标准产生的背景

2016年，英国标准协会（BSI）首次发布了一份关于人工智能伦理管理的标准BS 8611:2016。这份标准在当时的业界似乎并没有引起太多反响，或许那时人们都认为人类还需再等待二十或三十年才能迎来人工智能的“奇点”，恰如伟大的发明家、未来学家库兹韦尔在他的神作《奇点临近》一书中预测的那样，“2045年，奇点来临，人工智能完全超越人类，人类历史将彻底改变”。然而，人类似乎不需要等到2045年，“奇点”可能便会在不久的将来实现。自2022年11月30日Open AI通过GPT-3.5系列大型语音模型微调而成的全新对话式AI模型Chat GPT正式发布以来，无论在人工智能专业领域还是在人工智能应用领域掀起了巨大波澜。

为了应对这即将到来的“奇点”，各国政府都在制定或发布针对人工智能监管的法案以确保人类更好地应用人工智能技术，比如：

欧盟《人工智能法案》谈判授权草案通过：2023年5月11日，欧洲议会内部市场委员会和公民自由委员会以84票赞成、7票反对、12票弃权通过了《人工智能法案》的谈判授权草案。修改后的《人工智能法案》针对人工智能基础模型、价值链责任和最近大热的生成式人工智能做出回应，同时研究了针对企业尤其是中小企业和初创企业的豁免条款，该发案已于2023年6月生效。

中国国家互联网信息办公室《生成式人工智能服务管理办法（征求意见稿）》：2023年4月13日，国务院新闻办公室举行新闻发布会，国家互联网信息办公室有关负责人介绍了《生成式人工智能服务管理办法》的相关情况。国家互联网信息办公室近日印发《生成式人工智能服务管理办法》，明确生成式人工智能产品提供者应当遵守法律法规的要求，尊重社会公德、公序良俗。

其实，在更早之前，一些国际组织也在积极研究和探讨人类如何更好地应用人工智能技术，这些组织制定了一些建议和指导原则，例如：

2019年OECD（经济合作与发展组织）提出了关于人工智能管理的原则和建议，这些原则在为各国政府制定人工智能政策提供指导和建议。

联合国教科文组织（UNESCO）在2019年通过了一份名为《人工智能：伦理与道德》的报告，呼吁各国政府和私营部门在人工智能的开发和使用过程中遵守一系列基本原则和规范。

世界经济论坛在2020年发布了《人工智能全球议程》报告，提出了人工智能治理的五项核心原则：人类为中心、信任、公平、透明和安全。

人工智能领域管理标准概况介绍

在英国标准协会（BSI）于2016年发布BS人工智能管理标准后，国际标准化组织（ISO）也充分意识到快速发展的人工智能（AI）应用所带来的社会性挑战，将人工智能管理标准纳入制定计划中，并从去年开始发布相关管理标准，例如：

ISO/IEC 22989:2022标准正式发布：2022年7月国际标准化组织正式发布ISO/IEC 22989:2022 信息技术-人工智能概念和术语，这份标准详细描述了与人工智能领域相关的概念与术语，该标准首先定义了人工智能各个领域的术语，例如：与人工智能相关的术语、与数据相关的术语、与机器学习相关的术语等等，在定义术语的基础上，标准就AI领域相关的概念进行了详细解释，例如：“从强人工智能和弱人工智能到通用人工智能和窄人工智能”概念、“软计算”的概念、“通用算法”的概念等等，为人工智能管理标准的制定确立的概念和术语共识的基础。

ISO/IEC 42001标准进入批准阶段：2023年6月，用于人工智能管理体系认证的标准《ISO/IEC 42001 信息技术—人工智能—管理体系》已经完成成员国意见征询工作，根据国际标准化组织（ISO）官网最新公告（2023年6月8日），该标准目前已经进入批准阶段。按照国际标准化组织（ISO）标准发布的程序，不出意外，该标准将在两个月后正式发布。预测这份标准在正式发布后将在人工智能领域引起大范围的关注。

ISO/IEC 42006标准委员会草案批准：同时，一份关于用于对认证机构在人工智能领域开展认证审核工作的标准 《ISO/IEC 42006 信息技术—人工智能—人工智能审核与认证机构要求》也在积极制定中，根据国际标准化组织（ISO）官网最新公告（2023年6月8日），该标准已经完成委员会草案，即将批准成为成员国征询意见稿。