为什么会有这个标准
客户、董事会和监管机构如今都在问关于 AI 的同样问题:AI 用在哪里?谁来负责?如何确保它公平、准确?出了问题怎么办?ISO 42001 提供了结构化、可审核的答案。该标准于 2023 年 12 月发布,正迅速成为大型企业采购 AI 产品时的参考基准。
什么是人工智能管理体系
人工智能管理体系是组织用来治理其 AI 的一整套政策、角色、流程和记录。它不是构建模型的技术标准,也不会告诉您该用哪种算法。它要求您清楚自己开发、提供或使用了哪些 AI 系统,确定每个系统的负责任使用意味着什么,评估风险和对人的影响,落实控制措施,并持续检查和改进。
标准很重视您的角色。它借鉴 ISO/IEC 22989 中的 AI 概念和术语,区分 AI 提供者、负责设计和构建系统的 AI 生产者、AI 客户和用户、数据提供方和集成商等合作伙伴,以及受 AI 输出影响的人。一家公司可以同时承担多个角色:既是其产品中 AI 功能的提供者,又是第三方 AI 编程助手的用户。每种角色所需的控制措施各不相同。
谁应该考虑它
- 产品中带有 AI 功能的 SaaS 和软件公司
- 向大型企业或政府销售的 AI 供应商
- 在涉及个人的决策中使用 AI 的企业:招聘、贷款、保险、医疗
- 在安全问卷中收到 AI 治理相关问题的任何组织
如果 AI 只是内部的辅助效率工具,也没有人问起,那么目前一份较简单的 AI 政策和登记表通常就足够了。当 AI 是您所销售产品的核心、会影响涉及个人的决策,或者买家点名要求时,认证才真正物有所值。
标准包含哪些内容
第 4 至第 10 条款与 ISO 27001 的条款相对应:组织环境、领导作用、策划、支持、运行、绩效评价和改进。AI 特有的部分包括:
- AI 风险评估和AI 系统影响评估,考虑对个人和社会的影响
- AI 政策以及明确的角色和职责
- 38 项附录 A 控制措施,涵盖九个领域,从数据质量和来源到 AI 系统生命周期及第三方关系
- 适用性声明(SoA),与 ISO 27001 相同(请参阅适用性声明包含哪些内容)
条款概览
| 条款 | 针对 AI 增加了什么 |
|---|---|
| 4 组织环境 | 您在 AI 方面的一个或多个角色、每个 AI 系统的预期用途,以及 AIMS 的范围 |
| 5 领导作用 | AI 政策,以及最高管理者对 AI 治理的问责 |
| 6 策划 | AI 风险评估和风险处置、AI 系统影响评估(6.1.4)以及 AI 目标 |
| 7 支持 | 为从事 AI 工作或使用 AI 的人员提供资源、能力和意识 |
| 8 运行 | 按计划的时间间隔以及在发生重大变更后,开展风险评估、风险处置和影响评估 |
| 9 和 10 | 监视、内部审核、管理评审和纠正措施,与 ISO 27001 相同 |
与 ISO 27001 逐条款的对比,请参阅我们的 ISO 42001 与 ISO 27001 指南。
各附录
附录 A 列出了九个领域的 38 项控制措施,编号为 A.2 至 A.10:
- A.2 AI 相关政策
- A.3 内部组织,包括角色以及问题反映机制
- A.4 AI 系统的资源:数据、工具、算力和人员
- A.5 评估 AI 系统对个人、群体和社会的影响
- A.6 AI 系统生命周期,从需求和设计到验证、部署、运行和监视
- A.7 AI 系统的数据:质量、来源和准备
- A.8 面向相关方(例如用户和受影响者)的信息
- A.9 AI 系统的使用,包括负责任使用和预期用途
- A.10 第三方和客户关系
附录 B 为每项控制措施提供实施指南,因此 ISO 42001 自带了相当于 ISO/IEC 27002 的内容。附录 C 列出了潜在的 AI 相关组织目标和风险来源,在建立风险评估时很有参考价值。附录 D 介绍如何在不同领域和行业中使用该管理体系。
配套标准
有三项相关标准值得了解。ISO/IEC 23894 提供 AI 风险管理指南。ISO/IEC 42005:2025 于 2025 年 5 月发布,为 AI 系统影响评估提供指南,而这正是大多数团队觉得最难的部分。ISO/IEC 42006:2025 于 2025 年 7 月发布,规定了审核 ISO 42001 的认证机构须满足的额外要求,作用类似于 ISO/IEC 27006-1 之于 ISO 27001。您只需按 ISO 42001 获得认证,其他标准帮助您把它做好。
与 ISO 27001 的关系
| ISO 27001 | ISO 42001 | |
|---|---|---|
| 管理对象 | 信息安全风险 | AI 风险和影响 |
| 附录 A | 93 项控制措施 | 38 项控制措施 |
| 共同部分 | 管理体系条款、内部审核、管理评审、文件控制、供应商管理 | |
许多组织运行一个同时覆盖两者的整合管理体系,采用同一套内部审核方案,并合并进行认证审核。ISO 42001 与 ISO 27001 指南介绍了应先做哪一个,以及如何进行一次整合审核。
监管背景
澳大利亚
澳大利亚没有要求 ISO 42001 的 AI 专门立法。2025 年 10 月,国家人工智能中心(National AI Centre)发布了《AI 采用指引》(Guidance for AI Adoption),它更新并取代了 2024 年的《自愿性 AI 安全标准》(Voluntary AI Safety Standard),把原有的十项护栏浓缩为六项基本实践:明确谁来负责、了解影响并据此规划、衡量和管理风险、分享关键信息、测试和监视,以及保持人工控制。该指引是自愿性的,而 ISO 42001 管理体系能以经过审核员检查的方式覆盖每一项实践。
现行法律同样适用于 AI。自 2026 年 12 月 10 日起,如果个人信息被用于可能对个人产生重大影响的自动化决策,隐私政策必须予以披露;我们关于澳大利亚网络安全与隐私新法的指南解释了这项义务。消费者保护、反歧视和行业规则也适用于由 AI 驱动的决策。政府买家越来越多地询问供应商如何治理 AI,而 ISO 42001 证书是一个清晰的答案。
欧盟《人工智能法案》
欧盟《人工智能法案》适用于特定 AI 系统的提供者和部署者,包括一些系统在欧盟境内使用的欧盟以外组织。其禁止性规定和通用 AI 模型义务已经适用。根据 2026 年通过的修订,主要的高风险义务现在对独立的高风险系统自 2027 年 12 月 2 日起适用,对嵌入受监管产品的 AI 自 2028 年 8 月 2 日起适用。ISO 42001 支持该法案所要求的大部分风险管理和质量管理,但获得认证本身并不等于符合该法案。
获得认证
流程与 ISO 27001 一致:确定范围、差距评估、实施、内部审核、管理评审,然后由获认可的认证机构进行第一阶段审核和第二阶段审核。我们负责实施 ISO 42001 并开展内部审核。请查看我们的 ISO 42001 页面,或了解第一阶段和第二阶段审核会经历什么。
实际工作按以下顺序进行:
- 清单和范围。列出您开发、提供或使用的 AI 系统、您在每个系统中的角色,以及 AIMS 涵盖哪些系统。
- 政策和目标。明确负责任 AI 对您的企业意味着什么,以及由谁负责。
- 风险和影响评估。评估每个范围内系统对组织的风险和对人的影响,然后选择控制措施并记录在适用性声明中。
- 运行控制措施。数据质量检查、发布前的验证和确认、生产环境中的监视、面向用户的信息、供应商尽职调查。
- 检查和改进。内部审核、管理评审和纠正措施,然后进行认证审核。
认证机构需要专门获得 ISO 42001 的认可。在澳大利亚和新西兰,JAS-ANZ 设有人工智能管理体系认可方案,因此在委托之前,请确认机构的认可范围明确列出 ISO/IEC 42001。与 ISO 27001 一样,证书以三年为一个周期,期间进行监督审核;我们关于 ISO 27001 审核周期的指南解释了其运作方式。
审核员关注什么
- 与实际情况相符的 AI 清单,包括所购软件中内置的 AI 功能
- 真正考虑了谁可能受到影响、如何受到影响的影响评估,而不是一份通用模板
- 模型在发布前经过测试、发布后受到监视的证据
- 面向用户的清晰信息,例如告知对方正在与 AI 交互
- 对 AI 供应商和模型提供方的尽职调查
- 真正讨论 AI 风险和绩效的管理评审
哪些因素决定工作量
工作量与公司规模关系不大,主要取决于范围内 AI 系统的数量和性质、您是自建模型还是使用模型、训练数据和输入数据的可追溯程度、有多少系统会影响涉及个人的决策,以及您是否已有可供扩展的 ISO 27001 ISMS。一个已有 ISO 27001、只有两项 AI 功能的组织,需要建设的内容远少于一个从零开始、拥有一系列模型的组织。关于范围如何影响管理体系项目的工作量,请参阅哪些因素决定 ISO 27001 的成本。
常见错误
- 把 ISO 42001 当作 IT 安全项目,把产品、数据科学和法务团队排除在外
- 只把自己开发的 AI 纳入范围,忘记了自己使用的 AI
- 写了一份无人遵守的 AI 政策,与模型的实际发布流程毫无关联
- 照搬 ISO 27001 的风险方法,却没有加入针对人的影响的评估准则
- 未核实认可范围,就以为 ISO 27001 认证机构也能颁发 ISO 42001 认证
下一步
先如实梳理您开发和使用的 AI,以及它们涉及的决策。这会告诉您是现在就需要认证、一个较轻量的治理框架就够,还是应先做 ISO 27001。想确认您的 AI 应用是否需要该标准,欢迎预约 30 分钟免费咨询。
