Skip to content

GRF · 人工智能与数字治理

技术采购与标准

政府通过其采购内容和所引用的标准来塑造 AI 和数字 系统 。采购设定对透明度、安全、数据权利和退出的要求;标准机构编写监管机构推定为合规的规范。本页阐述采购与标准如何治理技术、它们在何处失灵、体现它们的记录,以及由谁决定。

01画布

工作如何开展。

系统 · 围绕本主题示意

公共算法登记册

技术采购与标准 · 算法登记册 · 第 2 季度

两个未经评估的高风险系统GRF · 人工智能与数字治理

已登记的系统

福利欺诈标记社会能动性高缺失部分
许可分诊规划有限已完成是
入学安置教育高已完成是
聊天助手税务局极少已完成n/a

监督行动

系统
福利欺诈标记
必填
影响评估、申诉途径
截止日期
82 days
权限
监督机构

关于自动化决策的投诉

Public algorithm register: the screen’s structure, terms and states for Technology procurement and standards.Example names and illustrative values; a design, not a record or a live system.

Fig.Public algorithm register: example names and illustrative values, not a record or a live system.

02问题

技术采购和标准:风险如何形成。

Public acquisition and assurances. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

机制

Lock-in limits choice

Proprietary formats, bundled services and exit costs bind public bodies to one supplier. Requirements for portability, open standards and exit plans keep future choices open.

机制

Contracts set transparency

公共机构能否审计某一系统、查看其文档或公布其使用情况,取决于合同条款。除非合同对此作出规定,商业秘密主张可能阻碍监督。

机制

Standards become rules

协调标准使产品获得符合法律的推定。谁参与标准委员会,以及其工作的开放程度,决定了监管的实质内容。

机制

有效采购的能力薄弱

采购团队往往缺乏技术专长,难以规定、评估和管理人工智能合同。共享框架和集中专业力量可以缩小这一差距。

03工具与承诺

技术采购与标准如何治理:文书、授权和承诺。

政策制定者、外交官或发展机构所使用的文书、授权、行为方和问责安排,并注明设定它们的协定。结构遵循所列框架。所绘制的任何状态或进展均为说明性,并非记录。

政策工具矩阵

The kinds of instrument available on technology procurement and standards, by level of government and cooperation.

工具类型地方国家区域全球
监管型分区、建筑规范法律、标准、许可统一规则公约与条约
经济地方税费、拨款预算项目、税收、保险计划风险池,区域基金融资机制
信息地方预警披露、预警、统计数据共享安排全球监测与报告
制度型地方委员会牵头机构,协调理事会区域机构与秘书处多边授权
合作型社区协议伙伴关系契约谅解备忘录与联合计划协定与共同承诺
A typology after the OECD Recommendation on the Governance of Critical Risks; examples of instrument types, not an inventory of any country’s measures.
《仙台框架》(减少灾害风险) · 联合国减少灾害风险办公室《巴黎协定》 · 《联合国气候变化框架公约》《2030 年可持续发展议程》和可持续发展目标 · 联合国《国际卫生条例》 · 世卫组织
04指标

衡量什么,以及衡量得如何。

每个指标都注明其单位、频率、背后的来源类型以及数值将附带的证据标签。此处不显示数值:数值由计划依据其自身权限提供。

指标单位节奏来源类型标签
现行有效的人工智能采购指南是或否变更时政府出版物已发布统计
含退出和可携带性条款的公共技术合同share of reviewed contracts定期审计审查估算
按开放合同方式公布的合同share of contracts年度开放合同数据观测
已发布统一的人工智能标准计数变更时标准机构记录已发布统计
公共部门参与标准委员会代表人数年度标准机构记录已报告
向最大技术供应商的支出share of technology spend年度采购数据已报告
05来源

证据来自何处。

具名公共数据集与机构记录,各自注明许可类别。依协议获得的来源仅按其条款使用,绝不再次发布。

来源它提供什么许可类别
开放合同数据标准(Open Contracting Data Standard)出版物Public contracting data from adopting governments按发布方确定许可
CEN-CENELEC JTC 21 work programme制定中的欧洲人工智能标准Free to read, CEN-CENELEC terms
ISO/IEC JTC 1/SC 42 published standards list国际人工智能标准目录免费;标准按 ISO 条款出售
欧盟人工智能公共采购示范合同条款买方可附于人工智能采购的合同条款草案European Commission reuse policy
国家审计机关对技术项目的审查关于采购与交付的发现公共记录,条款因办公室而异
06决定

由谁决定,以及证据服务于什么。

AI 与数字治理负责准备证据。以下决定由所列主管机构依据其自身规则作出,绝不由平台作出。

谁来决定问题本页面服务的证据
采购主管部门Which requirements to include in technology contracts比较指引与审计发现
标准机构和委员会What a standard specifies and who takes part工作方案与参与记录
监管机构Which standards to reference for conformity标准内容与实施证据
审计机构Whether technology contracts delivered value合同和交付记录

该主题产生的产出

  • 人工智能透明度、审计和退出采购条款指南
  • 关于标准如何获得法律效力的比较说明
  • Dialogue briefs on public participation in standards development
  • 采购 AI 的采购团队须问的问题
07核心问题

专家就公共技术采购提出的问题。

  • Does the contract give the public body the information, access and rights it needs to oversee the system?
  • 验收前将如何测试该系统,依据哪些要求?
  • 公共机构能否在不丢失数据或服务的情况下更换提供商?
  • Which standards apply, and what does conformity with them actually demonstrate?
08机制

Why procurement shapes outcomes.

在采购环节作出的决定很难逆转。若合同签订时没有审计权或数据可携带性,就可能在系统的整个生命周期内限制监督和选择。为何现在:公共采购方正通过合同条款成为 AI 和数字保障措施的主要执行者,而标准机构正在起草规则所指向的技术参照。该平台旨在召集采购机构,讨论应当要求什么以及如何核查;全球风险论坛(Global Risks Forum,GRF)本身不采购任何物品。

规范

所需内容

含糊的需求会产生满足合同却不符合需要的 系统 。

Lock-in

转换成本

专有格式和集成使更换提供商成本高昂,削弱议价能力。

保证

质量证据

Without testing rights and documentation, buyers rely on vendors’ claims.

09方法与局限

改善采购的工具。

  1. 01

    合同示范条款

    Standard terms for transparency, audit, data and liability. Limits: vendors may resist, and clauses need enforcement.

  2. 02

    采购前影响评估

    Assessing whether AI is appropriate before buying. Limits: depends on in-house expertise.

  3. 03

    Standards and conformity assessment

    面向 AI 管理、安全和质量的技术标准,以 AI 评估与保证工程为基础。局限:符合性只能说明过程,而非结果。

  4. 04

    Open standards and interoperability

    通过通用格式和接口减少锁定。局限:并非总能适用于新技术。

10方法

如何研究,以及方法无法说明的内容。

  1. 政策、制度与决策科学比较 AI 制度 · 价值链问责梳理 · 论坛与职责授权梳理在此应用
  2. AI 评估与保证工程第三方审计范围 · 公共系统的公平性测试 · 部署后监测在此应用
  3. 数字身份与公共数字系统公共服务的保证等级 · 最小化披露 · 排斥分析在此应用
11问题

问题与解答。

What is a harmonised standard?
在欧盟法律中,指根据欧盟委员会的请求制定、其引用编号已在《欧盟官方公报》上公布的欧洲标准,对其所涵盖的要求给予符合性推定。
为什么供应商锁定对治理很重要?
因为无法更换供应商的公共机构会丧失议价能力,可能支付更高费用,并可能无法满足新的法律或安全要求。
Can contracts require AI transparency?
Yes. Contracts can require documentation, audit access, logging, notice of changes and rights to publish information about use, subject to negotiation and law.
Does conformity with a standard mean a system is safe?
不。它表明特定流程或要求已得到满足。使用中的安全还取决于背景、部署和监督。
平台能否协助起草招标文件?
否。它发布采购团队可自行使用的比较分析。
Why do audit rights matter?
Because without them, a public body cannot independently check how a system works or investigate problems.
自建是否优于外购?
两者并无普遍优劣之分。自建可掌控,但需要技能和持续资金;外购速度快,但需要有力的合同和监督。
报告贡献

从本页贡献证据。

Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。

全球风险论坛(Global Risks Forum)人工智能与数字治理指数级技术证据简报
人工智能与数字治理

把一个治理问题带到论坛。

信息和咨询现已开放。每项咨询都会获得一个编号,并告知下一步;申请、付款、算力分配和注册只有在相应团队、条款和审查能力就绪时才会开放。