工作如何开展。
公共算法登记册
技术采购与标准 · 算法登记册 · 第 2 季度
已登记的系统
| 福利欺诈标记 | 社会能动性 | 高 | 缺失 | 部分 |
| 许可分诊 | 规划 | 有限 | 已完成 | 是 |
| 入学安置 | 教育 | 高 | 已完成 | 是 |
| 聊天助手 | 税务局 | 极少 | 已完成 | n/a |
监督行动
- 系统
- 福利欺诈标记
- 必填
- 影响评估、申诉途径
- 截止日期
- 82 days
- 权限
- 监督机构
关于自动化决策的投诉
Fig.Public algorithm register: example names and illustrative values, not a record or a live system.
技术采购和标准:风险如何形成。
Public acquisition and assurances. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Lock-in limits choice
Proprietary formats, bundled services and exit costs bind public bodies to one supplier. Requirements for portability, open standards and exit plans keep future choices open.
Contracts set transparency
公共机构能否审计某一系统、查看其文档或公布其使用情况,取决于合同条款。除非合同对此作出规定,商业秘密主张可能阻碍监督。
Standards become rules
协调标准使产品获得符合法律的推定。谁参与标准委员会,以及其工作的开放程度,决定了监管的实质内容。
有效采购的能力薄弱
采购团队往往缺乏技术专长,难以规定、评估和管理人工智能合同。共享框架和集中专业力量可以缩小这一差距。
技术采购与标准如何治理:文书、授权和承诺。
政策制定者、外交官或发展机构所使用的文书、授权、行为方和问责安排,并注明设定它们的协定。结构遵循所列框架。所绘制的任何状态或进展均为说明性,并非记录。
政策工具矩阵
The kinds of instrument available on technology procurement and standards, by level of government and cooperation.
| 工具类型 | 地方 | 国家 | 区域 | 全球 |
|---|---|---|---|---|
| 监管型 | 分区、建筑规范 | 法律、标准、许可 | 统一规则 | 公约与条约 |
| 经济 | 地方税费、拨款 | 预算项目、税收、保险计划 | 风险池,区域基金 | 融资机制 |
| 信息 | 地方预警 | 披露、预警、统计 | 数据共享安排 | 全球监测与报告 |
| 制度型 | 地方委员会 | 牵头机构,协调理事会 | 区域机构与秘书处 | 多边授权 |
| 合作型 | 社区协议 | 伙伴关系契约 | 谅解备忘录与联合计划 | 协定与共同承诺 |
衡量什么,以及衡量得如何。
每个指标都注明其单位、频率、背后的来源类型以及数值将附带的证据标签。此处不显示数值:数值由计划依据其自身权限提供。
| 指标 | 单位 | 节奏 | 来源类型 | 标签 |
|---|---|---|---|---|
| 现行有效的人工智能采购指南 | 是或否 | 变更时 | 政府出版物 | 已发布统计 |
| 含退出和可携带性条款的公共技术合同 | share of reviewed contracts | 定期 | 审计审查 | 估算 |
| 按开放合同方式公布的合同 | share of contracts | 年度 | 开放合同数据 | 观测 |
| 已发布统一的人工智能标准 | 计数 | 变更时 | 标准机构记录 | 已发布统计 |
| 公共部门参与标准委员会 | 代表人数 | 年度 | 标准机构记录 | 已报告 |
| 向最大技术供应商的支出 | share of technology spend | 年度 | 采购数据 | 已报告 |
证据来自何处。
具名公共数据集与机构记录,各自注明许可类别。依协议获得的来源仅按其条款使用,绝不再次发布。
| 来源 | 它提供什么 | 许可类别 |
|---|---|---|
| 开放合同数据标准(Open Contracting Data Standard)出版物 | Public contracting data from adopting governments | 按发布方确定许可 |
| CEN-CENELEC JTC 21 work programme | 制定中的欧洲人工智能标准 | Free to read, CEN-CENELEC terms |
| ISO/IEC JTC 1/SC 42 published standards list | 国际人工智能标准 | 目录免费;标准按 ISO 条款出售 |
| 欧盟人工智能公共采购示范合同条款 | 买方可附于人工智能采购的合同条款草案 | European Commission reuse policy |
| 国家审计机关对技术项目的审查 | 关于采购与交付的发现 | 公共记录,条款因办公室而异 |
由谁决定,以及证据服务于什么。
AI 与数字治理负责准备证据。以下决定由所列主管机构依据其自身规则作出,绝不由平台作出。
| 谁来决定 | 问题 | 本页面服务的证据 |
|---|---|---|
| 采购主管部门 | Which requirements to include in technology contracts | 比较指引与审计发现 |
| 标准机构和委员会 | What a standard specifies and who takes part | 工作方案与参与记录 |
| 监管机构 | Which standards to reference for conformity | 标准内容与实施证据 |
| 审计机构 | Whether technology contracts delivered value | 合同和交付记录 |
该主题产生的产出
- 人工智能透明度、审计和退出采购条款指南
- 关于标准如何获得法律效力的比较说明
- Dialogue briefs on public participation in standards development
- 采购 AI 的采购团队须问的问题
专家就公共技术采购提出的问题。
- Does the contract give the public body the information, access and rights it needs to oversee the system?
- 验收前将如何测试该系统,依据哪些要求?
- 公共机构能否在不丢失数据或服务的情况下更换提供商?
- Which standards apply, and what does conformity with them actually demonstrate?
Why procurement shapes outcomes.
在采购环节作出的决定很难逆转。若合同签订时没有审计权或数据可携带性,就可能在系统的整个生命周期内限制监督和选择。为何现在:公共采购方正通过合同条款成为 AI 和数字保障措施的主要执行者,而标准机构正在起草规则所指向的技术参照。该平台旨在召集采购机构,讨论应当要求什么以及如何核查;全球风险论坛(Global Risks Forum,GRF)本身不采购任何物品。
转换成本
专有格式和集成使更换提供商成本高昂,削弱议价能力。
质量证据
Without testing rights and documentation, buyers rely on vendors’ claims.
改善采购的工具。
- 01
合同示范条款
Standard terms for transparency, audit, data and liability. Limits: vendors may resist, and clauses need enforcement.
- 02
采购前影响评估
Assessing whether AI is appropriate before buying. Limits: depends on in-house expertise.
- 03
Standards and conformity assessment
面向 AI 管理、安全和质量的技术标准,以 AI 评估与保证工程为基础。局限:符合性只能说明过程,而非结果。
- 04
Open standards and interoperability
通过通用格式和接口减少锁定。局限:并非总能适用于新技术。
问题与解答。
What is a harmonised standard?
为什么供应商锁定对治理很重要?
Can contracts require AI transparency?
Does conformity with a standard mean a system is safe?
平台能否协助起草招标文件?
Why do audit rights matter?
自建是否优于外购?
从本页贡献证据。
Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。
- 电子邮件网关 GW-GRF从本页发送证据、更正、案例、方法、审查、翻译或概况投稿。它会带上本页标签送达,由负责的编辑接收。
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 报告全球风险论坛(Global Risks Forum)查看所有贡献方式贡献类型、各自的评审方式、您获得的署名、许可协议,以及绝不接受的内容。
切勿发送个人数据、敏感基础设施细节或您无权分享的任何内容。贡献在使用前会经过审查;发送贡献不赋予署名权或编辑权,赞助也绝不能换取研究结论。
法律文件。
显示全部 18 份法律文件
本网站上的地图、数据和图表仅作为背景和一般信息展示。它们不是建议、预测或预警;信息的局限见免责声明和数据说明。