GRF · 人工智能与数字治理
自主智能体与法律责任
AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.
Autonomous agents and liability: how the risk develops.
行动边界与问责。下方档案说明风险如何发展、衡量什么、数据来自何处、如何建模以及由谁决定。
Actions outrun intent
An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.
多方参与,责任不明
The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.
权限界定风险暴露
智能体可以访问、花费或更改的内容决定了可能造成危害的大小。限制、确认和紧急停止开关是部署时作出的治理选择。
Law adapts slowly
Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.
公共算法登记册。
团队跟踪该主题时会使用的界面:其指标、状态与决策。名称为示例,数值仅作示意。
公共算法登记册
Autonomous agents and liability · Algorithm register · Quarter 2
已登记的系统
| 福利欺诈标记 | 社会能动性 | 高 | 缺失 | 部分 |
| 许可分诊 | 规划 | 有限 | 已完成 | 是 |
| 入学安置 | 教育 | 高 | 已完成 | 是 |
| 聊天助手 | 税务局 | 极少 | 已完成 | n/a |
监督行动
- 系统
- 福利欺诈标记
- 必填
- 影响评估、申诉途径
- 截止日期
- 77 days
- 权限
- 监督机构
关于自动化决策的投诉
衡量什么,以及衡量得如何。
每个指标都注明其单位、频率、背后的来源类型以及数值将附带的证据标签。此处不显示数值:数值由计划依据其自身权限提供。
| 指标 | 单位 | 节奏 | 来源类型 | 标签 |
|---|---|---|---|---|
| 将软件视为产品并适用责任规则的管辖区 | 计数 | 变更时 | 立法 | 已发布统计 |
| Court decisions on AI-caused harm | 按类型计数 | 年度 | 判例法数据库 | 已发布统计 |
| 已报告的智能体事件 | 按危害类型计数 | 每月 | 事件数据库 | 已报告 |
| 具有书面记录的权限限制的部署 | 受调查部署所占比例 | 定期 | Surveys and audits | 已声明 |
| Insurance products covering AI liability | 产品数量 | 年度 | Market reports | 已报告 |
| Regulatory guidance on agentic AI | 文件数量 | 年度 | Regulator publications | 已发布统计 |
How autonomous agents and liability is governed: instruments, mandates and commitments.
政策制定者、外交官或发展机构所使用的文书、授权、行为方和问责安排,并注明设定它们的协定。结构遵循所列框架。所绘制的任何状态或进展均为说明性,并非记录。
政策工具矩阵
关于自主智能体与责任的现有文书类型,按政府层级与合作方式划分。
| 工具类型 | 地方 | 国家 | 区域 | 全球 |
|---|---|---|---|---|
| 监管型 | 分区、建筑规范 | 法律、标准、许可 | 统一规则 | 公约与条约 |
| 经济 | 地方税费、拨款 | 预算项目、税收、保险计划 | 风险池,区域基金 | 融资机制 |
| 信息 | 地方预警 | 披露、预警、统计 | 数据共享安排 | 全球监测与报告 |
| 制度型 | 地方委员会 | 牵头机构,协调理事会 | 区域机构与秘书处 | 多边授权 |
| 合作型 | 社区协议 | 伙伴关系契约 | 谅解备忘录与联合计划 | 协定与共同承诺 |
证据来自何处。
具名公共数据集与机构记录,各自注明许可类别。依协议获得的来源仅按其条款使用,绝不再次发布。
| 来源 | 它提供什么 | 许可类别 |
|---|---|---|
| 欧盟修订后的《产品责任指令》 | Liability rules including software and AI systems as products | 公开,欧盟再利用条款 |
| 法律委员会和议会关于人工智能责任的报告 | Analysis of liability options for AI and automated systems | 公共记录,条款因机构而异 |
| OECD AI 事件监测 | Recorded incidents involving AI systems | 免费,OECD 条款 |
| 英国《自动驾驶与电动车辆法》和《自动驾驶车辆法》 | 自动驾驶车辆的责任分配 | 开放政府许可 |
| Court judgment databases | Decisions on harm involving automated systems | 公开记录,各法院的条款 |
由谁决定,以及证据服务于什么。
AI 与数字治理负责准备证据。以下决定由所列主管机构依据其自身规则作出,绝不由平台作出。
| 谁来决定 | 问题 | 本页面服务的证据 |
|---|---|---|
| Legislatures and law commissions | How liability rules apply to autonomous systems | 比较制度与案例证据 |
| 部署组织 | 智能体可以做什么以及适用哪些控制措施 | 控制措施实践和事件证据 |
| 保险公司 | 是否以及如何承保人工智能责任 | 事件模式与法律动态 |
| 法院 | Who is liable for harm in a specific case | 由各方提交的记录;本页面仅提供背景 |
该主题产生的产出
- Comparative notes on liability rules for software and AI
- 智能体部署的权限限制与控制指南
- 关于多方人工智能链条中责任分配的对话简报
- 向立法机构提出的关于代理人责任的问题
What experts ask about autonomous agents.
- 该智能体被允许采取哪些行动,这些限制如何在技术上强制执行?
- 当智能体造成损害时,谁承担责任:开发者、部署者还是用户?
- How can an agent’s actions be traced, reviewed and reversed?
- 智能体应如何与其他智能体交互,这些交互由谁来治理?
Why agents raise new governance questions.
多数治理框架是为那些向某个人提供建议、再由其采取行动的 系统 而构建的。智能体消除了这一间隔,也消除了发现错误的主要环节之一。为何现在:代表个人和组织行事的 AI 智能体引发了现有规则未曾预见的责任问题,立法者仍在研究之中。该平台旨在比较新兴做法,并为决策方记录未决问题,不提供法律意见。
未经审查的行动
Agents can act faster and more often than people can review, so errors can multiply before anyone notices.
Agents meeting agents
Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.
责任不明确
现有责任规则假定行为者是人或公司;智能体使责任主体的认定更加复杂。
用于约束智能体的工具。
- 01
权限和范围控制
对智能体可访问内容和可执行操作的技术限制,在 AI 评估与保证工程下开展研究。局限:智能体可能找到绕过控制措施的非预期路径。
- 02
Logging and reversibility
Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.
- 03
人工审批阈值
Requiring human sign-off above defined risk levels. Limits: can slow operations and invite approval fatigue.
- 04
责任分析
Comparing how legal systems allocate responsibility. Limits: law is still developing.
问题与解答。
什么是 AI 智能体?
AI 代理造成损害时,谁应承担责任?
What controls limit agent harm?
Can an AI agent be legally responsible?
如何使智能体的行动保持在界限之内?
该平台是否测试智能体?
为什么智能体之间的交互很重要?
从本页贡献证据。
Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。
- 电子邮件网关 GW-GRF从本页发送证据、更正、案例、方法、审查、翻译或概况投稿。它会带上本页标签送达,由负责的编辑接收。
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 报告全球风险论坛(Global Risks Forum)查看所有贡献方式贡献类型、各自的评审方式、您获得的署名、许可协议,以及绝不接受的内容。
切勿发送个人数据、敏感基础设施细节或您无权分享的任何内容。贡献在使用前会经过审查;发送贡献不赋予署名权或编辑权,赞助也绝不能换取研究结论。
法律文件。
显示全部 18 份法律文件
本网站上的地图、数据和图表仅作为背景和一般信息展示。它们不是建议、预测或预警;信息的局限见免责声明和数据说明。