Skip to content

GRF · 人工智能与数字治理

自主智能体与法律责任

AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.

01登记

Autonomous agents and liability on the record.

02问题

Autonomous agents and liability: how the risk develops.

行动边界与问责。下方档案说明风险如何发展、衡量什么、数据来自何处、如何建模以及由谁决定。

机制

Actions outrun intent

An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.

机制

多方参与,责任不明

The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.

机制

权限界定风险暴露

智能体可以访问、花费或更改的内容决定了可能造成危害的大小。限制、确认和紧急停止开关是部署时作出的治理选择。

机制

Law adapts slowly

Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.

03监测

公共算法登记册。

团队跟踪该主题时会使用的界面:其指标、状态与决策。名称为示例,数值仅作示意。

公共算法登记册

Autonomous agents and liability · Algorithm register · Quarter 2

两个未经评估的高风险系统GRF · 人工智能与数字治理

已登记的系统

福利欺诈标记社会能动性高缺失部分
许可分诊规划有限已完成是
入学安置教育高已完成是
聊天助手税务局极少已完成n/a

监督行动

系统
福利欺诈标记
必填
影响评估、申诉途径
截止日期
77 days
权限
监督机构

关于自动化决策的投诉

Public algorithm register: the screen’s structure, terms and states for Autonomous agents and liability.Example names and illustrative values; a design, not a record or a live system.
04指标

衡量什么,以及衡量得如何。

每个指标都注明其单位、频率、背后的来源类型以及数值将附带的证据标签。此处不显示数值:数值由计划依据其自身权限提供。

指标单位节奏来源类型标签
将软件视为产品并适用责任规则的管辖区计数变更时立法已发布统计
Court decisions on AI-caused harm按类型计数年度判例法数据库已发布统计
已报告的智能体事件按危害类型计数每月事件数据库已报告
具有书面记录的权限限制的部署受调查部署所占比例定期Surveys and audits已声明
Insurance products covering AI liability产品数量年度Market reports已报告
Regulatory guidance on agentic AI文件数量年度Regulator publications已发布统计
05工具与承诺

How autonomous agents and liability is governed: instruments, mandates and commitments.

政策制定者、外交官或发展机构所使用的文书、授权、行为方和问责安排,并注明设定它们的协定。结构遵循所列框架。所绘制的任何状态或进展均为说明性,并非记录。

政策工具矩阵

关于自主智能体与责任的现有文书类型,按政府层级与合作方式划分。

工具类型地方国家区域全球
监管型分区、建筑规范法律、标准、许可统一规则公约与条约
经济地方税费、拨款预算项目、税收、保险计划风险池,区域基金融资机制
信息地方预警披露、预警、统计数据共享安排全球监测与报告
制度型地方委员会牵头机构,协调理事会区域机构与秘书处多边授权
合作型社区协议伙伴关系契约谅解备忘录与联合计划协定与共同承诺
A typology after the OECD Recommendation on the Governance of Critical Risks; examples of instrument types, not an inventory of any country’s measures.
《仙台框架》(减少灾害风险) · 联合国减少灾害风险办公室《巴黎协定》 · 《联合国气候变化框架公约》《2030 年可持续发展议程》和可持续发展目标 · 联合国《国际卫生条例》 · 世卫组织
06来源

证据来自何处。

具名公共数据集与机构记录,各自注明许可类别。依协议获得的来源仅按其条款使用,绝不再次发布。

来源它提供什么许可类别
欧盟修订后的《产品责任指令》Liability rules including software and AI systems as products公开,欧盟再利用条款
法律委员会和议会关于人工智能责任的报告Analysis of liability options for AI and automated systems公共记录,条款因机构而异
OECD AI 事件监测Recorded incidents involving AI systems免费,OECD 条款
英国《自动驾驶与电动车辆法》和《自动驾驶车辆法》自动驾驶车辆的责任分配开放政府许可
Court judgment databasesDecisions on harm involving automated systems公开记录,各法院的条款
07决定

由谁决定,以及证据服务于什么。

AI 与数字治理负责准备证据。以下决定由所列主管机构依据其自身规则作出,绝不由平台作出。

谁来决定问题本页面服务的证据
Legislatures and law commissionsHow liability rules apply to autonomous systems比较制度与案例证据
部署组织智能体可以做什么以及适用哪些控制措施控制措施实践和事件证据
保险公司是否以及如何承保人工智能责任事件模式与法律动态
法院Who is liable for harm in a specific case由各方提交的记录;本页面仅提供背景

该主题产生的产出

  • Comparative notes on liability rules for software and AI
  • 智能体部署的权限限制与控制指南
  • 关于多方人工智能链条中责任分配的对话简报
  • 向立法机构提出的关于代理人责任的问题
08核心问题

What experts ask about autonomous agents.

  • 该智能体被允许采取哪些行动,这些限制如何在技术上强制执行?
  • 当智能体造成损害时,谁承担责任:开发者、部署者还是用户?
  • How can an agent’s actions be traced, reviewed and reversed?
  • 智能体应如何与其他智能体交互,这些交互由谁来治理?
09机制

Why agents raise new governance questions.

多数治理框架是为那些向某个人提供建议、再由其采取行动的 系统 而构建的。智能体消除了这一间隔,也消除了发现错误的主要环节之一。为何现在:代表个人和组织行事的 AI 智能体引发了现有规则未曾预见的责任问题,立法者仍在研究之中。该平台旨在比较新兴做法,并为决策方记录未决问题,不提供法律意见。

Autonomy

未经审查的行动

Agents can act faster and more often than people can review, so errors can multiply before anyone notices.

Interaction

Agents meeting agents

Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.

Liability

责任不明确

现有责任规则假定行为者是人或公司;智能体使责任主体的认定更加复杂。

10方法与局限

用于约束智能体的工具。

  1. 01

    权限和范围控制

    对智能体可访问内容和可执行操作的技术限制,在 AI 评估与保证工程下开展研究。局限:智能体可能找到绕过控制措施的非预期路径。

  2. 02

    Logging and reversibility

    Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.

  3. 03

    人工审批阈值

    Requiring human sign-off above defined risk levels. Limits: can slow operations and invite approval fatigue.

  4. 04

    责任分析

    Comparing how legal systems allocate responsibility. Limits: law is still developing.

12问题

问题与解答。

什么是 AI 智能体?
一种通过规划并采取行动(如调用工具、浏览、编写代码或进行支付)来追求目标的 AI 系统,所需的逐步人工指令有限。
AI 代理造成损害时,谁应承担责任?
取决于司法辖区和具体事实。产品责任、合同、过失和行业规则可能适用于开发者、部署者或用户;许多问题尚无定论。
What controls limit agent harm?
Restricted permissions, spending limits, human confirmation for consequential actions, logging, monitoring and the ability to stop the agent.
Can an AI agent be legally responsible?
Under current law in most jurisdictions, no. Responsibility rests with people and organisations. How it is divided among them is still being worked out.
如何使智能体的行动保持在界限之内?
Through technical permission limits, monitoring, human approval for high-risk actions and the ability to stop and reverse actions.
该平台是否测试智能体?
否。技术评估在 GCRI进行;本平台比较的是治理。
为什么智能体之间的交互很重要?
Because when many automated systems react to each other, small errors can amplify quickly, as sudden market moves driven by automated trading have shown.
报告贡献

从本页贡献证据。

Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。

全球风险论坛(Global Risks Forum)人工智能与数字治理指数级技术证据简报
人工智能与数字治理

把一个治理问题带到论坛。

信息和咨询现已开放。每项咨询都会获得一个编号,并告知下一步;申请、付款、算力分配和注册只有在相应团队、条款和审查能力就绪时才会开放。