Skip to content

GRF · AI와 디지털 거버넌스

자율 에이전트와 법적 책임

AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.

01등록

자율 에이전트와 책임에 관한 기록.

02질문

자율 에이전트와 책임: 리스크가 전개되는 방식.

조치의 경계와 책임성. 아래 문서는 리스크가 어떻게 전개되는지, 무엇을 측정하는지, 데이터가 어디서 오는지, 어떻게 모델링되는지, 누가 결정하는지를 설명합니다.

메커니즘

Actions outrun intent

An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.

메커니즘

Many hands, unclear fault

모델, 에이전트 프레임워크, 도구 제공자, 배포 기업, 사용자가 모두 영향을 미칩니다. 어떤 결함이 피해를 일으켰는지 입증하는 데는 기록에 접근할 수 없는 청구인에게 큰 비용이 듭니다.

메커니즘

Permissions define exposure

What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.

메커니즘

Law adapts slowly

Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.

03모니터링

공공 알고리즘 등록부.

팀이 이 주제를 따라가는 데 사용할 화면으로, 그 지표, 상태, 결정을 보여 줍니다. 이름은 예시이며 값은 설명용입니다.

공공 알고리즘 등록부

Autonomous agents and liability · Algorithm register · Quarter 2

평가를 거치지 않은 고위험 시스템 2개GRF · AI와 디지털 거버넌스

등록된 시스템

복지 부정 표시사회적 행위 주체성높음누락부분
인허가 분류계획제한적완료예
학교 배치교육높음완료예
채팅 도우미세무서최소완료n/a

감독 조치

시스템
복지 부정 표시
필수
영향 평가, 이의 신청 경로
마감
77 days
권한
감독 기구

자동화 결정에 관한 민원

Public algorithm register: the screen’s structure, terms and states for Autonomous agents and liability.Example names and illustrative values; a design, not a record or a live system.
04지표

측정되는 것과 그 정확도.

각 지표에는 단위, 주기, 그 뒤의 출처 종류, 값에 붙을 근거 표시가 있습니다. 값은 표시하지 않습니다. 값은 프로그램이 자체 권한으로 제공합니다.

지표단위주기출처 유형라벨
소프트웨어를 책임 측면에서 제품으로 취급하는 관할권건수변경 시법령공표 통계
Court decisions on AI-caused harm유형별 건수연간Case law databases공표 통계
Agent incidents reported피해 유형별 건수월별사고 데이터베이스보고됨
Deployments with documented permission limitsshare of surveyed deployments주기적Surveys and audits신고됨
Insurance products covering AI liabilitycount of offerings연간Market reports보고됨
Regulatory guidance on agentic AI문서 수연간Regulator publications공표 통계
05수단과 약속

How autonomous agents and liability is governed: instruments, mandates and commitments.

정책 입안자, 외교관이나 개발 기관이 다루는 문서, 위임, 행위자와 책임 체계를 이를 정한 협정을 인용하며 제시합니다. 구조는 명시된 체계를 따릅니다. 표시되는 상태나 진척은 예시이며 기록이 아닙니다.

정책 수단 매트릭스

자율 에이전트와 책임에 관해 정부 수준 및 협력 수준별로 활용할 수 있는 수단의 종류.

수단 유형지방국가지역글로벌
규제구역 설정, 건축 규정법률, 표준, 인허가조화된 규칙협약과 조약
경제지방 부담금, 보조금예산 항목, 세금, 보험 제도리스크 풀, 지역 기금재원 조달 체계
정보지역 경보공시, 조기 경보, 통계데이터 공유 체계글로벌 모니터링과 보고
기관지역 위원회주관 기관, 조정 위원회지역 기구와 사무국다자 위임
협력적공동체 협정파트너십 협약양해각서와 공동 프로그램협정과 공동 약속
A typology after the OECD Recommendation on the Governance of Critical Risks; examples of instrument types, not an inventory of any country’s measures.
재난위험경감을 위한 센다이 프레임워크 · UNDRR파리협정 · UNFCCC2030 의제와 지속가능발전목표 · 유엔국제보건규칙 · WHO
06출처

근거의 출처.

이름이 명시된 공개 데이터셋과 기관 기록으로, 각각 라이선스 등급이 있습니다. 협약에 따른 출처는 그 조건에 따라서만 사용하며 결코 재게시하지 않습니다.

출처제공하는 것라이선스 등급
EU 개정 제조물 책임 지침Liability rules including software and AI systems as products공개, EU 재사용 조건
AI 책임에 관한 법률위원회 및 의회 보고서AI 및 자동화 시스템에 대한 책임 방안 분석공공 기록, 기관별 조건
OECD AI 사고 모니터Recorded incidents involving AI systems무료, OECD 조건
UK Automated and Electric Vehicles Act and Automated Vehicles ActLiability allocation for automated vehiclesOpen Government Licence
Court judgment databasesDecisions on harm involving automated systemsPublic records, terms per court
07결정

누가 결정하며 근거는 무엇에 쓰이는지.

AI와 디지털 거버넌스는 근거를 준비합니다. 아래의 결정은 명시된 당국이 자체 규칙에 따라 내리며, 결코 플랫폼이 내리지 않습니다.

결정 주체질문이 페이지가 제공하는 근거
Legislatures and law commissionsHow liability rules apply to autonomous systemsComparative regimes and case evidence
도입 기관What an agent may do and what controls apply통제 관행 및 사고 근거
보험사AI 책임을 보장할지 여부와 그 방법사고 유형과 법적 동향
법원Who is liable for harm in a specific case당사자가 제시한 기록. 이 페이지는 맥락만 제공합니다

이 주제가 생산하는 산출물

  • Comparative notes on liability rules for software and AI
  • Guide to permission limits and controls for agent deployments
  • Dialogue briefs on allocating responsibility in multi-party AI chains
  • Questions for legislatures on agent liability
08핵심 질문

What experts ask about autonomous agents.

  • What actions is this agent permitted to take, and how are those limits enforced technically?
  • When an agent causes harm, who is liable: the developer, the deployer, the user?
  • How can an agent’s actions be traced, reviewed and reversed?
  • How should agents interact with other agents, and who governs those interactions?
09메커니즘

Why agents raise new governance questions.

Most governance frameworks were built for systems that advise a person who then acts. Agents collapse that gap, and with it one of the main points at which errors were caught. Why now: AI agents that act on behalf of people and organisations raise questions of liability that existing rules did not foresee, and legislators are still working through them. The platform is designed to compare emerging approaches and to record open questions for decision holders, without giving legal advice.

Autonomy

검토 없는 조치

Agents can act faster and more often than people can review, so errors can multiply before anyone notices.

Interaction

Agents meeting agents

Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.

Liability

Unclear responsibility

기존 책임 규칙은 사람이나 기업이 행위했다고 가정하며, 에이전트는 그 주체가 누구인지를 복잡하게 만듭니다.

10방법과 한계

Instruments for bounding agents.

  1. 01

    Permission and scope controls

    에이전트가 접근하고 수행할 수 있는 범위에 대한 기술적 제한으로, AI 평가 및 보증 공학에서 연구합니다. 한계: 에이전트가 통제를 우회하는 의도하지 않은 경로를 찾아낼 수 있습니다.

  2. 02

    Logging and reversibility

    Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.

  3. 03

    사람 승인 기준값

    정해진 리스크 수준 이상에서는 사람의 승인을 요구합니다. 한계: 운영을 지연시킬 수 있고 승인 피로를 유발할 수 있습니다.

  4. 04

    Liability analysis

    Comparing how legal systems allocate responsibility. Limits: law is still developing.

12질문

질문과 답변.

AI 에이전트란 무엇입니까?
도구 호출, 웹 탐색, 코드 작성, 결제와 같은 행동을 계획하고 수행하며 목표를 추구하되, 단계별 인간의 지시는 제한적인 AI 시스템.
AI 에이전트가 해를 끼쳤을 때 누가 책임을 지는가?
It depends on the jurisdiction and facts. Product liability, contract, negligence and sector rules may apply to developers, deployers or users; many questions are unsettled.
What controls limit agent harm?
Restricted permissions, spending limits, human confirmation for consequential actions, logging, monitoring and the ability to stop the agent.
Can an AI agent be legally responsible?
Under current law in most jurisdictions, no. Responsibility rests with people and organisations. How it is divided among them is still being worked out.
How can agent actions be kept within bounds?
Through technical permission limits, monitoring, human approval for high-risk actions and the ability to stop and reverse actions.
Does the platform test agents?
아니요. 기술 평가는 GCRI에서 수행하며, 이 플랫폼은 거버넌스를 비교한다.
Why do agent interactions matter?
Because when many automated systems react to each other, small errors can amplify quickly, as sudden market moves driven by automated trading have shown.
보고서기여하기

이 페이지에서 증거를 기여하십시오.

Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.

글로벌 리스크 포럼(Global Risks Forum)AI와 디지털 거버넌스기하급수 기술근거 브리프
AI와 디지털 거버넌스

거버넌스 질문을 포럼에 가져오십시오.

정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.