GRF · AI와 디지털 거버넌스
자율 에이전트와 법적 책임
AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.
자율 에이전트와 책임에 관한 기록.
자율 에이전트와 책임: 리스크가 전개되는 방식.
조치의 경계와 책임성. 아래 문서는 리스크가 어떻게 전개되는지, 무엇을 측정하는지, 데이터가 어디서 오는지, 어떻게 모델링되는지, 누가 결정하는지를 설명합니다.
Actions outrun intent
An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.
Many hands, unclear fault
모델, 에이전트 프레임워크, 도구 제공자, 배포 기업, 사용자가 모두 영향을 미칩니다. 어떤 결함이 피해를 일으켰는지 입증하는 데는 기록에 접근할 수 없는 청구인에게 큰 비용이 듭니다.
Permissions define exposure
What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.
Law adapts slowly
Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.
공공 알고리즘 등록부.
팀이 이 주제를 따라가는 데 사용할 화면으로, 그 지표, 상태, 결정을 보여 줍니다. 이름은 예시이며 값은 설명용입니다.
공공 알고리즘 등록부
Autonomous agents and liability · Algorithm register · Quarter 2
등록된 시스템
| 복지 부정 표시 | 사회적 행위 주체성 | 높음 | 누락 | 부분 |
| 인허가 분류 | 계획 | 제한적 | 완료 | 예 |
| 학교 배치 | 교육 | 높음 | 완료 | 예 |
| 채팅 도우미 | 세무서 | 최소 | 완료 | n/a |
감독 조치
- 시스템
- 복지 부정 표시
- 필수
- 영향 평가, 이의 신청 경로
- 마감
- 77 days
- 권한
- 감독 기구
자동화 결정에 관한 민원
측정되는 것과 그 정확도.
각 지표에는 단위, 주기, 그 뒤의 출처 종류, 값에 붙을 근거 표시가 있습니다. 값은 표시하지 않습니다. 값은 프로그램이 자체 권한으로 제공합니다.
| 지표 | 단위 | 주기 | 출처 유형 | 라벨 |
|---|---|---|---|---|
| 소프트웨어를 책임 측면에서 제품으로 취급하는 관할권 | 건수 | 변경 시 | 법령 | 공표 통계 |
| Court decisions on AI-caused harm | 유형별 건수 | 연간 | Case law databases | 공표 통계 |
| Agent incidents reported | 피해 유형별 건수 | 월별 | 사고 데이터베이스 | 보고됨 |
| Deployments with documented permission limits | share of surveyed deployments | 주기적 | Surveys and audits | 신고됨 |
| Insurance products covering AI liability | count of offerings | 연간 | Market reports | 보고됨 |
| Regulatory guidance on agentic AI | 문서 수 | 연간 | Regulator publications | 공표 통계 |
How autonomous agents and liability is governed: instruments, mandates and commitments.
정책 입안자, 외교관이나 개발 기관이 다루는 문서, 위임, 행위자와 책임 체계를 이를 정한 협정을 인용하며 제시합니다. 구조는 명시된 체계를 따릅니다. 표시되는 상태나 진척은 예시이며 기록이 아닙니다.
정책 수단 매트릭스
자율 에이전트와 책임에 관해 정부 수준 및 협력 수준별로 활용할 수 있는 수단의 종류.
| 수단 유형 | 지방 | 국가 | 지역 | 글로벌 |
|---|---|---|---|---|
| 규제 | 구역 설정, 건축 규정 | 법률, 표준, 인허가 | 조화된 규칙 | 협약과 조약 |
| 경제 | 지방 부담금, 보조금 | 예산 항목, 세금, 보험 제도 | 리스크 풀, 지역 기금 | 재원 조달 체계 |
| 정보 | 지역 경보 | 공시, 조기 경보, 통계 | 데이터 공유 체계 | 글로벌 모니터링과 보고 |
| 기관 | 지역 위원회 | 주관 기관, 조정 위원회 | 지역 기구와 사무국 | 다자 위임 |
| 협력적 | 공동체 협정 | 파트너십 협약 | 양해각서와 공동 프로그램 | 협정과 공동 약속 |
근거의 출처.
이름이 명시된 공개 데이터셋과 기관 기록으로, 각각 라이선스 등급이 있습니다. 협약에 따른 출처는 그 조건에 따라서만 사용하며 결코 재게시하지 않습니다.
| 출처 | 제공하는 것 | 라이선스 등급 |
|---|---|---|
| EU 개정 제조물 책임 지침 | Liability rules including software and AI systems as products | 공개, EU 재사용 조건 |
| AI 책임에 관한 법률위원회 및 의회 보고서 | AI 및 자동화 시스템에 대한 책임 방안 분석 | 공공 기록, 기관별 조건 |
| OECD AI 사고 모니터 | Recorded incidents involving AI systems | 무료, OECD 조건 |
| UK Automated and Electric Vehicles Act and Automated Vehicles Act | Liability allocation for automated vehicles | Open Government Licence |
| Court judgment databases | Decisions on harm involving automated systems | Public records, terms per court |
누가 결정하며 근거는 무엇에 쓰이는지.
AI와 디지털 거버넌스는 근거를 준비합니다. 아래의 결정은 명시된 당국이 자체 규칙에 따라 내리며, 결코 플랫폼이 내리지 않습니다.
| 결정 주체 | 질문 | 이 페이지가 제공하는 근거 |
|---|---|---|
| Legislatures and law commissions | How liability rules apply to autonomous systems | Comparative regimes and case evidence |
| 도입 기관 | What an agent may do and what controls apply | 통제 관행 및 사고 근거 |
| 보험사 | AI 책임을 보장할지 여부와 그 방법 | 사고 유형과 법적 동향 |
| 법원 | Who is liable for harm in a specific case | 당사자가 제시한 기록. 이 페이지는 맥락만 제공합니다 |
이 주제가 생산하는 산출물
- Comparative notes on liability rules for software and AI
- Guide to permission limits and controls for agent deployments
- Dialogue briefs on allocating responsibility in multi-party AI chains
- Questions for legislatures on agent liability
What experts ask about autonomous agents.
- What actions is this agent permitted to take, and how are those limits enforced technically?
- When an agent causes harm, who is liable: the developer, the deployer, the user?
- How can an agent’s actions be traced, reviewed and reversed?
- How should agents interact with other agents, and who governs those interactions?
Why agents raise new governance questions.
Most governance frameworks were built for systems that advise a person who then acts. Agents collapse that gap, and with it one of the main points at which errors were caught. Why now: AI agents that act on behalf of people and organisations raise questions of liability that existing rules did not foresee, and legislators are still working through them. The platform is designed to compare emerging approaches and to record open questions for decision holders, without giving legal advice.
검토 없는 조치
Agents can act faster and more often than people can review, so errors can multiply before anyone notices.
Agents meeting agents
Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.
Unclear responsibility
기존 책임 규칙은 사람이나 기업이 행위했다고 가정하며, 에이전트는 그 주체가 누구인지를 복잡하게 만듭니다.
Instruments for bounding agents.
- 01
Permission and scope controls
에이전트가 접근하고 수행할 수 있는 범위에 대한 기술적 제한으로, AI 평가 및 보증 공학에서 연구합니다. 한계: 에이전트가 통제를 우회하는 의도하지 않은 경로를 찾아낼 수 있습니다.
- 02
Logging and reversibility
Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.
- 03
사람 승인 기준값
정해진 리스크 수준 이상에서는 사람의 승인을 요구합니다. 한계: 운영을 지연시킬 수 있고 승인 피로를 유발할 수 있습니다.
- 04
Liability analysis
Comparing how legal systems allocate responsibility. Limits: law is still developing.
연구되는 방식과 방법이 말할 수 없는 것.
질문과 답변.
AI 에이전트란 무엇입니까?
AI 에이전트가 해를 끼쳤을 때 누가 책임을 지는가?
What controls limit agent harm?
Can an AI agent be legally responsible?
How can agent actions be kept within bounds?
Does the platform test agents?
Why do agent interactions matter?
이 페이지에서 증거를 기여하십시오.
Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.
- 이메일게이트웨이 GW-GRF이 페이지에서 보내기증거, 정정, 사례, 방법, 검토, 번역 또는 프로필 입력 자료. 이 페이지의 태그가 붙어 도착하므로, 이를 담당하는 편집자가 받게 됩니다.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 보고서글로벌 리스크 포럼(Global Risks Forum)모든 기여 방법 보기기여 유형, 각각의 검토 방식, 받게 되는 크레디트, 라이선스, 그리고 절대 받지 않는 것.
개인정보, 민감한 인프라 세부 정보, 공유할 권리가 없는 자료는 절대 보내지 마십시오. 기여물은 사용 전에 검토됩니다. 기여물을 보낸다고 해서 저작자 지위나 편집 권한이 부여되지 않으며, 후원으로 조사 결과를 얻을 수 없습니다.
거버넌스 질문을 포럼에 가져오십시오.
정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.
법률 문서.
법률 문서 18건 모두 보기
이 사이트의 지도, 데이터와 그림은 맥락과 일반 정보로 제시됩니다. 조언, 예보 또는 경보가 아니며, 정보의 한계는 면책 고지와 데이터 고지에 나와 있습니다.