GRF · Tata Kelola AI dan Digital
Agen otonom dan pertanggungjawaban
AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.
Autonomous agents and liability on the record.
Autonomous agents and liability: how the risk develops.
Batas tindakan dan akuntabilitas. Dokumen di bawah ini menguraikan bagaimana risiko berkembang, apa yang diukur, dari mana data berasal, bagaimana data dimodelkan, dan siapa yang memutuskan.
Actions outrun intent
An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.
Many hands, unclear fault
The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.
Permissions define exposure
What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.
Law adapts slowly
Hukum tanggung jawab produk, kontrak, dan perbuatan melawan hukum sedang ditafsirkan ulang untuk perangkat lunak dan AI. Selama pengadilan dan lembaga legislatif belum menyelesaikan berbagai pertanyaan, ketidakpastian itu sendiri membentuk penerapan.
Register algoritma publik.
Layar yang akan digunakan sebuah tim untuk mengikuti subjek ini: ukuran, status, dan keputusannya. Nama adalah contoh dan nilai bersifat ilustratif.
Register algoritma publik
Autonomous agents and liability · Algorithm register · Quarter 2
Sistem terdaftar
| Penandaan kecurangan tunjangan | Keberdayaan sosial | Tinggi | Tidak ada | Sebagian |
| Triase perizinan | Perencanaan | Terbatas | Selesai | Ya |
| Penempatan sekolah | Pendidikan | Tinggi | Selesai | Ya |
| Asisten obrolan | Kantor pajak | Minimal | Selesai | n/a |
Tindakan pengawasan
- Sistem
- Penandaan kecurangan tunjangan
- Wajib
- penilaian dampak, jalur banding
- Tenggat
- 77 days
- Otoritas
- Badan pengawas
Pengaduan atas keputusan otomatis
Apa yang diukur, dan seberapa baik.
Setiap indikator membawa satuan, frekuensi, jenis sumber di baliknya, dan label bukti yang akan dibawa suatu nilai. Tidak ada nilai yang ditampilkan: sebuah program menyediakannya berdasarkan wewenangnya sendiri.
| Indikator | Unit | Kadensi | Jenis sumber | Label |
|---|---|---|---|---|
| Jurisdictions treating software as a product for liability | jumlah | saat berubah | Peraturan perundang-undangan | Statistik yang diterbitkan |
| Court decisions on AI-caused harm | jumlah menurut jenis | tahunan | Basis data yurisprudensi | Statistik yang diterbitkan |
| Insiden agen yang dilaporkan | jumlah menurut jenis kerugian | setiap bulan | Basis data insiden | DILAPORKAN |
| Deployments with documented permission limits | persentase penerapan yang disurvei | berkala | Surveys and audits | DINYATAKAN |
| Insurance products covering AI liability | count of offerings | tahunan | Laporan pasar | DILAPORKAN |
| Regulatory guidance on agentic AI | jumlah dokumen | tahunan | Regulator publications | Statistik yang diterbitkan |
Bagaimana agen otonom dan pertanggungjawaban hukum diatur: instrumen, mandat, dan komitmen.
Instrumen, mandat, aktor, dan pengaturan akuntabilitas yang digunakan pembuat kebijakan, diplomat, atau lembaga pembangunan, dengan merujuk perjanjian yang menetapkannya. Struktur mengikuti kerangka yang disebutkan. Setiap kondisi atau kemajuan yang digambarkan bersifat ilustratif, bukan catatan.
Matriks instrumen kebijakan
The kinds of instrument available on autonomous agents and liability, by level of government and cooperation.
| Jenis instrumen | Lokal | Nasional | Regional | Global |
|---|---|---|---|---|
| Regulasi | Zonasi, kode bangunan | Hukum, standar, perizinan | Aturan yang diharmonisasi | Konvensi dan perjanjian |
| Ekonomi | Pungutan lokal, hibah | Pos anggaran, pajak, skema asuransi | Kolam risiko, dana regional | Mekanisme pembiayaan |
| Informasi | Peringatan lokal | Pengungkapan, peringatan dini, statistik | Pengaturan berbagi data | Pemantauan dan pelaporan global |
| Kelembagaan | Komite lokal | Lembaga pemimpin, dewan koordinasi | Badan regional dan sekretariat | Mandat multilateral |
| Kooperatif | Kesepakatan komunitas | Kesepakatan kemitraan | Nota kesepahaman dan program bersama | Perjanjian dan komitmen bersama |
Asal bukti.
Set data publik bernama dan catatan kelembagaan, masing-masing dengan kelas lisensinya. Sumber berdasarkan perjanjian hanya digunakan sesuai ketentuannya dan tidak pernah diterbitkan ulang.
| Sumber | Apa yang diberikannya | Kelas lisensi |
|---|---|---|
| EU revised Product Liability Directive | Liability rules including software and AI systems as products | Publik, ketentuan penggunaan ulang UE |
| Law commission and parliamentary reports on AI liability | Analysis of liability options for AI and automated systems | Catatan publik, ketentuan per badan |
| OECD AI Incidents Monitor | Recorded incidents involving AI systems | Gratis, ketentuan OECD |
| UK Automated and Electric Vehicles Act and Automated Vehicles Act | Liability allocation for automated vehicles | Open Government Licence |
| Court judgment databases | Keputusan tentang kerugian yang melibatkan sistem otomatis | Public records, terms per court |
Siapa yang memutuskan, dan apa yang dilayani bukti.
Tata Kelola AI dan Digital menyiapkan bukti. Keputusan di bawah ini diambil oleh otoritas yang disebutkan, berdasarkan aturannya sendiri, dan tidak pernah oleh platform.
| Siapa yang memutuskan | Pertanyaannya | Bukti yang dilayani halaman ini |
|---|---|---|
| Legislatures and law commissions | How liability rules apply to autonomous systems | Comparative regimes and case evidence |
| Organisasi penyelenggara | What an agent may do and what controls apply | Praktik pengendalian dan bukti insiden |
| Perusahaan asuransi | Apakah dan bagaimana menanggung kewajiban hukum AI | Incident patterns and legal developments |
| Pengadilan | Who is liable for harm in a specific case | Catatan yang disampaikan para pihak; halaman ini hanya menyajikan konteks |
Keluaran yang dihasilkan topik ini
- Comparative notes on liability rules for software and AI
- Panduan batas izin dan kendali untuk penerapan agen
- Ringkasan dialog tentang pengalokasian tanggung jawab dalam rantai AI multipihak
- Questions for legislatures on agent liability
Apa yang ditanyakan para pakar tentang agen otonom.
- What actions is this agent permitted to take, and how are those limits enforced technically?
- Ketika agen menimbulkan kerugian, siapa yang bertanggung jawab secara hukum: pengembang, penyelenggara, atau pengguna?
- How can an agent’s actions be traced, reviewed and reversed?
- How should agents interact with other agents, and who governs those interactions?
Why agents raise new governance questions.
Most governance frameworks were built for systems that advise a person who then acts. Agents collapse that gap, and with it one of the main points at which errors were caught. Why now: AI agents that act on behalf of people and organisations raise questions of liability that existing rules did not foresee, and legislators are still working through them. The platform is designed to compare emerging approaches and to record open questions for decision holders, without giving legal advice.
Action without review
Agen dapat bertindak lebih cepat dan lebih sering daripada kemampuan manusia untuk meninjau, sehingga kesalahan dapat berlipat ganda sebelum ada yang menyadarinya.
Agents meeting agents
Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.
Unclear responsibility
Aturan pertanggungjawaban yang ada mengasumsikan bahwa manusia atau perusahaan yang bertindak; agen AI membuat penentuan pihak tersebut menjadi lebih rumit.
Instrumen untuk membatasi agen.
- 01
Kendali izin dan cakupan
Technical limits on what agents can access and do, studied under AI evaluation and assurance engineering. Limits: agents may find unintended routes around controls.
- 02
Pencatatan log dan reversibilitas
Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.
- 03
Human approval thresholds
Requiring human sign-off above defined risk levels. Limits: can slow operations and invite approval fatigue.
- 04
Liability analysis
Membandingkan cara sistem hukum mengalokasikan tanggung jawab. Keterbatasan: hukum masih berkembang.
Cara hal ini dikaji, dan apa yang tidak dapat dinyatakan metodenya.
- 01Evaluasi AI dan rekayasa penjaminanCakupan audit pihak ketiga · Pengujian keadilan dalam sistem publik · Pemantauan pascapenerapanDiterapkan di sini
- 02Kecerdasan buatan dan pembelajaran mesinBagaimana model gagal dalam penerapan · Membaca dokumentasi model · Penjelasan arsitektur agenDiterapkan di sini
- 03Ilmu kebijakan, kelembagaan, dan keputusanMembandingkan rezim AI · Pemetaan akuntabilitas rantai nilai · Pemetaan forum dan mandatDiterapkan di sini
- 04Identitas digital dan sistem digital publikTingkat penjaminan untuk layanan publik · Pengungkapan minimal · Analisis eksklusiDiterapkan di sini
Tanya jawab.
Apa itu agen AI?
Siapa yang bertanggung jawab secara hukum ketika agen AI menimbulkan kerugian?
What controls limit agent harm?
Can an AI agent be legally responsible?
How can agent actions be kept within bounds?
Does the platform test agents?
Mengapa interaksi agen penting?
Kontribusikan bukti dari halaman ini.
Reports adalah publikasi triwulanan Konsorsium. Apa yang Anda ketahui tentang subjek ini dapat menjadi bukti, kasus, atau koreksi dalam edisi berikutnya, dengan kredit atas nama Anda dan dipublikasikan di bawah CC BY 4.0 jika merupakan karya Anda sendiri.
- SurelGerbang GW-GRFKirim dari halaman iniBukti, koreksi, kasus, metode, tinjauan, terjemahan, atau masukan profil. Kiriman tiba dengan label halaman ini, sehingga editor pemiliknya menerimanya.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Jangan pernah mengirim data pribadi, rincian infrastruktur sensitif, atau apa pun yang tidak berhak Anda bagikan. Kontribusi ditinjau sebelum digunakan. Mengirimkannya tidak memberikan hak kepenulisan atau editorial, dan sponsor tidak pernah membeli sebuah temuan.
Ajukan pertanyaan tata kelola kepada Forum.
Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.
Dokumen hukum.
Tampilkan semua 18 dokumen hukum
Peta, data, dan gambar di situs ini ditampilkan untuk konteks dan informasi umum. Semua itu bukan nasihat, prakiraan, atau peringatan; batasan informasinya dijelaskan dalam Penafian dan Pemberitahuan Data.