GRF · Tata kelola risiko
Tata kelola digital dan AI
Pemerintah dan operator mengandalkan AI serta sistem digital publik untuk menyampaikan layanan, mengalokasikan sumber daya, dan mendeteksi risiko. Aturannya terus bergerak: EU AI Act (2024) diberlakukan bertahap mulai 2025, Konvensi AI Dewan Eropa dibuka untuk penandatanganan pada 2024, dan pada 2025 PBB membentuk Panel Ilmiah tentang AI serta Dialog Global tentang Tata Kelola AI. The Global Risks Forum (GRF) mempertemukan otoritas, teknolog, dan pakar hak asasi untuk membahas cara menjaga pengawasan, akuntabilitas, dan hak tetap utuh. GRF tidak menyetujui sistem apa pun.
Digital and AI governance in seven parts.
- 01The governance questionsThree questions institutions need to answer
- 02The instrumentsA layered and still moving rulebook
- 03Public sector useThe governance question for a ministry deploying a model
- 04International guidanceInstruments that frame the dialogue
- 05Menjalankan pengawasanMenguji apa yang terjadi ketika sistem otomatis melakukan kesalahan
- 06Counterparts and contactThe same field across the three institutions
- 07SourcesWhere this page’s references lead
Three questions institutions need to answer.
Pengawasan manusia
Siapa yang dapat memahami, mempertanyakan, dan membatalkan keputusan otomatis, dan apakah mereka memiliki kewenangan serta waktu untuk melakukannya?
Answerability
Who answers for an automated decision that harms someone, and how can the affected person seek review?
Rights and inclusion
Bagaimana privasi, nondiskriminasi, dan akses dilindungi, termasuk bagi orang yang tidak dapat menggunakan kanal digital?
Kumpulan aturan berlapis yang masih terus berkembang.
| Instrumen | Badan | Apa yang dilakukannya | Catatan status |
|---|---|---|---|
| AI Act | Uni Eropa | Risk-tiered obligations: prohibited practices, duties for general-purpose models, then high-risk system requirements | Applies in stages; a 2026 Digital Omnibus agreement moved the high-risk timelines, so dates should be read from the “Official Journal of the European Union” |
| Konvensi Kerangka Kerja tentang AI dan Hak Asasi Manusia, Demokrasi, dan Supremasi Hukum | Council of Europe, open to non-members | Binding duties across the lifecycle of AI systems used by public authorities and, by choice, private actors | Dibuka untuk penandatanganan pada September 2024; periksa Treaty Office untuk status ratifikasi |
| Prinsip AI OECD | OECD, adhered to by many non-members | Prinsip dan rekomendasi berbasis nilai kepada pemerintah, diperbarui pada 2024 | In force as a Recommendation |
| Global Digital Compact | UN General Assembly, annexed to the Pact for the Future | Komitmen tentang inklusi digital, tata kelola data, dan AI, termasuk panel ilmiah independen dan dialog global | Panel telah melaporkan dan dialog pertama kali bertemu di Jenewa pada Juli 2026 |
| Rekomendasi tentang Etika AI | UNESCO | Penilaian kesiapan dan penilaian dampak etis bagi negara anggota | Implementasi melalui penilaian kesiapan nasional |
The governance question for a ministry deploying a model.
When an agency uses an algorithm to prioritise inspections, allocate benefits or triage emergency calls, the questions are institutional before they are technical. Who signed off the use? Who can stop it? How can an affected person contest the outcome? Which regulator audits it? GRF dialogues put the deploying agency, its oversight body, a data protection authority and affected users around one case, and record the oversight chain they agree on.
Technical assurance methods sit with GCRI’s AI and autonomous systems platform; model risk in finance with GRA’s AI and financial model risk platform; the specialist community is AI and Digital Governance.
Instruments that frame the dialogue.
- The UNESCO Recommendation on the Ethics of Artificial Intelligence (2021).
- The OECD AI Principles (2019, updated 2024).
- Konvensi Kerangka Kerja Dewan Eropa tentang Kecerdasan Buatan dan Hak Asasi Manusia, Demokrasi, dan Supremasi Hukum (2024), bagi negara-negara yang menjadi pihak di dalamnya.
- Global Digital Compact (2024) dan hukum hak asasi manusia internasional, termasuk hak atas privasi dan hak atas pemulihan yang efektif.
- National and regional laws that apply to each participating institution, such as the European Union AI Act.
Named instruments are references for dialogue, not claims of alignment. GRF does not assess any institution’s conformity with them, and it does not regulate, finance, procure or certify.
Testing what happens when an automated system is wrong.
Oversight never exercised is an assumption. In Universe, a scenario can have an automated triage, warning or eligibility system produce a confident but wrong output. The exercise asks: do the people responsible notice, can they override, can they explain the decision afterwards? Evaluators record where oversight held and where it failed. The exercised institutions review findings before they inform Reports. A missing common practice can become a change proposal to the Nexus Standards.
- 01
Oversight dialogues
Dialog terstruktur yang menghasilkan catatan pertanyaan pengawasan, tanggung jawab, dan isu terbuka untuk suatu sistem publik tertentu.
- 02
Komunitas spesialis
Innovation Nexus works on governed public-interest innovation, and Governance Nexus on comparative governance under technology change.
- 03
Platform spesialis
AI and Digital Governance is the specialist community, with the Digital Rights and Data Governance chapter.
The same field across the three institutions.
The Global Centre for Risk and Innovation (GCRI) studies artificial intelligence and responsible technology. The Global Risks Alliance (GRA) examines AI and model risk in finance. Related GRF areas: information and public trust and decision rights and responsibilities. To bring a system and its oversight question to a dialogue, write to the Secretariat at the contact form; the acknowledgement gives a reference and names the next step.
Where this page’s references lead.
Badan dan dokumen yang menjadi acuan halaman ini. Status dan edisi berubah; setiap tautan menuju badan penerbitnya.
Tanya jawab.
Does GRF audit AI systems?
Can an exercise use a live AI system?
Bagaimana otoritas publik dapat membawa suatu sistem ke dalam dialog?
Kontribusikan bukti dari halaman ini.
Reports adalah publikasi triwulanan Konsorsium. Apa yang Anda ketahui tentang subjek ini dapat menjadi bukti, kasus, atau koreksi dalam edisi berikutnya, dengan kredit atas nama Anda dan dipublikasikan di bawah CC BY 4.0 jika merupakan karya Anda sendiri.
- SurelGerbang GW-GRFKirim dari halaman iniBukti, koreksi, kasus, metode, tinjauan, terjemahan, atau masukan profil. Kiriman tiba dengan label halaman ini, sehingga editor pemiliknya menerimanya.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Jangan pernah mengirim data pribadi, rincian infrastruktur sensitif, atau apa pun yang tidak berhak Anda bagikan. Kontribusi ditinjau sebelum digunakan. Mengirimkannya tidak memberikan hak kepenulisan atau editorial, dan sponsor tidak pernah membeli sebuah temuan.
Ajukan pertanyaan tata kelola kepada Forum.
Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.
Dokumen hukum.
Tampilkan semua 18 dokumen hukum
Peta, data, dan gambar di situs ini ditampilkan untuk konteks dan informasi umum. Semua itu bukan nasihat, prakiraan, atau peringatan; batasan informasinya dijelaskan dalam Penafian dan Pemberitahuan Data.