GRF · زیرەکی دەستکرد و حوکمڕانیی دیجیتاڵ
چاودێری و بەرپرسیارێتیی زیرەکی دەستکرد
When an AI system causes harm, someone must be able to find out what happened and answer for it. Oversight relies on documentation, logging, audit, incident reporting and authorities with the powers and skills to use them. Accountability is spread across developers, deployers, boards and regulators, and can dissolve between them. This page sets out how AI oversight holds or fails, the records that show it, and who holds each decision.
AI oversight and accountability in seven parts.
- 01The questionAI oversight and accountability: how the risk develops
- 02IndicatorsWhat is measured, and how well
- 03SourcesWhere the evidence comes from
- 04DecisionsWho decides, and what the evidence serves
- 05Core questionsWhat institutions ask about oversight
- 06MechanismsWhy accountability erodes
- 07Methods and limitsInstruments of oversight
AI oversight and accountability: how the risk develops.
Roles, validation and human review. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Responsibility diffuses along the chain
A model developer, a fine-tuner, an integrator and a deploying organisation each shape a system’s behaviour. When obligations attach to only one of them, the others can point elsewhere after harm.
Records decide what can be reviewed
Without technical documentation, logs and change records, auditors and regulators cannot reconstruct how a system reached an output. Record-keeping duties make later oversight possible.
Authorities lack capacity
Market surveillance, data protection and sector regulators need technical staff, access to systems and powers to test them. Thin capacity turns rules into self-assessment.
Incidents go unreported
Failures surface through complaints, journalism and litigation rather than reporting. Mandatory incident reporting and shared incident databases let patterns be seen across deployments.
تۆماری گشتیی ئەلگۆریتمەکان.
ئەو شاشەیەی تیمێک بۆ بەدواداچوونی ئەم بابەتە بەکاری دەهێنێت: پێوەر، دۆخ و بڕیارەکانی. ناوەکان نموونەن و بەهاکان ڕوونکەرەوەن.
تۆماری گشتیی ئەلگۆریتمەکان
AI oversight and accountability · Algorithm register · Quarter 2
سیستەمە تۆمارکراوەکان
| نیشانەکردنی فێڵی سوودەکان | توانای کردەیی کۆمەڵگەیی | بەرز | ونبوو | بەشێکی |
| ڕیزکردنی مۆڵەتەکان | پلاندانان | سنووردار | تەواو بوو | بەڵێ |
| دانانی قوتابخانە | پەروەردە | بەرز | تەواو بوو | بەڵێ |
| یاریدەدەری چات | ئۆفیسی باج | کەمترین | تەواو بوو | n/a |
کرداری چاودێری
- سیستەم
- نیشانەکردنی فێڵی سوودەکان
- پێویست
- هەڵسەنگاندنی کاریگەری، ڕێگای تانە
- کۆتا ماوە
- 73 days
- دەسەڵات
- لایەنی چاودێری
سکاڵا لە بڕیارە خۆکارەکان
What is measured, and how well.
Each indicator carries its unit, its cadence, the kind of source behind it and the evidence label a value would carry. No values are shown: a programme supplies them under its own authority.
| Indicator | Unit | Cadence | Source type | ناونیشان |
|---|---|---|---|---|
| Designated AI supervisory or market surveillance authority | yes or no, with legal basis | on change | National legislation and notifications | ئامارە بڵاوکراوەکان |
| Technical staff in AI-relevant authorities | full-time equivalents | annual | Authority annual reports | ڕاپۆرتکراو |
| Serious incidents reported under AI rules | count by sector | annual | Public records | ئامارە بڵاوکراوەکان |
| Publicly recorded AI incidents | count by harm type | monthly | Incident databases | ڕاپۆرتکراو |
| Enforcement actions concerning AI systems | count by authority and type | annual | Regulator enforcement registers | ئامارە بڵاوکراوەکان |
| ISO/IEC 42001 certificates issued | count | annual | Certification body records | ڕاپۆرتکراو |
بەراوردکردنی ئامرازەکان: یاسا، هاندەر و زانیاری.
سێ خێزانی ئامراز پێکەوە بەرامبەر بە هێڵی بنەڕەت، هەریەکەیان بە دواکەوتن و خێرایی پەسەندکردنی خۆیەوە، لەژێر ئەو ڕووپۆشکردن و پابەندبوونەی تۆ دیاری دەکەیت؛ قەبارەی کاریگەرییەکان بەهای فێرکارین کە دەبێت بە بەڵگە بگۆڕدرێن. سیناریۆ: گریمانەی ناودار دەربارەی داهاتوو، نەک پێشبینی.
کۆنترۆڵەکان
- ڕەوتی بنەڕەتیی دەرئەنجامەکە
- 2.0% لە ساڵێکدا
- ڕووپۆشی ئامرازەکە
- 70%
- پابەندبوون بە یاسا
- 75%
- قەبارەی کاریگەری، بەرامبەر بە بەهای فێرکاری
- 100%
- ساڵەکانی داهاتوو
- 20 ساڵ
خوێندنەوەکان
- گەورەترین کەمبوونەوە لە ئاسۆدا
- ڕێکخستن
- کەمبوونەوەی بەرامبەر بە هێڵی بنەڕەت
- 21%
ژمارە، ڕێگا و سەرچاوەکان
| ساڵ | بنەڕەت | ڕێکخستن | هاندەری ئابووری | زانیاری و توانا |
|---|---|---|---|---|
| 0 | 100.0 | 99.5 | 98.8 | 99.1 |
| 1 | 102.0 | 101.2 | 100.1 | 99.8 |
| 2 | 104.0 | 102.5 | 101.1 | 99.9 |
| 3 | 106.1 | 103.5 | 101.6 | 100.0 |
| 4 | 108.2 | 103.7 | 101.8 | 100.7 |
| 5 | 110.4 | 103.2 | 101.7 | 102.1 |
| 6 | 112.6 | 102.0 | 101.6 | 103.9 |
| 7 | 114.9 | 100.4 | 101.6 | 105.9 |
| 8 | 117.2 | 99.2 | 102.1 | 108.0 |
| 9 | 119.5 | 98.6 | 102.9 | 110.1 |
| 10 | 121.9 | 98.9 | 104.2 | 112.3 |
| 11 | 124.3 | 99.7 | 105.7 | 114.5 |
| 12 | 126.8 | 101.1 | 107.4 | 116.8 |
| 13 | 129.4 | 102.7 | 109.4 | 119.2 |
| 14 | 131.9 | 104.5 | 111.4 | 121.6 |
| 15 | 134.6 | 106.5 | 113.5 | 124.0 |
| 16 | 137.3 | 108.5 | 115.7 | 126.5 |
| 17 | 140.0 | 110.7 | 118.0 | 129.0 |
| 18 | 142.8 | 112.9 | 120.4 | 131.6 |
| 19 | 145.7 | 115.1 | 122.8 | 134.2 |
| 20 | 148.6 | 117.4 | 125.2 | 136.9 |
ڕێگاکان
- Tools of government Hood (1983), The Tools of Government, Macmillan
- Carrots, sticks and sermons Bemelmans-Videc, Rist and Vedung (1998), Transaction
- Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
- پەنجەی نادڵنیایی (مۆنتی کارلۆی پارامیتەر) Spiegelhalter, Pearson و Short (2011)، Visualising uncertainty about the future، Science 333
- هەستیاریی یەک-یەک (تۆرناد) Saltelli و ئەوانی دیکە (2008)، Global Sensitivity Analysis: The Primer، Wiley
داتا
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Borders Natural Earth
- Cities Natural Earth
لە ناو شەش کۆڵەکەکەدا، بە سەرپەرشتیی Nexus Consortium
- Experiments Labs
- تێدا دروستکراوە زیرەکی دەستکرد و حوکمڕانیی دیجیتاڵ لە Foundry
- تاقیکراوەتەوە لە زیرەکی دەستکرد و حوکمڕانیی دیجیتاڵ لە Universe
- کۆدکراوە لە دیجیتاڵ، سایبەر و AI لە Standards
- بڵاوکراوەتەوە لە زیرەکی دەستکرد و حوکمڕانیی دیجیتاڵ لە Reports
- فێرکراو لە کۆلێژی تەکنەلۆجیا و سیستەمە دیجیتاڵییەکان لە Academy
Where the evidence comes from.
Named public datasets and institutional records, each with its licence class. Sources by agreement are used only under their terms and never republished.
| سەرچاوە | What it gives | Licence class |
|---|---|---|
| OECD.AI Policy Observatory | National AI policies, governance bodies and the AI Incidents Monitor | Free, OECD terms |
| AI Incident Database | Crowd-sourced records of harms involving AI systems | Open, licence to check |
| European Data Protection Board and national authority decisions | Decisions on automated processing and AI-related complaints | Public, EU and national reuse terms |
| Stanford AI Index Report | Data on AI development, policy and incidents | Free to read, licence to check |
| Regulator annual reports | Staffing, priorities and enforcement of authorities supervising AI | Public records, terms per authority |
لە ڕاسپاردەوە تا هەڵسەنگاندن، بە پێی کۆڵەکە.
ئەو هەنگاوانەی ئامرازێک لە ڕاسپاردەوە تا هەڵسەنگاندن دەیگرێتەبەر، هەریەکەیان لەگەڵ ئەو کۆڵەکەیەی بەڕێوەی دەبات، و ئەو بڕیارانەی لای دەسەڵات دەمێننەوە. مۆدێلێکی فێرکارییە بە بەهای نموونەیی دیاریکراو، نەک پێشبینی.
- Mandate and problem framing Competent authority (outside the programme)
A competent authority frames the problem and the mandate under its own rules. Howlett, Ramesh and Perl (2009) - Evidence and system model Foundry
The system is modelled with its feedbacks, data and stated limits. OECD (2014), principle 2 - Options appraised with scenarios Foundry
Instruments are compared under scenarios, with uncertainty shown. Hood (1983) - Exercise with stakeholders Universe
The options are tested in an exercise with those who would implement and bear them. OECD (2014), principle 3 - Standard or guidance drafted Nexus Standards
What works is codified as a standard or guidance, open to comment. Nexus Standards process - Decision by the authority Competent authority (outside the programme)
The authority decides, outside the programme, with the evidence on record. Howlett, Ramesh and Perl (2009) - Capacity and training Risk Academy
Those who implement are trained on the decided instrument and its data. Sendai Framework (2015), priority 2 - Monitoring and public report Reports
Indicators are published with sources, limits and corrections. OECD (2014), principle 5 - Evaluation and revision Nexus Standards
Results return to the standard and the model: the cycle closes. Howlett, Ramesh and Perl (2009)
ڕێگاکان
- Policy cycle Howlett, Ramesh and Perl (2009), Studying Public Policy, Oxford University Press
- Governance of critical risks OECD (2014), Recommendation of the Council on the Governance of Critical Risks
- Layered drawing of directed graphs Sugiyama, Tagawa and Toda (1981), IEEE SMC 11
لە ناو شەش کۆڵەکەکەدا، بە سەرپەرشتیی Nexus Consortium
- Experiments Labs
- تێدا دروستکراوە زیرەکی دەستکرد و حوکمڕانیی دیجیتاڵ لە Foundry
- تاقیکراوەتەوە لە زیرەکی دەستکرد و حوکمڕانیی دیجیتاڵ لە Universe
- کۆدکراوە لە دیجیتاڵ، سایبەر و AI لە Standards
- بڵاوکراوەتەوە لە زیرەکی دەستکرد و حوکمڕانیی دیجیتاڵ لە Reports
- فێرکراو لە کۆلێژی تەکنەلۆجیا و سیستەمە دیجیتاڵییەکان لە Academy
Who decides, and what the evidence serves.
AI and Digital Governance prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| کێ بڕیار دەدات | پرسیارەکە | Evidence this page serves |
|---|---|---|
| Legislatures | Which obligations attach to developers, deployers and providers of general-purpose models | Comparative regimes and evidence from incidents |
| Market surveillance and sector regulators | Which systems to inspect and what powers to use | Incident records, risk categories and enforcement practice |
| Boards of deploying organisations | Who owns AI risk and what assurance they require | Governance practice and management system standards |
| Courts | Who is responsible for harm caused with an AI system | Records and expert evidence presented by parties; the page serves context only |
Outputs this topic produces
- Maps of accountability across the AI value chain for a given use
- Comparative notes on AI supervisory authorities and their powers
- Guide to AI incident reporting regimes and databases
- Questions for boards and regulators on AI oversight
How AI oversight and accountability is governed: instruments, mandates and commitments.
ئامراز، ڕاسپاردە، لایەنە کارا و ڕێکخستنەکانی بەرپرسیارێتی کە سیاسەتمەدارێک، دیپلوماتێک یان دامەزراوەیەکی گەشەپێدان لەگەڵیان کار دەکات، بە ناوهێنانی ئەو ڕێکەوتنانەی دایاندەنێن. پێکهاتەکان چوارچێوە ناوبراوەکان دەگرنەبەر. هەر دۆخ یان پێشکەوتنێک کێشراوە نموونەییە، نەک تۆمار.
خولی بەرپرسیارێتی
How commitments on AI oversight and accountability are held to account, from commitment to correction.
- پابەندبوونحکومەتپابەندبوونێک بە ڕاسپاردە و بنەمایەکی یاساییەوە.
- پلاندامەزراوەی سەرکردەپلانێکی نیشتمانی بە خاوەن و قۆناغی سەرەکییەوە.
- سەرچاوەوەزارەتی داراییهێڵێکی بودجە یان دابینکردنی داراییی تۆمارکراو.
- جێبەجێکردندامەزراوەکان و ئیدارەی خۆجێییجێبەجێکردن بەرامبەر بە پلانەکە.
- ڕاپۆرتئۆفیسی ئامارنیشاندەرەکان بە پێناسەی ڕێککەوتوو ڕاپۆرت دەکرێن.
- پێداچوونەوەدەسەڵاتی یاسادانان، ئۆدیت، کۆمەڵگای مەدەنیپێداچوونەوەی سەربەخۆی ئەنجام و بۆشاییەکان.
- ڕاستحکومەتگۆڕانکارییەکان لە پلانەکەدا، بە هۆکارەوە بڵاو دەکرێنەوە.
What institutions ask about oversight.
- Who in the institution owns the decision to deploy this system, and who answers if it causes harm?
- Has the system been validated for this specific use and population, by someone independent of its developers?
- Can the people reviewing its outputs genuinely disagree with it, or do they simply approve what it suggests?
- How will performance be monitored once the system is in use, and what triggers suspension?
Why accountability erodes.
Accountability tends to dissolve gradually. Each actor in a long chain of developers, integrators, operators and managers can reasonably point to another as responsible, until no one is. Why now: human oversight duties are being written into law, including in the European Union AI Act (2024), and public bodies must show who can understand and override an automated output. The platform is designed to convene those bodies and to exercise oversight in Universe with a scenario in which a system is confidently wrong.
Rubber-stamp review
People tend to defer to automated outputs, especially under time pressure, so human review can become a formality.
Many hands
Developers, vendors, integrators and users each own part of the system and none owns the outcome.
Changing performance
Models degrade as the world changes, and without monitoring the degradation goes unnoticed.
Instruments of oversight.
- 01
Impact assessments
Structured analysis of risks to rights and outcomes before deployment. Limits: can become paperwork if not tied to decisions.
- 02
Independent validation
Testing by people independent of developers, using AI evaluation and assurance engineering. Limits: tests show performance on test data, not in every real situation.
- 03
Meaningful human review
Reviewers with the authority, time, information and training to override. Limits: costly, and hard to sustain at scale.
- 04
Audit trails and monitoring
Logs of inputs, outputs and decisions, with performance tracked over time. Limits: only useful if someone reviews them.
How it is studied, and what the methods cannot say.
- 01AI evaluation and assurance engineeringThird-party audit scope · Fairness testing in public systems · Post-deployment monitoringApplied here
- 02Policy, institutional and decision scienceComparing AI regimes · Value chain accountability mapping · Forum and mandate mappingApplied here
- 03Artificial intelligence and machine learningHow models fail in deployment · Reading model documentation · Agent architectures explainedApplied here
پرسیار و وەڵام.
What is the difference between an AI provider and a deployer?
Why does logging matter for AI oversight?
Does ISO/IEC 42001 certify that an AI system is safe?
Is having a human in the loop enough?
Who should validate an AI system?
Does the platform audit AI systems?
What should trigger suspending a system?
لەم لاپەڕەیەوە بەڵگە پێشکەش بکە.
Reports بڵاوکراوەی وەرزیی کۆنسۆرتیۆم ـە. ئەوەی تۆ لەسەر ئەم بابەتە دەیزانیت دەتوانێت لە وەشانی داهاتوودا ببێتە بەڵگە، کەیس یان ڕاستکردنەوە، بە ناوی خۆتەوە و لەژێر CC BY 4.0 بڵاو دەکرێتەوە کاتێک کاری خۆتە.
- ئیمەیڵدەروازەی GW-GRFلەم لاپەڕەیەوە بینێرەبەڵگە، ڕاستکردنەوە، بابەت، ڕێگا، پێداچوونەوە، وەرگێڕان یان تێکردنی پڕۆفایل. بە نیشانەی ئەم لاپەڕەیە دەگات، بۆ ئەوەی دەستکاریکەری خاوەنەکەی وەریبگرێت.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
هەرگیز داتای کەسی، وردەکاریی هەستیاری ژێرخان یان هیچ شتێک مەنێرە کە مافی بڵاوکردنەوەت نییە. بەشدارییەک پێش بەکارهێنان پێداچوونەوەی بۆ دەکرێت؛ ناردنی ماف نابەخشێت بە نووسەرایەتی یان بەڕێوەبردنی ڕاگەیاندن، و پاڵپشتی دارایی هەرگیز دۆزینەوەیەک ناکڕێت.
پرسیارێکی حوکمڕانی بهێنە بۆ فۆرومەکە.
زانیاری و پرسیار ئەمڕۆ کراوەن. پرسیارێک ژمارەی ئاماژەی پێدەدرێت و هەنگاوی دواتر دیاری دەکات؛ داواکاری، پارەدان، تەرخانکردنی کۆمپیوتەر و تۆمارکردن تەنیا کاتێک دەکرێنەوە کە تیم، مەرج و توانای پێداچوونەوەیان هەبێت.
بەڵگەنامە یاساییەکان.
پیشاندانی هەموو 18 بەڵگەنامە یاساییەکە
نەخشە، داتا و وێنەکانی ئەم ماڵپەڕە بۆ ناوەڕۆک و زانیاریی گشتی پیشان دراون. ئامۆژگاری، پێشبینی یان ئاگادارکردنەوە نین؛ سنوورەکانی زانیارییەکە لە ڕەتکردنەوەی بەرپرسیارێتی و ئاگاداریی داتادا دەستنیشان کراون.