Skip to content

GRF · AI और डिजिटल शासन

AI निगरानी और जवाबदेही

When an AI system causes harm, someone must be able to find out what happened and answer for it. Oversight relies on documentation, logging, audit, incident reporting and authorities with the powers and skills to use them. Accountability is spread across developers, deployers, boards and regulators, and can dissolve between them. This page sets out how AI oversight holds or fails, the records that show it, and who holds each decision.

02प्रश्न

AI oversight and accountability: how the risk develops.

Roles, validation and human review. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

तंत्र

Responsibility diffuses along the chain

A model developer, a fine-tuner, an integrator and a deploying organisation each shape a system’s behaviour. When obligations attach to only one of them, the others can point elsewhere after harm.

तंत्र

Records decide what can be reviewed

Without technical documentation, logs and change records, auditors and regulators cannot reconstruct how a system reached an output. Record-keeping duties make later oversight possible.

तंत्र

प्राधिकरणों में क्षमता की कमी है

Market surveillance, data protection and sector regulators need technical staff, access to systems and powers to test them. Thin capacity turns rules into self-assessment.

तंत्र

Incidents go unreported

Failures surface through complaints, journalism and litigation rather than reporting. Mandatory incident reporting and shared incident databases let patterns be seen across deployments.

03निगरानी करें

सार्वजनिक एल्गोरिदम रजिस्टर।

वह स्क्रीन जिसका उपयोग कोई टीम इस विषय का अनुसरण करने के लिए करेगी: इसके माप, अवस्थाएँ और निर्णय। नाम उदाहरण हैं और मान उदाहरणात्मक हैं।

सार्वजनिक एल्गोरिदम रजिस्टर

AI oversight and accountability · Algorithm register · Quarter 2

बिना आकलन के दो उच्च-जोखिम प्रणालियाँGRF · AI और डिजिटल शासन

पंजीकृत प्रणालियाँ

लाभ धोखाधड़ी चिह्नांकनसामाजिक कर्तृत्वउच्चलुप्तआंशिक
परमिट प्राथमिकता-निर्धारणयोजनासीमितपूर्णहाँ
विद्यालय प्रवेशशिक्षाउच्चपूर्णहाँ
चैट सहायककर कार्यालयन्यूनतमपूर्णn/a

निगरानी कार्रवाई

प्रणाली
लाभ धोखाधड़ी चिह्नांकन
आवश्यक
प्रभाव आकलन, अपील मार्ग
समय-सीमा
73 days
प्राधिकार
निगरानी निकाय

स्वचालित निर्णयों के बारे में शिकायतें

Public algorithm register: the screen’s structure, terms and states for AI oversight and accountability.Example names and illustrative values; a design, not a record or a live system.
04संकेतक

क्या मापा जाता है, और कितनी अच्छी तरह।

प्रत्येक संकेतक अपनी इकाई, आवृत्ति, उसके पीछे के स्रोत का प्रकार और वह साक्ष्य लेबल वहन करता है जो किसी मान पर होगा। कोई मान नहीं दिखाए जाते: कोई कार्यक्रम उन्हें अपने अधिकार के तहत प्रदान करता है।

संकेतकइकाईलयस्रोत प्रकारलेबल
Designated AI supervisory or market surveillance authorityyes or no, with legal basisपरिवर्तन होने परNational legislation and notificationsप्रकाशित सांख्यिकी
Technical staff in AI-relevant authoritiesfull-time equivalentsवार्षिकप्राधिकरण की वार्षिक रिपोर्टेंरिपोर्ट किया गया
Serious incidents reported under AI rulesक्षेत्रक के अनुसार संख्यावार्षिकसार्वजनिक अभिलेखप्रकाशित सांख्यिकी
Publicly recorded AI incidentsहानि के प्रकार के अनुसार गणनामासिकघटना डेटाबेसरिपोर्ट किया गया
Enforcement actions concerning AI systemsप्राधिकारी और प्रकार के अनुसार गणनावार्षिकनियामक प्रवर्तन रजिस्टरप्रकाशित सांख्यिकी
ISO/IEC 42001 certificates issuedगणनावार्षिकCertification body recordsरिपोर्ट किया गया
05नीति परिदृश्य

उपकरणों की तुलना: नियम, प्रोत्साहन और सूचना।

साधनों के तीन परिवार आधार रेखा के सापेक्ष साथ-साथ, आपके तय किए कवरेज और अनुपालन के तहत, प्रत्येक अपने विलंब और अंगीकरण गति के साथ; प्रभाव आकार शिक्षण मान हैं जिन्हें साक्ष्य से बदलना है। परिदृश्य: भविष्य के बारे में नामित धारणाएँ, पूर्वानुमान नहीं।

नियंत्रण

परिणाम की आधार-रेखा प्रवृत्ति
प्रति वर्ष 2.0%
इस साधन का कवरेज
70%
अनुपालन
75%
प्रभाव आकार, शिक्षण मान की तुलना में
100%
आगामी वर्ष
20 वर्ष

पाठ्यांक

क्षितिज पर सबसे बड़ी कमी
विनियमन
आधार-रेखा की तुलना में इसमें कमी
21%
संख्याएँ, विधियाँ और स्रोत
वर्षआधार-रेखाविनियमनआर्थिक प्रोत्साहनसूचना और क्षमता
0100.099.598.899.1
1102.0101.2100.199.8
2104.0102.5101.199.9
3106.1103.5101.6100.0
4108.2103.7101.8100.7
5110.4103.2101.7102.1
6112.6102.0101.6103.9
7114.9100.4101.6105.9
8117.299.2102.1108.0
9119.598.6102.9110.1
10121.998.9104.2112.3
11124.399.7105.7114.5
12126.8101.1107.4116.8
13129.4102.7109.4119.2
14131.9104.5111.4121.6
15134.6106.5113.5124.0
16137.3108.5115.7126.5
17140.0110.7118.0129.0
18142.8112.9120.4131.6
19145.7115.1122.8134.2
20148.6117.4125.2136.9

पद्धतियाँ

  1. Tools of government Hood (1983), The Tools of Government, Macmillan
  2. Carrots, sticks and sermons Bemelmans-Videc, Rist and Vedung (1998), Transaction
  3. Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
  4. Uncertainty fan (parameter Monte Carlo) Spiegelhalter, Pearson and Short (2011), Visualising uncertainty about the future, Science 333
  5. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

डेटा

The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:

  • Borders Natural Earth
  • Cities Natural Earth
साधनों की तुलना करें: नियम, प्रोत्साहन और सूचना। दृष्टांत के लिए शिक्षण मॉडल: यह मापे गए डेटा पर नहीं, नियंत्रणों से तय मानों पर चलता है। पद्धतियाँ: शासन के साधन (Hood (1983), The Tools of Government, Macmillan); गाजर, छड़ी और उपदेश (Bemelmans-Videc, Rist and Vedung (1998), Transaction); नवाचारों का प्रसार (Rogers (2003), Diffusion of Innovations, Free Press)।

छह स्तंभों में, Nexus Consortium के नेतृत्व में

06स्रोत

साक्ष्य कहाँ से आता है।

नामित सार्वजनिक डेटासेट और संस्थागत अभिलेख, प्रत्येक अपने लाइसेंस वर्ग के साथ। समझौते द्वारा प्राप्त स्रोतों का उपयोग केवल उनकी शर्तों के तहत होता है और कभी पुनः प्रकाशित नहीं किया जाता।

स्रोतयह क्या देता हैलाइसेंस वर्ग
OECD.AI Policy ObservatoryNational AI policies, governance bodies and the AI Incidents Monitorनिःशुल्क, OECD शर्तें
AI Incident DatabaseCrowd-sourced records of harms involving AI systemsखुला, लाइसेंस जाँचना शेष
यूरोपीय डेटा संरक्षण बोर्ड और राष्ट्रीय प्राधिकरणों के निर्णयDecisions on automated processing and AI-related complaintsPublic, EU and national reuse terms
Stanford AI Index ReportData on AI development, policy and incidentsFree to read, licence to check
Regulator annual reportsStaffing, priorities and enforcement of authorities supervising AIसार्वजनिक अभिलेख, प्रति प्राधिकरण शर्तें
07क्रियान्वयन

अधिदेश से मूल्यांकन तक, स्तंभ के अनुसार।

कोई उपकरण अधिदेश से मूल्यांकन तक जो चरण लेता है, प्रत्येक उस स्तंभ के साथ जो उसे चलाता है, और वे निर्णय जो प्राधिकरण के पास रहते हैं। घोषित उदाहरणात्मक मानों वाला शिक्षण मॉडल, कोई भविष्यवाणी नहीं।

  1. अधिदेश और समस्या निर्धारण सक्षम प्राधिकरण (कार्यक्रम से बाहर)
    एक सक्षम प्राधिकरण अपने नियमों के तहत समस्या और अधिदेश तय करता है। Howlett, Ramesh और Perl (2009)
  2. Evidence and system model Foundry
    The system is modelled with its feedbacks, data and stated limits. OECD (2014), principle 2
  3. Options appraised with scenarios Foundry
    Instruments are compared under scenarios, with uncertainty shown. Hood (1983)
  4. हितधारकों के साथ अभ्यास यूनिवर्स
    विकल्पों का परीक्षण उन लोगों के साथ एक अभ्यास में किया जाता है जो उन्हें लागू करेंगे और उनका भार उठाएँगे। OECD (2014), सिद्धांत 3
  5. Standard or guidance drafted Nexus Standards
    What works is codified as a standard or guidance, open to comment. Nexus Standards process
  6. प्राधिकरण द्वारा निर्णय सक्षम प्राधिकरण (कार्यक्रम से बाहर)
    प्राधिकरण कार्यक्रम के बाहर, रिकॉर्ड पर मौजूद साक्ष्य के साथ निर्णय लेता है। Howlett, Ramesh और Perl (2009)
  7. Capacity and training Risk Academy
    Those who implement are trained on the decided instrument and its data. Sendai Framework (2015), priority 2
  8. निगरानी और सार्वजनिक रिपोर्ट रिपोर्टें
    संकेतक स्रोतों, सीमाओं और सुधारों के साथ प्रकाशित किए जाते हैं। OECD (2014), सिद्धांत 5
  9. Evaluation and revision Nexus Standards
    Results return to the standard and the model: the cycle closes. Howlett, Ramesh and Perl (2009)

पद्धतियाँ

  1. Policy cycle Howlett, Ramesh and Perl (2009), Studying Public Policy, Oxford University Press
  2. Governance of critical risks OECD (2014), Recommendation of the Council on the Governance of Critical Risks
  3. Layered drawing of directed graphs Sugiyama, Tagawa and Toda (1981), IEEE SMC 11
अधिदेश से मूल्यांकन तक, स्तंभ के अनुसार: दर्ज किए गए चरण, प्रत्येक अपने स्तंभ के साथ; स्रोत वैसे ही जैसे प्रत्येक चरण पर उद्धृत हैं।

छह स्तंभों में, Nexus Consortium के नेतृत्व में

08निर्णय

कौन निर्णय लेता है, और साक्ष्य किसकी सेवा करता है।

AI और डिजिटल शासन साक्ष्य तैयार करता है। नीचे दिए निर्णय नामित प्राधिकरणों द्वारा, उनके अपने नियमों के तहत लिए जाते हैं, और कभी भी प्लेटफ़ॉर्म द्वारा नहीं।

निर्णय कौन लेता हैप्रश्नयह पृष्ठ जिस साक्ष्य की सेवा करता है
विधायिकाएँWhich obligations attach to developers, deployers and providers of general-purpose modelsतुलनात्मक व्यवस्थाएँ और घटनाओं से प्राप्त साक्ष्य
Market surveillance and sector regulatorsWhich systems to inspect and what powers to useIncident records, risk categories and enforcement practice
Boards of deploying organisationsWho owns AI risk and what assurance they requireGovernance practice and management system standards
न्यायालयWho is responsible for harm caused with an AI systemRecords and expert evidence presented by parties; the page serves context only

इस विषय से उत्पन्न आउटपुट

  • Maps of accountability across the AI value chain for a given use
  • AI पर्यवेक्षी प्राधिकरणों और उनकी शक्तियों पर तुलनात्मक टिप्पणियाँ
  • AI घटना रिपोर्टिंग व्यवस्थाओं और डेटाबेस की मार्गदर्शिका
  • Questions for boards and regulators on AI oversight
09साधन और प्रतिबद्धताएँ

How AI oversight and accountability is governed: instruments, mandates and commitments.

वे उपकरण, अधिदेश, कर्ता और जवाबदेही व्यवस्थाएँ जिनके साथ कोई नीति-निर्माता, राजनयिक या विकास एजेंसी काम करती है, उन्हें तय करने वाले समझौतों का हवाला देते हुए। संरचनाएँ नामित ढाँचों का अनुसरण करती हैं। जो भी स्थिति या प्रगति दिखाई गई है वह उदाहरणात्मक है, रिकॉर्ड नहीं।

जवाबदेही चक्र

How commitments on AI oversight and accountability are held to account, from commitment to correction.

  1. प्रतिबद्ध करेंसरकारअधिदेश और कानूनी आधार वाली एक प्रतिबद्धता।
  2. योजनाप्रमुख एजेंसीस्वामियों और पड़ावों सहित एक राष्ट्रीय योजना।
  3. संसाधनवित्त मंत्रालयअभिलेख में दर्ज एक बजट मद या वित्तपोषण।
  4. क्रियान्वित करेंएजेंसियाँ और स्थानीय सरकारयोजना के अनुसार प्रगति।
  5. रिपोर्टसांख्यिकी कार्यालयसहमत परिभाषाओं में रिपोर्ट किए गए संकेतक।
  6. समीक्षाविधायिका, लेखापरीक्षा, नागरिक समाजपरिणामों और अंतरालों की स्वतंत्र समीक्षा।
  7. सुधारेंसरकारयोजना में परिवर्तन, कारणों सहित प्रकाशित।
A generic accountability cycle; the owner of each step follows the country’s own constitution and law.
आपदा जोखिम न्यूनीकरण के लिए सेंडाई फ़्रेमवर्क · UNDRRपेरिस समझौता · UNFCCC2030 एजेंडा और सतत विकास लक्ष्य · संयुक्त राष्ट्रअंतरराष्ट्रीय स्वास्थ्य विनियम · WHO
10मूल प्रश्न

What institutions ask about oversight.

  • Who in the institution owns the decision to deploy this system, and who answers if it causes harm?
  • Has the system been validated for this specific use and population, by someone independent of its developers?
  • Can the people reviewing its outputs genuinely disagree with it, or do they simply approve what it suggests?
  • प्रणाली का उपयोग शुरू होने के बाद उसके प्रदर्शन की निगरानी कैसे की जाएगी, और निलंबन किन स्थितियों में होगा?
11तंत्र

जवाबदेही क्यों कमज़ोर पड़ती है।

Accountability tends to dissolve gradually. Each actor in a long chain of developers, integrators, operators and managers can reasonably point to another as responsible, until no one is. Why now: human oversight duties are being written into law, including in the European Union AI Act (2024), and public bodies must show who can understand and override an automated output. The platform is designed to convene those bodies and to exercise oversight in Universe with a scenario in which a system is confidently wrong.

Automation bias

Rubber-stamp review

People tend to defer to automated outputs, especially under time pressure, so human review can become a formality.

Diffusion

अनेक हाथ

Developers, vendors, integrators and users each own part of the system and none owns the outcome.

विचलन

बदलता प्रदर्शन

दुनिया बदलने के साथ मॉडल की गुणवत्ता घटती है, और निगरानी के बिना यह गिरावट पता नहीं चलती।

12पद्धतियाँ और सीमाएँ

Instruments of oversight.

  1. 01

    Impact assessments

    तैनाती से पहले अधिकारों और परिणामों के जोखिमों का संरचित विश्लेषण। सीमाएँ: यदि निर्णयों से न जुड़े तो यह कागज़ी कार्रवाई बन सकता है।

  2. 02

    स्वतंत्र सत्यापन

    Testing by people independent of developers, using AI evaluation and assurance engineering. Limits: tests show performance on test data, not in every real situation.

  3. 03

    Meaningful human review

    Reviewers with the authority, time, information and training to override. Limits: costly, and hard to sustain at scale.

  4. 04

    ऑडिट ट्रेल और निगरानी

    Logs of inputs, outputs and decisions, with performance tracked over time. Limits: only useful if someone reviews them.

13पद्धतियाँ

इसका अध्ययन कैसे होता है, और पद्धतियाँ क्या नहीं बता सकतीं।

  1. AI मूल्यांकन और आश्वासन अभियांत्रिकीतृतीय-पक्ष लेखा परीक्षा का दायरा · सार्वजनिक प्रणालियों में निष्पक्षता परीक्षण · परिनियोजन-पश्चात निगरानीयहाँ लागू
  2. नीति, संस्थागत और निर्णय विज्ञानAI व्यवस्थाओं की तुलना · मूल्य शृंखला जवाबदेही मानचित्रण · मंच और अधिदेश मानचित्रणयहाँ लागू
  3. कृत्रिम बुद्धिमत्ता और मशीन लर्निंगपरिनियोजन में मॉडल कैसे विफल होते हैं · मॉडल प्रलेखन पढ़ना · एजेंट संरचनाओं की व्याख्यायहाँ लागू
14प्रश्न

प्रश्न और उत्तर।

What is the difference between an AI provider and a deployer?
In the EU AI Act, a provider develops an AI system or model and places it on the market; a deployer uses it under its authority. Each carries different obligations.
Why does logging matter for AI oversight?
Logs and documentation let auditors, regulators and courts reconstruct how a system behaved. Without them, accountability depends on what the operator chooses to disclose.
Does ISO/IEC 42001 certify that an AI system is safe?
No. It certifies that an organisation runs a management system for AI meeting the standard’s requirements. The safety of a particular system needs its own evaluation.
Is having a human in the loop enough?
Not by itself. Review is meaningful only if the reviewer has the authority, time, information and competence to disagree with the system and does so when warranted.
Who should validate an AI system?
Someone independent of those who developed or sold it, with access to relevant data and the expertise to test it for the intended use.
Does the platform audit AI systems?
No. It compares governance practices and does not test or certify any system.
What should trigger suspending a system?
Institutions set their own triggers, typically including evidence of error rates above an agreed level, unexplained shifts in outputs or credible complaints of harm.
रिपोर्टेंयोगदान दें

इस पृष्ठ से साक्ष्य का योगदान करें।

Reports कंसोर्टियम का त्रैमासिक प्रकाशन है। इस विषय के बारे में आप जो जानते हैं, वह अगले संस्करण में साक्ष्य, एक मामला या एक सुधार बन सकता है, आपको श्रेय देते हुए और जहाँ वह आपका अपना कार्य हो वहाँ CC BY 4.0 के अंतर्गत प्रकाशित।

वैश्विक जोखिम मंच (Global Risks Forum)AI और डिजिटल शासनघातांकीय प्रौद्योगिकीसाक्ष्य संक्षेप

व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।

AI और डिजिटल शासन

एक शासन प्रश्न मंच पर लाएँ।

जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।

विधिक
सभी 18 विधिक दस्तावेज़ दिखाएँ

इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।