Skip to content

GRF · AI और डिजिटल शासन

एल्गोरिदमिक सार्वजनिक निर्णय

Governments use algorithms to assess benefit claims, detect fraud, allocate inspections, set risk scores in policing and migration, and support judges and caseworkers. These decisions affect rights and livelihoods at scale, and errors repeat across thousands of cases before anyone sees them. This page sets out how algorithmic public decisions go wrong and how safeguards work, the records that show them, and who decides whether and how a system is used.

02प्रश्न

Algorithmic public decisions: how the risk develops.

Contestability and transparency. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

तंत्र

त्रुटियाँ चुपचाप बढ़ती जाती हैं

कोई त्रुटिपूर्ण नियम या मॉडल अपने दायरे में आने वाले हर मामले पर लागू होता है। परिणामों और अपीलों की निगरानी के बिना, कोई प्रणालीगत त्रुटि पकड़े जाने से पहले बहुत से लोगों को गलत तरीके से लाभ से वंचित कर सकती है या दंडित कर सकती है।

तंत्र

Bias enters through data and design

Historical data reflect past decisions and enforcement patterns. Proxies such as postcode or nationality can produce unequal outcomes even when protected characteristics are excluded.

तंत्र

Human review becomes rubber-stamping

समय के दबाव में स्वचालित परिणामों की समीक्षा करने को कहे गए लोक सेवक उन्हें स्वीकार कर लेते हैं। सार्थक समीक्षा के लिए समय, परिणाम को पलटने का अधिकार और यह जानकारी चाहिए कि परिणाम कैसे बना।

तंत्र

अपारदर्शिता चुनौती को रोकती है

लोग ऐसे निर्णय को चुनौती नहीं दे सकते जिसके स्वचालित होने की उन्हें जानकारी नहीं है या जिसे वे समझ नहीं सकते। सूचना, कारण और अपील तक पहुँच तय करते हैं कि त्रुटियाँ सुधारी जाती हैं या नहीं।

03निगरानी करें

सार्वजनिक एल्गोरिदम रजिस्टर।

वह स्क्रीन जिसका उपयोग कोई टीम इस विषय का अनुसरण करने के लिए करेगी: इसके माप, अवस्थाएँ और निर्णय। नाम उदाहरण हैं और मान उदाहरणात्मक हैं।

सार्वजनिक एल्गोरिदम रजिस्टर

Algorithmic public decisions · Algorithm register · Quarter 1

बिना आकलन के दो उच्च-जोखिम प्रणालियाँGRF · AI और डिजिटल शासन

पंजीकृत प्रणालियाँ

लाभ धोखाधड़ी चिह्नांकनसामाजिक कर्तृत्वउच्चलुप्तआंशिक
परमिट प्राथमिकता-निर्धारणयोजनासीमितपूर्णहाँ
विद्यालय प्रवेशशिक्षाउच्चपूर्णहाँ
चैट सहायककर कार्यालयन्यूनतमपूर्णn/a

निगरानी कार्रवाई

प्रणाली
लाभ धोखाधड़ी चिह्नांकन
आवश्यक
प्रभाव आकलन, अपील मार्ग
समय-सीमा
64 days
प्राधिकार
निगरानी निकाय

स्वचालित निर्णयों के बारे में शिकायतें

Public algorithm register: the screen’s structure, terms and states for Algorithmic public decisions.Example names and illustrative values; a design, not a record or a live system.
04संकेतक

क्या मापा जाता है, और कितनी अच्छी तरह।

प्रत्येक संकेतक अपनी इकाई, आवृत्ति, उसके पीछे के स्रोत का प्रकार और वह साक्ष्य लेबल वहन करता है जो किसी मान पर होगा। कोई मान नहीं दिखाए जाते: कोई कार्यक्रम उन्हें अपने अधिकार के तहत प्रदान करता है।

संकेतकइकाईलयस्रोत प्रकारलेबल
Public algorithmic systems in a transparency registercount by agencyअद्यतन होने परAlgorithm registersघोषित
एल्गोरिदमिक प्रभाव आकलन प्रकाशितगणनावार्षिकसरकारी प्रकाशनघोषित
Appeals against automated decisionscount and share upheldवार्षिकAgency and tribunal recordsप्रकाशित सांख्यिकी
समूहों के बीच परिणामों की असमानताratio of adverse outcome ratesper auditIndependent auditsअनुमानित
Systems suspended or withdrawn after reviewगणनावार्षिकGovernment and court recordsप्रकाशित सांख्यिकी
Ombudsman complaints about automated decisionsगणनावार्षिकOmbudsman reportsप्रकाशित सांख्यिकी
05साधन और प्रतिबद्धताएँ

How algorithmic public decisions is governed: instruments, mandates and commitments.

वे उपकरण, अधिदेश, कर्ता और जवाबदेही व्यवस्थाएँ जिनके साथ कोई नीति-निर्माता, राजनयिक या विकास एजेंसी काम करती है, उन्हें तय करने वाले समझौतों का हवाला देते हुए। संरचनाएँ नामित ढाँचों का अनुसरण करती हैं। जो भी स्थिति या प्रगति दिखाई गई है वह उदाहरणात्मक है, रिकॉर्ड नहीं।

नीति साधन मैट्रिक्स

The kinds of instrument available on algorithmic public decisions, by level of government and cooperation.

साधन प्रकारस्थानीयराष्ट्रीयक्षेत्रीयवैश्विक
नियामकज़ोनिंग, भवन संहिताएँकानून, मानक, लाइसेंसिंगसामंजस्यपूर्ण नियमअभिसमय और संधियाँ
आर्थिकस्थानीय शुल्क, अनुदानबजट मद, कर, बीमा योजनाएँजोखिम पूल, क्षेत्रीय कोषवित्तपोषण तंत्र
जानकारीस्थानीय चेतावनियाँप्रकटीकरण, पूर्व चेतावनी, सांख्यिकीडेटा साझाकरण व्यवस्थाएँवैश्विक निगरानी और रिपोर्टिंग
संस्थागतस्थानीय समितियाँप्रमुख एजेंसियाँ, समन्वय परिषदेंक्षेत्रीय निकाय और सचिवालयबहुपक्षीय अधिदेश
सहकारीसामुदायिक समझौतेसाझेदारी समझौतेसमझौता ज्ञापन और संयुक्त कार्यक्रमसमझौते और संयुक्त प्रतिबद्धताएँ
A typology after the OECD Recommendation on the Governance of Critical Risks; examples of instrument types, not an inventory of any country’s measures.
आपदा जोखिम न्यूनीकरण के लिए सेंडाई फ़्रेमवर्क · UNDRRपेरिस समझौता · UNFCCC2030 एजेंडा और सतत विकास लक्ष्य · संयुक्त राष्ट्रअंतरराष्ट्रीय स्वास्थ्य विनियम · WHO
06स्रोत

साक्ष्य कहाँ से आता है।

नामित सार्वजनिक डेटासेट और संस्थागत अभिलेख, प्रत्येक अपने लाइसेंस वर्ग के साथ। समझौते द्वारा प्राप्त स्रोतों का उपयोग केवल उनकी शर्तों के तहत होता है और कभी पुनः प्रकाशित नहीं किया जाता।

स्रोतयह क्या देता हैलाइसेंस वर्ग
UK Algorithmic Transparency Recording Standard recordsPublished records of algorithmic tools used by public bodiesOpen Government Licence
एम्स्टर्डम और हेलसिंकी एल्गोरिदम रजिस्टरCity registers of algorithmic systems in useOpen data, terms per city
Canada Directive on Automated Decision-Making and Algorithmic Impact Assessmentsसंघीय स्वचालित निर्णयों के लिए अनिवार्य प्रभाव आकलनOpen Government Licence, Canada
लोकपाल और लेखा परीक्षा कार्यालय की रिपोर्टेंInvestigations of automated decision systems in public servicesसार्वजनिक अभिलेख, प्रति कार्यालय शर्तें
स्वचालित सार्वजनिक निर्णयों पर न्यायालयीन निर्णयRulings on lawfulness of algorithmic systemsसार्वजनिक अभिलेख, प्रति न्यायालय कार्यकाल
07निर्णय

कौन निर्णय लेता है, और साक्ष्य किसकी सेवा करता है।

AI और डिजिटल शासन साक्ष्य तैयार करता है। नीचे दिए निर्णय नामित प्राधिकरणों द्वारा, उनके अपने नियमों के तहत लिए जाते हैं, और कभी भी प्लेटफ़ॉर्म द्वारा नहीं।

निर्णय कौन लेता हैप्रश्नयह पृष्ठ जिस साक्ष्य की सेवा करता है
Ministers and agency headsWhether to automate a decision and with what safeguardsImpact assessments, audit evidence and lessons from comparable systems
डेटा संरक्षण प्राधिकरणWhether processing and automated decisions are lawfulAssessment records and complaints
Ombudsmen and audit officesWhether to investigate a system and what to recommendAppeals, complaints and outcome data
Courts and tribunalsWhether a decision or system breached rights or lawपक्षकारों द्वारा प्रस्तुत अभिलेख; पृष्ठ केवल संदर्भ प्रदान करता है

इस विषय से उत्पन्न आउटपुट

  • Comparative notes on algorithm registers and impact assessments
  • Guide to meaningful human review in automated decisions
  • Dialogue briefs on lessons from suspended public algorithms
  • Questions for agencies before deploying an automated decision system
08मूल प्रश्न

What experts ask about algorithmic public decisions.

  • What legal power authorises this use, and does the algorithm stay within it?
  • Can a person affected find out that an algorithm was used, understand how, and challenge the result?
  • Does the system perform differently for different groups, and is that justified?
  • What happens when the system is wrong, and how quickly is the error found and corrected?
09तंत्र

How algorithmic decisions go wrong.

Algorithms trained on historical data can reproduce historical patterns of disadvantage. A proxy variable that seems neutral, such as postcode, may correlate with protected characteristics. Errors at scale differ from individual errors: a flawed rule applied to an entire caseload harms many people at once and in the same way, which can overwhelm complaint systems.

The burden of proof often shifts silently. When a system flags someone as high-risk, that person may need to prove a negative, without knowing what evidence the system used. Well-documented failures of automated benefits and fraud systems show that the greatest harm comes when automated flags are treated as findings rather than prompts for human investigation.

Why now: automated systems are used for eligibility, triage and fraud detection in public services, and courts and ombudsmen in several countries have examined cases where they went wrong. The platform is designed to compare review and redress arrangements and record what affected people can actually do.

10पद्धतियाँ और सीमाएँ

Safeguards and their limits.

  1. 01

    Public registers of algorithms

    Listing systems used by public bodies and their purposes. Limits: registers are often incomplete and vary in detail.

  2. 02

    Explanation and notification

    Telling people when an algorithm was used and why it produced a result. Limits: explanations of complex models can be partial.

  3. 03

    निष्पक्षता परीक्षण

    Measuring performance across groups, using machine learning methods. Limits: different fairness measures can conflict, and choosing among them is a value judgement.

  4. 04

    अपील और निवारण

    मानवीय समीक्षा, अपील और उपचार के मार्ग। सीमाएँ: सुलभ प्रक्रियाओं और पर्याप्त कर्मचारियों पर निर्भर।

11पद्धतियाँ

इसका अध्ययन कैसे होता है, और पद्धतियाँ क्या नहीं बता सकतीं।

  1. AI मूल्यांकन और आश्वासन अभियांत्रिकीतृतीय-पक्ष लेखा परीक्षा का दायरा · सार्वजनिक प्रणालियों में निष्पक्षता परीक्षण · परिनियोजन-पश्चात निगरानीयहाँ लागू
  2. नीति, संस्थागत और निर्णय विज्ञानAI व्यवस्थाओं की तुलना · मूल्य शृंखला जवाबदेही मानचित्रण · मंच और अधिदेश मानचित्रणयहाँ लागू
  3. कृत्रिम बुद्धिमत्ता और मशीन लर्निंगपरिनियोजन में मॉडल कैसे विफल होते हैं · मॉडल प्रलेखन पढ़ना · एजेंट संरचनाओं की व्याख्यायहाँ लागू
  4. डिजिटल पहचान और सार्वजनिक डिजिटल प्रणालियाँसार्वजनिक सेवाओं के लिए आश्वासन स्तर · न्यूनतम प्रकटीकरण · बहिष्करण विश्लेषणयहाँ लागू
12प्रश्न

प्रश्न और उत्तर।

What is an algorithmic impact assessment?
परिनियोजन से पहले और उसके दौरान, किसी स्वचालित प्रणाली से लोगों को होने वाले जोखिमों और उनके शमन की संरचित समीक्षा। कनाडा संघीय स्वचालित निर्णयों के लिए इसे अनिवार्य करता है।
What makes human review meaningful?
The reviewer has the time, competence, information and authority to depart from the system’s output, and does so in practice when warranted.
Do people have a right not to be subject to automated decisions?
GDPR के अंतर्गत, केवल स्वचालित प्रसंस्करण पर आधारित, उन्हें महत्वपूर्ण रूप से प्रभावित करने वाले निर्णयों के संबंध में लोगों के अधिकार हैं, अपवादों और सुरक्षा उपायों सहित। अन्य क्षेत्राधिकारों में स्थिति भिन्न है।
Can a public decision be made entirely by an algorithm?
यह प्रत्येक क्षेत्राधिकार के कानून पर निर्भर करता है। कई कानूनी प्रणालियाँ लोगों पर महत्वपूर्ण प्रभाव डालने वाले पूर्णतः स्वचालित निर्णयों को सीमित करती हैं और मानवीय भागीदारी तथा चुनौती देने का अधिकार आवश्यक बनाती हैं।
Why can’t fairness be measured with one number?
Because there are several reasonable definitions of fairness, and mathematically they often cannot all be satisfied at once. Choosing among them is a policy decision.
Does the platform take up individual cases?
No. Individual cases belong to the deploying body, ombudsmen, tribunals and courts.
Are algorithm registers required?
Some jurisdictions and cities publish them voluntarily or under policy; requirements vary.
रिपोर्टेंयोगदान दें

इस पृष्ठ से साक्ष्य का योगदान करें।

Reports कंसोर्टियम का त्रैमासिक प्रकाशन है। इस विषय के बारे में आप जो जानते हैं, वह अगले संस्करण में साक्ष्य, एक मामला या एक सुधार बन सकता है, आपको श्रेय देते हुए और जहाँ वह आपका अपना कार्य हो वहाँ CC BY 4.0 के अंतर्गत प्रकाशित।

वैश्विक जोखिम मंच (Global Risks Forum)AI और डिजिटल शासनघातांकीय प्रौद्योगिकीसाक्ष्य संक्षेप

व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।

AI और डिजिटल शासन

एक शासन प्रश्न मंच पर लाएँ।

जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।

विधिक
सभी 18 विधिक दस्तावेज़ दिखाएँ

इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।