How models fail in deployment
Distribution shift, spurious correlations and feedback loops are explained with public case records, so oversight bodies know what to ask about a system’s behaviour after deployment.
GRF · AI और डिजिटल शासन
AI और डिजिटल शासन के लिए कृत्रिम बुद्धिमत्ता और मशीन लर्निंग
Artificial intelligence and machine learning are the प्रणालियों this field governs. On this platform the methods are explained so that oversight bodies, legislators and the public understand what models do, how they fail and what evidence about them can be trusted.
01विषय-सूची
Artificial intelligence and machine learning for AI and digital governance in five parts.
02आवेदन
कृत्रिम बुद्धिमत्ता और मशीन लर्निंग यहाँ क्या करते हैं।
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence, digital public infrastructure and cyber and digital resilience, machine learning can scale detection and forecasting across interconnected प्रणालियों. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on STEM Commons.
Reading model documentation
Model cards, data sheets and system cards are read for what they disclose and omit about training data, evaluation and limits.
Agent architectures explained
How agents chain model calls, tools and memory is described, so that permission and liability questions can be placed at the right point.
03निगरानी करें
मॉडल प्रशिक्षण।
वह स्क्रीन जिसका उपयोग कोई टीम इस पद्धति का अनुसरण करने के लिए करेगी: इसके माप, अवस्थाएँ और निर्णय। नाम उदाहरण हैं और मान उदाहरणात्मक हैं।
मॉडल प्रशिक्षण
AI and digital governance · Artificial intelligence · Run R-6213
एक खंड पर विचलनGRF · AI और डिजिटल शासन
खंड के अनुसार मूल्यांकन
| सभी | 0.85 | 0.04 | 4407 | उत्तीर्ण |
| क्षेत्र A | 0.78 | 0.04 | 1829 | समीक्षा |
| क्षेत्र B | 0.65 | 0.07 | 444 | समीक्षा |
| दुर्लभ वर्ग | 0.74 | 0.14 | 124 | मानक से नीचे |
पद्धति कार्ड
- पद्धति
- कृत्रिम बुद्धिमत्ता और मशीन लर्निंग
- विभाजन
- समय-आधारित, कोई रिसाव नहीं
- विशेषताएँ
- 55
- लेबल
- मॉडल-आधारित
जनसंख्या स्थिरता
04डेटा
पद्धति क्या उपभोग करती है।
इस प्लेटफ़ॉर्म पर कृत्रिम बुद्धिमत्ता और मशीन लर्निंग द्वारा उपयोग किए जाने वाले डेटासेट और अभिलेख, प्रत्येक की भूमिका और उसके मानों के लेबल के साथ। स्रोत स्रोत रजिस्टर.
| डेटा | भूमिका | लेबल |
|---|---|---|
| Model and system cards | Disclosed capabilities and limits | घोषित |
| Benchmark results | Comparative capability | रिपोर्ट किया गया |
| Incident records | Observed failures | रिपोर्ट किया गया |
| Research literature | पद्धतियाँ और साक्ष्य | रिपोर्ट किया गया |
05नीति परिदृश्य
उपकरणों की तुलना: नियम, प्रोत्साहन और सूचना।
साधनों के तीन परिवार आधार रेखा के सापेक्ष साथ-साथ, आपके तय किए कवरेज और अनुपालन के तहत, प्रत्येक अपने विलंब और अंगीकरण गति के साथ; प्रभाव आकार शिक्षण मान हैं जिन्हें साक्ष्य से बदलना है। परिदृश्य: भविष्य के बारे में नामित धारणाएँ, पूर्वानुमान नहीं।
नियंत्रण
- परिणाम की आधार-रेखा प्रवृत्ति
- प्रति वर्ष 2.0%
- इस साधन का कवरेज
- 70%
- अनुपालन
- 75%
- प्रभाव आकार, शिक्षण मान की तुलना में
- 100%
- आगामी वर्ष
- 20 वर्ष
पाठ्यांक
- क्षितिज पर सबसे बड़ी कमी
- विनियमन
- आधार-रेखा की तुलना में इसमें कमी
- 21%
संख्याएँ, विधियाँ और स्रोत
| वर्ष | आधार-रेखा | विनियमन | आर्थिक प्रोत्साहन | सूचना और क्षमता |
|---|---|---|---|---|
| 0 | 100.0 | 99.5 | 98.8 | 99.1 |
| 1 | 102.0 | 101.2 | 100.1 | 99.8 |
| 2 | 104.0 | 102.5 | 101.1 | 99.9 |
| 3 | 106.1 | 103.5 | 101.6 | 100.0 |
| 4 | 108.2 | 103.7 | 101.8 | 100.7 |
| 5 | 110.4 | 103.2 | 101.7 | 102.1 |
| 6 | 112.6 | 102.0 | 101.6 | 103.9 |
| 7 | 114.9 | 100.4 | 101.6 | 105.9 |
| 8 | 117.2 | 99.2 | 102.1 | 108.0 |
| 9 | 119.5 | 98.6 | 102.9 | 110.1 |
| 10 | 121.9 | 98.9 | 104.2 | 112.3 |
| 11 | 124.3 | 99.7 | 105.7 | 114.5 |
| 12 | 126.8 | 101.1 | 107.4 | 116.8 |
| 13 | 129.4 | 102.7 | 109.4 | 119.2 |
| 14 | 131.9 | 104.5 | 111.4 | 121.6 |
| 15 | 134.6 | 106.5 | 113.5 | 124.0 |
| 16 | 137.3 | 108.5 | 115.7 | 126.5 |
| 17 | 140.0 | 110.7 | 118.0 | 129.0 |
| 18 | 142.8 | 112.9 | 120.4 | 131.6 |
| 19 | 145.7 | 115.1 | 122.8 | 134.2 |
| 20 | 148.6 | 117.4 | 125.2 | 136.9 |
पद्धतियाँ
- शासन के उपकरण Hood (1983), The Tools of Government, Macmillan
- प्रलोभन, दंड और उपदेश Bemelmans-Videc, Rist and Vedung (1998), Transaction
- नवाचारों का प्रसार Rogers (2003), Diffusion of Innovations, Free Press
- अनिश्चितता फ़ैन चार्ट (पैरामीटर मोंटे कार्लो) Spiegelhalter, Pearson and Short (2011), Visualising uncertainty about the future, Science 333
- एक-एक करके संवेदनशीलता (टॉरनेडो) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
डेटा
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- सीमाएँ Natural Earth
- शहर Natural Earth
छह स्तंभों में, Nexus Consortium के नेतृत्व में
- प्रयोग प्रयोगशालाएँ
- में निर्मित Foundry में AI और डिजिटल शासन
- परीक्षण स्थल Universe में AI और डिजिटल शासन
- में संहिताबद्ध Standards में डिजिटल, साइबर और AI
- में प्रकाशित Reports में AI और डिजिटल शासन
- में पढ़ाया जाता है Academy में प्रौद्योगिकी और डिजिटल प्रणाली संकाय
06सत्यापन
परिणामों की जाँच कैसे होती है।
मॉडलों का मूल्यांकन अलग रखे गए उस डेटा पर होता है जो स्थानिक, कालिक और समूह संरचना का सम्मान करता है। सटीकता के साथ-साथ सुदृढ़ता, अंशांकन और निष्पक्षता का परीक्षण होता है।
| जाँचें | यह कैसे किया जाता है |
|---|---|
| Claims against evidence | Capability claims are checked against published evaluations |
| Context of benchmarks | Benchmark results are read with their task and data limits stated |
| Deployment conditions | Behaviour is described for the conditions in which the system is used |
जब परिनियोजन परिस्थितियाँ प्रशिक्षण डेटा से भिन्न होती हैं तो प्रदर्शन घटता है। मॉडल पूर्वाग्रहों को समाहित कर सकते हैं और दुर्लभ घटनाओं पर स्पष्ट चेतावनी के बिना विफल हो सकते हैं।
07क्रियान्वयन
अधिदेश से मूल्यांकन तक, स्तंभ के अनुसार।
कोई उपकरण अधिदेश से मूल्यांकन तक जो चरण लेता है, प्रत्येक उस स्तंभ के साथ जो उसे चलाता है, और वे निर्णय जो प्राधिकरण के पास रहते हैं। घोषित उदाहरणात्मक मानों वाला शिक्षण मॉडल, कोई भविष्यवाणी नहीं।
- अधिदेश और समस्या निर्धारण सक्षम प्राधिकरण (कार्यक्रम से बाहर)
एक सक्षम प्राधिकरण अपने नियमों के तहत समस्या और अधिदेश तय करता है। Howlett, Ramesh और Perl (2009) - साक्ष्य और प्रणाली मॉडल Foundry
प्रणाली को उसकी प्रतिपुष्टि, डेटा और घोषित सीमाओं के साथ मॉडल किया जाता है। OECD (2014), सिद्धांत 2 - परिदृश्यों के साथ विकल्पों का मूल्यांकन Foundry
साधनों की तुलना परिदृश्यों के अंतर्गत की जाती है, अनिश्चितता दिखाते हुए। Hood (1983) - हितधारकों के साथ अभ्यास यूनिवर्स
विकल्पों का परीक्षण उन लोगों के साथ एक अभ्यास में किया जाता है जो उन्हें लागू करेंगे और उनका भार उठाएँगे। OECD (2014), सिद्धांत 3 - मानक या मार्गदर्शन का मसौदा तैयार Nexus Standards
जो कारगर है उसे टिप्पणी के लिए खुले मानक या मार्गदर्शन के रूप में संहिताबद्ध किया जाता है। Nexus Standards प्रक्रिया - प्राधिकरण द्वारा निर्णय सक्षम प्राधिकरण (कार्यक्रम से बाहर)
प्राधिकरण कार्यक्रम के बाहर, रिकॉर्ड पर मौजूद साक्ष्य के साथ निर्णय लेता है। Howlett, Ramesh और Perl (2009) - क्षमता और प्रशिक्षण Risk Academy
लागू करने वालों को तय किए गए उपकरण और उसके डेटा पर प्रशिक्षित किया जाता है। सेंडाई ढाँचा (2015), प्राथमिकता 2 - निगरानी और सार्वजनिक रिपोर्ट रिपोर्टें
संकेतक स्रोतों, सीमाओं और सुधारों के साथ प्रकाशित किए जाते हैं। OECD (2014), सिद्धांत 5 - मूल्यांकन और संशोधन Nexus Standards
परिणाम मानक और मॉडल में लौटते हैं: चक्र पूरा होता है। Howlett, Ramesh और Perl (2009)
पद्धतियाँ
- नीति चक्र Howlett, Ramesh and Perl (2009), Studying Public Policy, Oxford University Press
- महत्वपूर्ण जोखिमों का शासन OECD (2014), Recommendation of the Council on the Governance of Critical Risks
- निर्देशित ग्राफ़ का स्तरित आरेखण Sugiyama, Tagawa and Toda (1981), IEEE SMC 11
छह स्तंभों में, Nexus Consortium के नेतृत्व में
- प्रयोग प्रयोगशालाएँ
- में निर्मित Foundry में AI और डिजिटल शासन
- परीक्षण स्थल Universe में AI और डिजिटल शासन
- में संहिताबद्ध Standards में डिजिटल, साइबर और AI
- में प्रकाशित Reports में AI और डिजिटल शासन
- में पढ़ाया जाता है Academy में प्रौद्योगिकी और डिजिटल प्रणाली संकाय
09साधन और प्रतिबद्धताएँ
साधन, अधिदेश और प्रतिबद्धताएँ।
वे उपकरण, अधिदेश, कर्ता और जवाबदेही व्यवस्थाएँ जिनके साथ कोई नीति-निर्माता, राजनयिक या विकास एजेंसी काम करती है, उन्हें तय करने वाले समझौतों का हवाला देते हुए। संरचनाएँ नामित ढाँचों का अनुसरण करती हैं। जो भी स्थिति या प्रगति दिखाई गई है वह उदाहरणात्मक है, रिकॉर्ड नहीं।
नीति साधन मैट्रिक्स
The kinds of instrument available on Artificial intelligence and machine learning for AI and digital governance, by level of government and cooperation.
| साधन प्रकार | स्थानीय | राष्ट्रीय | क्षेत्रीय | वैश्विक |
|---|---|---|---|---|
| नियामक | ज़ोनिंग, भवन संहिताएँ | कानून, मानक, लाइसेंसिंग | सामंजस्यपूर्ण नियम | अभिसमय और संधियाँ |
| आर्थिक | स्थानीय शुल्क, अनुदान | बजट मद, कर, बीमा योजनाएँ | जोखिम पूल, क्षेत्रीय कोष | वित्तपोषण तंत्र |
| जानकारी | स्थानीय चेतावनियाँ | प्रकटीकरण, पूर्व चेतावनी, सांख्यिकी | डेटा साझाकरण व्यवस्थाएँ | वैश्विक निगरानी और रिपोर्टिंग |
| संस्थागत | स्थानीय समितियाँ | प्रमुख एजेंसियाँ, समन्वय परिषदें | क्षेत्रीय निकाय और सचिवालय | बहुपक्षीय अधिदेश |
| सहकारी | सामुदायिक समझौते | साझेदारी समझौते | समझौता ज्ञापन और संयुक्त कार्यक्रम | समझौते और संयुक्त प्रतिबद्धताएँ |
आपदा जोखिम न्यूनीकरण के लिए सेंडाई फ़्रेमवर्क · UNDRRपेरिस समझौता · UNFCCC2030 एजेंडा और सतत विकास लक्ष्य · संयुक्त राष्ट्रअंतरराष्ट्रीय स्वास्थ्य विनियम · WHO
10प्रबंधकत्व
पद्धति का रखरखाव कौन करता है।
कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ कंसोर्टियम के लिए कृत्रिम बुद्धिमत्ता और मशीन लर्निंग का संरक्षक है और प्लेटफ़ॉर्मों पर उसके अनुप्रयोग की समीक्षा करता है।
11जुड़ा हुआ
यह पृष्ठ पूरे कंसोर्टियम में कहाँ ले जाता है।
12प्रश्न
प्रश्न और उत्तर।
इस क्षेत्र में कृत्रिम बुद्धिमत्ता और मशीन लर्निंग की सीमाएँ क्या हैं?
जब परिनियोजन परिस्थितियाँ प्रशिक्षण डेटा से भिन्न होती हैं तो प्रदर्शन घटता है। मॉडल पूर्वाग्रहों को समाहित कर सकते हैं और दुर्लभ घटनाओं पर स्पष्ट चेतावनी के बिना विफल हो सकते हैं।
परिणामों की जाँच कैसे होती है?
मॉडलों का मूल्यांकन अलग रखे गए उस डेटा पर होता है जो स्थानिक, कालिक और समूह संरचना का सम्मान करता है। सटीकता के साथ-साथ सुदृढ़ता, अंशांकन और निष्पक्षता का परीक्षण होता है।
क्या इस पृष्ठ के मान वास्तविक हैं?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
यह पद्धति और कहाँ लागू होती है?
रिपोर्टेंयोगदान दें
इस पृष्ठ से साक्ष्य का योगदान करें।
रिपोर्टें is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
वैश्विक जोखिम मंच (Global Risks Forum)AI और डिजिटल शासनघातांकीय प्रौद्योगिकीसाक्ष्य संक्षेप
- ईमेलप्रवेश द्वार GW-GRFइसे इसी पृष्ठ से भेजेंसाक्ष्य, सुधार, मामला, पद्धति, समीक्षा, अनुवाद या प्रोफ़ाइल इनपुट। यह इस पृष्ठ के टैग के साथ पहुँचता है, ताकि इसे सँभालने वाले संपादक को मिल जाए।
- Zenodoखुला जमाइसे जमा करें और समुदाय को प्रस्तुत करेंअपने ORCID iD के साथ Zenodo पर अपना अभिलेख प्रकाशित करें, फिर वहाँ Reports समुदाय को प्रस्तुत करें। संरक्षक उसकी समीक्षा करते हैं; DOI आपका ही रहता है।
- रिपोर्टेंवैश्विक जोखिम मंच (Global Risks Forum)योगदान के सभी तरीके देखेंयोगदान के प्रकार, प्रत्येक की समीक्षा कैसे होती है, आपको क्या श्रेय मिलता है, लाइसेंस और क्या कभी स्वीकार नहीं किया जाता।
व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।
AI और डिजिटल शासन
एक शासन प्रश्न मंच पर लाएँ।
जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।
विधिक
कानूनी दस्तावेज़।
सभी 18 विधिक दस्तावेज़ दिखाएँ
इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।