How models fail in deployment
Distribution shift, spurious correlations and feedback loops are explained with public case records, so oversight bodies know what to ask about a system’s behaviour after deployment.
GRF · حوكمة الذكاء الاصطناعي والمجال الرقمي
الذكاء الاصطناعي وتعلّم الآلة لحوكمة الذكاء الاصطناعي والمجال الرقمي
Artificial intelligence and machine learning are the الأنظمة this field governs. On this platform the methods are explained so that oversight bodies, legislators and the public understand what models do, how they fail and what evidence about them can be trusted.
01المحتويات
Artificial intelligence and machine learning for AI and digital governance in five parts.
02الطلب
ما يفعله الذكاء الاصطناعي وتعلّم الآلة هنا.
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence, digital public infrastructure and cyber and digital resilience, machine learning can scale detection and forecasting across interconnected الأنظمة. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on STEM Commons.
Reading model documentation
Model cards, data sheets and system cards are read for what they disclose and omit about training data, evaluation and limits.
Agent architectures explained
How agents chain model calls, tools and memory is described, so that permission and liability questions can be placed at the right point.
03الرصد
تدريب النماذج.
الشاشة التي قد يستخدمها فريق لمتابعة هذا المنهج: مقاييسه وحالاته وقراراته. والأسماء أمثلة والقيم توضيحية.
تدريب النماذج
AI and digital governance · Artificial intelligence · Run R-6213
انجراف في شريحة واحدةGRF · حوكمة الذكاء الاصطناعي والمجال الرقمي
التقييم حسب الشريحة
| الكل | 0.85 | 0.04 | 4407 | المرور |
| المنطقة A | 0.78 | 0.04 | 1829 | المراجعة |
| المنطقة B | 0.65 | 0.07 | 444 | المراجعة |
| فئة نادرة | 0.74 | 0.14 | 124 | دون الحد المطلوب |
بطاقة المنهج
- المنهج
- الذكاء الاصطناعي وتعلم الآلة
- التقسيم
- قائم على الزمن، دون تسرّب
- الخصائص
- 55
- الوسم
- مُنمذَج
استقرار السكان
04البيانات
ما يستهلكه المنهج.
مجموعات البيانات والسجلات التي يستخدمها الذكاء الاصطناعي وتعلّم الآلة في هذه المنصة، مع دور كلٍّ منها والوسم الذي تحمله قيمها. وتُدرج المصادر في سجل المصادر.
| البيانات | الدور | الوسم |
|---|---|---|
| Model and system cards | Disclosed capabilities and limits | مُعلَن |
| Benchmark results | Comparative capability | مُبلَّغ عنه |
| Incident records | Observed failures | مُبلَّغ عنه |
| Research literature | الأساليب والأدلة | مُبلَّغ عنه |
05سيناريوهات السياسات
مقارنة الأدوات: القواعد والحوافز والمعلومات.
ثلاث فئات من الأدوات جنبًا إلى جنب في مقابل خط الأساس، ولكل منها فارقه الزمني وسرعة اعتمادها، في ظل التغطية والامتثال اللذين تحددهما؛ وأحجام الأثر قيم تعليمية يُستعاض عنها بالأدلة. السيناريو: افتراضات مسمّاة بشأن المستقبل، وليس تنبؤًا.
الضوابط
- الاتجاه الأساسي للنتيجة
- 2.0% سنويًا
- تغطية الأداة
- 70%
- الامتثال
- 75%
- حجم الأثر قياسًا إلى القيمة التعليمية
- 100%
- السنوات القادمة
- 20 سنة
القراءات
- أكبر انخفاض عند الأفق الزمني
- التنظيم
- انخفاضه قياسًا إلى خط الأساس
- 21%
الأرقام والأساليب والمصادر
| السنة | خط الأساس | التنظيم | حافز اقتصادي | المعلومات والقدرات |
|---|---|---|---|---|
| 0 | 100.0 | 99.5 | 98.8 | 99.1 |
| 1 | 102.0 | 101.2 | 100.1 | 99.8 |
| 2 | 104.0 | 102.5 | 101.1 | 99.9 |
| 3 | 106.1 | 103.5 | 101.6 | 100.0 |
| 4 | 108.2 | 103.7 | 101.8 | 100.7 |
| 5 | 110.4 | 103.2 | 101.7 | 102.1 |
| 6 | 112.6 | 102.0 | 101.6 | 103.9 |
| 7 | 114.9 | 100.4 | 101.6 | 105.9 |
| 8 | 117.2 | 99.2 | 102.1 | 108.0 |
| 9 | 119.5 | 98.6 | 102.9 | 110.1 |
| 10 | 121.9 | 98.9 | 104.2 | 112.3 |
| 11 | 124.3 | 99.7 | 105.7 | 114.5 |
| 12 | 126.8 | 101.1 | 107.4 | 116.8 |
| 13 | 129.4 | 102.7 | 109.4 | 119.2 |
| 14 | 131.9 | 104.5 | 111.4 | 121.6 |
| 15 | 134.6 | 106.5 | 113.5 | 124.0 |
| 16 | 137.3 | 108.5 | 115.7 | 126.5 |
| 17 | 140.0 | 110.7 | 118.0 | 129.0 |
| 18 | 142.8 | 112.9 | 120.4 | 131.6 |
| 19 | 145.7 | 115.1 | 122.8 | 134.2 |
| 20 | 148.6 | 117.4 | 125.2 | 136.9 |
المناهج
- أدوات الحكم Hood (1983)، The Tools of Government، Macmillan
- Carrots, sticks and sermons Bemelmans-Videc وRist وVedung (1998)، Transaction
- انتشار الابتكارات Rogers (2003)، Diffusion of Innovations، Free Press
- مروحة عدم اليقين (مونت كارلو للمعاملات) Spiegelhalter وPearson وShort (2011)، Visualising uncertainty about the future، Science 333
- تحليل الحساسية لعامل واحد في كل مرة (مخطط الإعصار) Saltelli and others (2008)، Global Sensitivity Analysis: The Primer، Wiley
البيانات
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- الحدود Natural Earth
- المدن Natural Earth
عبر الركائز الست، بقيادة Nexus Consortium
- التجارب Labs
- مُضمَّن في حوكمة الذكاء الاصطناعي والمجال الرقمي في Foundry
- جرى الاختبار عند حوكمة الذكاء الاصطناعي والمجال الرقمي في Universe
- مدوَّن في المجال الرقمي والسيبراني والذكاء الاصطناعي في Standards
- نُشر في حوكمة الذكاء الاصطناعي والمجال الرقمي في Reports
- يُدرَّس في كلية التقنية والنظم الرقمية في Academy
06التحقق
كيف تُفحص النتائج.
تُقيَّم النماذج على بيانات محجوزة تراعي البنية المكانية والزمانية والفئوية. وتُختبر المتانة والمعايرة والإنصاف إلى جانب الدقة.
| التحقق | كيف يُنفَّذ |
|---|---|
| Claims against evidence | Capability claims are checked against published evaluations |
| Context of benchmarks | Benchmark results are read with their task and data limits stated |
| Deployment conditions | Behaviour is described for the conditions in which the system is used |
يتراجع الأداء حين تختلف ظروف النشر عن بيانات التدريب. وقد ترمّز النماذج تحيزات وتخفق دون إنذار واضح في الأحداث النادرة.
07التنفيذ
من التكليف إلى التقييم، حسب الركيزة.
الخطوات التي تمرّ بها أداة ما من التكليف إلى التقييم، مع الركيزة التي تتولاها، والقرارات التي تبقى بيد السلطة. نموذج تعليمي بقيم توضيحية معلنة، وليس تنبؤًا.
- التكليف وتأطير المشكلة السلطة المختصة (خارج البرنامج)
تؤطّر سلطة مختصة المشكلة والتكليف وفق قواعدها الخاصة. Howlett وRamesh وPerl (2009) - الأدلة ونموذج النظام Foundry
يُنمذَج النظام بتغذياته الراجعة وبياناته وحدوده المعلنة. OECD (2014)، المبدأ 2 - تقييم الخيارات بالسيناريوهات Foundry
تُقارَن الأدوات في ظل سيناريوهات، مع إظهار عدم اليقين. Hood (1983) - تمرين مع أصحاب المصلحة Universe
تُختبر الخيارات في تمرين مع من سينفّذها ويتحمل تبعاتها. OECD (2014)، المبدأ 3 - صياغة معيار أو إرشادات Nexus Standards
يُدوَّن ما ينجح في صورة معيار أو إرشادات، مفتوحة للتعليق. عملية Nexus Standards - قرار السلطة السلطة المختصة (خارج البرنامج)
تقرر السلطة خارج البرنامج بالاستناد إلى الأدلة المسجّلة. Howlett وRamesh وPerl (2009) - القدرات والتدريب Risk Academy
يُدرَّب المنفّذون على الأداة المقررة وبياناتها. إطار سنداي للحد من مخاطر الكوارث للفترة 2015-2030 (2015)، الأولوية 2 - الرصد والتقرير العام Reports
تُنشر المؤشرات مع مصادرها وحدودها وتصحيحاتها. OECD (2014)، المبدأ 5 - التقييم والمراجعة Nexus Standards
تعود النتائج إلى المعيار والنموذج: فتكتمل الدورة. Howlett وRamesh وPerl (2009)
المناهج
- دورة السياسات Howlett وRamesh وPerl (2009)، Studying Public Policy، Oxford University Press
- حوكمة المخاطر الحرجة OECD (2014)، توصية المجلس بشأن حوكمة المخاطر الحرجة
- Layered drawing of directed graphs Sugiyama وTagawa وToda (1981)، IEEE SMC 11
عبر الركائز الست، بقيادة Nexus Consortium
- التجارب Labs
- مُضمَّن في حوكمة الذكاء الاصطناعي والمجال الرقمي في Foundry
- جرى الاختبار عند حوكمة الذكاء الاصطناعي والمجال الرقمي في Universe
- مدوَّن في المجال الرقمي والسيبراني والذكاء الاصطناعي في Standards
- نُشر في حوكمة الذكاء الاصطناعي والمجال الرقمي في Reports
- يُدرَّس في كلية التقنية والنظم الرقمية في Academy
09الأدوات والالتزامات
الأدوات والولايات والالتزامات.
الأدوات والتكليفات والجهات الفاعلة وترتيبات المساءلة التي يعمل بها صانعو السياسات والدبلوماسيون ووكالات التنمية، مع الإشارة إلى الاتفاقات التي تقررها. وتتبع البنى الأطر المذكورة. وأي حالة أو تقدّم معروض فهو توضيحي وليس سجلًا.
مصفوفة أدوات السياسات
The kinds of instrument available on Artificial intelligence and machine learning for AI and digital governance, by level of government and cooperation.
| نوع الأداة | محلي | وطني | إقليمي | عالميًا |
|---|---|---|---|---|
| تنظيمي | تقسيم المناطق ومدونات البناء | القوانين والمعايير والترخيص | قواعد منسّقة | الاتفاقيات والمعاهدات |
| الاقتصادية | الرسوم المحلية والمنح | بنود الميزانية والضرائب ومخططات التأمين | مجمّعات المخاطر والصناديق الإقليمية | آليات التمويل |
| المعلومات | التحذيرات المحلية | الإفصاح والإنذار المبكر والإحصاءات | ترتيبات تبادل البيانات | الرصد والإبلاغ على الصعيد العالمي |
| مؤسسي | اللجان المحلية | الوكالات الرائدة ومجالس التنسيق | الهيئات والأمانات الإقليمية | الولايات المتعددة الأطراف |
| تعاوني | اتفاقات المجتمعات | اتفاقات الشراكة | مذكرات التفاهم والبرامج المشتركة | الاتفاقات والالتزامات المشتركة |
إطار سنداي للحد من مخاطر الكوارث للفترة 2015-2030 · UNDRRاتفاق باريس · UNFCCCخطة التنمية المستدامة لعام 2030 وأهداف التنمية المستدامة · الأمم المتحدةاللوائح الصحية الدولية · WHO
10الرعاية
من يحتفظ بالمنهج.
الذكاء الاصطناعي والنظم المستقلة الذكاء الاصطناعي وتعلّم الآلة للاتحاد، وتراجع كيفية تطبيقهما عبر المنصات.
11متصل
إلى أين تقود هذه الصفحة على نطاق الاتحاد.
12أسئلة
أسئلة وأجوبة.
ما حدود الذكاء الاصطناعي وتعلّم الآلة في هذا المجال؟
يتراجع الأداء حين تختلف ظروف النشر عن بيانات التدريب. وقد ترمّز النماذج تحيزات وتخفق دون إنذار واضح في الأحداث النادرة.
كيف تُفحص النتائج؟
تُقيَّم النماذج على بيانات محجوزة تراعي البنية المكانية والزمانية والفئوية. وتُختبر المتانة والمعايرة والإنصاف إلى جانب الدقة.
هل القيم المعروضة في هذه الصفحة حقيقية؟
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
أين يُطبَّق هذا المنهج أيضًا؟
مرصد صفحة المنهج المرجعية كل منصة تطبّقه.
Reportsساهم
ساهم بأدلة من هذه الصفحة.
Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
Global Risks Forumحوكمة الذكاء الاصطناعي والمجال الرقميالتقنيات الأسيةموجز الأدلة
- البريد الإلكترونيالبوابة GW-GRFأرسله من هذه الصفحةدليل أو تصحيح أو حالة أو أسلوب أو مراجعة أو ترجمة أو مدخل لملف قُطري. يصل موسومًا بهذه الصفحة، فيتلقاه المحرر المسؤول عنها.
- Zenodoإيداع مفتوحأودِعه وقدّمه إلى المجتمعانشر سجلك الخاص على Zenodo بمعرّف ORCID iD الخاص بك، ثم قدّمه إلى مجتمع Reports هناك. يراجعه القيّمون، ويبقى معرّف DOI ملكًا لك.
- ReportsGlobal Risks Forumاطّلع على جميع سبل المساهمةأنواع المساهمات، وكيفية مراجعة كل منها، والإسناد الذي تحصل عليه، والترخيص، وما لا يُقبل أبداً.
لا ترسل أبدًا بيانات شخصية أو تفاصيل حساسة عن البنية التحتية أو أي شيء لا يحق لك مشاركته. تُراجَع المساهمة قبل استخدامها؛ ولا يمنح إرسالها أي حقوق تأليف أو تحرير، ولا تشتري الرعاية أي نتيجة أبدًا.
حوكمة الذكاء الاصطناعي والمجال الرقمي
اعرض مسألة حوكمة على المنتدى.
المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.
الشؤون القانونية
الوثائق القانونية.
عرض جميع الوثائق القانونية الـ18
تُعرض الخرائط والبيانات والأشكال في هذا الموقع للسياق والمعلومات العامة. وهي ليست نصيحة ولا توقعات ولا إنذارات؛ وحدود المعلومات مبيّنة في إخلاءات المسؤولية وإشعارات البيانات.