Third-party audit scope
Audit engagements are compared for access, independence and what they test, so buyers and regulators know what an audit opinion covers.
GRF · حوكمة الذكاء الاصطناعي والمجال الرقمي
هندسة تقييم الذكاء الاصطناعي وضمانه لحوكمة الذكاء الاصطناعي والمجال الرقمي
AI assurance is the set of practices that build justified confidence in an AI system: evaluation, audit, red-teaming, monitoring and conformity assessment. In digital governance it decides what evidence regulators, buyers and courts can rely on, and who is independent enough to produce it.
01سجّل
حقائق رئيسية.
سجل المنهجمنهج STEM
- المنهجهندسة تقييم الذكاء الاصطناعي وضمانه
- مُطبَّق فيحوكمة الذكاء الاصطناعي والمجال الرقمي
- البيانات4 مدخلات
- الفحوص3 خطوات تحقق
- الصفحة المرجعيةSTEM Commons
02الطلب
What AI evaluation and assurance engineering does here.
AI evaluation and assurance engineering develops methods to test, monitor and provide justified confidence in AI الأنظمة. It addresses performance, robustness, safety and societal impact across the system life cycle. In artificial intelligence, digital public infrastructure and cyber and digital resilience, AI assurance determines whether automated systems can be trusted in high-consequence settings. It helps manage risks when AI is embedded across finance, health and infrastructure. The canonical description is on STEM Commons.
Fairness testing in public systems
Outcome rates across groups are compared and proxy effects tested, with the fairness criterion chosen by the decision maker stated.
Post-deployment monitoring
Monitoring plans track drift, complaints and incidents after deployment, with thresholds that trigger review or withdrawal.
03سيناريوهات السياسات
مقارنة الأدوات: القواعد والحوافز والمعلومات.
ثلاث فئات من الأدوات جنبًا إلى جنب في مقابل خط الأساس، ولكل منها فارقه الزمني وسرعة اعتمادها، في ظل التغطية والامتثال اللذين تحددهما؛ وأحجام الأثر قيم تعليمية يُستعاض عنها بالأدلة. السيناريو: افتراضات مسمّاة بشأن المستقبل، وليس تنبؤًا.
الضوابط
- الاتجاه الأساسي للنتيجة
- 2.0% سنويًا
- تغطية الأداة
- 70%
- الامتثال
- 75%
- حجم الأثر قياسًا إلى القيمة التعليمية
- 100%
- السنوات القادمة
- 20 سنة
القراءات
- أكبر انخفاض عند الأفق الزمني
- التنظيم
- انخفاضه قياسًا إلى خط الأساس
- 21%
الأرقام والأساليب والمصادر
| السنة | خط الأساس | التنظيم | حافز اقتصادي | المعلومات والقدرات |
|---|---|---|---|---|
| 0 | 100.0 | 99.5 | 98.8 | 99.1 |
| 1 | 102.0 | 101.2 | 100.1 | 99.8 |
| 2 | 104.0 | 102.5 | 101.1 | 99.9 |
| 3 | 106.1 | 103.5 | 101.6 | 100.0 |
| 4 | 108.2 | 103.7 | 101.8 | 100.7 |
| 5 | 110.4 | 103.2 | 101.7 | 102.1 |
| 6 | 112.6 | 102.0 | 101.6 | 103.9 |
| 7 | 114.9 | 100.4 | 101.6 | 105.9 |
| 8 | 117.2 | 99.2 | 102.1 | 108.0 |
| 9 | 119.5 | 98.6 | 102.9 | 110.1 |
| 10 | 121.9 | 98.9 | 104.2 | 112.3 |
| 11 | 124.3 | 99.7 | 105.7 | 114.5 |
| 12 | 126.8 | 101.1 | 107.4 | 116.8 |
| 13 | 129.4 | 102.7 | 109.4 | 119.2 |
| 14 | 131.9 | 104.5 | 111.4 | 121.6 |
| 15 | 134.6 | 106.5 | 113.5 | 124.0 |
| 16 | 137.3 | 108.5 | 115.7 | 126.5 |
| 17 | 140.0 | 110.7 | 118.0 | 129.0 |
| 18 | 142.8 | 112.9 | 120.4 | 131.6 |
| 19 | 145.7 | 115.1 | 122.8 | 134.2 |
| 20 | 148.6 | 117.4 | 125.2 | 136.9 |
المناهج
- أدوات الحكم Hood (1983)، The Tools of Government، Macmillan
- Carrots, sticks and sermons Bemelmans-Videc وRist وVedung (1998)، Transaction
- انتشار الابتكارات Rogers (2003)، Diffusion of Innovations، Free Press
- مروحة عدم اليقين (مونت كارلو للمعاملات) Spiegelhalter وPearson وShort (2011)، Visualising uncertainty about the future، Science 333
- تحليل الحساسية لعامل واحد في كل مرة (مخطط الإعصار) Saltelli and others (2008)، Global Sensitivity Analysis: The Primer، Wiley
البيانات
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- الحدود Natural Earth
- المدن Natural Earth
عبر الركائز الست، بقيادة Nexus Consortium
- التجارب Labs
- مُضمَّن في حوكمة الذكاء الاصطناعي والمجال الرقمي في Foundry
- جرى الاختبار عند حوكمة الذكاء الاصطناعي والمجال الرقمي في Universe
- مدوَّن في المجال الرقمي والسيبراني والذكاء الاصطناعي في Standards
- نُشر في حوكمة الذكاء الاصطناعي والمجال الرقمي في Reports
- يُدرَّس في كلية التقنية والنظم الرقمية في Academy
04البيانات
ما يستهلكه المنهج.
Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in سجل المصادر.
| البيانات | الدور | الوسم |
|---|---|---|
| Audit and evaluation reports | Assurance evidence | مُبلَّغ عنه |
| Outcome and appeal data | Real-world performance | مرصود |
| Conformity assessment records | Regulatory compliance | مُعلَن |
| Incident reports | Failures in use | مُبلَّغ عنه |
05التنفيذ
من التكليف إلى التقييم، حسب الركيزة.
الخطوات التي تمرّ بها أداة ما من التكليف إلى التقييم، مع الركيزة التي تتولاها، والقرارات التي تبقى بيد السلطة. نموذج تعليمي بقيم توضيحية معلنة، وليس تنبؤًا.
- التكليف وتأطير المشكلة السلطة المختصة (خارج البرنامج)
تؤطّر سلطة مختصة المشكلة والتكليف وفق قواعدها الخاصة. Howlett وRamesh وPerl (2009) - الأدلة ونموذج النظام Foundry
يُنمذَج النظام بتغذياته الراجعة وبياناته وحدوده المعلنة. OECD (2014)، المبدأ 2 - تقييم الخيارات بالسيناريوهات Foundry
تُقارَن الأدوات في ظل سيناريوهات، مع إظهار عدم اليقين. Hood (1983) - تمرين مع أصحاب المصلحة Universe
تُختبر الخيارات في تمرين مع من سينفّذها ويتحمل تبعاتها. OECD (2014)، المبدأ 3 - صياغة معيار أو إرشادات Nexus Standards
يُدوَّن ما ينجح في صورة معيار أو إرشادات، مفتوحة للتعليق. عملية Nexus Standards - قرار السلطة السلطة المختصة (خارج البرنامج)
تقرر السلطة خارج البرنامج بالاستناد إلى الأدلة المسجّلة. Howlett وRamesh وPerl (2009) - القدرات والتدريب Risk Academy
يُدرَّب المنفّذون على الأداة المقررة وبياناتها. إطار سنداي للحد من مخاطر الكوارث للفترة 2015-2030 (2015)، الأولوية 2 - الرصد والتقرير العام Reports
تُنشر المؤشرات مع مصادرها وحدودها وتصحيحاتها. OECD (2014)، المبدأ 5 - التقييم والمراجعة Nexus Standards
تعود النتائج إلى المعيار والنموذج: فتكتمل الدورة. Howlett وRamesh وPerl (2009)
المناهج
- دورة السياسات Howlett وRamesh وPerl (2009)، Studying Public Policy، Oxford University Press
- حوكمة المخاطر الحرجة OECD (2014)، توصية المجلس بشأن حوكمة المخاطر الحرجة
- Layered drawing of directed graphs Sugiyama وTagawa وToda (1981)، IEEE SMC 11
عبر الركائز الست، بقيادة Nexus Consortium
- التجارب Labs
- مُضمَّن في حوكمة الذكاء الاصطناعي والمجال الرقمي في Foundry
- جرى الاختبار عند حوكمة الذكاء الاصطناعي والمجال الرقمي في Universe
- مدوَّن في المجال الرقمي والسيبراني والذكاء الاصطناعي في Standards
- نُشر في حوكمة الذكاء الاصطناعي والمجال الرقمي في Reports
- يُدرَّس في كلية التقنية والنظم الرقمية في Academy
06التحقق
كيف تُفحص النتائج.
Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.
| التحقق | كيف يُنفَّذ |
|---|---|
| الاستقلالية | The assessor’s relationship to the developer and deployer is stated |
| الوصول | The level of access to model, data and documentation is recorded |
| Scope stated | What the assurance covers and excludes is stated beside its conclusion |
Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.
07الأدوات والالتزامات
الأدوات والولايات والالتزامات.
الأدوات والتكليفات والجهات الفاعلة وترتيبات المساءلة التي يعمل بها صانعو السياسات والدبلوماسيون ووكالات التنمية، مع الإشارة إلى الاتفاقات التي تقررها. وتتبع البنى الأطر المذكورة. وأي حالة أو تقدّم معروض فهو توضيحي وليس سجلًا.
مصفوفة أدوات السياسات
The kinds of instrument available on AI evaluation and assurance engineering for AI and digital governance, by level of government and cooperation.
| نوع الأداة | محلي | وطني | إقليمي | عالميًا |
|---|---|---|---|---|
| تنظيمي | تقسيم المناطق ومدونات البناء | القوانين والمعايير والترخيص | قواعد منسّقة | الاتفاقيات والمعاهدات |
| الاقتصادية | الرسوم المحلية والمنح | بنود الميزانية والضرائب ومخططات التأمين | مجمّعات المخاطر والصناديق الإقليمية | آليات التمويل |
| المعلومات | التحذيرات المحلية | الإفصاح والإنذار المبكر والإحصاءات | ترتيبات تبادل البيانات | الرصد والإبلاغ على الصعيد العالمي |
| مؤسسي | اللجان المحلية | الوكالات الرائدة ومجالس التنسيق | الهيئات والأمانات الإقليمية | الولايات المتعددة الأطراف |
| تعاوني | اتفاقات المجتمعات | اتفاقات الشراكة | مذكرات التفاهم والبرامج المشتركة | الاتفاقات والالتزامات المشتركة |
إطار سنداي للحد من مخاطر الكوارث للفترة 2015-2030 · UNDRRاتفاق باريس · UNFCCCخطة التنمية المستدامة لعام 2030 وأهداف التنمية المستدامة · الأمم المتحدةاللوائح الصحية الدولية · WHO
09الرعاية
من يحتفظ بالمنهج.
الذكاء الاصطناعي والنظم المستقلة stewards AI evaluation and assurance engineering for the Consortium and reviews how it is applied across platforms.
10متصل
إلى أين تقود هذه الصفحة على نطاق الاتحاد.
11أسئلة
أسئلة وأجوبة.
What are the limits of AI evaluation and assurance engineering in this field?
Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.
كيف تُفحص النتائج؟
Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.
هل القيم المعروضة في هذه الصفحة حقيقية؟
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
أين يُطبَّق هذا المنهج أيضًا؟
مرصد صفحة المنهج المرجعية كل منصة تطبّقه.
Reportsساهم
ساهم بأدلة من هذه الصفحة.
Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
Global Risks Forumحوكمة الذكاء الاصطناعي والمجال الرقميالتقنيات الأسيةموجز الأدلة
- البريد الإلكترونيالبوابة GW-GRFأرسله من هذه الصفحةدليل أو تصحيح أو حالة أو أسلوب أو مراجعة أو ترجمة أو مدخل لملف قُطري. يصل موسومًا بهذه الصفحة، فيتلقاه المحرر المسؤول عنها.
- Zenodoإيداع مفتوحأودِعه وقدّمه إلى المجتمعانشر سجلك الخاص على Zenodo بمعرّف ORCID iD الخاص بك، ثم قدّمه إلى مجتمع Reports هناك. يراجعه القيّمون، ويبقى معرّف DOI ملكًا لك.
- ReportsGlobal Risks Forumاطّلع على جميع سبل المساهمةأنواع المساهمات، وكيفية مراجعة كل منها، والإسناد الذي تحصل عليه، والترخيص، وما لا يُقبل أبداً.
لا ترسل أبدًا بيانات شخصية أو تفاصيل حساسة عن البنية التحتية أو أي شيء لا يحق لك مشاركته. تُراجَع المساهمة قبل استخدامها؛ ولا يمنح إرسالها أي حقوق تأليف أو تحرير، ولا تشتري الرعاية أي نتيجة أبدًا.
حوكمة الذكاء الاصطناعي والمجال الرقمي
اعرض مسألة حوكمة على المنتدى.
المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.
الشؤون القانونية
الوثائق القانونية.
عرض جميع الوثائق القانونية الـ18
تُعرض الخرائط والبيانات والأشكال في هذا الموقع للسياق والمعلومات العامة. وهي ليست نصيحة ولا توقعات ولا إنذارات؛ وحدود المعلومات مبيّنة في إخلاءات المسؤولية وإشعارات البيانات.