GRF · حوكمة الذكاء الاصطناعي والمجال الرقمي
القرارات العامة الخوارزمية
Governments use algorithms to assess benefit claims, detect fraud, allocate inspections, set risk scores in policing and migration, and support judges and caseworkers. These decisions affect rights and livelihoods at scale, and errors repeat across thousands of cases before anyone sees them. This page sets out how algorithmic public decisions go wrong and how safeguards work, the records that show them, and who decides whether and how a system is used.
Algorithmic public decisions in seven parts.
- 01The questionAlgorithmic public decisions: how the risk develops
- 02المؤشرات الفرعيةما الذي يُقاس، ومدى جودة قياسه
- 03المصادرمصدر الأدلة
- 04القراراتمن يقرر، وما الذي تخدمه الأدلة
- 05Core questionsWhat experts ask about algorithmic public decisions
- 06MechanismsHow algorithmic decisions go wrong
- 07Methods and limitsSafeguards and their limits
Algorithmic public decisions: how the risk develops.
Contestability and transparency. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Errors scale silently
A flawed rule or model applies to every case it touches. Without monitoring of outcomes and appeals, a systematic error can wrongly deny or penalise many people before it is detected.
Bias enters through data and design
Historical data reflect past decisions and enforcement patterns. Proxies such as postcode or nationality can produce unequal outcomes even when protected characteristics are excluded.
Human review becomes rubber-stamping
Public servants asked to review automated outputs under time pressure tend to accept them. Meaningful review needs time, authority to overrule and information about how the output was produced.
الغموض يعيق الطعن
People cannot contest a decision they do not know was automated or cannot understand. Notice, reasons and access to an appeal decide whether errors are corrected.
سجل الخوارزميات العام.
الشاشة التي قد يستخدمها فريق لمتابعة هذا الموضوع: مقاييسه وحالاته وقراراته. والأسماء أمثلة والقيم توضيحية.
سجل الخوارزميات العام
Algorithmic public decisions · Algorithm register · Quarter 1
النظم المسجّلة
| الإبلاغ عن الاحتيال في الاستحقاقات | الفاعلية الاجتماعية | مرتفع | مفقود | جزئي |
| فرز التصاريح | التخطيط | محدود | تم | نعم |
| إلحاق التلاميذ بالمدارس | التعليم | مرتفع | تم | نعم |
| المساعد الحواري | مصلحة الضرائب | ضئيل | تم | n/a |
إجراء رقابي
- النظام
- الإبلاغ عن الاحتيال في الاستحقاقات
- مطلوب
- تقييم الأثر، مسار الطعن
- الموعد النهائي
- 64 days
- الجهة
- هيئة الرقابة
الشكاوى المتعلقة بالقرارات الآلية
ما الذي يُقاس، ومدى جودة قياسه.
يحمل كل مؤشر وحدته ووتيرته ونوع المصدر الذي يستند إليه ووسم الأدلة الذي ستحمله القيمة. ولا تُعرض أي قيم: فالبرنامج يقدّمها بموجب سلطته الخاصة.
| المؤشر | الوحدة | وتيرة الإصدار | نوع المصدر | الوسم |
|---|---|---|---|---|
| Public algorithmic systems in a transparency register | count by agency | on update | Algorithm registers | مُعلَن |
| Algorithmic impact assessments published | العدد | سنوي | المنشورات الحكومية | مُعلَن |
| Appeals against automated decisions | عدد الحالات المؤيدة ونسبتها | سنوي | Agency and tribunal records | الإحصاءات المنشورة |
| Outcome disparity across groups | ratio of adverse outcome rates | لكل عملية تدقيق | Independent audits | مُقدَّر |
| Systems suspended or withdrawn after review | العدد | سنوي | Government and court records | الإحصاءات المنشورة |
| Ombudsman complaints about automated decisions | العدد | سنوي | Ombudsman reports | الإحصاءات المنشورة |
How algorithmic public decisions is governed: instruments, mandates and commitments.
الأدوات والتكليفات والجهات الفاعلة وترتيبات المساءلة التي يعمل بها صانعو السياسات والدبلوماسيون ووكالات التنمية، مع الإشارة إلى الاتفاقات التي تقررها. وتتبع البنى الأطر المذكورة. وأي حالة أو تقدّم معروض فهو توضيحي وليس سجلًا.
مصفوفة أدوات السياسات
The kinds of instrument available on algorithmic public decisions, by level of government and cooperation.
| نوع الأداة | محلي | وطني | إقليمي | عالميًا |
|---|---|---|---|---|
| تنظيمي | تقسيم المناطق ومدونات البناء | القوانين والمعايير والترخيص | قواعد منسّقة | الاتفاقيات والمعاهدات |
| الاقتصادية | الرسوم المحلية والمنح | بنود الميزانية والضرائب ومخططات التأمين | مجمّعات المخاطر والصناديق الإقليمية | آليات التمويل |
| المعلومات | التحذيرات المحلية | الإفصاح والإنذار المبكر والإحصاءات | ترتيبات تبادل البيانات | الرصد والإبلاغ على الصعيد العالمي |
| مؤسسي | اللجان المحلية | الوكالات الرائدة ومجالس التنسيق | الهيئات والأمانات الإقليمية | الولايات المتعددة الأطراف |
| تعاوني | اتفاقات المجتمعات | اتفاقات الشراكة | مذكرات التفاهم والبرامج المشتركة | الاتفاقات والالتزامات المشتركة |
من أين تأتي الأدلة.
مجموعات بيانات عامة مسمّاة وسجلات مؤسسية، لكلٍّ منها فئة ترخيصها. ولا تُستخدم المصادر المتاحة بموجب اتفاق إلا وفق شروطها، ولا يُعاد نشرها أبدًا.
| المصدر | ما يقدّمه | فئة الترخيص |
|---|---|---|
| UK Algorithmic Transparency Recording Standard records | Published records of algorithmic tools used by public bodies | ترخيص الحكومة المفتوح (Open Government Licence) |
| Amsterdam and Helsinki algorithm registers | City registers of algorithmic systems in use | Open data, terms per city |
| Canada Directive on Automated Decision-Making and Algorithmic Impact Assessments | Mandatory impact assessments for federal automated decisions | Open Government Licence, Canada |
| Ombudsman and audit office reports | Investigations of automated decision systems in public services | السجلات العامة، وفق شروط كل مكتب |
| Court judgments on automated public decisions | Rulings on lawfulness of algorithmic systems | Public records, terms per court |
من يقرر، وما الذي تخدمه الأدلة.
تُعِدّ حوكمة الذكاء الاصطناعي والمجال الرقمي الأدلة. أما القرارات أدناه فتتخذها السلطات المسمّاة، وفق قواعدها الخاصة، ولا تتخذها المنصة أبدًا.
| من يقرر | السؤال | الأدلة التي تخدمها هذه الصفحة |
|---|---|---|
| Ministers and agency heads | Whether to automate a decision and with what safeguards | Impact assessments, audit evidence and lessons from comparable systems |
| سلطات حماية البيانات | Whether processing and automated decisions are lawful | Assessment records and complaints |
| Ombudsmen and audit offices | Whether to investigate a system and what to recommend | Appeals, complaints and outcome data |
| Courts and tribunals | Whether a decision or system breached rights or law | سجلات تقدّمها الأطراف؛ والصفحة تقدّم السياق فقط |
المخرجات التي يُنتجها هذا الموضوع
- Comparative notes on algorithm registers and impact assessments
- Guide to meaningful human review in automated decisions
- Dialogue briefs on lessons from suspended public algorithms
- Questions for agencies before deploying an automated decision system
What experts ask about algorithmic public decisions.
- What legal power authorises this use, and does the algorithm stay within it?
- Can a person affected find out that an algorithm was used, understand how, and challenge the result?
- Does the system perform differently for different groups, and is that justified?
- What happens when the system is wrong, and how quickly is the error found and corrected?
How algorithmic decisions go wrong.
Algorithms trained on historical data can reproduce historical patterns of disadvantage. A proxy variable that seems neutral, such as postcode, may correlate with protected characteristics. Errors at scale differ from individual errors: a flawed rule applied to an entire caseload harms many people at once and in the same way, which can overwhelm complaint systems.
The burden of proof often shifts silently. When a system flags someone as high-risk, that person may need to prove a negative, without knowing what evidence the system used. Well-documented failures of automated benefits and fraud systems show that the greatest harm comes when automated flags are treated as findings rather than prompts for human investigation.
Why now: automated systems are used for eligibility, triage and fraud detection in public services, and courts and ombudsmen in several countries have examined cases where they went wrong. The platform is designed to compare review and redress arrangements and record what affected people can actually do.
Safeguards and their limits.
- 01
Public registers of algorithms
Listing systems used by public bodies and their purposes. Limits: registers are often incomplete and vary in detail.
- 02
Explanation and notification
Telling people when an algorithm was used and why it produced a result. Limits: explanations of complex models can be partial.
- 03
اختبار الإنصاف
Measuring performance across groups, using machine learning methods. Limits: different fairness measures can conflict, and choosing among them is a value judgement.
- 04
Appeal and redress
Routes to human review, appeal and remedy. Limits: depend on accessible processes and adequate staffing.
كيف يُدرس، وما لا تستطيع المناهج قوله.
- 01هندسة تقييم الذكاء الاصطناعي وضمانهنطاق التدقيق من طرف ثالث · اختبار الإنصاف في النظم العامة · الرصد بعد النشرمُطبَّق هنا
- 02علوم السياسات والمؤسسات والقرارمقارنة أنظمة الذكاء الاصطناعي · رسم خرائط المساءلة في سلسلة القيمة · رسم خرائط المحافل والولاياتمُطبَّق هنا
- 03الذكاء الاصطناعي وتعلم الآلةكيف تخفق النماذج عند النشر · قراءة توثيق النماذج · شرح بنى الوكلاءمُطبَّق هنا
- 04الهوية الرقمية والنظم الرقمية العامةمستويات الضمان للخدمات العامة · الحد الأدنى من الإفصاح · تحليل الإقصاءمُطبَّق هنا
أسئلة وأجوبة.
What is an algorithmic impact assessment?
What makes human review meaningful?
Do people have a right not to be subject to automated decisions?
Can a public decision be made entirely by an algorithm?
Why can’t fairness be measured with one number?
Does the platform take up individual cases?
Are algorithm registers required?
ساهم بأدلة من هذه الصفحة.
Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.
- البريد الإلكترونيالبوابة GW-GRFأرسله من هذه الصفحةدليل أو تصحيح أو حالة أو أسلوب أو مراجعة أو ترجمة أو مدخل لملف قُطري. يصل موسومًا بهذه الصفحة، فيتلقاه المحرر المسؤول عنها.
- Zenodoإيداع مفتوحأودِعه وقدّمه إلى المجتمعانشر سجلك الخاص على Zenodo بمعرّف ORCID iD الخاص بك، ثم قدّمه إلى مجتمع Reports هناك. يراجعه القيّمون، ويبقى معرّف DOI ملكًا لك.
- ReportsGlobal Risks Forumاطّلع على جميع سبل المساهمةأنواع المساهمات، وكيفية مراجعة كل منها، والإسناد الذي تحصل عليه، والترخيص، وما لا يُقبل أبداً.
لا ترسل أبدًا بيانات شخصية أو تفاصيل حساسة عن البنية التحتية أو أي شيء لا يحق لك مشاركته. تُراجَع المساهمة قبل استخدامها؛ ولا يمنح إرسالها أي حقوق تأليف أو تحرير، ولا تشتري الرعاية أي نتيجة أبدًا.
اعرض مسألة حوكمة على المنتدى.
المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.
الوثائق القانونية.
عرض جميع الوثائق القانونية الـ18
تُعرض الخرائط والبيانات والأشكال في هذا الموقع للسياق والمعلومات العامة. وهي ليست نصيحة ولا توقعات ولا إنذارات؛ وحدود المعلومات مبيّنة في إخلاءات المسؤولية وإشعارات البيانات.