Skip to content

GRF · هوش مصنوعی و حکمرانی دیجیتال

تصمیم‌های عمومی الگوریتمی

Governments use algorithms to assess benefit claims, detect fraud, allocate inspections, set risk scores in policing and migration, and support judges and caseworkers. These decisions affect rights and livelihoods at scale, and errors repeat across thousands of cases before anyone sees them. This page sets out how algorithmic public decisions go wrong and how safeguards work, the records that show them, and who decides whether and how a system is used.

02پرسش

Algorithmic public decisions: how the risk develops.

Contestability and transparency. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

سازوکار

Errors scale silently

A flawed rule or model applies to every case it touches. Without monitoring of outcomes and appeals, a systematic error can wrongly deny or penalise many people before it is detected.

سازوکار

Bias enters through data and design

Historical data reflect past decisions and enforcement patterns. Proxies such as postcode or nationality can produce unequal outcomes even when protected characteristics are excluded.

سازوکار

Human review becomes rubber-stamping

Public servants asked to review automated outputs under time pressure tend to accept them. Meaningful review needs time, authority to overrule and information about how the output was produced.

سازوکار

Opacity blocks challenge

People cannot contest a decision they do not know was automated or cannot understand. Notice, reasons and access to an appeal decide whether errors are corrected.

03پایش

فهرست عمومی الگوریتم‌ها.

صفحه‌ای که یک تیم برای پیگیری این موضوع به کار می‌برد: سنجه‌ها، وضعیت‌ها و تصمیم‌های آن. نام‌ها نمونه‌اند و مقادیر نمایشی.

فهرست عمومی الگوریتم‌ها

تصمیم‌های عمومی الگوریتمی · فهرست الگوریتم‌ها · فصل 1

دو سامانهٔ پرریسک بدون ارزیابیGRF · هوش مصنوعی و حکمرانی دیجیتال

سامانه‌های ثبت‌شده

نشانه‌گذاری تقلب در مزایاکنشگری اجتماعیزیادناموجودجزئی
اولویت‌بندی مجوزهابرنامه‌ریزیمحدودانجام شدبله
جایابی مدرسهآموزشزیادانجام شدبله
دستیار گفت‌وگواداره مالیاتحداقلیانجام شدناموجود

اقدام نظارتی

سامانه
نشانه‌گذاری تقلب در مزایا
الزامی
ارزیابی اثر، مسیر تجدیدنظر
مهلت
64 days
مرجع
نهاد نظارت

شکایت دربارهٔ تصمیم‌های خودکار

Public algorithm register: the screen’s structure, terms and states for Algorithmic public decisions.Example names and illustrative values; a design, not a record or a live system.
04نشانگرها

چه چیزی اندازه‌گیری می‌شود و با چه کیفیتی.

هر نشانگر واحد، بسامد به‌روزرسانی، نوع منبع پشت آن و برچسب شواهدی را که یک مقدار می‌داشت، همراه دارد. هیچ مقداری نشان داده نمی‌شود: یک برنامه آن‌ها را تحت اختیار خود فراهم می‌کند.

نشانگرواحدتناوبنوع منبعبرچسب
Public algorithmic systems in a transparency registercount by agencyon updateAlgorithm registersDECLARED
Algorithmic impact assessments publishedشمارشسالانهانتشارات دولتیDECLARED
Appeals against automated decisionsتعداد و سهم موارد تأییدشدهسالانهAgency and tribunal recordsآمارهای منتشرشده
نابرابری پیامد میان گروه‌هاratio of adverse outcome ratesبه ازای هر ممیزیIndependent auditsبرآوردشده
Systems suspended or withdrawn after reviewشمارشسالانهGovernment and court recordsآمارهای منتشرشده
Ombudsman complaints about automated decisionsشمارشسالانهگزارش‌های دفتر بازرسآمارهای منتشرشده
05ابزارها و تعهدها

How algorithmic public decisions is governed: instruments, mandates and commitments.

ابزارها، مأموریت‌ها، کنشگران و ترتیبات پاسخگویی‌ای که یک سیاست‌گذار، دیپلمات یا نهاد توسعه با آن‌ها کار می‌کند، با ذکر توافق‌هایی که آن‌ها را تعیین کرده‌اند. ساختارها از چارچوب‌های نام‌برده پیروی می‌کنند. هر وضعیت یا پیشرفتی که ترسیم شده گویاست، نه سابقه.

ماتریس ابزارهای سیاستی

انواع ابزارهای موجود دربارهٔ تصمیم‌های عمومی الگوریتمی، بر پایهٔ سطح حکومت و همکاری.

نوع ابزارمحلیملیمنطقه‌ایجهانی
مقرراتیپهنه‌بندی، مقررات ساختمانیقوانین، استانداردها، پروانه‌دهیقواعد همسازکنوانسیون‌ها و معاهدات
اقتصادیعوارض و کمک‌های محلیسطرهای بودجه، مالیات‌ها، طرح‌های بیمهصندوق‌های ریسک، صندوق‌های منطقه‌ایسازوکارهای تأمین مالی
اطلاعاتهشدارهای محلیافشا، هشدار زودهنگام، آمارترتیبات تسهیم دادهپایش و گزارش‌دهی جهانی
نهادیکمیته‌های محلینهادهای راهبر، شوراهای هماهنگینهادها و دبیرخانه‌های منطقه‌ایمأموریت‌های چندجانبه
تعاونیتوافق‌های اجتماعیموافقت‌نامه‌های مشارکتتفاهم‌نامه‌ها و برنامه‌های مشترکتوافق‌ها و تعهدهای مشترک
A typology after the OECD Recommendation on the Governance of Critical Risks; examples of instrument types, not an inventory of any country’s measures.
Sendai Framework for Disaster Risk Reduction · UNDRRParis Agreement · UNFCCC2030 Agenda and the Sustainable Development Goals · United NationsInternational Health Regulations · WHO
06منابع

شواهد از کجا می‌آیند.

مجموعه‌داده‌های عمومی و سوابق نهادی نام‌برده، هر یک با ردهٔ پروانهٔ خود. منابع مبتنی بر توافق تنها بر پایهٔ شرایطشان به کار می‌روند و هرگز بازنشر نمی‌شوند.

منبعآنچه فراهم می‌کندرستهٔ پروانه
UK Algorithmic Transparency Recording Standard recordsPublished records of algorithmic tools used by public bodiesOpen Government Licence (پروانهٔ دولت باز)
Amsterdam and Helsinki algorithm registersCity registers of algorithmic systems in useOpen data, terms per city
Canada Directive on Automated Decision-Making and Algorithmic Impact AssessmentsMandatory impact assessments for federal automated decisionsOpen Government Licence, Canada
Ombudsman and audit office reportsInvestigations of automated decision systems in public servicesسوابق عمومی، شرایط بر حسب هر اداره
Court judgments on automated public decisionsRulings on lawfulness of algorithmic systemsPublic records, terms per court
07تصمیم‌ها

چه کسی تصمیم می‌گیرد و شواهد در خدمت چیست.

هوش مصنوعی و حکمرانی دیجیتال شواهد را آماده می‌کند. تصمیم‌های زیر را مراجع نام‌برده بر پایهٔ قواعد خود می‌گیرند، و هرگز سکو.

چه کسی تصمیم می‌گیردپرسششواهدی که این صفحه به آن‌ها خدمت می‌کند
Ministers and agency headsWhether to automate a decision and with what safeguardsImpact assessments, audit evidence and lessons from comparable systems
مراجع حفاظت از دادهWhether processing and automated decisions are lawfulAssessment records and complaints
Ombudsmen and audit officesWhether to investigate a system and what to recommendAppeals, complaints and outcome data
Courts and tribunalsWhether a decision or system breached rights or lawسوابقی که طرف‌ها ارائه کرده‌اند؛ صفحه تنها بافتار را ارائه می‌کند

خروجی‌هایی که این موضوع تولید می‌کند

  • Comparative notes on algorithm registers and impact assessments
  • Guide to meaningful human review in automated decisions
  • Dialogue briefs on lessons from suspended public algorithms
  • پرسش‌هایی برای سازمان‌ها پیش از به‌کارگیری سامانهٔ تصمیم‌گیری خودکار
08پرسش‌های اصلی

What experts ask about algorithmic public decisions.

  • What legal power authorises this use, and does the algorithm stay within it?
  • آیا فرد آسیب‌دیده می‌تواند بفهمد که از الگوریتم استفاده شده است، بداند چگونه، و نتیجه را به چالش بکشد؟
  • Does the system perform differently for different groups, and is that justified?
  • What happens when the system is wrong, and how quickly is the error found and corrected?
09سازوکارها

تصمیم‌های الگوریتمی چگونه دچار خطا می‌شوند.

Algorithms trained on historical data can reproduce historical patterns of disadvantage. A proxy variable that seems neutral, such as postcode, may correlate with protected characteristics. Errors at scale differ from individual errors: a flawed rule applied to an entire caseload harms many people at once and in the same way, which can overwhelm complaint systems.

The burden of proof often shifts silently. When a system flags someone as high-risk, that person may need to prove a negative, without knowing what evidence the system used. Well-documented failures of automated benefits and fraud systems show that the greatest harm comes when automated flags are treated as findings rather than prompts for human investigation.

Why now: automated systems are used for eligibility, triage and fraud detection in public services, and courts and ombudsmen in several countries have examined cases where they went wrong. The platform is designed to compare review and redress arrangements and record what affected people can actually do.

10روش‌ها و محدودیت‌ها

پیش‌گیری‌های ایمنی و حدود آن‌ها.

  1. 01

    Public registers of algorithms

    Listing systems used by public bodies and their purposes. Limits: registers are often incomplete and vary in detail.

  2. 02

    Explanation and notification

    Telling people when an algorithm was used and why it produced a result. Limits: explanations of complex models can be partial.

  3. 03

    Fairness testing

    Measuring performance across groups, using machine learning methods. Limits: different fairness measures can conflict, and choosing among them is a value judgement.

  4. 04

    Appeal and redress

    Routes to human review, appeal and remedy. Limits: depend on accessible processes and adequate staffing.

11روش‌ها

چگونه مطالعه می‌شود و آنچه روش‌ها نمی‌توانند بگویند.

  1. مهندسی ارزیابی و اطمینان‌بخشی هوش مصنوعیدامنهٔ حسابرسی شخص ثالث · آزمون انصاف در سامانه‌های عمومی · پایش پس از به‌کارگیریکاربرد در اینجا
  2. علم سیاست‌گذاری، نهادها و تصمیممقایسهٔ نظام‌های هوش مصنوعی · نقشه‌برداری پاسخگویی در زنجیرهٔ ارزش · نقشه‌برداری مجامع و مأموریت‌هاکاربرد در اینجا
  3. هوش مصنوعی و یادگیری ماشینمدل‌ها در به‌کارگیری چگونه شکست می‌خورند · خواندن مستندات مدل · توضیح معماری‌های عاملکاربرد در اینجا
  4. هویت دیجیتال و سامانه‌های دیجیتال عمومیسطوح اطمینان برای خدمات عمومی · افشای حداقلی · تحلیل محرومیتکاربرد در اینجا
12پرسش‌ها

پرسش و پاسخ.

ارزیابی پیامد الگوریتمی چیست؟
A structured review, before and during deployment, of the risks an automated system poses to people and how they are mitigated. Canada requires one for federal automated decisions.
What makes human review meaningful?
The reviewer has the time, competence, information and authority to depart from the system’s output, and does so in practice when warranted.
Do people have a right not to be subject to automated decisions?
Under the GDPR, people have rights concerning decisions based solely on automated processing that significantly affect them, with exceptions and safeguards. Other jurisdictions differ.
Can a public decision be made entirely by an algorithm?
That depends on the law of each jurisdiction. Many legal systems restrict fully automated decisions with significant effects on people and require human involvement and a right to contest.
Why can’t fairness be measured with one number?
Because there are several reasonable definitions of fairness, and mathematically they often cannot all be satisfied at once. Choosing among them is a policy decision.
Does the platform take up individual cases?
No. Individual cases belong to the deploying body, ombudsmen, tribunals and courts.
Are algorithm registers required?
برخی حوزه‌های قضایی و شهرها آنها را به‌صورت داوطلبانه یا بر پایهٔ سیاست‌گذاری منتشر می‌کنند؛ الزامات متفاوت است.
گزارش‌هامشارکت

از همین صفحه شواهد بیفزایید.

Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع می‌دانید می‌تواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.

⁨Global Risks Forum⁩هوش مصنوعی و حکمرانی دیجیتالفناوری نماییگزارش مختصر شواهد
هوش مصنوعی و حکمرانی دیجیتال

پرسش حکمرانی خود را نزد Forum بیاورید.

اطلاعات و پرسش‌ها از امروز باز است. هر پرسش شمارهٔ مرجعی می‌گیرد و گام بعد را نام می‌برد؛ درخواست‌ها، پرداخت‌ها، تخصیص توان رایانشی و ثبت‌نام‌ها تنها زمانی باز می‌شوند که تیم، شرایط و ظرفیت بررسی آن‌ها فراهم باشد.