GRF · هوش مصنوعی و حکمرانی دیجیتال
تصمیمهای عمومی الگوریتمی
Governments use algorithms to assess benefit claims, detect fraud, allocate inspections, set risk scores in policing and migration, and support judges and caseworkers. These decisions affect rights and livelihoods at scale, and errors repeat across thousands of cases before anyone sees them. This page sets out how algorithmic public decisions go wrong and how safeguards work, the records that show them, and who decides whether and how a system is used.
Algorithmic public decisions in seven parts.
- 01The questionAlgorithmic public decisions: how the risk develops
- 02نشانگرهاچه چیزی سنجیده میشود و تا چه حد خوب
- 03منابعشواهد از کجا میآید
- 04تصمیمهاچه کسی تصمیم میگیرد و شواهد در خدمت چیست
- 05Core questionsWhat experts ask about algorithmic public decisions
- 06MechanismsHow algorithmic decisions go wrong
- 07Methods and limitsSafeguards and their limits
Algorithmic public decisions: how the risk develops.
Contestability and transparency. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Errors scale silently
A flawed rule or model applies to every case it touches. Without monitoring of outcomes and appeals, a systematic error can wrongly deny or penalise many people before it is detected.
Bias enters through data and design
Historical data reflect past decisions and enforcement patterns. Proxies such as postcode or nationality can produce unequal outcomes even when protected characteristics are excluded.
Human review becomes rubber-stamping
Public servants asked to review automated outputs under time pressure tend to accept them. Meaningful review needs time, authority to overrule and information about how the output was produced.
Opacity blocks challenge
People cannot contest a decision they do not know was automated or cannot understand. Notice, reasons and access to an appeal decide whether errors are corrected.
فهرست عمومی الگوریتمها.
صفحهای که یک تیم برای پیگیری این موضوع به کار میبرد: سنجهها، وضعیتها و تصمیمهای آن. نامها نمونهاند و مقادیر نمایشی.
فهرست عمومی الگوریتمها
تصمیمهای عمومی الگوریتمی · فهرست الگوریتمها · فصل 1
سامانههای ثبتشده
| نشانهگذاری تقلب در مزایا | کنشگری اجتماعی | زیاد | ناموجود | جزئی |
| اولویتبندی مجوزها | برنامهریزی | محدود | انجام شد | بله |
| جایابی مدرسه | آموزش | زیاد | انجام شد | بله |
| دستیار گفتوگو | اداره مالیات | حداقلی | انجام شد | ناموجود |
اقدام نظارتی
- سامانه
- نشانهگذاری تقلب در مزایا
- الزامی
- ارزیابی اثر، مسیر تجدیدنظر
- مهلت
- 64 days
- مرجع
- نهاد نظارت
شکایت دربارهٔ تصمیمهای خودکار
چه چیزی اندازهگیری میشود و با چه کیفیتی.
هر نشانگر واحد، بسامد بهروزرسانی، نوع منبع پشت آن و برچسب شواهدی را که یک مقدار میداشت، همراه دارد. هیچ مقداری نشان داده نمیشود: یک برنامه آنها را تحت اختیار خود فراهم میکند.
| نشانگر | واحد | تناوب | نوع منبع | برچسب |
|---|---|---|---|---|
| Public algorithmic systems in a transparency register | count by agency | on update | Algorithm registers | DECLARED |
| Algorithmic impact assessments published | شمارش | سالانه | انتشارات دولتی | DECLARED |
| Appeals against automated decisions | تعداد و سهم موارد تأییدشده | سالانه | Agency and tribunal records | آمارهای منتشرشده |
| نابرابری پیامد میان گروهها | ratio of adverse outcome rates | به ازای هر ممیزی | Independent audits | برآوردشده |
| Systems suspended or withdrawn after review | شمارش | سالانه | Government and court records | آمارهای منتشرشده |
| Ombudsman complaints about automated decisions | شمارش | سالانه | گزارشهای دفتر بازرس | آمارهای منتشرشده |
How algorithmic public decisions is governed: instruments, mandates and commitments.
ابزارها، مأموریتها، کنشگران و ترتیبات پاسخگوییای که یک سیاستگذار، دیپلمات یا نهاد توسعه با آنها کار میکند، با ذکر توافقهایی که آنها را تعیین کردهاند. ساختارها از چارچوبهای نامبرده پیروی میکنند. هر وضعیت یا پیشرفتی که ترسیم شده گویاست، نه سابقه.
ماتریس ابزارهای سیاستی
انواع ابزارهای موجود دربارهٔ تصمیمهای عمومی الگوریتمی، بر پایهٔ سطح حکومت و همکاری.
| نوع ابزار | محلی | ملی | منطقهای | جهانی |
|---|---|---|---|---|
| مقرراتی | پهنهبندی، مقررات ساختمانی | قوانین، استانداردها، پروانهدهی | قواعد همساز | کنوانسیونها و معاهدات |
| اقتصادی | عوارض و کمکهای محلی | سطرهای بودجه، مالیاتها، طرحهای بیمه | صندوقهای ریسک، صندوقهای منطقهای | سازوکارهای تأمین مالی |
| اطلاعات | هشدارهای محلی | افشا، هشدار زودهنگام، آمار | ترتیبات تسهیم داده | پایش و گزارشدهی جهانی |
| نهادی | کمیتههای محلی | نهادهای راهبر، شوراهای هماهنگی | نهادها و دبیرخانههای منطقهای | مأموریتهای چندجانبه |
| تعاونی | توافقهای اجتماعی | موافقتنامههای مشارکت | تفاهمنامهها و برنامههای مشترک | توافقها و تعهدهای مشترک |
شواهد از کجا میآیند.
مجموعهدادههای عمومی و سوابق نهادی نامبرده، هر یک با ردهٔ پروانهٔ خود. منابع مبتنی بر توافق تنها بر پایهٔ شرایطشان به کار میروند و هرگز بازنشر نمیشوند.
| منبع | آنچه فراهم میکند | رستهٔ پروانه |
|---|---|---|
| UK Algorithmic Transparency Recording Standard records | Published records of algorithmic tools used by public bodies | Open Government Licence (پروانهٔ دولت باز) |
| Amsterdam and Helsinki algorithm registers | City registers of algorithmic systems in use | Open data, terms per city |
| Canada Directive on Automated Decision-Making and Algorithmic Impact Assessments | Mandatory impact assessments for federal automated decisions | Open Government Licence, Canada |
| Ombudsman and audit office reports | Investigations of automated decision systems in public services | سوابق عمومی، شرایط بر حسب هر اداره |
| Court judgments on automated public decisions | Rulings on lawfulness of algorithmic systems | Public records, terms per court |
چه کسی تصمیم میگیرد و شواهد در خدمت چیست.
هوش مصنوعی و حکمرانی دیجیتال شواهد را آماده میکند. تصمیمهای زیر را مراجع نامبرده بر پایهٔ قواعد خود میگیرند، و هرگز سکو.
| چه کسی تصمیم میگیرد | پرسش | شواهدی که این صفحه به آنها خدمت میکند |
|---|---|---|
| Ministers and agency heads | Whether to automate a decision and with what safeguards | Impact assessments, audit evidence and lessons from comparable systems |
| مراجع حفاظت از داده | Whether processing and automated decisions are lawful | Assessment records and complaints |
| Ombudsmen and audit offices | Whether to investigate a system and what to recommend | Appeals, complaints and outcome data |
| Courts and tribunals | Whether a decision or system breached rights or law | سوابقی که طرفها ارائه کردهاند؛ صفحه تنها بافتار را ارائه میکند |
خروجیهایی که این موضوع تولید میکند
- Comparative notes on algorithm registers and impact assessments
- Guide to meaningful human review in automated decisions
- Dialogue briefs on lessons from suspended public algorithms
- پرسشهایی برای سازمانها پیش از بهکارگیری سامانهٔ تصمیمگیری خودکار
What experts ask about algorithmic public decisions.
- What legal power authorises this use, and does the algorithm stay within it?
- آیا فرد آسیبدیده میتواند بفهمد که از الگوریتم استفاده شده است، بداند چگونه، و نتیجه را به چالش بکشد؟
- Does the system perform differently for different groups, and is that justified?
- What happens when the system is wrong, and how quickly is the error found and corrected?
تصمیمهای الگوریتمی چگونه دچار خطا میشوند.
Algorithms trained on historical data can reproduce historical patterns of disadvantage. A proxy variable that seems neutral, such as postcode, may correlate with protected characteristics. Errors at scale differ from individual errors: a flawed rule applied to an entire caseload harms many people at once and in the same way, which can overwhelm complaint systems.
The burden of proof often shifts silently. When a system flags someone as high-risk, that person may need to prove a negative, without knowing what evidence the system used. Well-documented failures of automated benefits and fraud systems show that the greatest harm comes when automated flags are treated as findings rather than prompts for human investigation.
Why now: automated systems are used for eligibility, triage and fraud detection in public services, and courts and ombudsmen in several countries have examined cases where they went wrong. The platform is designed to compare review and redress arrangements and record what affected people can actually do.
پیشگیریهای ایمنی و حدود آنها.
- 01
Public registers of algorithms
Listing systems used by public bodies and their purposes. Limits: registers are often incomplete and vary in detail.
- 02
Explanation and notification
Telling people when an algorithm was used and why it produced a result. Limits: explanations of complex models can be partial.
- 03
Fairness testing
Measuring performance across groups, using machine learning methods. Limits: different fairness measures can conflict, and choosing among them is a value judgement.
- 04
Appeal and redress
Routes to human review, appeal and remedy. Limits: depend on accessible processes and adequate staffing.
چگونه مطالعه میشود و آنچه روشها نمیتوانند بگویند.
- 01مهندسی ارزیابی و اطمینانبخشی هوش مصنوعیدامنهٔ حسابرسی شخص ثالث · آزمون انصاف در سامانههای عمومی · پایش پس از بهکارگیریکاربرد در اینجا
- 02علم سیاستگذاری، نهادها و تصمیممقایسهٔ نظامهای هوش مصنوعی · نقشهبرداری پاسخگویی در زنجیرهٔ ارزش · نقشهبرداری مجامع و مأموریتهاکاربرد در اینجا
- 03هوش مصنوعی و یادگیری ماشینمدلها در بهکارگیری چگونه شکست میخورند · خواندن مستندات مدل · توضیح معماریهای عاملکاربرد در اینجا
- 04هویت دیجیتال و سامانههای دیجیتال عمومیسطوح اطمینان برای خدمات عمومی · افشای حداقلی · تحلیل محرومیتکاربرد در اینجا
پرسش و پاسخ.
ارزیابی پیامد الگوریتمی چیست؟
What makes human review meaningful?
Do people have a right not to be subject to automated decisions?
Can a public decision be made entirely by an algorithm?
Why can’t fairness be measured with one number?
Does the platform take up individual cases?
Are algorithm registers required?
از همین صفحه شواهد بیفزایید.
Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع میدانید میتواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.
- EmailGateway GW-GRFSend it from this pageEvidence, a correction, a case, a method, a review, a translation or profile input. It arrives tagged with this page, so the editor who owns it receives it.
- Zenodoسپردهٔ بازآن را سپرده و به جامعه ارسال کنیدسابقهٔ خود را با شناسهٔ ORCID iD خود در Zenodo منتشر کنید و سپس آن را در همانجا به جامعهٔ Reports ارسال کنید. متصدیان آن را داوری میکنند؛ DOI از آنِ شما میماند.
- گزارشهاGlobal Risks Forumهمهٔ راههای مشارکت را ببینیدانواع مشارکت، نحوهٔ بررسی هر یک، اعتباری که دریافت میکنید، مجوز و آنچه هرگز پذیرفته نمیشود.
هرگز دادههای شخصی، جزئیات حساس زیرساختی یا چیزی را که حق تسهیم آن را ندارید نفرستید. مشارکت پیش از استفاده بازبینی میشود؛ ارسال آن هیچ حق تألیف یا ویراستاری ایجاد نمیکند و حمایت مالی هرگز یافتهای را نمیخرد.
پرسش حکمرانی خود را نزد Forum بیاورید.
اطلاعات و پرسشها از امروز باز است. هر پرسش شمارهٔ مرجعی میگیرد و گام بعد را نام میبرد؛ درخواستها، پرداختها، تخصیص توان رایانشی و ثبتنامها تنها زمانی باز میشوند که تیم، شرایط و ظرفیت بررسی آنها فراهم باشد.
اسناد حقوقی.
نمایش هر 18 سند حقوقی
نقشهها، دادهها و شکلهای این سایت برای زمینه و اطلاعات عمومی نشان داده میشوند. آنها توصیه، پیشبینی یا هشدار نیستند؛ حدود اطلاعات در سلب مسئولیتها و اطلاعیههای داده بیان شده است.