GRF · Yapay Zekâ ve Dijital Yönetişim
Algoritmik kamusal kararlar
Governments use algorithms to assess benefit claims, detect fraud, allocate inspections, set risk scores in policing and migration, and support judges and caseworkers. These decisions affect rights and livelihoods at scale, and errors repeat across thousands of cases before anyone sees them. This page sets out how algorithmic public decisions go wrong and how safeguards work, the records that show them, and who decides whether and how a system is used.
Algorithmic public decisions in seven parts.
- 01SoruAlgoritmik kamu kararları: risk nasıl gelişir
- 02GöstergelerNeyin ve ne kadar iyi ölçüldüğü
- 03KaynaklarKanıtın nereden geldiği
- 04KararlarKim karar verir ve kanıt neye hizmet eder
- 05Core questionsWhat experts ask about algorithmic public decisions
- 06MechanismsHow algorithmic decisions go wrong
- 07Methods and limitsSafeguards and their limits
Algorithmic public decisions: how the risk develops.
Contestability and transparency. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Errors scale silently
A flawed rule or model applies to every case it touches. Without monitoring of outcomes and appeals, a systematic error can wrongly deny or penalise many people before it is detected.
Bias enters through data and design
Historical data reflect past decisions and enforcement patterns. Proxies such as postcode or nationality can produce unequal outcomes even when protected characteristics are excluded.
Human review becomes rubber-stamping
Public servants asked to review automated outputs under time pressure tend to accept them. Meaningful review needs time, authority to overrule and information about how the output was produced.
Opaklık itirazı engeller
İnsanlar, otomatikleştirildiğini bilmedikleri veya anlayamadıkları bir karara itiraz edemez. Bildirim, gerekçeler ve itiraza erişim, hataların düzeltilip düzeltilmeyeceğini belirler.
Kamu algoritma kaydı.
Bir ekibin bu konuyu izlemek için kullanacağı ekran: ölçütleri, durumları ve kararları. Adlar örnektir ve değerler açıklayıcıdır.
Kamuya açık algoritma sicili
Algorithmic public decisions · Algorithm register · Quarter 1
Kayıtlı sistemler
| Yardım dolandırıcılığının işaretlenmesi | Toplumsal etkenlik | Yüksek | Eksik | Kısmi |
| Izin triyajı | Planlama | Sınırlı | Tamamlandı | Evet |
| Okul yerleştirmesi | Eğitim | Yüksek | Tamamlandı | Evet |
| Sohbet asistanı | Vergi dairesi | Asgari | Tamamlandı | n/a |
Gözetim eylemi
- Sistem
- Yardım dolandırıcılığının işaretlenmesi
- Zorunlu
- etki değerlendirmesi, itiraz yolu
- Son tarih
- 64 days
- Makam
- Gözetim organı
Otomatik kararlara ilişkin şikâyetler
Neyin ve ne kadar iyi ölçüldüğü.
Her gösterge birimini, sıklığını, ardındaki kaynak türünü ve bir değerin taşıyacağı kanıt etiketini taşır. Hiçbir değer gösterilmez: değerleri bir program kendi yetkisi altında sağlar.
| Gösterge | Birim | Sıklık | Kaynak türü | Etiket |
|---|---|---|---|---|
| Public algorithmic systems in a transparency register | count by agency | on update | Algorithm registers | BEYAN EDİLDİ |
| Algorithmic impact assessments published | sayı | yıllık | Hükümet yayınları | BEYAN EDİLDİ |
| Appeals against automated decisions | kabul edilenlerin sayısı ve payı | yıllık | Agency and tribunal records | Yayımlanmış istatistikler |
| Gruplar arasında sonuç eşitsizliği | ratio of adverse outcome rates | denetim başına | Independent audits | TAHMİNİ |
| Systems suspended or withdrawn after review | sayı | yıllık | Hükümet ve mahkeme kayıtları | Yayımlanmış istatistikler |
| Ombudsman complaints about automated decisions | sayı | yıllık | Ombudsman reports | Yayımlanmış istatistikler |
Algoritmik kamu kararlarının yönetişimi nasıl yürütülür: belgeler, yetkiler ve taahhütler.
Bir politika yapıcının, diplomatın veya kalkınma ajansının birlikte çalıştığı araçlar, yetkiler, aktörler ve hesap verebilirlik düzenlemeleri; bunları belirleyen anlaşmalara atıf yapılarak. Yapılar, adı geçen çerçeveleri izler. Gösterilen herhangi bir durum veya ilerleme örnekleyicidir, kayıt değildir.
Politika aracı matrisi
The kinds of instrument available on algorithmic public decisions, by level of government and cooperation.
| Araç türü | Yerel | Ulusal | Bölgesel | Küresel |
|---|---|---|---|---|
| Düzenleyici | Imar planlaması, yapı yönetmelikleri | Yasalar, standartlar, lisanslama | Uyumlaştırılmış kurallar | Sözleşmeler ve antlaşmalar |
| Ekonomik | Yerel vergiler, hibeler | Bütçe kalemleri, vergiler, sigorta düzenlemeleri | Risk havuzları, bölgesel fonlar | Finansman mekanizmaları |
| Bilgi | Yerel uyarılar | Açıklama, erken uyarı, istatistik | Veri paylaşım düzenlemeleri | Küresel izleme ve raporlama |
| Kurumsal | Yerel komiteler | Öncü kurumlar, koordinasyon konseyleri | Bölgesel organlar ve sekreteryalar | Çok taraflı yetkiler |
| İşbirliğine dayalı | Topluluk anlaşmaları | Ortaklık mutabakatları | Mutabakat zabıtları ve ortak programlar | Anlaşmalar ve ortak taahhütler |
Kanıtın nereden geldiği.
Her biri lisans sınıfıyla birlikte, adı belirtilmiş kamuya açık veri kümeleri ve kurumsal kayıtlar. Anlaşmaya dayalı kaynaklar yalnızca koşullarına göre kullanılır ve asla yeniden yayımlanmaz.
| Kaynak | Sağladıkları | Lisans sınıfı |
|---|---|---|
| UK Algorithmic Transparency Recording Standard records | Published records of algorithmic tools used by public bodies | Open Government Licence |
| Amsterdam and Helsinki algorithm registers | City registers of algorithmic systems in use | Open data, terms per city |
| Kanada Otomatik Karar Verme Direktifi ve Algoritmik Etki Değerlendirmeleri | Mandatory impact assessments for federal automated decisions | Open Government Licence, Canada |
| Ombudsman ve denetim kurumu raporları | Investigations of automated decision systems in public services | Kamu kayıtları, makam başına koşullar |
| Court judgments on automated public decisions | Rulings on lawfulness of algorithmic systems | Public records, terms per court |
Kim karar verir ve kanıt neye hizmet eder.
Yapay Zekâ ve Dijital Yönetişim kanıt hazırlar. Aşağıdaki kararlar, adı geçen otoriteler tarafından kendi kurallarına göre alınır ve asla platform tarafından alınmaz.
| Kim karar verir | Soru | Bu sayfanın hizmet ettiği kanıt |
|---|---|---|
| Ministers and agency heads | Whether to automate a decision and with what safeguards | Impact assessments, audit evidence and lessons from comparable systems |
| Veri koruma otoriteleri | İşlemenin ve otomatik kararların hukuka uygun olup olmadığı | Assessment records and complaints |
| Ombudsmen and audit offices | Whether to investigate a system and what to recommend | Appeals, complaints and outcome data |
| Courts and tribunals | Whether a decision or system breached rights or law | Tarafların sunduğu kayıtlar; sayfa yalnızca bağlam sağlar |
Bu konunun ürettiği çıktılar
- Comparative notes on algorithm registers and impact assessments
- Guide to meaningful human review in automated decisions
- Dialogue briefs on lessons from suspended public algorithms
- Questions for agencies before deploying an automated decision system
What experts ask about algorithmic public decisions.
- What legal power authorises this use, and does the algorithm stay within it?
- Can a person affected find out that an algorithm was used, understand how, and challenge the result?
- Does the system perform differently for different groups, and is that justified?
- What happens when the system is wrong, and how quickly is the error found and corrected?
How algorithmic decisions go wrong.
Algorithms trained on historical data can reproduce historical patterns of disadvantage. A proxy variable that seems neutral, such as postcode, may correlate with protected characteristics. Errors at scale differ from individual errors: a flawed rule applied to an entire caseload harms many people at once and in the same way, which can overwhelm complaint systems.
The burden of proof often shifts silently. When a system flags someone as high-risk, that person may need to prove a negative, without knowing what evidence the system used. Well-documented failures of automated benefits and fraud systems show that the greatest harm comes when automated flags are treated as findings rather than prompts for human investigation.
Why now: automated systems are used for eligibility, triage and fraud detection in public services, and courts and ombudsmen in several countries have examined cases where they went wrong. The platform is designed to compare review and redress arrangements and record what affected people can actually do.
Safeguards and their limits.
- 01
Public registers of algorithms
Listing systems used by public bodies and their purposes. Limits: registers are often incomplete and vary in detail.
- 02
Explanation and notification
Telling people when an algorithm was used and why it produced a result. Limits: explanations of complex models can be partial.
- 03
Adalet testi
Measuring performance across groups, using machine learning methods. Limits: different fairness measures can conflict, and choosing among them is a value judgement.
- 04
İtiraz ve giderim
Routes to human review, appeal and remedy. Limits: depend on accessible processes and adequate staffing.
Nasıl incelendiği ve yöntemlerin söyleyemeyecekleri.
- 01Yapay zekâ değerlendirme ve güvence mühendisliğiÜçüncü taraf denetim kapsamı · Kamu sistemlerinde adillik testi · Kullanım sonrası izlemeBurada uygulanır
- 02Politika, kurum ve karar bilimiYapay zekâ rejimlerinin karşılaştırılması · Değer zinciri hesap verebilirlik haritalaması · Forum ve yetki haritalamasıBurada uygulanır
- 03Yapay zekâ ve makine öğrenmesiModeller kullanımda nasıl başarısız olur · Model belgelerini okumak · Ajan mimarilerinin açıklamasıBurada uygulanır
- 04Dijital kimlik ve kamusal dijital sistemlerKamu hizmetleri için güvence düzeyleri · Asgari açıklama · Dışlanma analiziBurada uygulanır
Sorular ve yanıtlar.
Algoritmik etki değerlendirmesi nedir?
What makes human review meaningful?
İnsanların otomatik kararlara tabi olmama hakkı var mıdır?
Can a public decision be made entirely by an algorithm?
Why can’t fairness be measured with one number?
Does the platform take up individual cases?
Algoritma kayıtları zorunlu mudur?
Bu sayfadan kanıt katkısında bulunun.
Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.
- E-postaGeçit GW-GRFBu sayfadan gönderinKanıt, bir düzeltme, bir vaka, bir yöntem, bir inceleme, bir çeviri veya profil girdisi. Bu sayfayla etiketlenmiş olarak gelir; böylece sayfanın sahibi editör onu alır.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Bir yönetişim sorusunu Forum'a getirin.
Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.
Hukuki belgeler.
18 hukuki belgenin tümünü göster
Bu sitedeki haritalar, veriler ve şekiller bağlam ve genel bilgi amacıyla gösterilir. Tavsiye, tahmin ya da uyarı değildir; bilgilerin sınırları Sorumluluk Reddi ve Veri Bildirimleri'nde açıklanmıştır.