Skip to content

GRF · Yapay Zekâ ve Dijital Yönetişim

Algoritmik kamusal kararlar

Governments use algorithms to assess benefit claims, detect fraud, allocate inspections, set risk scores in policing and migration, and support judges and caseworkers. These decisions affect rights and livelihoods at scale, and errors repeat across thousands of cases before anyone sees them. This page sets out how algorithmic public decisions go wrong and how safeguards work, the records that show them, and who decides whether and how a system is used.

02Soru

Algorithmic public decisions: how the risk develops.

Contestability and transparency. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mekanizma

Errors scale silently

A flawed rule or model applies to every case it touches. Without monitoring of outcomes and appeals, a systematic error can wrongly deny or penalise many people before it is detected.

Mekanizma

Bias enters through data and design

Historical data reflect past decisions and enforcement patterns. Proxies such as postcode or nationality can produce unequal outcomes even when protected characteristics are excluded.

Mekanizma

Human review becomes rubber-stamping

Public servants asked to review automated outputs under time pressure tend to accept them. Meaningful review needs time, authority to overrule and information about how the output was produced.

Mekanizma

Opaklık itirazı engeller

İnsanlar, otomatikleştirildiğini bilmedikleri veya anlayamadıkları bir karara itiraz edemez. Bildirim, gerekçeler ve itiraza erişim, hataların düzeltilip düzeltilmeyeceğini belirler.

03İzleme

Kamu algoritma kaydı.

Bir ekibin bu konuyu izlemek için kullanacağı ekran: ölçütleri, durumları ve kararları. Adlar örnektir ve değerler açıklayıcıdır.

Kamuya açık algoritma sicili

Algorithmic public decisions · Algorithm register · Quarter 1

Değerlendirmesi yapılmamış iki yüksek riskli sistemGRF · Yapay Zekâ ve Dijital Yönetişim

Kayıtlı sistemler

Yardım dolandırıcılığının işaretlenmesiToplumsal etkenlikYüksekEksikKısmi
Izin triyajıPlanlamaSınırlıTamamlandıEvet
Okul yerleştirmesiEğitimYüksekTamamlandıEvet
Sohbet asistanıVergi dairesiAsgariTamamlandın/a

Gözetim eylemi

Sistem
Yardım dolandırıcılığının işaretlenmesi
Zorunlu
etki değerlendirmesi, itiraz yolu
Son tarih
64 days
Makam
Gözetim organı

Otomatik kararlara ilişkin şikâyetler

Public algorithm register: the screen’s structure, terms and states for Algorithmic public decisions.Example names and illustrative values; a design, not a record or a live system.
04Göstergeler

Neyin ve ne kadar iyi ölçüldüğü.

Her gösterge birimini, sıklığını, ardındaki kaynak türünü ve bir değerin taşıyacağı kanıt etiketini taşır. Hiçbir değer gösterilmez: değerleri bir program kendi yetkisi altında sağlar.

GöstergeBirimSıklıkKaynak türüEtiket
Public algorithmic systems in a transparency registercount by agencyon updateAlgorithm registersBEYAN EDİLDİ
Algorithmic impact assessments publishedsayıyıllıkHükümet yayınlarıBEYAN EDİLDİ
Appeals against automated decisionskabul edilenlerin sayısı ve payıyıllıkAgency and tribunal recordsYayımlanmış istatistikler
Gruplar arasında sonuç eşitsizliğiratio of adverse outcome ratesdenetim başınaIndependent auditsTAHMİNİ
Systems suspended or withdrawn after reviewsayıyıllıkHükümet ve mahkeme kayıtlarıYayımlanmış istatistikler
Ombudsman complaints about automated decisionssayıyıllıkOmbudsman reportsYayımlanmış istatistikler
05Araçlar ve taahhütler

Algoritmik kamu kararlarının yönetişimi nasıl yürütülür: belgeler, yetkiler ve taahhütler.

Bir politika yapıcının, diplomatın veya kalkınma ajansının birlikte çalıştığı araçlar, yetkiler, aktörler ve hesap verebilirlik düzenlemeleri; bunları belirleyen anlaşmalara atıf yapılarak. Yapılar, adı geçen çerçeveleri izler. Gösterilen herhangi bir durum veya ilerleme örnekleyicidir, kayıt değildir.

Politika aracı matrisi

The kinds of instrument available on algorithmic public decisions, by level of government and cooperation.

Araç türüYerelUlusalBölgeselKüresel
DüzenleyiciImar planlaması, yapı yönetmelikleriYasalar, standartlar, lisanslamaUyumlaştırılmış kurallarSözleşmeler ve antlaşmalar
EkonomikYerel vergiler, hibelerBütçe kalemleri, vergiler, sigorta düzenlemeleriRisk havuzları, bölgesel fonlarFinansman mekanizmaları
BilgiYerel uyarılarAçıklama, erken uyarı, istatistikVeri paylaşım düzenlemeleriKüresel izleme ve raporlama
KurumsalYerel komitelerÖncü kurumlar, koordinasyon konseyleriBölgesel organlar ve sekreteryalarÇok taraflı yetkiler
İşbirliğine dayalıTopluluk anlaşmalarıOrtaklık mutabakatlarıMutabakat zabıtları ve ortak programlarAnlaşmalar ve ortak taahhütler
A typology after the OECD Recommendation on the Governance of Critical Risks; examples of instrument types, not an inventory of any country’s measures.
Sendai Afet Riskinin Azaltılması Çerçevesi 2015-2030 · UNDRRParis Anlaşması · UNFCCC2030 Gündemi ve Sürdürülebilir Kalkınma Amaçları · Birleşmiş MilletlerUluslararası Sağlık Tüzüğü · DSÖ
06Kaynaklar

Kanıtın nereden geldiği.

Her biri lisans sınıfıyla birlikte, adı belirtilmiş kamuya açık veri kümeleri ve kurumsal kayıtlar. Anlaşmaya dayalı kaynaklar yalnızca koşullarına göre kullanılır ve asla yeniden yayımlanmaz.

KaynakSağladıklarıLisans sınıfı
UK Algorithmic Transparency Recording Standard recordsPublished records of algorithmic tools used by public bodiesOpen Government Licence
Amsterdam and Helsinki algorithm registersCity registers of algorithmic systems in useOpen data, terms per city
Kanada Otomatik Karar Verme Direktifi ve Algoritmik Etki DeğerlendirmeleriMandatory impact assessments for federal automated decisionsOpen Government Licence, Canada
Ombudsman ve denetim kurumu raporlarıInvestigations of automated decision systems in public servicesKamu kayıtları, makam başına koşullar
Court judgments on automated public decisionsRulings on lawfulness of algorithmic systemsPublic records, terms per court
07Kararlar

Kim karar verir ve kanıt neye hizmet eder.

Yapay Zekâ ve Dijital Yönetişim kanıt hazırlar. Aşağıdaki kararlar, adı geçen otoriteler tarafından kendi kurallarına göre alınır ve asla platform tarafından alınmaz.

Kim karar verirSoruBu sayfanın hizmet ettiği kanıt
Ministers and agency headsWhether to automate a decision and with what safeguardsImpact assessments, audit evidence and lessons from comparable systems
Veri koruma otoriteleriİşlemenin ve otomatik kararların hukuka uygun olup olmadığıAssessment records and complaints
Ombudsmen and audit officesWhether to investigate a system and what to recommendAppeals, complaints and outcome data
Courts and tribunalsWhether a decision or system breached rights or lawTarafların sunduğu kayıtlar; sayfa yalnızca bağlam sağlar

Bu konunun ürettiği çıktılar

  • Comparative notes on algorithm registers and impact assessments
  • Guide to meaningful human review in automated decisions
  • Dialogue briefs on lessons from suspended public algorithms
  • Questions for agencies before deploying an automated decision system
08Temel sorular

What experts ask about algorithmic public decisions.

  • What legal power authorises this use, and does the algorithm stay within it?
  • Can a person affected find out that an algorithm was used, understand how, and challenge the result?
  • Does the system perform differently for different groups, and is that justified?
  • What happens when the system is wrong, and how quickly is the error found and corrected?
09Mekanizmalar

How algorithmic decisions go wrong.

Algorithms trained on historical data can reproduce historical patterns of disadvantage. A proxy variable that seems neutral, such as postcode, may correlate with protected characteristics. Errors at scale differ from individual errors: a flawed rule applied to an entire caseload harms many people at once and in the same way, which can overwhelm complaint systems.

The burden of proof often shifts silently. When a system flags someone as high-risk, that person may need to prove a negative, without knowing what evidence the system used. Well-documented failures of automated benefits and fraud systems show that the greatest harm comes when automated flags are treated as findings rather than prompts for human investigation.

Why now: automated systems are used for eligibility, triage and fraud detection in public services, and courts and ombudsmen in several countries have examined cases where they went wrong. The platform is designed to compare review and redress arrangements and record what affected people can actually do.

10Yöntemler ve sınırlar

Safeguards and their limits.

  1. 01

    Public registers of algorithms

    Listing systems used by public bodies and their purposes. Limits: registers are often incomplete and vary in detail.

  2. 02

    Explanation and notification

    Telling people when an algorithm was used and why it produced a result. Limits: explanations of complex models can be partial.

  3. 03

    Adalet testi

    Measuring performance across groups, using machine learning methods. Limits: different fairness measures can conflict, and choosing among them is a value judgement.

  4. 04

    İtiraz ve giderim

    Routes to human review, appeal and remedy. Limits: depend on accessible processes and adequate staffing.

12Sorular

Sorular ve yanıtlar.

Algoritmik etki değerlendirmesi nedir?
A structured review, before and during deployment, of the risks an automated system poses to people and how they are mitigated. Canada requires one for federal automated decisions.
What makes human review meaningful?
The reviewer has the time, competence, information and authority to depart from the system’s output, and does so in practice when warranted.
İnsanların otomatik kararlara tabi olmama hakkı var mıdır?
Under the GDPR, people have rights concerning decisions based solely on automated processing that significantly affect them, with exceptions and safeguards. Other jurisdictions differ.
Can a public decision be made entirely by an algorithm?
That depends on the law of each jurisdiction. Many legal systems restrict fully automated decisions with significant effects on people and require human involvement and a right to contest.
Why can’t fairness be measured with one number?
Çünkü adaletin makul birkaç tanımı vardır ve matematiksel olarak bunların hepsi çoğu zaman aynı anda sağlanamaz. Aralarından seçim yapmak bir politika kararıdır.
Does the platform take up individual cases?
No. Individual cases belong to the deploying body, ombudsmen, tribunals and courts.
Algoritma kayıtları zorunlu mudur?
Bazı yargı bölgeleri ve kentler bunları gönüllü olarak veya politika gereği yayımlar; gereklilikler değişiklik gösterir.
RaporlarKatkıda bulunun

Bu sayfadan kanıt katkısında bulunun.

Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.

Global Risks ForumAI and Digital GovernanceExponential TechnologyEvidence Brief
Yapay Zekâ ve Dijital Yönetişim

Bir yönetişim sorusunu Forum'a getirin.

Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.