GRF · Yapay Zekâ ve Dijital Yönetişim
Yapay zekâ gözetimi ve hesap verebilirlik
When an AI system causes harm, someone must be able to find out what happened and answer for it. Oversight relies on documentation, logging, audit, incident reporting and authorities with the powers and skills to use them. Accountability is spread across developers, deployers, boards and regulators, and can dissolve between them. This page sets out how AI oversight holds or fails, the records that show it, and who holds each decision.
AI oversight and accountability in seven parts.
- 01SoruYapay zeka gözetimi ve hesap verebilirlik: risk nasıl gelişir
- 02GöstergelerNeyin ve ne kadar iyi ölçüldüğü
- 03KaynaklarKanıtın nereden geldiği
- 04KararlarKim karar verir ve kanıt neye hizmet eder
- 05Core questionsWhat institutions ask about oversight
- 06MechanismsWhy accountability erodes
- 07Methods and limitsInstruments of oversight
AI oversight and accountability: how the risk develops.
Roller, doğrulama ve insan incelemesi. Aşağıdaki dosya, riskin nasıl geliştiğini, nelerin ölçüldüğünü, verilerin nereden geldiğini, nasıl modellendiğini ve kararı kimin verdiğini ortaya koyar.
Responsibility diffuses along the chain
A model developer, a fine-tuner, an integrator and a deploying organisation each shape a system’s behaviour. When obligations attach to only one of them, the others can point elsewhere after harm.
Records decide what can be reviewed
Teknik dokümantasyon, günlükler ve değişiklik kayıtları olmadan denetçiler ve düzenleyiciler bir sistemin bir çıktıya nasıl ulaştığını yeniden kuramaz. Kayıt tutma yükümlülükleri sonraki gözetimi mümkün kılar.
Authorities lack capacity
Piyasa gözetimi, veri koruma ve sektör düzenleyicileri teknik personele, sistemleri erişime ve bunları test etme yetkilerine ihtiyaç duyar. Zayıf kapasite, kuralları öz değerlendirmeye dönüştürür.
Incidents go unreported
Failures surface through complaints, journalism and litigation rather than reporting. Mandatory incident reporting and shared incident databases let patterns be seen across deployments.
Kamu algoritma kaydı.
Bir ekibin bu konuyu izlemek için kullanacağı ekran: ölçütleri, durumları ve kararları. Adlar örnektir ve değerler açıklayıcıdır.
Kamuya açık algoritma sicili
Yapay zekâ gözetimi ve hesap verebilirlik · Algoritma kaydı · 2. Çeyrek
Kayıtlı sistemler
| Yardım dolandırıcılığının işaretlenmesi | Toplumsal etkenlik | Yüksek | Eksik | Kısmi |
| Izin triyajı | Planlama | Sınırlı | Tamamlandı | Evet |
| Okul yerleştirmesi | Eğitim | Yüksek | Tamamlandı | Evet |
| Sohbet asistanı | Vergi dairesi | Asgari | Tamamlandı | n/a |
Gözetim eylemi
- Sistem
- Yardım dolandırıcılığının işaretlenmesi
- Zorunlu
- etki değerlendirmesi, itiraz yolu
- Son tarih
- 73 days
- Makam
- Gözetim organı
Otomatik kararlara ilişkin şikâyetler
Neyin ve ne kadar iyi ölçüldüğü.
Her gösterge birimini, sıklığını, ardındaki kaynak türünü ve bir değerin taşıyacağı kanıt etiketini taşır. Hiçbir değer gösterilmez: değerleri bir program kendi yetkisi altında sağlar.
| Gösterge | Birim | Sıklık | Kaynak türü | Etiket |
|---|---|---|---|---|
| Yapay zekâ alanında belirlenmiş denetim veya piyasa gözetim otoritesi | yes or no, with legal basis | değişiklik olduğunda | National legislation and notifications | Yayımlanmış istatistikler |
| Technical staff in AI-relevant authorities | full-time equivalents | yıllık | Otorite yıllık raporları | BİLDİRİLMİŞ |
| Serious incidents reported under AI rules | sektöre göre sayı | yıllık | Kamu kayıtları | Yayımlanmış istatistikler |
| Publicly recorded AI incidents | zarar türüne göre sayı | aylık | Olay veritabanları | BİLDİRİLMİŞ |
| Enforcement actions concerning AI systems | otorite ve türe göre sayı | yıllık | Düzenleyici yaptırım kayıtları | Yayımlanmış istatistikler |
| ISO/IEC 42001 certificates issued | sayı | yıllık | Certification body records | BİLDİRİLMİŞ |
Araçları karşılaştırın: kurallar, teşvikler ve bilgi.
Üç araç ailesi, her biri kendi gecikmesi ve benimsenme hızıyla, belirlediğiniz kapsam ve uyum altında, referans senaryoya karşı yan yana; etki büyüklükleri, kanıtla değiştirilecek öğretim değerleridir. Senaryo: gelecek hakkında adlandırılmış varsayımlar, tahmin değildir.
Kontroller
- Sonucun temel eğilimi
- yılda %2,0
- Aracın kapsamı
- 70%
- Uyum
- 75%
- Etki büyüklüğü, öğretim değerine göre
- 100%
- Önümüzdeki yıllar
- 20 yıl
Okumalar
- Ufukta en büyük azalma
- Düzenleme
- Başlangıç düzeyine göre azalması
- 21%
Sayılar, yöntemler ve kaynaklar
| Yıl | Referans | Düzenleme | Ekonomik teşvik | Bilgi ve kapasite |
|---|---|---|---|---|
| 0 | 100.0 | 99.5 | 98.8 | 99.1 |
| 1 | 102.0 | 101.2 | 100.1 | 99.8 |
| 2 | 104.0 | 102.5 | 101.1 | 99.9 |
| 3 | 106.1 | 103.5 | 101.6 | 100.0 |
| 4 | 108.2 | 103.7 | 101.8 | 100.7 |
| 5 | 110.4 | 103.2 | 101.7 | 102.1 |
| 6 | 112.6 | 102.0 | 101.6 | 103.9 |
| 7 | 114.9 | 100.4 | 101.6 | 105.9 |
| 8 | 117.2 | 99.2 | 102.1 | 108.0 |
| 9 | 119.5 | 98.6 | 102.9 | 110.1 |
| 10 | 121.9 | 98.9 | 104.2 | 112.3 |
| 11 | 124.3 | 99.7 | 105.7 | 114.5 |
| 12 | 126.8 | 101.1 | 107.4 | 116.8 |
| 13 | 129.4 | 102.7 | 109.4 | 119.2 |
| 14 | 131.9 | 104.5 | 111.4 | 121.6 |
| 15 | 134.6 | 106.5 | 113.5 | 124.0 |
| 16 | 137.3 | 108.5 | 115.7 | 126.5 |
| 17 | 140.0 | 110.7 | 118.0 | 129.0 |
| 18 | 142.8 | 112.9 | 120.4 | 131.6 |
| 19 | 145.7 | 115.1 | 122.8 | 134.2 |
| 20 | 148.6 | 117.4 | 125.2 | 136.9 |
Yöntemler
- Tools of government Hood (1983), The Tools of Government, Macmillan
- Carrots, sticks and sermons Bemelmans-Videc, Rist and Vedung (1998), Transaction
- Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
- Uncertainty fan (parameter Monte Carlo) Spiegelhalter, Pearson and Short (2011), Visualising uncertainty about the future, Science 333
- One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Veri
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Borders Natural Earth
- Cities Natural Earth
Nexus Consortium'un yürüttüğü altı ayak genelinde
- Deneyler Laboratuvarlar
- Yerleşik Foundry'de Yapay Zekâ ve Dijital Yönetişim
- Test edildiği yer Universe'te Yapay Zekâ ve Dijital Yönetişim
- Kodlandığı yer Standards'ta Dijital, Siber ve YZ
- Yayımlandığı yer Reports'ta Yapay Zekâ ve Dijital Yönetişim
- Öğretildiği yer Academy'de Teknoloji ve Dijital Sistemler Fakültesi
Kanıtın nereden geldiği.
Her biri lisans sınıfıyla birlikte, adı belirtilmiş kamuya açık veri kümeleri ve kurumsal kayıtlar. Anlaşmaya dayalı kaynaklar yalnızca koşullarına göre kullanılır ve asla yeniden yayımlanmaz.
| Kaynak | Sağladıkları | Lisans sınıfı |
|---|---|---|
| OECD.AI Politika Gözlemevi | National AI policies, governance bodies and the AI Incidents Monitor | Ücretsiz, OECD koşulları |
| AI Incident Database | Crowd-sourced records of harms involving AI systems | Açık, lisansın kontrol edilmesi gerekiyor |
| European Data Protection Board and national authority decisions | Decisions on automated processing and AI-related complaints | Public, EU and national reuse terms |
| Stanford AI Index Report | Data on AI development, policy and incidents | Free to read, licence to check |
| Regulator annual reports | Staffing, priorities and enforcement of authorities supervising AI | Kamu kayıtları, otorite başına koşullar |
Yetkiden değerlendirmeye, sütun sütun.
Bir aracın yetkiden değerlendirmeye attığı adımlar; her birini yürüten sütunla ve yetkili makamda kalan kararlarla birlikte. Belirtilmiş örnekleyici değerlere sahip öğretim modeli, tahmin değildir.
- Mandate and problem framing Competent authority (outside the programme)
A competent authority frames the problem and the mandate under its own rules. Howlett, Ramesh and Perl (2009) - Evidence and system model Foundry
The system is modelled with its feedbacks, data and stated limits. OECD (2014), principle 2 - Options appraised with scenarios Foundry
Instruments are compared under scenarios, with uncertainty shown. Hood (1983) - Exercise with stakeholders Universe
The options are tested in an exercise with those who would implement and bear them. OECD (2014), principle 3 - Standard or guidance drafted Nexus Standards
What works is codified as a standard or guidance, open to comment. Nexus Standards process - Decision by the authority Competent authority (outside the programme)
The authority decides, outside the programme, with the evidence on record. Howlett, Ramesh and Perl (2009) - Kapasite ve eğitim Risk Akademisi
Uygulayanlar, kararlaştırılan araç ve verileri konusunda eğitilir. Sendai Afet Riskinin Azaltılması Çerçevesi (2015), öncelik 2 - Monitoring and public report Reports
Indicators are published with sources, limits and corrections. OECD (2014), principle 5 - Evaluation and revision Nexus Standards
Results return to the standard and the model: the cycle closes. Howlett, Ramesh and Perl (2009)
Yöntemler
- Policy cycle Howlett, Ramesh and Perl (2009), Studying Public Policy, Oxford University Press
- Kritik risklerin yönetişimi OECD (2014), Konsey'in Kritik Risklerin Yönetişimine İlişkin Tavsiye Kararı
- Layered drawing of directed graphs Sugiyama, Tagawa and Toda (1981), IEEE SMC 11
Nexus Consortium'un yürüttüğü altı ayak genelinde
- Deneyler Laboratuvarlar
- Yerleşik Foundry'de Yapay Zekâ ve Dijital Yönetişim
- Test edildiği yer Universe'te Yapay Zekâ ve Dijital Yönetişim
- Kodlandığı yer Standards'ta Dijital, Siber ve YZ
- Yayımlandığı yer Reports'ta Yapay Zekâ ve Dijital Yönetişim
- Öğretildiği yer Academy'de Teknoloji ve Dijital Sistemler Fakültesi
Kim karar verir ve kanıt neye hizmet eder.
Yapay Zekâ ve Dijital Yönetişim kanıt hazırlar. Aşağıdaki kararlar, adı geçen otoriteler tarafından kendi kurallarına göre alınır ve asla platform tarafından alınmaz.
| Kim karar verir | Soru | Bu sayfanın hizmet ettiği kanıt |
|---|---|---|
| Yasama organları | Which obligations attach to developers, deployers and providers of general-purpose models | Comparative regimes and evidence from incidents |
| Market surveillance and sector regulators | Which systems to inspect and what powers to use | Incident records, risk categories and enforcement practice |
| Boards of deploying organisations | Yapay zekâ riskinin sahibi kimdir ve hangi güvenceyi talep eder | Governance practice and management system standards |
| Mahkemeler | Who is responsible for harm caused with an AI system | Records and expert evidence presented by parties; the page serves context only |
Bu konunun ürettiği çıktılar
- Maps of accountability across the AI value chain for a given use
- Comparative notes on AI supervisory authorities and their powers
- Guide to AI incident reporting regimes and databases
- Yönetim kurulları ve düzenleyiciler için yapay zekâ gözetimine ilişkin sorular
Yapay zekâ gözetiminin ve hesap verebilirliğinin nasıl yönetildiği: araçlar, yetkiler ve taahhütler.
Bir politika yapıcının, diplomatın veya kalkınma ajansının birlikte çalıştığı araçlar, yetkiler, aktörler ve hesap verebilirlik düzenlemeleri; bunları belirleyen anlaşmalara atıf yapılarak. Yapılar, adı geçen çerçeveleri izler. Gösterilen herhangi bir durum veya ilerleme örnekleyicidir, kayıt değildir.
Hesap verebilirlik döngüsü
How commitments on AI oversight and accountability are held to account, from commitment to correction.
- TaahhütHükümetYetkisi ve yasal dayanağı olan bir taahhüt.
- PlanLead agencyA national plan with owners and milestones.
- KaynakMaliye bakanlığıKayıtlı bir bütçe kalemi veya finansman.
- UygulamaKurumlar ve yerel yönetimPlana göre uygulama.
- Raporİstatistik ofisiÜzerinde uzlaşılmış tanımlarla raporlanan göstergeler.
- İncelemeYasama, denetim, sivil toplumSonuçların ve açıkların bağımsız incelemesi.
- DüzeltmeHükümetGerekçeleriyle birlikte yayımlanan plan değişiklikleri.
What institutions ask about oversight.
- Who in the institution owns the decision to deploy this system, and who answers if it causes harm?
- Has the system been validated for this specific use and population, by someone independent of its developers?
- Can the people reviewing its outputs genuinely disagree with it, or do they simply approve what it suggests?
- How will performance be monitored once the system is in use, and what triggers suspension?
Why accountability erodes.
Accountability tends to dissolve gradually. Each actor in a long chain of developers, integrators, operators and managers can reasonably point to another as responsible, until no one is. Why now: human oversight duties are being written into law, including in the European Union AI Act (2024), and public bodies must show who can understand and override an automated output. The platform is designed to convene those bodies and to exercise oversight in Universe with a scenario in which a system is confidently wrong.
Rubber-stamp review
İnsanlar, özellikle zaman baskısı altında, otomatik çıktılara boyun eğme eğilimindedir; bu nedenle insan incelemesi bir formalite hâline gelebilir.
Many hands
Geliştiriciler, tedarikçiler, entegratörler ve kullanıcıların her biri sistemin bir bölümüne sahiptir; sonucun sahibi ise hiçbiri değildir.
Değişen performans
Models degrade as the world changes, and without monitoring the degradation goes unnoticed.
Instruments of oversight.
- 01
Impact assessments
Devreye almadan önce haklara ve sonuçlara yönelik risklerin yapılandırılmış analizi. Sınırlar: kararlara bağlanmazsa evrak işine dönüşebilir.
- 02
Bağımsız doğrulama
Testing by people independent of developers, using AI evaluation and assurance engineering. Limits: tests show performance on test data, not in every real situation.
- 03
Meaningful human review
Reviewers with the authority, time, information and training to override. Limits: costly, and hard to sustain at scale.
- 04
Audit trails and monitoring
Logs of inputs, outputs and decisions, with performance tracked over time. Limits: only useful if someone reviews them.
Nasıl incelendiği ve yöntemlerin söyleyemeyecekleri.
- 01Yapay zekâ değerlendirme ve güvence mühendisliğiÜçüncü taraf denetim kapsamı · Kamu sistemlerinde adillik testi · Kullanım sonrası izlemeBurada uygulanır
- 02Politika, kurum ve karar bilimiYapay zekâ rejimlerinin karşılaştırılması · Değer zinciri hesap verebilirlik haritalaması · Forum ve yetki haritalamasıBurada uygulanır
- 03Yapay zekâ ve makine öğrenmesiModeller kullanımda nasıl başarısız olur · Model belgelerini okumak · Ajan mimarilerinin açıklamasıBurada uygulanır
Sorular ve yanıtlar.
What is the difference between an AI provider and a deployer?
Günlük kaydı yapay zekâ gözetimi açısından neden önemlidir?
Does ISO/IEC 42001 certify that an AI system is safe?
Döngüde bir insanın bulunması yeterli midir?
Bir yapay zekâ sistemini kim doğrulamalıdır?
Does the platform audit AI systems?
What should trigger suspending a system?
Bu sayfadan kanıt katkısında bulunun.
Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.
- E-postaGeçit GW-GRFBu sayfadan gönderinKanıt, bir düzeltme, bir vaka, bir yöntem, bir inceleme, bir çeviri veya profil girdisi. Bu sayfayla etiketlenmiş olarak gelir; böylece sayfanın sahibi editör onu alır.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Bir yönetişim sorusunu Forum'a getirin.
Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.
Hukuki belgeler.
18 hukuki belgenin tümünü göster
Bu sitedeki haritalar, veriler ve şekiller bağlam ve genel bilgi amacıyla gösterilir. Tavsiye, tahmin ya da uyarı değildir; bilgilerin sınırları Sorumluluk Reddi ve Veri Bildirimleri'nde açıklanmıştır.