GRF · Yapay Zekâ ve Dijital Yönetişim
Otonom ajanlar ve sorumluluk
AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.
Autonomous agents and liability on the record.
Autonomous agents and liability: how the risk develops.
Action boundaries and accountability. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Actions outrun intent
An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.
Many hands, unclear fault
The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.
Permissions define exposure
What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.
Law adapts slowly
Ürün sorumluluğu, sözleşme ve haksız fiil hukuku, yazılım ve yapay zekâ için yeniden yorumlanmaktadır. Mahkemeler ve yasama organları bu soruları çözüme kavuşturana kadar, belirsizliğin kendisi devreye almayı şekillendirmektedir.
Kamu algoritma kaydı.
Bir ekibin bu konuyu izlemek için kullanacağı ekran: ölçütleri, durumları ve kararları. Adlar örnektir ve değerler açıklayıcıdır.
Kamuya açık algoritma sicili
Autonomous agents and liability · Algorithm register · Quarter 2
Kayıtlı sistemler
| Yardım dolandırıcılığının işaretlenmesi | Toplumsal etkenlik | Yüksek | Eksik | Kısmi |
| Izin triyajı | Planlama | Sınırlı | Tamamlandı | Evet |
| Okul yerleştirmesi | Eğitim | Yüksek | Tamamlandı | Evet |
| Sohbet asistanı | Vergi dairesi | Asgari | Tamamlandı | n/a |
Gözetim eylemi
- Sistem
- Yardım dolandırıcılığının işaretlenmesi
- Zorunlu
- etki değerlendirmesi, itiraz yolu
- Son tarih
- 77 days
- Makam
- Gözetim organı
Otomatik kararlara ilişkin şikâyetler
Neyin ve ne kadar iyi ölçüldüğü.
Her gösterge birimini, sıklığını, ardındaki kaynak türünü ve bir değerin taşıyacağı kanıt etiketini taşır. Hiçbir değer gösterilmez: değerleri bir program kendi yetkisi altında sağlar.
| Gösterge | Birim | Sıklık | Kaynak türü | Etiket |
|---|---|---|---|---|
| Jurisdictions treating software as a product for liability | sayı | değişiklik olduğunda | Mevzuat | Yayımlanmış istatistikler |
| Court decisions on AI-caused harm | türe göre sayı | yıllık | Case law databases | Yayımlanmış istatistikler |
| Bildirilen ajan olayları | zarar türüne göre sayı | aylık | Olay veritabanları | BİLDİRİLMİŞ |
| Deployments with documented permission limits | share of surveyed deployments | periyodik | Surveys and audits | BEYAN EDİLDİ |
| Insurance products covering AI liability | sunum sayısı | yıllık | Market reports | BİLDİRİLMİŞ |
| Regulatory guidance on agentic AI | count of documents | yıllık | Regulator publications | Yayımlanmış istatistikler |
How autonomous agents and liability is governed: instruments, mandates and commitments.
Bir politika yapıcının, diplomatın veya kalkınma ajansının birlikte çalıştığı araçlar, yetkiler, aktörler ve hesap verebilirlik düzenlemeleri; bunları belirleyen anlaşmalara atıf yapılarak. Yapılar, adı geçen çerçeveleri izler. Gösterilen herhangi bir durum veya ilerleme örnekleyicidir, kayıt değildir.
Politika aracı matrisi
The kinds of instrument available on autonomous agents and liability, by level of government and cooperation.
| Araç türü | Yerel | Ulusal | Bölgesel | Küresel |
|---|---|---|---|---|
| Düzenleyici | Imar planlaması, yapı yönetmelikleri | Yasalar, standartlar, lisanslama | Uyumlaştırılmış kurallar | Sözleşmeler ve antlaşmalar |
| Ekonomik | Yerel vergiler, hibeler | Bütçe kalemleri, vergiler, sigorta düzenlemeleri | Risk havuzları, bölgesel fonlar | Finansman mekanizmaları |
| Bilgi | Yerel uyarılar | Açıklama, erken uyarı, istatistik | Veri paylaşım düzenlemeleri | Küresel izleme ve raporlama |
| Kurumsal | Yerel komiteler | Öncü kurumlar, koordinasyon konseyleri | Bölgesel organlar ve sekreteryalar | Çok taraflı yetkiler |
| İşbirliğine dayalı | Topluluk anlaşmaları | Ortaklık mutabakatları | Mutabakat zabıtları ve ortak programlar | Anlaşmalar ve ortak taahhütler |
Kanıtın nereden geldiği.
Her biri lisans sınıfıyla birlikte, adı belirtilmiş kamuya açık veri kümeleri ve kurumsal kayıtlar. Anlaşmaya dayalı kaynaklar yalnızca koşullarına göre kullanılır ve asla yeniden yayımlanmaz.
| Kaynak | Sağladıkları | Lisans sınıfı |
|---|---|---|
| EU revised Product Liability Directive | Liability rules including software and AI systems as products | Kamuya açık, AB yeniden kullanım koşulları |
| Law commission and parliamentary reports on AI liability | Analysis of liability options for AI and automated systems | Kamu kayıtları, kuruluş başına koşullar |
| OECD Yapay Zekâ Olayları İzleme Aracı | Recorded incidents involving AI systems | Ücretsiz, OECD koşulları |
| UK Automated and Electric Vehicles Act and Automated Vehicles Act | Liability allocation for automated vehicles | Open Government Licence |
| Court judgment databases | Decisions on harm involving automated systems | Public records, terms per court |
Kim karar verir ve kanıt neye hizmet eder.
Yapay Zekâ ve Dijital Yönetişim kanıt hazırlar. Aşağıdaki kararlar, adı geçen otoriteler tarafından kendi kurallarına göre alınır ve asla platform tarafından alınmaz.
| Kim karar verir | Soru | Bu sayfanın hizmet ettiği kanıt |
|---|---|---|
| Legislatures and law commissions | How liability rules apply to autonomous systems | Comparative regimes and case evidence |
| Dağıtımı yapan kuruluşlar | Bir aracının neler yapabileceği ve hangi kontrollerin uygulandığı | Control practice and incident evidence |
| Sigortacılar | Yapay zekâ sorumluluğunun teminat altına alınıp alınmayacağı ve nasıl alınacağı | Incident patterns and legal developments |
| Mahkemeler | Who is liable for harm in a specific case | Tarafların sunduğu kayıtlar; sayfa yalnızca bağlam sağlar |
Bu konunun ürettiği çıktılar
- Comparative notes on liability rules for software and AI
- Guide to permission limits and controls for agent deployments
- Çok taraflı yapay zekâ zincirlerinde sorumluluğun paylaştırılmasına ilişkin diyalog notları
- Questions for legislatures on agent liability
What experts ask about autonomous agents.
- What actions is this agent permitted to take, and how are those limits enforced technically?
- When an agent causes harm, who is liable: the developer, the deployer, the user?
- How can an agent’s actions be traced, reviewed and reversed?
- How should agents interact with other agents, and who governs those interactions?
Why agents raise new governance questions.
Most governance frameworks were built for systems that advise a person who then acts. Agents collapse that gap, and with it one of the main points at which errors were caught. Why now: AI agents that act on behalf of people and organisations raise questions of liability that existing rules did not foresee, and legislators are still working through them. The platform is designed to compare emerging approaches and to record open questions for decision holders, without giving legal advice.
Action without review
Ajanlar, insanların inceleyebileceğinden daha hızlı ve daha sık harekete geçebilir; bu nedenle hatalar, kimse fark etmeden önce çoğalabilir.
Agents meeting agents
Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.
Unclear responsibility
Existing liability rules assume a human or company acted; agents complicate who that is.
Instruments for bounding agents.
- 01
Permission and scope controls
Technical limits on what agents can access and do, studied under AI evaluation and assurance engineering. Limits: agents may find unintended routes around controls.
- 02
Logging and reversibility
Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.
- 03
Human approval thresholds
Requiring human sign-off above defined risk levels. Limits: can slow operations and invite approval fatigue.
- 04
Liability analysis
Hukuk sistemleri sorumluluğu nasıl dağıttığının karşılaştırılması. Sınırlar: hukuk hâlâ gelişmektedir.
Nasıl incelendiği ve yöntemlerin söyleyemeyecekleri.
- 01Yapay zekâ değerlendirme ve güvence mühendisliğiÜçüncü taraf denetim kapsamı · Kamu sistemlerinde adillik testi · Kullanım sonrası izlemeBurada uygulanır
- 02Yapay zekâ ve makine öğrenmesiModeller kullanımda nasıl başarısız olur · Model belgelerini okumak · Ajan mimarilerinin açıklamasıBurada uygulanır
- 03Politika, kurum ve karar bilimiYapay zekâ rejimlerinin karşılaştırılması · Değer zinciri hesap verebilirlik haritalaması · Forum ve yetki haritalamasıBurada uygulanır
- 04Dijital kimlik ve kamusal dijital sistemlerKamu hizmetleri için güvence düzeyleri · Asgari açıklama · Dışlanma analiziBurada uygulanır
Sorular ve yanıtlar.
Yapay zekâ ajanı nedir?
Bir yapay zeka ajanı zarara yol açtığında sorumlu kimdir?
What controls limit agent harm?
Can an AI agent be legally responsible?
How can agent actions be kept within bounds?
Platform ajanları test ediyor mu?
Why do agent interactions matter?
Bu sayfadan kanıt katkısında bulunun.
Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.
- E-postaGeçit GW-GRFBu sayfadan gönderinKanıt, bir düzeltme, bir vaka, bir yöntem, bir inceleme, bir çeviri veya profil girdisi. Bu sayfayla etiketlenmiş olarak gelir; böylece sayfanın sahibi editör onu alır.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Bir yönetişim sorusunu Forum'a getirin.
Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.
Hukuki belgeler.
18 hukuki belgenin tümünü göster
Bu sitedeki haritalar, veriler ve şekiller bağlam ve genel bilgi amacıyla gösterilir. Tavsiye, tahmin ya da uyarı değildir; bilgilerin sınırları Sorumluluk Reddi ve Veri Bildirimleri'nde açıklanmıştır.