Skip to content

GRF · Yapay Zekâ ve Dijital Yönetişim

Otonom ajanlar ve sorumluluk

AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.

01Sicil

Autonomous agents and liability on the record.

02Soru

Autonomous agents and liability: how the risk develops.

Action boundaries and accountability. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mekanizma

Actions outrun intent

An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.

Mekanizma

Many hands, unclear fault

The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.

Mekanizma

Permissions define exposure

What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.

Mekanizma

Law adapts slowly

Ürün sorumluluğu, sözleşme ve haksız fiil hukuku, yazılım ve yapay zekâ için yeniden yorumlanmaktadır. Mahkemeler ve yasama organları bu soruları çözüme kavuşturana kadar, belirsizliğin kendisi devreye almayı şekillendirmektedir.

03İzleme

Kamu algoritma kaydı.

Bir ekibin bu konuyu izlemek için kullanacağı ekran: ölçütleri, durumları ve kararları. Adlar örnektir ve değerler açıklayıcıdır.

Kamuya açık algoritma sicili

Autonomous agents and liability · Algorithm register · Quarter 2

Değerlendirmesi yapılmamış iki yüksek riskli sistemGRF · Yapay Zekâ ve Dijital Yönetişim

Kayıtlı sistemler

Yardım dolandırıcılığının işaretlenmesiToplumsal etkenlikYüksekEksikKısmi
Izin triyajıPlanlamaSınırlıTamamlandıEvet
Okul yerleştirmesiEğitimYüksekTamamlandıEvet
Sohbet asistanıVergi dairesiAsgariTamamlandın/a

Gözetim eylemi

Sistem
Yardım dolandırıcılığının işaretlenmesi
Zorunlu
etki değerlendirmesi, itiraz yolu
Son tarih
77 days
Makam
Gözetim organı

Otomatik kararlara ilişkin şikâyetler

Public algorithm register: the screen’s structure, terms and states for Autonomous agents and liability.Example names and illustrative values; a design, not a record or a live system.
04Göstergeler

Neyin ve ne kadar iyi ölçüldüğü.

Her gösterge birimini, sıklığını, ardındaki kaynak türünü ve bir değerin taşıyacağı kanıt etiketini taşır. Hiçbir değer gösterilmez: değerleri bir program kendi yetkisi altında sağlar.

GöstergeBirimSıklıkKaynak türüEtiket
Jurisdictions treating software as a product for liabilitysayıdeğişiklik olduğundaMevzuatYayımlanmış istatistikler
Court decisions on AI-caused harmtüre göre sayıyıllıkCase law databasesYayımlanmış istatistikler
Bildirilen ajan olaylarızarar türüne göre sayıaylıkOlay veritabanlarıBİLDİRİLMİŞ
Deployments with documented permission limitsshare of surveyed deploymentsperiyodikSurveys and auditsBEYAN EDİLDİ
Insurance products covering AI liabilitysunum sayısıyıllıkMarket reportsBİLDİRİLMİŞ
Regulatory guidance on agentic AIcount of documentsyıllıkRegulator publicationsYayımlanmış istatistikler
05Araçlar ve taahhütler

How autonomous agents and liability is governed: instruments, mandates and commitments.

Bir politika yapıcının, diplomatın veya kalkınma ajansının birlikte çalıştığı araçlar, yetkiler, aktörler ve hesap verebilirlik düzenlemeleri; bunları belirleyen anlaşmalara atıf yapılarak. Yapılar, adı geçen çerçeveleri izler. Gösterilen herhangi bir durum veya ilerleme örnekleyicidir, kayıt değildir.

Politika aracı matrisi

The kinds of instrument available on autonomous agents and liability, by level of government and cooperation.

Araç türüYerelUlusalBölgeselKüresel
DüzenleyiciImar planlaması, yapı yönetmelikleriYasalar, standartlar, lisanslamaUyumlaştırılmış kurallarSözleşmeler ve antlaşmalar
EkonomikYerel vergiler, hibelerBütçe kalemleri, vergiler, sigorta düzenlemeleriRisk havuzları, bölgesel fonlarFinansman mekanizmaları
BilgiYerel uyarılarAçıklama, erken uyarı, istatistikVeri paylaşım düzenlemeleriKüresel izleme ve raporlama
KurumsalYerel komitelerÖncü kurumlar, koordinasyon konseyleriBölgesel organlar ve sekreteryalarÇok taraflı yetkiler
İşbirliğine dayalıTopluluk anlaşmalarıOrtaklık mutabakatlarıMutabakat zabıtları ve ortak programlarAnlaşmalar ve ortak taahhütler
A typology after the OECD Recommendation on the Governance of Critical Risks; examples of instrument types, not an inventory of any country’s measures.
Sendai Afet Riskinin Azaltılması Çerçevesi 2015-2030 · UNDRRParis Anlaşması · UNFCCC2030 Gündemi ve Sürdürülebilir Kalkınma Amaçları · Birleşmiş MilletlerUluslararası Sağlık Tüzüğü · DSÖ
06Kaynaklar

Kanıtın nereden geldiği.

Her biri lisans sınıfıyla birlikte, adı belirtilmiş kamuya açık veri kümeleri ve kurumsal kayıtlar. Anlaşmaya dayalı kaynaklar yalnızca koşullarına göre kullanılır ve asla yeniden yayımlanmaz.

KaynakSağladıklarıLisans sınıfı
EU revised Product Liability DirectiveLiability rules including software and AI systems as productsKamuya açık, AB yeniden kullanım koşulları
Law commission and parliamentary reports on AI liabilityAnalysis of liability options for AI and automated systemsKamu kayıtları, kuruluş başına koşullar
OECD Yapay Zekâ Olayları İzleme AracıRecorded incidents involving AI systemsÜcretsiz, OECD koşulları
UK Automated and Electric Vehicles Act and Automated Vehicles ActLiability allocation for automated vehiclesOpen Government Licence
Court judgment databasesDecisions on harm involving automated systemsPublic records, terms per court
07Kararlar

Kim karar verir ve kanıt neye hizmet eder.

Yapay Zekâ ve Dijital Yönetişim kanıt hazırlar. Aşağıdaki kararlar, adı geçen otoriteler tarafından kendi kurallarına göre alınır ve asla platform tarafından alınmaz.

Kim karar verirSoruBu sayfanın hizmet ettiği kanıt
Legislatures and law commissionsHow liability rules apply to autonomous systemsComparative regimes and case evidence
Dağıtımı yapan kuruluşlarBir aracının neler yapabileceği ve hangi kontrollerin uygulandığıControl practice and incident evidence
SigortacılarYapay zekâ sorumluluğunun teminat altına alınıp alınmayacağı ve nasıl alınacağıIncident patterns and legal developments
MahkemelerWho is liable for harm in a specific caseTarafların sunduğu kayıtlar; sayfa yalnızca bağlam sağlar

Bu konunun ürettiği çıktılar

  • Comparative notes on liability rules for software and AI
  • Guide to permission limits and controls for agent deployments
  • Çok taraflı yapay zekâ zincirlerinde sorumluluğun paylaştırılmasına ilişkin diyalog notları
  • Questions for legislatures on agent liability
08Temel sorular

What experts ask about autonomous agents.

  • What actions is this agent permitted to take, and how are those limits enforced technically?
  • When an agent causes harm, who is liable: the developer, the deployer, the user?
  • How can an agent’s actions be traced, reviewed and reversed?
  • How should agents interact with other agents, and who governs those interactions?
09Mekanizmalar

Why agents raise new governance questions.

Most governance frameworks were built for systems that advise a person who then acts. Agents collapse that gap, and with it one of the main points at which errors were caught. Why now: AI agents that act on behalf of people and organisations raise questions of liability that existing rules did not foresee, and legislators are still working through them. The platform is designed to compare emerging approaches and to record open questions for decision holders, without giving legal advice.

Autonomy

Action without review

Ajanlar, insanların inceleyebileceğinden daha hızlı ve daha sık harekete geçebilir; bu nedenle hatalar, kimse fark etmeden önce çoğalabilir.

Interaction

Agents meeting agents

Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.

Liability

Unclear responsibility

Existing liability rules assume a human or company acted; agents complicate who that is.

10Yöntemler ve sınırlar

Instruments for bounding agents.

  1. 01

    Permission and scope controls

    Technical limits on what agents can access and do, studied under AI evaluation and assurance engineering. Limits: agents may find unintended routes around controls.

  2. 02

    Logging and reversibility

    Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.

  3. 03

    Human approval thresholds

    Requiring human sign-off above defined risk levels. Limits: can slow operations and invite approval fatigue.

  4. 04

    Liability analysis

    Hukuk sistemleri sorumluluğu nasıl dağıttığının karşılaştırılması. Sınırlar: hukuk hâlâ gelişmektedir.

12Sorular

Sorular ve yanıtlar.

Yapay zekâ ajanı nedir?
An AI system that pursues goals by planning and taking actions, such as calling tools, browsing, writing code or making payments, with limited step-by-step human direction.
Bir yapay zeka ajanı zarara yol açtığında sorumlu kimdir?
It depends on the jurisdiction and facts. Product liability, contract, negligence and sector rules may apply to developers, deployers or users; many questions are unsettled.
What controls limit agent harm?
Restricted permissions, spending limits, human confirmation for consequential actions, logging, monitoring and the ability to stop the agent.
Can an AI agent be legally responsible?
Under current law in most jurisdictions, no. Responsibility rests with people and organisations. How it is divided among them is still being worked out.
How can agent actions be kept within bounds?
Through technical permission limits, monitoring, human approval for high-risk actions and the ability to stop and reverse actions.
Platform ajanları test ediyor mu?
No. Technical evaluation is done at GCRI; the platform compares governance.
Why do agent interactions matter?
Because when many automated systems react to each other, small errors can amplify quickly, as sudden market moves driven by automated trading have shown.
RaporlarKatkıda bulunun

Bu sayfadan kanıt katkısında bulunun.

Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.

Global Risks ForumAI and Digital GovernanceExponential TechnologyEvidence Brief
Yapay Zekâ ve Dijital Yönetişim

Bir yönetişim sorusunu Forum'a getirin.

Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.