Skip to content

GRF · AI और डिजिटल शासन

स्वायत्त एजेंट और दायित्व

AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.

01रजिस्टर करें

Autonomous agents and liability on the record.

02प्रश्न

स्वायत्त एजेंट और दायित्व: जोखिम कैसे विकसित होता है।

Action boundaries and accountability. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

तंत्र

Actions outrun intent

An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.

तंत्र

Many hands, unclear fault

The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.

तंत्र

Permissions define exposure

What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.

तंत्र

Law adapts slowly

Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.

03निगरानी करें

सार्वजनिक एल्गोरिदम रजिस्टर।

वह स्क्रीन जिसका उपयोग कोई टीम इस विषय का अनुसरण करने के लिए करेगी: इसके माप, अवस्थाएँ और निर्णय। नाम उदाहरण हैं और मान उदाहरणात्मक हैं।

सार्वजनिक एल्गोरिदम रजिस्टर

Autonomous agents and liability · Algorithm register · Quarter 2

बिना आकलन के दो उच्च-जोखिम प्रणालियाँGRF · AI और डिजिटल शासन

पंजीकृत प्रणालियाँ

लाभ धोखाधड़ी चिह्नांकनसामाजिक कर्तृत्वउच्चलुप्तआंशिक
परमिट प्राथमिकता-निर्धारणयोजनासीमितपूर्णहाँ
विद्यालय प्रवेशशिक्षाउच्चपूर्णहाँ
चैट सहायककर कार्यालयन्यूनतमपूर्णn/a

निगरानी कार्रवाई

प्रणाली
लाभ धोखाधड़ी चिह्नांकन
आवश्यक
प्रभाव आकलन, अपील मार्ग
समय-सीमा
77 days
प्राधिकार
निगरानी निकाय

स्वचालित निर्णयों के बारे में शिकायतें

Public algorithm register: the screen’s structure, terms and states for Autonomous agents and liability.Example names and illustrative values; a design, not a record or a live system.
04संकेतक

क्या मापा जाता है, और कितनी अच्छी तरह।

प्रत्येक संकेतक अपनी इकाई, आवृत्ति, उसके पीछे के स्रोत का प्रकार और वह साक्ष्य लेबल वहन करता है जो किसी मान पर होगा। कोई मान नहीं दिखाए जाते: कोई कार्यक्रम उन्हें अपने अधिकार के तहत प्रदान करता है।

संकेतकइकाईलयस्रोत प्रकारलेबल
Jurisdictions treating software as a product for liabilityगणनापरिवर्तन होने परविधानप्रकाशित सांख्यिकी
Court decisions on AI-caused harmप्रकार के अनुसार गणनावार्षिकCase law databasesप्रकाशित सांख्यिकी
Agent incidents reportedहानि के प्रकार के अनुसार गणनामासिकघटना डेटाबेसरिपोर्ट किया गया
Deployments with documented permission limitsshare of surveyed deploymentsआवधिकSurveys and auditsघोषित
Insurance products covering AI liabilitycount of offeringsवार्षिकMarket reportsरिपोर्ट किया गया
Regulatory guidance on agentic AIदस्तावेज़ों की संख्यावार्षिकRegulator publicationsप्रकाशित सांख्यिकी
05साधन और प्रतिबद्धताएँ

How autonomous agents and liability is governed: instruments, mandates and commitments.

वे उपकरण, अधिदेश, कर्ता और जवाबदेही व्यवस्थाएँ जिनके साथ कोई नीति-निर्माता, राजनयिक या विकास एजेंसी काम करती है, उन्हें तय करने वाले समझौतों का हवाला देते हुए। संरचनाएँ नामित ढाँचों का अनुसरण करती हैं। जो भी स्थिति या प्रगति दिखाई गई है वह उदाहरणात्मक है, रिकॉर्ड नहीं।

नीति साधन मैट्रिक्स

स्वायत्त एजेंटों और दायित्व पर उपलब्ध लिखतों के प्रकार, सरकार और सहयोग के स्तर के अनुसार।

साधन प्रकारस्थानीयराष्ट्रीयक्षेत्रीयवैश्विक
नियामकज़ोनिंग, भवन संहिताएँकानून, मानक, लाइसेंसिंगसामंजस्यपूर्ण नियमअभिसमय और संधियाँ
आर्थिकस्थानीय शुल्क, अनुदानबजट मद, कर, बीमा योजनाएँजोखिम पूल, क्षेत्रीय कोषवित्तपोषण तंत्र
जानकारीस्थानीय चेतावनियाँप्रकटीकरण, पूर्व चेतावनी, सांख्यिकीडेटा साझाकरण व्यवस्थाएँवैश्विक निगरानी और रिपोर्टिंग
संस्थागतस्थानीय समितियाँप्रमुख एजेंसियाँ, समन्वय परिषदेंक्षेत्रीय निकाय और सचिवालयबहुपक्षीय अधिदेश
सहकारीसामुदायिक समझौतेसाझेदारी समझौतेसमझौता ज्ञापन और संयुक्त कार्यक्रमसमझौते और संयुक्त प्रतिबद्धताएँ
A typology after the OECD Recommendation on the Governance of Critical Risks; examples of instrument types, not an inventory of any country’s measures.
आपदा जोखिम न्यूनीकरण के लिए सेंडाई फ़्रेमवर्क · UNDRRपेरिस समझौता · UNFCCC2030 एजेंडा और सतत विकास लक्ष्य · संयुक्त राष्ट्रअंतरराष्ट्रीय स्वास्थ्य विनियम · WHO
06स्रोत

साक्ष्य कहाँ से आता है।

नामित सार्वजनिक डेटासेट और संस्थागत अभिलेख, प्रत्येक अपने लाइसेंस वर्ग के साथ। समझौते द्वारा प्राप्त स्रोतों का उपयोग केवल उनकी शर्तों के तहत होता है और कभी पुनः प्रकाशित नहीं किया जाता।

स्रोतयह क्या देता हैलाइसेंस वर्ग
यूरोपीय संघ का संशोधित उत्पाद दायित्व निर्देशLiability rules including software and AI systems as productsसार्वजनिक, EU पुन: उपयोग शर्तें
AI दायित्व पर विधि आयोग और संसदीय रिपोर्टेंAnalysis of liability options for AI and automated systemsसार्वजनिक अभिलेख, प्रति निकाय शर्तें
OECD AI Incidents MonitorRecorded incidents involving AI systemsनिःशुल्क, OECD शर्तें
यूके का स्वचालित और विद्युत वाहन अधिनियम तथा स्वचालित वाहन अधिनियमLiability allocation for automated vehiclesOpen Government Licence
न्यायालय निर्णय डेटाबेसDecisions on harm involving automated systemsसार्वजनिक अभिलेख, प्रति न्यायालय कार्यकाल
07निर्णय

कौन निर्णय लेता है, और साक्ष्य किसकी सेवा करता है।

AI और डिजिटल शासन साक्ष्य तैयार करता है। नीचे दिए निर्णय नामित प्राधिकरणों द्वारा, उनके अपने नियमों के तहत लिए जाते हैं, और कभी भी प्लेटफ़ॉर्म द्वारा नहीं।

निर्णय कौन लेता हैप्रश्नयह पृष्ठ जिस साक्ष्य की सेवा करता है
Legislatures and law commissionsHow liability rules apply to autonomous systemsComparative regimes and case evidence
तैनाती करने वाले संगठनWhat an agent may do and what controls applyControl practice and incident evidence
बीमाकर्ताWhether and how to cover AI liabilityIncident patterns and legal developments
न्यायालयWho is liable for harm in a specific caseपक्षकारों द्वारा प्रस्तुत अभिलेख; पृष्ठ केवल संदर्भ प्रदान करता है

इस विषय से उत्पन्न आउटपुट

  • Comparative notes on liability rules for software and AI
  • Guide to permission limits and controls for agent deployments
  • Dialogue briefs on allocating responsibility in multi-party AI chains
  • एजेंट दायित्व पर विधायिकाओं के लिए प्रश्न
08मूल प्रश्न

विशेषज्ञ स्वायत्त एजेंटों के बारे में क्या पूछते हैं।

  • What actions is this agent permitted to take, and how are those limits enforced technically?
  • When an agent causes harm, who is liable: the developer, the deployer, the user?
  • How can an agent’s actions be traced, reviewed and reversed?
  • How should agents interact with other agents, and who governs those interactions?
09तंत्र

Why agents raise new governance questions.

Most governance frameworks were built for systems that advise a person who then acts. Agents collapse that gap, and with it one of the main points at which errors were caught. Why now: AI agents that act on behalf of people and organisations raise questions of liability that existing rules did not foresee, and legislators are still working through them. The platform is designed to compare emerging approaches and to record open questions for decision holders, without giving legal advice.

Autonomy

समीक्षा के बिना कार्रवाई

Agents can act faster and more often than people can review, so errors can multiply before anyone notices.

Interaction

Agents meeting agents

Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.

Liability

Unclear responsibility

Existing liability rules assume a human or company acted; agents complicate who that is.

10पद्धतियाँ और सीमाएँ

Instruments for bounding agents.

  1. 01

    Permission and scope controls

    एजेंट किस तक पहुँच सकते हैं और क्या कर सकते हैं, इस पर तकनीकी सीमाएँ, जिनका अध्ययन AI मूल्यांकन और आश्वासन अभियांत्रिकीके अंतर्गत होता है। सीमाएँ: एजेंट नियंत्रणों को दरकिनार करने के अनपेक्षित रास्ते खोज सकते हैं।

  2. 02

    Logging and reversibility

    Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.

  3. 03

    Human approval thresholds

    परिभाषित जोखिम स्तरों से ऊपर मानव अनुमोदन अनिवार्य करना। सीमाएँ: संचालन धीमा हो सकता है और अनुमोदन-थकान को न्योता दे सकता है।

  4. 04

    Liability analysis

    Comparing how legal systems allocate responsibility. Limits: law is still developing.

11पद्धतियाँ

इसका अध्ययन कैसे होता है, और पद्धतियाँ क्या नहीं बता सकतीं।

  1. AI मूल्यांकन और आश्वासन अभियांत्रिकीतृतीय-पक्ष लेखा परीक्षा का दायरा · सार्वजनिक प्रणालियों में निष्पक्षता परीक्षण · परिनियोजन-पश्चात निगरानीयहाँ लागू
  2. कृत्रिम बुद्धिमत्ता और मशीन लर्निंगपरिनियोजन में मॉडल कैसे विफल होते हैं · मॉडल प्रलेखन पढ़ना · एजेंट संरचनाओं की व्याख्यायहाँ लागू
  3. नीति, संस्थागत और निर्णय विज्ञानAI व्यवस्थाओं की तुलना · मूल्य शृंखला जवाबदेही मानचित्रण · मंच और अधिदेश मानचित्रणयहाँ लागू
  4. डिजिटल पहचान और सार्वजनिक डिजिटल प्रणालियाँसार्वजनिक सेवाओं के लिए आश्वासन स्तर · न्यूनतम प्रकटीकरण · बहिष्करण विश्लेषणयहाँ लागू
12प्रश्न

प्रश्न और उत्तर।

AI एजेंट क्या है?
An AI system that pursues goals by planning and taking actions, such as calling tools, browsing, writing code or making payments, with limited step-by-step human direction.
Who is liable when an AI agent causes harm?
It depends on the jurisdiction and facts. Product liability, contract, negligence and sector rules may apply to developers, deployers or users; many questions are unsettled.
What controls limit agent harm?
सीमित अनुमतियाँ, व्यय सीमाएँ, परिणामकारी कार्रवाइयों के लिए मानवीय पुष्टि, लॉगिंग, निगरानी और एजेंट को रोकने की क्षमता।
Can an AI agent be legally responsible?
Under current law in most jurisdictions, no. Responsibility rests with people and organisations. How it is divided among them is still being worked out.
How can agent actions be kept within bounds?
Through technical permission limits, monitoring, human approval for high-risk actions and the ability to stop and reverse actions.
Does the platform test agents?
No. Technical evaluation is done at GCRI; the platform compares governance.
Why do agent interactions matter?
Because when many automated systems react to each other, small errors can amplify quickly, as sudden market moves driven by automated trading have shown.
रिपोर्टेंयोगदान दें

इस पृष्ठ से साक्ष्य का योगदान करें।

Reports कंसोर्टियम का त्रैमासिक प्रकाशन है। इस विषय के बारे में आप जो जानते हैं, वह अगले संस्करण में साक्ष्य, एक मामला या एक सुधार बन सकता है, आपको श्रेय देते हुए और जहाँ वह आपका अपना कार्य हो वहाँ CC BY 4.0 के अंतर्गत प्रकाशित।

वैश्विक जोखिम मंच (Global Risks Forum)AI और डिजिटल शासनघातांकीय प्रौद्योगिकीसाक्ष्य संक्षेप

व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।

AI और डिजिटल शासन

एक शासन प्रश्न मंच पर लाएँ।

जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।

विधिक
सभी 18 विधिक दस्तावेज़ दिखाएँ

इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।