GRF · AI और डिजिटल शासन
स्वायत्त एजेंट और दायित्व
AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.
Autonomous agents and liability on the record.
स्वायत्त एजेंट और दायित्व: जोखिम कैसे विकसित होता है।
Action boundaries and accountability. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Actions outrun intent
An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.
Many hands, unclear fault
The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.
Permissions define exposure
What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.
Law adapts slowly
Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.
सार्वजनिक एल्गोरिदम रजिस्टर।
वह स्क्रीन जिसका उपयोग कोई टीम इस विषय का अनुसरण करने के लिए करेगी: इसके माप, अवस्थाएँ और निर्णय। नाम उदाहरण हैं और मान उदाहरणात्मक हैं।
सार्वजनिक एल्गोरिदम रजिस्टर
Autonomous agents and liability · Algorithm register · Quarter 2
पंजीकृत प्रणालियाँ
| लाभ धोखाधड़ी चिह्नांकन | सामाजिक कर्तृत्व | उच्च | लुप्त | आंशिक |
| परमिट प्राथमिकता-निर्धारण | योजना | सीमित | पूर्ण | हाँ |
| विद्यालय प्रवेश | शिक्षा | उच्च | पूर्ण | हाँ |
| चैट सहायक | कर कार्यालय | न्यूनतम | पूर्ण | n/a |
निगरानी कार्रवाई
- प्रणाली
- लाभ धोखाधड़ी चिह्नांकन
- आवश्यक
- प्रभाव आकलन, अपील मार्ग
- समय-सीमा
- 77 days
- प्राधिकार
- निगरानी निकाय
स्वचालित निर्णयों के बारे में शिकायतें
क्या मापा जाता है, और कितनी अच्छी तरह।
प्रत्येक संकेतक अपनी इकाई, आवृत्ति, उसके पीछे के स्रोत का प्रकार और वह साक्ष्य लेबल वहन करता है जो किसी मान पर होगा। कोई मान नहीं दिखाए जाते: कोई कार्यक्रम उन्हें अपने अधिकार के तहत प्रदान करता है।
| संकेतक | इकाई | लय | स्रोत प्रकार | लेबल |
|---|---|---|---|---|
| Jurisdictions treating software as a product for liability | गणना | परिवर्तन होने पर | विधान | प्रकाशित सांख्यिकी |
| Court decisions on AI-caused harm | प्रकार के अनुसार गणना | वार्षिक | Case law databases | प्रकाशित सांख्यिकी |
| Agent incidents reported | हानि के प्रकार के अनुसार गणना | मासिक | घटना डेटाबेस | रिपोर्ट किया गया |
| Deployments with documented permission limits | share of surveyed deployments | आवधिक | Surveys and audits | घोषित |
| Insurance products covering AI liability | count of offerings | वार्षिक | Market reports | रिपोर्ट किया गया |
| Regulatory guidance on agentic AI | दस्तावेज़ों की संख्या | वार्षिक | Regulator publications | प्रकाशित सांख्यिकी |
How autonomous agents and liability is governed: instruments, mandates and commitments.
वे उपकरण, अधिदेश, कर्ता और जवाबदेही व्यवस्थाएँ जिनके साथ कोई नीति-निर्माता, राजनयिक या विकास एजेंसी काम करती है, उन्हें तय करने वाले समझौतों का हवाला देते हुए। संरचनाएँ नामित ढाँचों का अनुसरण करती हैं। जो भी स्थिति या प्रगति दिखाई गई है वह उदाहरणात्मक है, रिकॉर्ड नहीं।
नीति साधन मैट्रिक्स
स्वायत्त एजेंटों और दायित्व पर उपलब्ध लिखतों के प्रकार, सरकार और सहयोग के स्तर के अनुसार।
| साधन प्रकार | स्थानीय | राष्ट्रीय | क्षेत्रीय | वैश्विक |
|---|---|---|---|---|
| नियामक | ज़ोनिंग, भवन संहिताएँ | कानून, मानक, लाइसेंसिंग | सामंजस्यपूर्ण नियम | अभिसमय और संधियाँ |
| आर्थिक | स्थानीय शुल्क, अनुदान | बजट मद, कर, बीमा योजनाएँ | जोखिम पूल, क्षेत्रीय कोष | वित्तपोषण तंत्र |
| जानकारी | स्थानीय चेतावनियाँ | प्रकटीकरण, पूर्व चेतावनी, सांख्यिकी | डेटा साझाकरण व्यवस्थाएँ | वैश्विक निगरानी और रिपोर्टिंग |
| संस्थागत | स्थानीय समितियाँ | प्रमुख एजेंसियाँ, समन्वय परिषदें | क्षेत्रीय निकाय और सचिवालय | बहुपक्षीय अधिदेश |
| सहकारी | सामुदायिक समझौते | साझेदारी समझौते | समझौता ज्ञापन और संयुक्त कार्यक्रम | समझौते और संयुक्त प्रतिबद्धताएँ |
साक्ष्य कहाँ से आता है।
नामित सार्वजनिक डेटासेट और संस्थागत अभिलेख, प्रत्येक अपने लाइसेंस वर्ग के साथ। समझौते द्वारा प्राप्त स्रोतों का उपयोग केवल उनकी शर्तों के तहत होता है और कभी पुनः प्रकाशित नहीं किया जाता।
| स्रोत | यह क्या देता है | लाइसेंस वर्ग |
|---|---|---|
| यूरोपीय संघ का संशोधित उत्पाद दायित्व निर्देश | Liability rules including software and AI systems as products | सार्वजनिक, EU पुन: उपयोग शर्तें |
| AI दायित्व पर विधि आयोग और संसदीय रिपोर्टें | Analysis of liability options for AI and automated systems | सार्वजनिक अभिलेख, प्रति निकाय शर्तें |
| OECD AI Incidents Monitor | Recorded incidents involving AI systems | निःशुल्क, OECD शर्तें |
| यूके का स्वचालित और विद्युत वाहन अधिनियम तथा स्वचालित वाहन अधिनियम | Liability allocation for automated vehicles | Open Government Licence |
| न्यायालय निर्णय डेटाबेस | Decisions on harm involving automated systems | सार्वजनिक अभिलेख, प्रति न्यायालय कार्यकाल |
कौन निर्णय लेता है, और साक्ष्य किसकी सेवा करता है।
AI और डिजिटल शासन साक्ष्य तैयार करता है। नीचे दिए निर्णय नामित प्राधिकरणों द्वारा, उनके अपने नियमों के तहत लिए जाते हैं, और कभी भी प्लेटफ़ॉर्म द्वारा नहीं।
| निर्णय कौन लेता है | प्रश्न | यह पृष्ठ जिस साक्ष्य की सेवा करता है |
|---|---|---|
| Legislatures and law commissions | How liability rules apply to autonomous systems | Comparative regimes and case evidence |
| तैनाती करने वाले संगठन | What an agent may do and what controls apply | Control practice and incident evidence |
| बीमाकर्ता | Whether and how to cover AI liability | Incident patterns and legal developments |
| न्यायालय | Who is liable for harm in a specific case | पक्षकारों द्वारा प्रस्तुत अभिलेख; पृष्ठ केवल संदर्भ प्रदान करता है |
इस विषय से उत्पन्न आउटपुट
- Comparative notes on liability rules for software and AI
- Guide to permission limits and controls for agent deployments
- Dialogue briefs on allocating responsibility in multi-party AI chains
- एजेंट दायित्व पर विधायिकाओं के लिए प्रश्न
विशेषज्ञ स्वायत्त एजेंटों के बारे में क्या पूछते हैं।
- What actions is this agent permitted to take, and how are those limits enforced technically?
- When an agent causes harm, who is liable: the developer, the deployer, the user?
- How can an agent’s actions be traced, reviewed and reversed?
- How should agents interact with other agents, and who governs those interactions?
Why agents raise new governance questions.
Most governance frameworks were built for systems that advise a person who then acts. Agents collapse that gap, and with it one of the main points at which errors were caught. Why now: AI agents that act on behalf of people and organisations raise questions of liability that existing rules did not foresee, and legislators are still working through them. The platform is designed to compare emerging approaches and to record open questions for decision holders, without giving legal advice.
समीक्षा के बिना कार्रवाई
Agents can act faster and more often than people can review, so errors can multiply before anyone notices.
Agents meeting agents
Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.
Unclear responsibility
Existing liability rules assume a human or company acted; agents complicate who that is.
Instruments for bounding agents.
- 01
Permission and scope controls
एजेंट किस तक पहुँच सकते हैं और क्या कर सकते हैं, इस पर तकनीकी सीमाएँ, जिनका अध्ययन AI मूल्यांकन और आश्वासन अभियांत्रिकीके अंतर्गत होता है। सीमाएँ: एजेंट नियंत्रणों को दरकिनार करने के अनपेक्षित रास्ते खोज सकते हैं।
- 02
Logging and reversibility
Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.
- 03
Human approval thresholds
परिभाषित जोखिम स्तरों से ऊपर मानव अनुमोदन अनिवार्य करना। सीमाएँ: संचालन धीमा हो सकता है और अनुमोदन-थकान को न्योता दे सकता है।
- 04
Liability analysis
Comparing how legal systems allocate responsibility. Limits: law is still developing.
इसका अध्ययन कैसे होता है, और पद्धतियाँ क्या नहीं बता सकतीं।
- 01AI मूल्यांकन और आश्वासन अभियांत्रिकीतृतीय-पक्ष लेखा परीक्षा का दायरा · सार्वजनिक प्रणालियों में निष्पक्षता परीक्षण · परिनियोजन-पश्चात निगरानीयहाँ लागू
- 02कृत्रिम बुद्धिमत्ता और मशीन लर्निंगपरिनियोजन में मॉडल कैसे विफल होते हैं · मॉडल प्रलेखन पढ़ना · एजेंट संरचनाओं की व्याख्यायहाँ लागू
- 03नीति, संस्थागत और निर्णय विज्ञानAI व्यवस्थाओं की तुलना · मूल्य शृंखला जवाबदेही मानचित्रण · मंच और अधिदेश मानचित्रणयहाँ लागू
- 04डिजिटल पहचान और सार्वजनिक डिजिटल प्रणालियाँसार्वजनिक सेवाओं के लिए आश्वासन स्तर · न्यूनतम प्रकटीकरण · बहिष्करण विश्लेषणयहाँ लागू
प्रश्न और उत्तर।
AI एजेंट क्या है?
Who is liable when an AI agent causes harm?
What controls limit agent harm?
Can an AI agent be legally responsible?
How can agent actions be kept within bounds?
Does the platform test agents?
Why do agent interactions matter?
इस पृष्ठ से साक्ष्य का योगदान करें।
Reports कंसोर्टियम का त्रैमासिक प्रकाशन है। इस विषय के बारे में आप जो जानते हैं, वह अगले संस्करण में साक्ष्य, एक मामला या एक सुधार बन सकता है, आपको श्रेय देते हुए और जहाँ वह आपका अपना कार्य हो वहाँ CC BY 4.0 के अंतर्गत प्रकाशित।
- ईमेलप्रवेश द्वार GW-GRFइसे इसी पृष्ठ से भेजेंसाक्ष्य, सुधार, मामला, पद्धति, समीक्षा, अनुवाद या प्रोफ़ाइल इनपुट। यह इस पृष्ठ के टैग के साथ पहुँचता है, ताकि इसे सँभालने वाले संपादक को मिल जाए।
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- रिपोर्टेंवैश्विक जोखिम मंच (Global Risks Forum)योगदान के सभी तरीके देखेंयोगदान के प्रकार, प्रत्येक की समीक्षा कैसे होती है, आपको क्या श्रेय मिलता है, लाइसेंस और क्या कभी स्वीकार नहीं किया जाता।
व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।
एक शासन प्रश्न मंच पर लाएँ।
जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।
कानूनी दस्तावेज़।
सभी 18 विधिक दस्तावेज़ दिखाएँ
इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।