GRF · حوكمة الذكاء الاصطناعي والمجال الرقمي
الوكلاء المستقلون والمسؤولية
AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.
Autonomous agents and liability on the record.
Autonomous agents and liability: how the risk develops.
Action boundaries and accountability. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Actions outrun intent
An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.
Many hands, unclear fault
The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.
Permissions define exposure
What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.
Law adapts slowly
Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.
سجل الخوارزميات العام.
الشاشة التي قد يستخدمها فريق لمتابعة هذا الموضوع: مقاييسه وحالاته وقراراته. والأسماء أمثلة والقيم توضيحية.
سجل الخوارزميات العام
Autonomous agents and liability · Algorithm register · Quarter 2
النظم المسجّلة
| الإبلاغ عن الاحتيال في الاستحقاقات | الفاعلية الاجتماعية | مرتفع | مفقود | جزئي |
| فرز التصاريح | التخطيط | محدود | تم | نعم |
| إلحاق التلاميذ بالمدارس | التعليم | مرتفع | تم | نعم |
| المساعد الحواري | مصلحة الضرائب | ضئيل | تم | n/a |
إجراء رقابي
- النظام
- الإبلاغ عن الاحتيال في الاستحقاقات
- مطلوب
- تقييم الأثر، مسار الطعن
- الموعد النهائي
- 77 days
- الجهة
- هيئة الرقابة
الشكاوى المتعلقة بالقرارات الآلية
ما الذي يُقاس، ومدى جودة قياسه.
يحمل كل مؤشر وحدته ووتيرته ونوع المصدر الذي يستند إليه ووسم الأدلة الذي ستحمله القيمة. ولا تُعرض أي قيم: فالبرنامج يقدّمها بموجب سلطته الخاصة.
| المؤشر | الوحدة | وتيرة الإصدار | نوع المصدر | الوسم |
|---|---|---|---|---|
| Jurisdictions treating software as a product for liability | العدد | عند التغيير | التشريعات | الإحصاءات المنشورة |
| Court decisions on AI-caused harm | العدد حسب النوع | سنوي | Case law databases | الإحصاءات المنشورة |
| Agent incidents reported | العدد حسب نوع الضرر | شهري | قواعد بيانات الحوادث | مُبلَّغ عنه |
| Deployments with documented permission limits | share of surveyed deployments | دوري | Surveys and audits | مُعلَن |
| Insurance products covering AI liability | count of offerings | سنوي | Market reports | مُبلَّغ عنه |
| Regulatory guidance on agentic AI | count of documents | سنوي | Regulator publications | الإحصاءات المنشورة |
How autonomous agents and liability is governed: instruments, mandates and commitments.
الأدوات والتكليفات والجهات الفاعلة وترتيبات المساءلة التي يعمل بها صانعو السياسات والدبلوماسيون ووكالات التنمية، مع الإشارة إلى الاتفاقات التي تقررها. وتتبع البنى الأطر المذكورة. وأي حالة أو تقدّم معروض فهو توضيحي وليس سجلًا.
مصفوفة أدوات السياسات
The kinds of instrument available on autonomous agents and liability, by level of government and cooperation.
| نوع الأداة | محلي | وطني | إقليمي | عالميًا |
|---|---|---|---|---|
| تنظيمي | تقسيم المناطق ومدونات البناء | القوانين والمعايير والترخيص | قواعد منسّقة | الاتفاقيات والمعاهدات |
| الاقتصادية | الرسوم المحلية والمنح | بنود الميزانية والضرائب ومخططات التأمين | مجمّعات المخاطر والصناديق الإقليمية | آليات التمويل |
| المعلومات | التحذيرات المحلية | الإفصاح والإنذار المبكر والإحصاءات | ترتيبات تبادل البيانات | الرصد والإبلاغ على الصعيد العالمي |
| مؤسسي | اللجان المحلية | الوكالات الرائدة ومجالس التنسيق | الهيئات والأمانات الإقليمية | الولايات المتعددة الأطراف |
| تعاوني | اتفاقات المجتمعات | اتفاقات الشراكة | مذكرات التفاهم والبرامج المشتركة | الاتفاقات والالتزامات المشتركة |
من أين تأتي الأدلة.
مجموعات بيانات عامة مسمّاة وسجلات مؤسسية، لكلٍّ منها فئة ترخيصها. ولا تُستخدم المصادر المتاحة بموجب اتفاق إلا وفق شروطها، ولا يُعاد نشرها أبدًا.
| المصدر | ما يقدّمه | فئة الترخيص |
|---|---|---|
| EU revised Product Liability Directive | Liability rules including software and AI systems as products | عام، بشروط إعادة الاستخدام في الاتحاد الأوروبي |
| Law commission and parliamentary reports on AI liability | Analysis of liability options for AI and automated systems | السجلات العامة، وفق شروط كل هيئة |
| مرصد حوادث الذكاء الاصطناعي لمنظمة التعاون الاقتصادي والتنمية (OECD AI Incidents Monitor) | Recorded incidents involving AI systems | مجاني، بشروط OECD |
| UK Automated and Electric Vehicles Act and Automated Vehicles Act | Liability allocation for automated vehicles | ترخيص الحكومة المفتوح (Open Government Licence) |
| Court judgment databases | Decisions on harm involving automated systems | Public records, terms per court |
من يقرر، وما الذي تخدمه الأدلة.
تُعِدّ حوكمة الذكاء الاصطناعي والمجال الرقمي الأدلة. أما القرارات أدناه فتتخذها السلطات المسمّاة، وفق قواعدها الخاصة، ولا تتخذها المنصة أبدًا.
| من يقرر | السؤال | الأدلة التي تخدمها هذه الصفحة |
|---|---|---|
| Legislatures and law commissions | How liability rules apply to autonomous systems | Comparative regimes and case evidence |
| Deploying organisations | What an agent may do and what controls apply | Control practice and incident evidence |
| شركات التأمين | Whether and how to cover AI liability | Incident patterns and legal developments |
| المحاكم | Who is liable for harm in a specific case | سجلات تقدّمها الأطراف؛ والصفحة تقدّم السياق فقط |
المخرجات التي يُنتجها هذا الموضوع
- Comparative notes on liability rules for software and AI
- Guide to permission limits and controls for agent deployments
- Dialogue briefs on allocating responsibility in multi-party AI chains
- Questions for legislatures on agent liability
What experts ask about autonomous agents.
- What actions is this agent permitted to take, and how are those limits enforced technically?
- When an agent causes harm, who is liable: the developer, the deployer, the user?
- How can an agent’s actions be traced, reviewed and reversed?
- How should agents interact with other agents, and who governs those interactions?
Why agents raise new governance questions.
Most governance frameworks were built for systems that advise a person who then acts. Agents collapse that gap, and with it one of the main points at which errors were caught. Why now: AI agents that act on behalf of people and organisations raise questions of liability that existing rules did not foresee, and legislators are still working through them. The platform is designed to compare emerging approaches and to record open questions for decision holders, without giving legal advice.
Action without review
Agents can act faster and more often than people can review, so errors can multiply before anyone notices.
Agents meeting agents
Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.
Unclear responsibility
Existing liability rules assume a human or company acted; agents complicate who that is.
Instruments for bounding agents.
- 01
Permission and scope controls
Technical limits on what agents can access and do, studied under AI evaluation and assurance engineering. Limits: agents may find unintended routes around controls.
- 02
Logging and reversibility
Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.
- 03
Human approval thresholds
Requiring human sign-off above defined risk levels. Limits: can slow operations and invite approval fatigue.
- 04
Liability analysis
Comparing how legal systems allocate responsibility. Limits: law is still developing.
كيف يُدرس، وما لا تستطيع المناهج قوله.
- 01هندسة تقييم الذكاء الاصطناعي وضمانهنطاق التدقيق من طرف ثالث · اختبار الإنصاف في النظم العامة · الرصد بعد النشرمُطبَّق هنا
- 02الذكاء الاصطناعي وتعلم الآلةكيف تخفق النماذج عند النشر · قراءة توثيق النماذج · شرح بنى الوكلاءمُطبَّق هنا
- 03علوم السياسات والمؤسسات والقرارمقارنة أنظمة الذكاء الاصطناعي · رسم خرائط المساءلة في سلسلة القيمة · رسم خرائط المحافل والولاياتمُطبَّق هنا
- 04الهوية الرقمية والنظم الرقمية العامةمستويات الضمان للخدمات العامة · الحد الأدنى من الإفصاح · تحليل الإقصاءمُطبَّق هنا
أسئلة وأجوبة.
ما المقصود بوكيل الذكاء الاصطناعي؟
Who is liable when an AI agent causes harm?
What controls limit agent harm?
Can an AI agent be legally responsible?
How can agent actions be kept within bounds?
Does the platform test agents?
Why do agent interactions matter?
ساهم بأدلة من هذه الصفحة.
Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.
- البريد الإلكترونيالبوابة GW-GRFأرسله من هذه الصفحةدليل أو تصحيح أو حالة أو أسلوب أو مراجعة أو ترجمة أو مدخل لملف قُطري. يصل موسومًا بهذه الصفحة، فيتلقاه المحرر المسؤول عنها.
- Zenodoإيداع مفتوحأودِعه وقدّمه إلى المجتمعانشر سجلك الخاص على Zenodo بمعرّف ORCID iD الخاص بك، ثم قدّمه إلى مجتمع Reports هناك. يراجعه القيّمون، ويبقى معرّف DOI ملكًا لك.
- ReportsGlobal Risks Forumاطّلع على جميع سبل المساهمةأنواع المساهمات، وكيفية مراجعة كل منها، والإسناد الذي تحصل عليه، والترخيص، وما لا يُقبل أبداً.
لا ترسل أبدًا بيانات شخصية أو تفاصيل حساسة عن البنية التحتية أو أي شيء لا يحق لك مشاركته. تُراجَع المساهمة قبل استخدامها؛ ولا يمنح إرسالها أي حقوق تأليف أو تحرير، ولا تشتري الرعاية أي نتيجة أبدًا.
اعرض مسألة حوكمة على المنتدى.
المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.
الوثائق القانونية.
عرض جميع الوثائق القانونية الـ18
تُعرض الخرائط والبيانات والأشكال في هذا الموقع للسياق والمعلومات العامة. وهي ليست نصيحة ولا توقعات ولا إنذارات؛ وحدود المعلومات مبيّنة في إخلاءات المسؤولية وإشعارات البيانات.