Skip to content

GRF · هوش مصنوعی و حکمرانی دیجیتال

عامل‌های خودمختار و مسئولیت حقوقی

AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.

01ثبت

Autonomous agents and liability on the record.

02پرسش

Autonomous agents and liability: how the risk develops.

Action boundaries and accountability. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

سازوکار

Actions outrun intent

An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.

سازوکار

Many hands, unclear fault

The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.

سازوکار

Permissions define exposure

What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.

سازوکار

Law adapts slowly

Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.

03پایش

فهرست عمومی الگوریتم‌ها.

صفحه‌ای که یک تیم برای پیگیری این موضوع به کار می‌برد: سنجه‌ها، وضعیت‌ها و تصمیم‌های آن. نام‌ها نمونه‌اند و مقادیر نمایشی.

فهرست عمومی الگوریتم‌ها

Autonomous agents and liability · Algorithm register · Quarter 2

دو سامانهٔ پرریسک بدون ارزیابیGRF · هوش مصنوعی و حکمرانی دیجیتال

سامانه‌های ثبت‌شده

نشانه‌گذاری تقلب در مزایاکنشگری اجتماعیزیادناموجودجزئی
اولویت‌بندی مجوزهابرنامه‌ریزیمحدودانجام شدبله
جایابی مدرسهآموزشزیادانجام شدبله
دستیار گفت‌وگواداره مالیاتحداقلیانجام شدناموجود

اقدام نظارتی

سامانه
نشانه‌گذاری تقلب در مزایا
الزامی
ارزیابی اثر، مسیر تجدیدنظر
مهلت
77 days
مرجع
نهاد نظارت

شکایت دربارهٔ تصمیم‌های خودکار

Public algorithm register: the screen’s structure, terms and states for Autonomous agents and liability.Example names and illustrative values; a design, not a record or a live system.
04نشانگرها

چه چیزی اندازه‌گیری می‌شود و با چه کیفیتی.

هر نشانگر واحد، بسامد به‌روزرسانی، نوع منبع پشت آن و برچسب شواهدی را که یک مقدار می‌داشت، همراه دارد. هیچ مقداری نشان داده نمی‌شود: یک برنامه آن‌ها را تحت اختیار خود فراهم می‌کند.

نشانگرواحدتناوبنوع منبعبرچسب
Jurisdictions treating software as a product for liabilityشمارشهنگام تغییرقانون‌گذاریآمارهای منتشرشده
Court decisions on AI-caused harmتعداد بر حسب نوعسالانهCase law databasesآمارهای منتشرشده
Agent incidents reportedشمار به تفکیک نوع آسیبماهانهپایگاه‌های داده رخدادهاگزارش‌شده
Deployments with documented permission limitsshare of surveyed deploymentsدوره‌ایSurveys and auditsDECLARED
Insurance products covering AI liabilitycount of offeringsسالانهMarket reportsگزارش‌شده
Regulatory guidance on agentic AIcount of documentsسالانهRegulator publicationsآمارهای منتشرشده
05ابزارها و تعهدها

چگونگی حکمرانی عامل‌های خودمختار و مسئولیت حقوقی: ابزارها، مأموریت‌ها و تعهدها.

ابزارها، مأموریت‌ها، کنشگران و ترتیبات پاسخگویی‌ای که یک سیاست‌گذار، دیپلمات یا نهاد توسعه با آن‌ها کار می‌کند، با ذکر توافق‌هایی که آن‌ها را تعیین کرده‌اند. ساختارها از چارچوب‌های نام‌برده پیروی می‌کنند. هر وضعیت یا پیشرفتی که ترسیم شده گویاست، نه سابقه.

ماتریس ابزارهای سیاستی

The kinds of instrument available on autonomous agents and liability, by level of government and cooperation.

نوع ابزارمحلیملیمنطقه‌ایجهانی
مقرراتیپهنه‌بندی، مقررات ساختمانیقوانین، استانداردها، پروانه‌دهیقواعد همسازکنوانسیون‌ها و معاهدات
اقتصادیعوارض و کمک‌های محلیسطرهای بودجه، مالیات‌ها، طرح‌های بیمهصندوق‌های ریسک، صندوق‌های منطقه‌ایسازوکارهای تأمین مالی
اطلاعاتهشدارهای محلیافشا، هشدار زودهنگام، آمارترتیبات تسهیم دادهپایش و گزارش‌دهی جهانی
نهادیکمیته‌های محلینهادهای راهبر، شوراهای هماهنگینهادها و دبیرخانه‌های منطقه‌ایمأموریت‌های چندجانبه
تعاونیتوافق‌های اجتماعیموافقت‌نامه‌های مشارکتتفاهم‌نامه‌ها و برنامه‌های مشترکتوافق‌ها و تعهدهای مشترک
A typology after the OECD Recommendation on the Governance of Critical Risks; examples of instrument types, not an inventory of any country’s measures.
Sendai Framework for Disaster Risk Reduction · UNDRRParis Agreement · UNFCCC2030 Agenda and the Sustainable Development Goals · United NationsInternational Health Regulations · WHO
06منابع

شواهد از کجا می‌آیند.

مجموعه‌داده‌های عمومی و سوابق نهادی نام‌برده، هر یک با ردهٔ پروانهٔ خود. منابع مبتنی بر توافق تنها بر پایهٔ شرایطشان به کار می‌روند و هرگز بازنشر نمی‌شوند.

منبعآنچه فراهم می‌کندرستهٔ پروانه
EU revised Product Liability DirectiveLiability rules including software and AI systems as productsعمومی، با شرایط استفادهٔ مجدد اتحادیهٔ اروپا
گزارش‌های کمیسیون حقوقی و پارلمانی دربارهٔ مسئولیت حقوقی هوش مصنوعیAnalysis of liability options for AI and automated systemsسوابق عمومی، شرایط بر حسب هر نهاد
OECD AI Incidents MonitorRecorded incidents involving AI systemsرایگان، شرایط OECD
UK Automated and Electric Vehicles Act and Automated Vehicles ActLiability allocation for automated vehiclesOpen Government Licence (پروانهٔ دولت باز)
Court judgment databasesDecisions on harm involving automated systemsPublic records, terms per court
07تصمیم‌ها

چه کسی تصمیم می‌گیرد و شواهد در خدمت چیست.

هوش مصنوعی و حکمرانی دیجیتال شواهد را آماده می‌کند. تصمیم‌های زیر را مراجع نام‌برده بر پایهٔ قواعد خود می‌گیرند، و هرگز سکو.

چه کسی تصمیم می‌گیردپرسششواهدی که این صفحه به آن‌ها خدمت می‌کند
Legislatures and law commissionsHow liability rules apply to autonomous systemsComparative regimes and case evidence
سازمان‌های به‌کارگیرندهWhat an agent may do and what controls applyControl practice and incident evidence
بیمه‌گراناینکه آیا و چگونه مسئولیت ناشی از هوش مصنوعی را پوشش دهیمIncident patterns and legal developments
دادگاه‌هاWho is liable for harm in a specific caseسوابقی که طرف‌ها ارائه کرده‌اند؛ صفحه تنها بافتار را ارائه می‌کند

خروجی‌هایی که این موضوع تولید می‌کند

  • Comparative notes on liability rules for software and AI
  • Guide to permission limits and controls for agent deployments
  • Dialogue briefs on allocating responsibility in multi-party AI chains
  • Questions for legislatures on agent liability
08پرسش‌های اصلی

What experts ask about autonomous agents.

  • What actions is this agent permitted to take, and how are those limits enforced technically?
  • When an agent causes harm, who is liable: the developer, the deployer, the user?
  • How can an agent’s actions be traced, reviewed and reversed?
  • How should agents interact with other agents, and who governs those interactions?
09سازوکارها

Why agents raise new governance questions.

Most governance frameworks were built for systems that advise a person who then acts. Agents collapse that gap, and with it one of the main points at which errors were caught. Why now: AI agents that act on behalf of people and organisations raise questions of liability that existing rules did not foresee, and legislators are still working through them. The platform is designed to compare emerging approaches and to record open questions for decision holders, without giving legal advice.

Autonomy

Action without review

Agents can act faster and more often than people can review, so errors can multiply before anyone notices.

Interaction

Agents meeting agents

Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.

Liability

مسئولیت نامشخص

قواعد مسئولیت موجود فرض می‌کنند که انسان یا شرکتی اقدام کرده است؛ عامل‌ها تعیین این فرد را پیچیده می‌کنند.

10روش‌ها و محدودیت‌ها

Instruments for bounding agents.

  1. 01

    Permission and scope controls

    Technical limits on what agents can access and do, studied under AI evaluation and assurance engineering. Limits: agents may find unintended routes around controls.

  2. 02

    Logging and reversibility

    Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.

  3. 03

    Human approval thresholds

    Requiring human sign-off above defined risk levels. Limits: can slow operations and invite approval fatigue.

  4. 04

    Liability analysis

    Comparing how legal systems allocate responsibility. Limits: law is still developing.

11روش‌ها

چگونه مطالعه می‌شود و آنچه روش‌ها نمی‌توانند بگویند.

12پرسش‌ها

پرسش و پاسخ.

What is an AI agent?
An AI system that pursues goals by planning and taking actions, such as calling tools, browsing, writing code or making payments, with limited step-by-step human direction.
Who is liable when an AI agent causes harm?
It depends on the jurisdiction and facts. Product liability, contract, negligence and sector rules may apply to developers, deployers or users; many questions are unsettled.
What controls limit agent harm?
Restricted permissions, spending limits, human confirmation for consequential actions, logging, monitoring and the ability to stop the agent.
Can an AI agent be legally responsible?
Under current law in most jurisdictions, no. Responsibility rests with people and organisations. How it is divided among them is still being worked out.
How can agent actions be kept within bounds?
Through technical permission limits, monitoring, human approval for high-risk actions and the ability to stop and reverse actions.
Does the platform test agents?
خیر. ارزیابی فنی در GCRIانجام می‌شود؛ این سکو حکمرانی را مقایسه می‌کند.
Why do agent interactions matter?
Because when many automated systems react to each other, small errors can amplify quickly, as sudden market moves driven by automated trading have shown.
گزارش‌هامشارکت

از همین صفحه شواهد بیفزایید.

Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع می‌دانید می‌تواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.

⁨Global Risks Forum⁩هوش مصنوعی و حکمرانی دیجیتالفناوری نماییگزارش مختصر شواهد
هوش مصنوعی و حکمرانی دیجیتال

پرسش حکمرانی خود را نزد Forum بیاورید.

اطلاعات و پرسش‌ها از امروز باز است. هر پرسش شمارهٔ مرجعی می‌گیرد و گام بعد را نام می‌برد؛ درخواست‌ها، پرداخت‌ها، تخصیص توان رایانشی و ثبت‌نام‌ها تنها زمانی باز می‌شوند که تیم، شرایط و ظرفیت بررسی آن‌ها فراهم باشد.