GRF · هوش مصنوعی و حکمرانی دیجیتال
عاملهای خودمختار و مسئولیت حقوقی
AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.
Autonomous agents and liability on the record.
Autonomous agents and liability: how the risk develops.
Action boundaries and accountability. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Actions outrun intent
An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.
Many hands, unclear fault
The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.
Permissions define exposure
What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.
Law adapts slowly
Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.
فهرست عمومی الگوریتمها.
صفحهای که یک تیم برای پیگیری این موضوع به کار میبرد: سنجهها، وضعیتها و تصمیمهای آن. نامها نمونهاند و مقادیر نمایشی.
فهرست عمومی الگوریتمها
Autonomous agents and liability · Algorithm register · Quarter 2
سامانههای ثبتشده
| نشانهگذاری تقلب در مزایا | کنشگری اجتماعی | زیاد | ناموجود | جزئی |
| اولویتبندی مجوزها | برنامهریزی | محدود | انجام شد | بله |
| جایابی مدرسه | آموزش | زیاد | انجام شد | بله |
| دستیار گفتوگو | اداره مالیات | حداقلی | انجام شد | ناموجود |
اقدام نظارتی
- سامانه
- نشانهگذاری تقلب در مزایا
- الزامی
- ارزیابی اثر، مسیر تجدیدنظر
- مهلت
- 77 days
- مرجع
- نهاد نظارت
شکایت دربارهٔ تصمیمهای خودکار
چه چیزی اندازهگیری میشود و با چه کیفیتی.
هر نشانگر واحد، بسامد بهروزرسانی، نوع منبع پشت آن و برچسب شواهدی را که یک مقدار میداشت، همراه دارد. هیچ مقداری نشان داده نمیشود: یک برنامه آنها را تحت اختیار خود فراهم میکند.
| نشانگر | واحد | تناوب | نوع منبع | برچسب |
|---|---|---|---|---|
| Jurisdictions treating software as a product for liability | شمارش | هنگام تغییر | قانونگذاری | آمارهای منتشرشده |
| Court decisions on AI-caused harm | تعداد بر حسب نوع | سالانه | Case law databases | آمارهای منتشرشده |
| Agent incidents reported | شمار به تفکیک نوع آسیب | ماهانه | پایگاههای داده رخدادها | گزارششده |
| Deployments with documented permission limits | share of surveyed deployments | دورهای | Surveys and audits | DECLARED |
| Insurance products covering AI liability | count of offerings | سالانه | Market reports | گزارششده |
| Regulatory guidance on agentic AI | count of documents | سالانه | Regulator publications | آمارهای منتشرشده |
چگونگی حکمرانی عاملهای خودمختار و مسئولیت حقوقی: ابزارها، مأموریتها و تعهدها.
ابزارها، مأموریتها، کنشگران و ترتیبات پاسخگوییای که یک سیاستگذار، دیپلمات یا نهاد توسعه با آنها کار میکند، با ذکر توافقهایی که آنها را تعیین کردهاند. ساختارها از چارچوبهای نامبرده پیروی میکنند. هر وضعیت یا پیشرفتی که ترسیم شده گویاست، نه سابقه.
ماتریس ابزارهای سیاستی
The kinds of instrument available on autonomous agents and liability, by level of government and cooperation.
| نوع ابزار | محلی | ملی | منطقهای | جهانی |
|---|---|---|---|---|
| مقرراتی | پهنهبندی، مقررات ساختمانی | قوانین، استانداردها، پروانهدهی | قواعد همساز | کنوانسیونها و معاهدات |
| اقتصادی | عوارض و کمکهای محلی | سطرهای بودجه، مالیاتها، طرحهای بیمه | صندوقهای ریسک، صندوقهای منطقهای | سازوکارهای تأمین مالی |
| اطلاعات | هشدارهای محلی | افشا، هشدار زودهنگام، آمار | ترتیبات تسهیم داده | پایش و گزارشدهی جهانی |
| نهادی | کمیتههای محلی | نهادهای راهبر، شوراهای هماهنگی | نهادها و دبیرخانههای منطقهای | مأموریتهای چندجانبه |
| تعاونی | توافقهای اجتماعی | موافقتنامههای مشارکت | تفاهمنامهها و برنامههای مشترک | توافقها و تعهدهای مشترک |
شواهد از کجا میآیند.
مجموعهدادههای عمومی و سوابق نهادی نامبرده، هر یک با ردهٔ پروانهٔ خود. منابع مبتنی بر توافق تنها بر پایهٔ شرایطشان به کار میروند و هرگز بازنشر نمیشوند.
| منبع | آنچه فراهم میکند | رستهٔ پروانه |
|---|---|---|
| EU revised Product Liability Directive | Liability rules including software and AI systems as products | عمومی، با شرایط استفادهٔ مجدد اتحادیهٔ اروپا |
| گزارشهای کمیسیون حقوقی و پارلمانی دربارهٔ مسئولیت حقوقی هوش مصنوعی | Analysis of liability options for AI and automated systems | سوابق عمومی، شرایط بر حسب هر نهاد |
| OECD AI Incidents Monitor | Recorded incidents involving AI systems | رایگان، شرایط OECD |
| UK Automated and Electric Vehicles Act and Automated Vehicles Act | Liability allocation for automated vehicles | Open Government Licence (پروانهٔ دولت باز) |
| Court judgment databases | Decisions on harm involving automated systems | Public records, terms per court |
چه کسی تصمیم میگیرد و شواهد در خدمت چیست.
هوش مصنوعی و حکمرانی دیجیتال شواهد را آماده میکند. تصمیمهای زیر را مراجع نامبرده بر پایهٔ قواعد خود میگیرند، و هرگز سکو.
| چه کسی تصمیم میگیرد | پرسش | شواهدی که این صفحه به آنها خدمت میکند |
|---|---|---|
| Legislatures and law commissions | How liability rules apply to autonomous systems | Comparative regimes and case evidence |
| سازمانهای بهکارگیرنده | What an agent may do and what controls apply | Control practice and incident evidence |
| بیمهگران | اینکه آیا و چگونه مسئولیت ناشی از هوش مصنوعی را پوشش دهیم | Incident patterns and legal developments |
| دادگاهها | Who is liable for harm in a specific case | سوابقی که طرفها ارائه کردهاند؛ صفحه تنها بافتار را ارائه میکند |
خروجیهایی که این موضوع تولید میکند
- Comparative notes on liability rules for software and AI
- Guide to permission limits and controls for agent deployments
- Dialogue briefs on allocating responsibility in multi-party AI chains
- Questions for legislatures on agent liability
What experts ask about autonomous agents.
- What actions is this agent permitted to take, and how are those limits enforced technically?
- When an agent causes harm, who is liable: the developer, the deployer, the user?
- How can an agent’s actions be traced, reviewed and reversed?
- How should agents interact with other agents, and who governs those interactions?
Why agents raise new governance questions.
Most governance frameworks were built for systems that advise a person who then acts. Agents collapse that gap, and with it one of the main points at which errors were caught. Why now: AI agents that act on behalf of people and organisations raise questions of liability that existing rules did not foresee, and legislators are still working through them. The platform is designed to compare emerging approaches and to record open questions for decision holders, without giving legal advice.
Action without review
Agents can act faster and more often than people can review, so errors can multiply before anyone notices.
Agents meeting agents
Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.
مسئولیت نامشخص
قواعد مسئولیت موجود فرض میکنند که انسان یا شرکتی اقدام کرده است؛ عاملها تعیین این فرد را پیچیده میکنند.
Instruments for bounding agents.
- 01
Permission and scope controls
Technical limits on what agents can access and do, studied under AI evaluation and assurance engineering. Limits: agents may find unintended routes around controls.
- 02
Logging and reversibility
Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.
- 03
Human approval thresholds
Requiring human sign-off above defined risk levels. Limits: can slow operations and invite approval fatigue.
- 04
Liability analysis
Comparing how legal systems allocate responsibility. Limits: law is still developing.
چگونه مطالعه میشود و آنچه روشها نمیتوانند بگویند.
- 01مهندسی ارزیابی و اطمینانبخشی هوش مصنوعیدامنهٔ حسابرسی شخص ثالث · آزمون انصاف در سامانههای عمومی · پایش پس از بهکارگیریکاربرد در اینجا
- 02هوش مصنوعی و یادگیری ماشینمدلها در بهکارگیری چگونه شکست میخورند · خواندن مستندات مدل · توضیح معماریهای عاملکاربرد در اینجا
- 03علم سیاستگذاری، نهادها و تصمیممقایسهٔ نظامهای هوش مصنوعی · نقشهبرداری پاسخگویی در زنجیرهٔ ارزش · نقشهبرداری مجامع و مأموریتهاکاربرد در اینجا
- 04هویت دیجیتال و سامانههای دیجیتال عمومیسطوح اطمینان برای خدمات عمومی · افشای حداقلی · تحلیل محرومیتکاربرد در اینجا
پرسش و پاسخ.
What is an AI agent?
Who is liable when an AI agent causes harm?
What controls limit agent harm?
Can an AI agent be legally responsible?
How can agent actions be kept within bounds?
Does the platform test agents?
Why do agent interactions matter?
از همین صفحه شواهد بیفزایید.
Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع میدانید میتواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.
- EmailGateway GW-GRFSend it from this pageEvidence, a correction, a case, a method, a review, a translation or profile input. It arrives tagged with this page, so the editor who owns it receives it.
- Zenodoسپردهٔ بازآن را سپرده و به جامعه ارسال کنیدسابقهٔ خود را با شناسهٔ ORCID iD خود در Zenodo منتشر کنید و سپس آن را در همانجا به جامعهٔ Reports ارسال کنید. متصدیان آن را داوری میکنند؛ DOI از آنِ شما میماند.
- گزارشهاGlobal Risks Forumهمهٔ راههای مشارکت را ببینیدانواع مشارکت، نحوهٔ بررسی هر یک، اعتباری که دریافت میکنید، مجوز و آنچه هرگز پذیرفته نمیشود.
هرگز دادههای شخصی، جزئیات حساس زیرساختی یا چیزی را که حق تسهیم آن را ندارید نفرستید. مشارکت پیش از استفاده بازبینی میشود؛ ارسال آن هیچ حق تألیف یا ویراستاری ایجاد نمیکند و حمایت مالی هرگز یافتهای را نمیخرد.
پرسش حکمرانی خود را نزد Forum بیاورید.
اطلاعات و پرسشها از امروز باز است. هر پرسش شمارهٔ مرجعی میگیرد و گام بعد را نام میبرد؛ درخواستها، پرداختها، تخصیص توان رایانشی و ثبتنامها تنها زمانی باز میشوند که تیم، شرایط و ظرفیت بررسی آنها فراهم باشد.
اسناد حقوقی.
نمایش هر 18 سند حقوقی
نقشهها، دادهها و شکلهای این سایت برای زمینه و اطلاعات عمومی نشان داده میشوند. آنها توصیه، پیشبینی یا هشدار نیستند؛ حدود اطلاعات در سلب مسئولیتها و اطلاعیههای داده بیان شده است.