GRF · Управление ИИ и цифровыми технологиями
Автономные агенты и ответственность
ИИ-агенты теперь планируют и совершают действия в программных, платёжных и физических системами при ограниченном участии человека. Когда агент причиняет вред, действующие правила ответственности должны определить, кто платит: разработчик, внедряющая сторона, пользователь или оператор платформы, на которой действовал агент. На этой странице изложено, как автономность осложняет ответственность и надзор, какие записи это показывают и кто решает, как распределяется ответственность.
Autonomous agents and liability on the record.
Autonomous agents and liability: how the risk develops.
Action boundaries and accountability. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Actions outrun intent
An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.
Many hands, unclear fault
The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.
Permissions define exposure
What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.
Law adapts slowly
Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.
Публичный реестр алгоритмов.
Экран, который команда использовала бы для отслеживания этой темы: её показатели, состояния и решения. Названия приведены для примера, а значения иллюстративны.
Публичный реестр алгоритмов
Autonomous agents and liability · Algorithm register · Quarter 2
Зарегистрированные системы
| Выявление мошенничества с пособиями | Социальная служба | Высокий | Отсутствует | Частично |
| Отбор разрешений | Планирование | Ограниченный | Готово | Да |
| Распределение по школам | Образование | Высокий | Готово | Да |
| Чат-помощник | Налоговая служба | Минимальный | Готово | n/a |
Надзорное действие
- Системная
- Выявление мошенничества с пособиями
- Обязательно
- оценка воздействия, порядок обжалования
- Срок
- 77 days
- Орган
- Надзорный орган
Жалобы на автоматизированные решения
Что измеряется и насколько хорошо.
Каждый показатель указывает свою единицу, периодичность, тип источника и метку доказательной базы, которую несло бы значение. Значения не показываются: программа предоставляет их под собственную ответственность.
| Индикатор | Единица | Периодичность | Тип источника | Метка |
|---|---|---|---|---|
| Jurisdictions treating software as a product for liability | количество | при изменении | Законодательство | Опубликованная статистика |
| Court decisions on AI-caused harm | количество по типам | ежегодно | Case law databases | Опубликованная статистика |
| Agent incidents reported | количество по типам вреда | ежемесячно | Базы данных инцидентов | СООБЩЕНО |
| Развёртывания с документально закреплёнными ограничениями разрешений | share of surveyed deployments | периодически | Surveys and audits | ЗАДЕКЛАРИРОВАНО |
| Insurance products covering AI liability | count of offerings | ежегодно | Market reports | СООБЩЕНО |
| Regulatory guidance on agentic AI | count of documents | ежегодно | Regulator publications | Опубликованная статистика |
How autonomous agents and liability is governed: instruments, mandates and commitments.
Инструменты, мандаты, участники и механизмы подотчётности, с которыми работает политик, дипломат или агентство по развитию, со ссылками на соглашения, которые их устанавливают. Структуры следуют названным рамочным документам. Любое показанное состояние или прогресс иллюстративны, а не являются записью.
Матрица инструментов политики
The kinds of instrument available on autonomous agents and liability, by level of government and cooperation.
| Тип инструмента | Местный | Национальный уровень | Региональный | Глобальный уровень |
|---|---|---|---|---|
| Регуляторный | Зонирование, строительные нормы | Законы, стандарты, лицензирование | Согласованные правила | Конвенции и договоры |
| Экономические | Местные сборы, гранты | Бюджетные статьи, налоги, схемы страхования | Пулы рисков, региональные фонды | Механизмы финансирования |
| Информация | Местные предупреждения | Раскрытие информации, раннее предупреждение, статистика | Механизмы обмена данными | Глобальный мониторинг и отчётность |
| Институциональный | Местные комитеты | Ведущие ведомства, координационные советы | Региональные органы и секретариаты | Многосторонние мандаты |
| Кооперативный | Общинные соглашения | Партнёрские договорённости | Меморандумы и совместные программы | Соглашения и совместные обязательства |
Откуда берётся доказательная база.
Названные публичные наборы данных и институциональные записи, каждый со своим классом лицензии. Источники по соглашению используются только на их условиях и никогда не публикуются повторно.
| Источник | Что он даёт | Класс лицензии |
|---|---|---|
| EU revised Product Liability Directive | Liability rules including software and AI systems as products | Публично, условия повторного использования ЕС |
| Law commission and parliamentary reports on AI liability | Analysis of liability options for AI and automated systems | Публичные записи, условия каждого органа |
| OECD AI Incidents Monitor | Recorded incidents involving AI systems | Бесплатно, условия ОЭСР |
| UK Automated and Electric Vehicles Act and Automated Vehicles Act | Liability allocation for automated vehicles | Open Government Licence |
| Court judgment databases | Decisions on harm involving automated systems | Public records, terms per court |
Кто принимает решения и чему служит доказательная база.
«Управление ИИ и цифровыми технологиями» готовит доказательную базу. Приведённые ниже решения принимаются названными органами по их собственным правилам и никогда не принимаются платформой.
| Кто принимает решение | Вопрос | Доказательная база, которую обслуживает эта страница |
|---|---|---|
| Legislatures and law commissions | How liability rules apply to autonomous systems | Comparative regimes and case evidence |
| Организации-внедренцы | What an agent may do and what controls apply | Control practice and incident evidence |
| Страховщики | Whether and how to cover AI liability | Incident patterns and legal developments |
| Суды | Who is liable for harm in a specific case | Записи, представленные сторонами; страница служит только для контекста |
Результаты, которые даёт эта тема
- Comparative notes on liability rules for software and AI
- Guide to permission limits and controls for agent deployments
- Dialogue briefs on allocating responsibility in multi-party AI chains
- Questions for legislatures on agent liability
What experts ask about autonomous agents.
- What actions is this agent permitted to take, and how are those limits enforced technically?
- When an agent causes harm, who is liable: the developer, the deployer, the user?
- How can an agent’s actions be traced, reviewed and reversed?
- How should agents interact with other agents, and who governs those interactions?
Why agents raise new governance questions.
Most governance frameworks were built for systems that advise a person who then acts. Agents collapse that gap, and with it one of the main points at which errors were caught. Why now: AI agents that act on behalf of people and organisations raise questions of liability that existing rules did not foresee, and legislators are still working through them. The platform is designed to compare emerging approaches and to record open questions for decision holders, without giving legal advice.
Action without review
Агенты могут действовать быстрее и чаще, чем люди успевают проверять их действия, поэтому ошибки могут множиться раньше, чем кто-либо их заметит.
Agents meeting agents
Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.
Unclear responsibility
Existing liability rules assume a human or company acted; agents complicate who that is.
Инструменты для ограничения агентов.
- 01
Контроль разрешений и области действия
Technical limits on what agents can access and do, studied under AI evaluation and assurance engineering. Limits: agents may find unintended routes around controls.
- 02
Logging and reversibility
Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.
- 03
Human approval thresholds
Requiring human sign-off above defined risk levels. Limits: can slow operations and invite approval fatigue.
- 04
Liability analysis
Сравнение того, как правовые системами распределяют ответственность. Ограничения: право всё ещё развивается.
Как это изучается и чего методы не могут сказать.
- 01Инженерная оценка ИИ и обеспечение уверенностиОхват стороннего аудита · Тестирование справедливости в государственных системах · Мониторинг после развёртыванияПрименяется здесь
- 02Искусственный интеллект и машинное обучениеКак модели дают сбои при развёртывании · Чтение документации моделей · Архитектуры агентовПрименяется здесь
- 03Наука о политике, институтах и решенияхСравнение режимов регулирования ИИ · Картирование подотчётности в цепочке создания стоимости · Картирование форумов и мандатовПрименяется здесь
- 04Цифровая идентичность и общественные цифровые системыУровни обеспечения уверенности для государственных услуг · Минимальное раскрытие · Анализ исключенияПрименяется здесь
Вопросы и ответы.
Что такое ИИ-агент?
Кто несёт ответственность, когда агент ИИ причиняет вред?
What controls limit agent harm?
Can an AI agent be legally responsible?
How can agent actions be kept within bounds?
Does the platform test agents?
Why do agent interactions matter?
Поделитесь доказательствами с этой страницы.
Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.
- Электронная почтаШлюз GW-GRFОтправьте с этой страницыДоказательная база, исправление, случай, метод, рецензия, перевод или вклад в профиль. Материал приходит с пометкой этой страницы, поэтому его получает редактор, отвечающий за неё.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
Вынесите вопрос управления на рассмотрение Форума.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Юридические документы.
Показать все 18 юридических документов
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.