Skip to content

GRF · Управление рисками

Управление цифровыми технологиями и ИИ

Правительства и операторы полагаются на ИИ и цифровые общественные системами для предоставления услуг, распределения ресурсов и выявления риска. Правила меняются: Закон ЕС об ИИ (2024) вводится поэтапно с 2025 года, Рамочная конвенция Совета Европы по ИИ была открыта для подписания в 2024 году, а в 2025 году ООН учредила Научную группу по ИИ и Глобальный диалог по управлению ИИ. Глобальный форум по рискам (Global Risks Forum, GRF) собирает представителей органов власти, технических специалистов и специалистов по правам человека для обсуждения того, как сохранить надзор, подотчётность и права. GRF не одобряет ни одну систему.

02Вопросы управления

Three questions institutions need to answer.

Надзор

Человеческий надзор

Who can understand, question and override an automated decision, and do they have the authority and time to do so?

Подотчётность

Answerability

Who answers for an automated decision that harms someone, and how can the affected person seek review?

Права

Rights and inclusion

Как обеспечиваются конфиденциальность, недискриминация и доступ, в том числе для людей, которые не могут пользоваться цифровыми каналами?

03The instruments

A layered and still moving rulebook.

ИнструментОрганЧто это делаетПримечание о статусе
AI ActЕвропейский союзRisk-tiered obligations: prohibited practices, duties for general-purpose models, then high-risk system requirementsApplies in stages; a 2026 Digital Omnibus agreement moved the high-risk timelines, so dates should be read from the “Official Journal of the European Union”
Рамочная конвенция об ИИ и правах человека, демократии и верховенстве праваCouncil of Europe, open to non-membersBinding duties across the lifecycle of AI systems used by public authorities and, by choice, private actorsОткрыто для подписания в сентябре 2024 года; сведения о ратификациях уточняйте в Договорном бюро
Принципы ОЭСР в области ИИOECD, adhered to by many non-membersValues-based principles and recommendations to governments, updated in 2024In force as a Recommendation
Глобальный цифровой договорUN General Assembly, annexed to the Pact for the FutureCommitments on digital inclusion, data governance and AI, including an independent scientific panel and a global dialogueThe panel reported and the dialogue first met in Geneva in July 2026
Рекомендация об этических аспектах ИИUNESCOReadiness assessments and ethical impact assessment for member statesImplementation through national readiness assessments
04Public sector use

The governance question for a ministry deploying a model.

Когда ведомство использует алгоритм для приоритизации проверок, распределения пособий или сортировки экстренных вызовов, вопросы носят прежде всего институциональный, а не технический характер. Кто утвердил использование? Кто может его остановить? Как затронутое лицо может оспорить результат? Какой регулятор проводит аудит? Диалоги GRF собирают вокруг одного случая внедряющее ведомство, его надзорный орган, орган по защите данных и затронутых пользователей и фиксируют согласованную ими цепочку надзора.

Technical assurance methods sit with GCRI’s AI and autonomous systems platform; model risk in finance with GRA’s AI and financial model risk platform; the specialist community is AI and Digital Governance.

05Международные руководящие принципы

Instruments that frame the dialogue.

  • Рекомендация ЮНЕСКО по этическим аспектам искусственного интеллекта (2021).
  • The OECD AI Principles (2019, updated 2024).
  • The Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (2024), for the states that are party to it.
  • Глобальный цифровой договор (2024 год) и международное право прав человека, включая права на конфиденциальность и на эффективное средство правовой защиты.
  • National and regional laws that apply to each participating institution, such as the European Union AI Act.

Named instruments are references for dialogue, not claims of alignment. GRF does not assess any institution’s conformity with them, and it does not regulate, finance, procure or certify.

06Exercising oversight

Testing what happens when an automated system is wrong.

Oversight never exercised is an assumption. In Universe, a scenario can have an automated triage, warning or eligibility system produce a confident but wrong output. The exercise asks: do the people responsible notice, can they override, can they explain the decision afterwards? Evaluators record where oversight held and where it failed. The exercised institutions review findings before they inform Reports. A missing common practice can become a change proposal to the Nexus Standards.

  1. 01

    Oversight dialogues

    Структурированные диалоги, по итогам которых составляется запись вопросов надзора, ответственности и нерешённых проблем по конкретной государственной системе.

  2. 02

    Специализированные сообщества

    Innovation Nexus works on governed public-interest innovation, and Governance Nexus on comparative governance under technology change.

  3. 03

    Специализированная платформа

    AI and Digital Governance is the specialist community, with the Digital Rights and Data Governance chapter.

07Партнёры и контакты

The same field across the three institutions.

The Global Centre for Risk and Innovation (GCRI) studies artificial intelligence and responsible technology. The Global Risks Alliance (GRA) examines AI and model risk in finance. Related GRF areas: information and public trust and decision rights and responsibilities. To bring a system and its oversight question to a dialogue, write to the Secretariat at the contact form; the acknowledgement gives a reference and names the next step.

08Источники

Where this page’s references lead.

Органы и документы, с которыми сопоставляется эта страница. Статусы и редакции меняются; каждая ссылка ведёт к выпускающему органу.

09Вопросы

Вопросы и ответы.

Does GRF audit AI systems?
No. GRF convenes and records dialogue on oversight and accountability. It does not audit, assess, certify or approve any system.
Can an exercise use a live AI system?
Only within an agreed, contained test environment. Exercises never act on real people’s cases, and real infrastructure is never an unapproved target.
Как государственный орган может вывести систему на диалог?
Write to the Secretariat at the contact form with the system and the oversight question. The acknowledgement gives a reference and names the next step.
ОтчётыВнести вклад

Поделитесь доказательствами с этой страницы.

Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.

Global Risks Forum
Глобальный форум по рискам (Global Risks Forum)

Вынесите вопрос управления на рассмотрение Форума.

Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.

Правовая информация
Показать все 18 юридических документов

Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.