GRF · Управление рисками
Управление цифровыми технологиями и ИИ
Правительства и операторы полагаются на ИИ и цифровые общественные системами для предоставления услуг, распределения ресурсов и выявления риска. Правила меняются: Закон ЕС об ИИ (2024) вводится поэтапно с 2025 года, Рамочная конвенция Совета Европы по ИИ была открыта для подписания в 2024 году, а в 2025 году ООН учредила Научную группу по ИИ и Глобальный диалог по управлению ИИ. Глобальный форум по рискам (Global Risks Forum, GRF) собирает представителей органов власти, технических специалистов и специалистов по правам человека для обсуждения того, как сохранить надзор, подотчётность и права. GRF не одобряет ни одну систему.
Digital and AI governance in seven parts.
- 01The governance questionsThree questions institutions need to answer
- 02The instrumentsA layered and still moving rulebook
- 03Public sector useThe governance question for a ministry deploying a model
- 04International guidanceInstruments that frame the dialogue
- 05Exercising oversightTesting what happens when an automated system is wrong
- 06Counterparts and contactThe same field across the three institutions
- 07SourcesWhere this page’s references lead
Three questions institutions need to answer.
Человеческий надзор
Who can understand, question and override an automated decision, and do they have the authority and time to do so?
Answerability
Who answers for an automated decision that harms someone, and how can the affected person seek review?
Rights and inclusion
Как обеспечиваются конфиденциальность, недискриминация и доступ, в том числе для людей, которые не могут пользоваться цифровыми каналами?
A layered and still moving rulebook.
| Инструмент | Орган | Что это делает | Примечание о статусе |
|---|---|---|---|
| AI Act | Европейский союз | Risk-tiered obligations: prohibited practices, duties for general-purpose models, then high-risk system requirements | Applies in stages; a 2026 Digital Omnibus agreement moved the high-risk timelines, so dates should be read from the “Official Journal of the European Union” |
| Рамочная конвенция об ИИ и правах человека, демократии и верховенстве права | Council of Europe, open to non-members | Binding duties across the lifecycle of AI systems used by public authorities and, by choice, private actors | Открыто для подписания в сентябре 2024 года; сведения о ратификациях уточняйте в Договорном бюро |
| Принципы ОЭСР в области ИИ | OECD, adhered to by many non-members | Values-based principles and recommendations to governments, updated in 2024 | In force as a Recommendation |
| Глобальный цифровой договор | UN General Assembly, annexed to the Pact for the Future | Commitments on digital inclusion, data governance and AI, including an independent scientific panel and a global dialogue | The panel reported and the dialogue first met in Geneva in July 2026 |
| Рекомендация об этических аспектах ИИ | UNESCO | Readiness assessments and ethical impact assessment for member states | Implementation through national readiness assessments |
The governance question for a ministry deploying a model.
Когда ведомство использует алгоритм для приоритизации проверок, распределения пособий или сортировки экстренных вызовов, вопросы носят прежде всего институциональный, а не технический характер. Кто утвердил использование? Кто может его остановить? Как затронутое лицо может оспорить результат? Какой регулятор проводит аудит? Диалоги GRF собирают вокруг одного случая внедряющее ведомство, его надзорный орган, орган по защите данных и затронутых пользователей и фиксируют согласованную ими цепочку надзора.
Technical assurance methods sit with GCRI’s AI and autonomous systems platform; model risk in finance with GRA’s AI and financial model risk platform; the specialist community is AI and Digital Governance.
Instruments that frame the dialogue.
- Рекомендация ЮНЕСКО по этическим аспектам искусственного интеллекта (2021).
- The OECD AI Principles (2019, updated 2024).
- The Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (2024), for the states that are party to it.
- Глобальный цифровой договор (2024 год) и международное право прав человека, включая права на конфиденциальность и на эффективное средство правовой защиты.
- National and regional laws that apply to each participating institution, such as the European Union AI Act.
Named instruments are references for dialogue, not claims of alignment. GRF does not assess any institution’s conformity with them, and it does not regulate, finance, procure or certify.
Testing what happens when an automated system is wrong.
Oversight never exercised is an assumption. In Universe, a scenario can have an automated triage, warning or eligibility system produce a confident but wrong output. The exercise asks: do the people responsible notice, can they override, can they explain the decision afterwards? Evaluators record where oversight held and where it failed. The exercised institutions review findings before they inform Reports. A missing common practice can become a change proposal to the Nexus Standards.
- 01
Oversight dialogues
Структурированные диалоги, по итогам которых составляется запись вопросов надзора, ответственности и нерешённых проблем по конкретной государственной системе.
- 02
Специализированные сообщества
Innovation Nexus works on governed public-interest innovation, and Governance Nexus on comparative governance under technology change.
- 03
Специализированная платформа
AI and Digital Governance is the specialist community, with the Digital Rights and Data Governance chapter.
The same field across the three institutions.
The Global Centre for Risk and Innovation (GCRI) studies artificial intelligence and responsible technology. The Global Risks Alliance (GRA) examines AI and model risk in finance. Related GRF areas: information and public trust and decision rights and responsibilities. To bring a system and its oversight question to a dialogue, write to the Secretariat at the contact form; the acknowledgement gives a reference and names the next step.
Where this page’s references lead.
Органы и документы, с которыми сопоставляется эта страница. Статусы и редакции меняются; каждая ссылка ведёт к выпускающему органу.
Вопросы и ответы.
Does GRF audit AI systems?
Can an exercise use a live AI system?
Как государственный орган может вывести систему на диалог?
Поделитесь доказательствами с этой страницы.
Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.
- Электронная почтаШлюз GW-GRFОтправьте с этой страницыДоказательная база, исправление, случай, метод, рецензия, перевод или вклад в профиль. Материал приходит с пометкой этой страницы, поэтому его получает редактор, отвечающий за неё.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
Вынесите вопрос управления на рассмотрение Форума.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Юридические документы.
Показать все 18 юридических документов
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.