Skip to content

GRF · Gouvernance des risques

Gouvernance du numérique et de l'IA

Les gouvernements et les opérateurs s'appuient sur l'IA et sur les systèmes publics numériques pour fournir des services, allouer des ressources et détecter les risques. Les règles évoluent : le règlement européen sur l'IA (2024) entre en application progressivement à partir de 2025, la Convention-cadre du Conseil de l'Europe sur l'IA a été ouverte à la signature en 2024, et en 2025 l'ONU a créé un Groupe scientifique sur l'IA et un Dialogue mondial sur la gouvernance de l'IA. Le Global Risks Forum (GRF) réunit autorités, technologues et spécialistes des droits afin de préserver la supervision, la redevabilité et les droits. Le GRF n'approuve aucun système.

02Les questions de gouvernance

Trois questions auxquelles les institutions doivent répondre.

Contrôle

Supervision humaine

Who can understand, question and override an automated decision, and do they have the authority and time to do so?

Redevabilité

Redevabilité

Qui répond d'une décision automatisée qui nuit à quelqu'un, et comment la personne concernée peut-elle demander un réexamen ?

Droits

Rights and inclusion

How are privacy, non-discrimination and access protected, including for people who cannot use digital channels?

03Les instruments

A layered and still moving rulebook.

InstrumentOrganeCe qu'il faitNote d'état
AI ActUnion européenneRisk-tiered obligations: prohibited practices, duties for general-purpose models, then high-risk system requirementsApplies in stages; a 2026 Digital Omnibus agreement moved the high-risk timelines, so dates should be read from the “Official Journal of the European Union”
Convention-cadre sur l'IA et les droits de l'homme, la démocratie et l'État de droitCouncil of Europe, open to non-membersBinding duties across the lifecycle of AI systems used by public authorities and, by choice, private actorsOuvert à la signature en septembre 2024 ; consulter le Bureau des traités pour les ratifications
Principes de l'OECD sur l'IAOCDE, à laquelle adhèrent de nombreux non-membresValues-based principles and recommendations to governments, updated in 2024En vigueur en tant que recommandation
Pacte numérique mondialUN General Assembly, annexed to the Pact for the FutureEngagements sur l'inclusion numérique, la gouvernance des données et l'IA, dont un panel scientifique indépendant et un dialogue mondialLe panel a présenté son rapport et le dialogue s'est réuni pour la première fois à Genève en juillet 2026
Recommandation sur l'éthique de l'IAUNESCOReadiness assessments and ethical impact assessment for member statesImplementation through national readiness assessments
04Utilisation par le secteur public

The governance question for a ministry deploying a model.

Lorsqu'une agence utilise un algorithme pour hiérarchiser des inspections, attribuer des prestations ou trier des appels d'urgence, les questions sont institutionnelles avant d'être techniques. Qui a validé cet usage ? Qui peut l'arrêter ? Comment une personne concernée peut-elle contester le résultat ? Quel régulateur l'audite ? Les dialogues du GRF réunissent autour d'un même cas l'agence qui déploie l'outil, son organe de contrôle, une autorité de protection des données et les utilisateurs concernés, et consignent la chaîne de supervision sur laquelle ils s'accordent.

Technical assurance methods sit with GCRI’s AI and autonomous systems platform; model risk in finance with GRA’s AI and financial model risk platform; the specialist community is AI and Digital Governance.

05Orientations internationales

Instruments that frame the dialogue.

  • La Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle (2021).
  • Les Principes de l'OCDE sur l'IA (2019, mis à jour en 2024).
  • La Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle et les droits de l'homme, la démocratie et l'État de droit (2024), pour les États qui y sont parties.
  • Le Pacte numérique mondial (2024) et le droit international des droits de l'homme, notamment les droits à la vie privée et à un recours effectif.
  • National and regional laws that apply to each participating institution, such as the European Union AI Act.

Named instruments are references for dialogue, not claims of alignment. GRF does not assess any institution’s conformity with them, and it does not regulate, finance, procure or certify.

06Exercer la surveillance

Tester ce qui se passe lorsqu'un système automatisé se trompe.

Oversight never exercised is an assumption. In Universe, a scenario can have an automated triage, warning or eligibility system produce a confident but wrong output. The exercise asks: do the people responsible notice, can they override, can they explain the decision afterwards? Evaluators record where oversight held and where it failed. The exercised institutions review findings before they inform Reports. A missing common practice can become a change proposal to the Nexus Standards.

  1. 01

    Dialogues de supervision

    Structured dialogues that produce a record of oversight questions, responsibilities and open issues for a given public system.

  2. 02

    Communautés spécialisées

    Innovation Nexus works on governed public-interest innovation, and Governance Nexus on comparative governance under technology change.

  3. 03

    Plateforme spécialisée

    Gouvernance de l'IA et du numérique est la communauté spécialisée, avec le chapitre Droits numériques et gouvernance des données.

07Homologues et contact

The same field across the three institutions.

Le Global Centre for Risk and Innovation (GCRI) étudie l' intelligence artificielle et la technologie responsable. La Global Risks Alliance (GRA) examine le risque lié à l'IA et aux modèles dans la finance. Domaines connexes du GRF : information et confiance du public ainsi que droits de décision et responsabilités. Pour soumettre un système et sa question de supervision à un dialogue, écrivez au Secrétariat via le formulaire de contact; l'accusé de réception donne une référence et indique l'étape suivante.

08Sources

Where this page’s references lead.

Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.

09Questions

Questions et réponses.

Does GRF audit AI systems?
Non. Le GRF réunit et consigne le dialogue sur la supervision et la redevabilité. Il n'audite, n'évalue, ne certifie et n'approuve aucun système.
Un exercice peut-il recourir à un système d'IA en conditions réelles ?
Only within an agreed, contained test environment. Exercises never act on real people’s cases, and real infrastructure is never an unapproved target.
Comment une autorité publique peut-elle amener un système à un dialogue ?
Write to the Secretariat at the contact form with the system and the oversight question. The acknowledgement gives a reference and names the next step.
RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

Global Risks Forum
Le Global Risks Forum

Soumettez une question de gouvernance au Forum.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.