GRF · Gouvernance des risques
Gouvernance du numérique et de l'IA
Les gouvernements et les opérateurs s'appuient sur l'IA et sur les systèmes publics numériques pour fournir des services, allouer des ressources et détecter les risques. Les règles évoluent : le règlement européen sur l'IA (2024) entre en application progressivement à partir de 2025, la Convention-cadre du Conseil de l'Europe sur l'IA a été ouverte à la signature en 2024, et en 2025 l'ONU a créé un Groupe scientifique sur l'IA et un Dialogue mondial sur la gouvernance de l'IA. Le Global Risks Forum (GRF) réunit autorités, technologues et spécialistes des droits afin de préserver la supervision, la redevabilité et les droits. Le GRF n'approuve aucun système.
Digital and AI governance in seven parts.
- 01The governance questionsThree questions institutions need to answer
- 02Les instrumentsUn corpus de règles stratifié et toujours en évolution
- 03Public sector useThe governance question for a ministry deploying a model
- 04International guidanceInstruments that frame the dialogue
- 05Exercer la surveillanceTester ce qui se passe lorsqu'un système automatisé se trompe
- 06Homologues et contactLe même champ dans les trois institutions
- 07SourcesWhere this page’s references lead
Trois questions auxquelles les institutions doivent répondre.
Supervision humaine
Who can understand, question and override an automated decision, and do they have the authority and time to do so?
Redevabilité
Qui répond d'une décision automatisée qui nuit à quelqu'un, et comment la personne concernée peut-elle demander un réexamen ?
Rights and inclusion
How are privacy, non-discrimination and access protected, including for people who cannot use digital channels?
A layered and still moving rulebook.
| Instrument | Organe | Ce qu'il fait | Note d'état |
|---|---|---|---|
| AI Act | Union européenne | Risk-tiered obligations: prohibited practices, duties for general-purpose models, then high-risk system requirements | Applies in stages; a 2026 Digital Omnibus agreement moved the high-risk timelines, so dates should be read from the “Official Journal of the European Union” |
| Convention-cadre sur l'IA et les droits de l'homme, la démocratie et l'État de droit | Council of Europe, open to non-members | Binding duties across the lifecycle of AI systems used by public authorities and, by choice, private actors | Ouvert à la signature en septembre 2024 ; consulter le Bureau des traités pour les ratifications |
| Principes de l'OECD sur l'IA | OCDE, à laquelle adhèrent de nombreux non-membres | Values-based principles and recommendations to governments, updated in 2024 | En vigueur en tant que recommandation |
| Pacte numérique mondial | UN General Assembly, annexed to the Pact for the Future | Engagements sur l'inclusion numérique, la gouvernance des données et l'IA, dont un panel scientifique indépendant et un dialogue mondial | Le panel a présenté son rapport et le dialogue s'est réuni pour la première fois à Genève en juillet 2026 |
| Recommandation sur l'éthique de l'IA | UNESCO | Readiness assessments and ethical impact assessment for member states | Implementation through national readiness assessments |
The governance question for a ministry deploying a model.
Lorsqu'une agence utilise un algorithme pour hiérarchiser des inspections, attribuer des prestations ou trier des appels d'urgence, les questions sont institutionnelles avant d'être techniques. Qui a validé cet usage ? Qui peut l'arrêter ? Comment une personne concernée peut-elle contester le résultat ? Quel régulateur l'audite ? Les dialogues du GRF réunissent autour d'un même cas l'agence qui déploie l'outil, son organe de contrôle, une autorité de protection des données et les utilisateurs concernés, et consignent la chaîne de supervision sur laquelle ils s'accordent.
Technical assurance methods sit with GCRI’s AI and autonomous systems platform; model risk in finance with GRA’s AI and financial model risk platform; the specialist community is AI and Digital Governance.
Instruments that frame the dialogue.
- La Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle (2021).
- Les Principes de l'OCDE sur l'IA (2019, mis à jour en 2024).
- La Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle et les droits de l'homme, la démocratie et l'État de droit (2024), pour les États qui y sont parties.
- Le Pacte numérique mondial (2024) et le droit international des droits de l'homme, notamment les droits à la vie privée et à un recours effectif.
- National and regional laws that apply to each participating institution, such as the European Union AI Act.
Named instruments are references for dialogue, not claims of alignment. GRF does not assess any institution’s conformity with them, and it does not regulate, finance, procure or certify.
Tester ce qui se passe lorsqu'un système automatisé se trompe.
Oversight never exercised is an assumption. In Universe, a scenario can have an automated triage, warning or eligibility system produce a confident but wrong output. The exercise asks: do the people responsible notice, can they override, can they explain the decision afterwards? Evaluators record where oversight held and where it failed. The exercised institutions review findings before they inform Reports. A missing common practice can become a change proposal to the Nexus Standards.
- 01
Dialogues de supervision
Structured dialogues that produce a record of oversight questions, responsibilities and open issues for a given public system.
- 02
Communautés spécialisées
Innovation Nexus works on governed public-interest innovation, and Governance Nexus on comparative governance under technology change.
- 03
Plateforme spécialisée
Gouvernance de l'IA et du numérique est la communauté spécialisée, avec le chapitre Droits numériques et gouvernance des données.
The same field across the three institutions.
Le Global Centre for Risk and Innovation (GCRI) étudie l' intelligence artificielle et la technologie responsable. La Global Risks Alliance (GRA) examine le risque lié à l'IA et aux modèles dans la finance. Domaines connexes du GRF : information et confiance du public ainsi que droits de décision et responsabilités. Pour soumettre un système et sa question de supervision à un dialogue, écrivez au Secrétariat via le formulaire de contact; l'accusé de réception donne une référence et indique l'étape suivante.
Where this page’s references lead.
Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.
Questions et réponses.
Does GRF audit AI systems?
Un exercice peut-il recourir à un système d'IA en conditions réelles ?
Comment une autorité publique peut-elle amener un système à un dialogue ?
Apportez des éléments de preuve depuis cette page.
Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.
- E-mailPasserelle GW-GRFL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Soumettez une question de gouvernance au Forum.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Afficher les 18 documents juridiques
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.