GRF · Gobernanza del riesgo
Gobernanza digital y de la IA
Los gobiernos y los operadores dependen de la IA y de los sistemas públicos digitales para prestar servicios, asignar recursos y detectar riesgos. Las normas están cambiando: la Ley de IA de la UE (2024) entra en vigor por fases a partir de 2025, el Convenio del Consejo de Europa sobre IA se abrió a la firma en 2024 y, en 2025, la ONU creó un Grupo Científico sobre IA y un Diálogo Mundial sobre la Gobernanza de la IA. El Global Risks Forum (GRF) reúne a autoridades, tecnólogos y especialistas en derechos para mantener intactos la supervisión, la rendición de cuentas y los derechos. El GRF no aprueba ningún sistema.
Digital and AI governance in seven parts.
- 01Las cuestiones de gobernanzaTres preguntas que las instituciones deben responder
- 02Los instrumentosUn conjunto de normas en capas y aún en evolución
- 03Public sector useThe governance question for a ministry deploying a model
- 04International guidanceInstruments that frame the dialogue
- 05Exercising oversightTesting what happens when an automated system is wrong
- 06Counterparts and contactThe same field across the three institutions
- 07SourcesWhere this page’s references lead
Tres preguntas que las instituciones deben responder.
Supervisión humana
Who can understand, question and override an automated decision, and do they have the authority and time to do so?
Answerability
¿Quién responde por una decisión automatizada que perjudica a alguien y cómo puede la persona afectada solicitar su revisión?
Rights and inclusion
How are privacy, non-discrimination and access protected, including for people who cannot use digital channels?
A layered and still moving rulebook.
| Instrumento | Órgano | Lo que hace | Nota de estado |
|---|---|---|---|
| Ley de IA | Unión Europea | Risk-tiered obligations: prohibited practices, duties for general-purpose models, then high-risk system requirements | Applies in stages; a 2026 Digital Omnibus agreement moved the high-risk timelines, so dates should be read from the “Official Journal of the European Union” |
| Convenio Marco sobre la IA y los Derechos Humanos, la Democracia y el Estado de Derecho | Consejo de Europa, abierto a no miembros | Binding duties across the lifecycle of AI systems used by public authorities and, by choice, private actors | Abierto a la firma en septiembre de 2024; consulte la Oficina de Tratados para conocer las ratificaciones |
| Principios de la OECD sobre la IA | OECD, adhered to by many non-members | Principios basados en valores y recomendaciones a los gobiernos, actualizados en 2024 | In force as a Recommendation |
| Pacto Digital Global | UN General Assembly, annexed to the Pact for the Future | Compromisos sobre inclusión digital, gobernanza de datos e IA, incluidos un panel científico independiente y un diálogo mundial | El panel presentó su informe y el diálogo se reunió por primera vez en Ginebra en julio de 2026 |
| Recomendación sobre la ética de la IA | UNESCO | Readiness assessments and ethical impact assessment for member states | Implementation through national readiness assessments |
La cuestión de gobernanza para un ministerio que despliega un modelo.
Cuando un organismo utiliza un algoritmo para priorizar inspecciones, asignar prestaciones o clasificar llamadas de emergencia, las preguntas son institucionales antes que técnicas. ¿Quién autorizó el uso? ¿Quién puede detenerlo? ¿Cómo puede una persona afectada impugnar el resultado? ¿Qué regulador lo audita? Los diálogos del GRF reúnen en torno a un caso al organismo que lo despliega, su órgano de supervisión, una autoridad de protección de datos y los usuarios afectados, y registran la cadena de supervisión que acuerdan.
Technical assurance methods sit with GCRI’s AI and autonomous systems platform; model risk in finance with GRA’s AI and financial model risk platform; the specialist community is AI and Digital Governance.
Instruments that frame the dialogue.
- La Recomendación de la UNESCO sobre la ética de la inteligencia artificial (2021).
- Los Principios de la OCDE sobre IA (2019, actualizados en 2024).
- The Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (2024), for the states that are party to it.
- The Global Digital Compact (2024) and international human rights law, including the rights to privacy and to an effective remedy.
- National and regional laws that apply to each participating institution, such as the European Union AI Act.
Named instruments are references for dialogue, not claims of alignment. GRF does not assess any institution’s conformity with them, and it does not regulate, finance, procure or certify.
Comprobar qué ocurre cuando un sistema automatizado se equivoca.
Oversight never exercised is an assumption. In Universe, a scenario can have an automated triage, warning or eligibility system produce a confident but wrong output. The exercise asks: do the people responsible notice, can they override, can they explain the decision afterwards? Evaluators record where oversight held and where it failed. The exercised institutions review findings before they inform Reports. A missing common practice can become a change proposal to the Nexus Standards.
- 01
Diálogos de supervisión
Structured dialogues that produce a record of oversight questions, responsibilities and open issues for a given public system.
- 02
Comunidades especializadas
Innovation Nexus works on governed public-interest innovation, and Governance Nexus on comparative governance under technology change.
- 03
Plataforma especializada
AI and Digital Governance is the specialist community, with the Digital Rights and Data Governance chapter.
El mismo campo en las tres instituciones.
El Global Centre for Risk and Innovation (GCRI) estudia la inteligencia artificial y la tecnología responsable. La Global Risks Alliance (GRA) examina el riesgo de IA y de modelos en las finanzas. Áreas afines del GRF: información y confianza pública y derechos de decisión y responsabilidades. Para llevar un sistema y su cuestión de supervisión a un diálogo, escriba a la Secretaría mediante el formulario de contacto; el acuse de recibo proporciona una referencia e indica el siguiente paso.
Where this page’s references lead.
Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.
Preguntas y respuestas.
¿Audita el GRF los sistemas de IA?
¿Puede un ejercicio utilizar un sistema de IA en funcionamiento?
¿Cómo puede una autoridad pública llevar un sistema a un diálogo?
Aporte evidencia desde esta página.
Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.
- Correo electrónicoPasarela GW-GRFEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Plantee una cuestión de gobernanza al Foro.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Mostrar los 18 documentos jurídicos
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.