How models fail in deployment
Distribution shift, spurious correlations and feedback loops are explained with public case records, so oversight bodies know what to ask about a system’s behaviour after deployment.
GRF · Gobernanza de la IA y lo digital
Inteligencia artificial y aprendizaje automático para la gobernanza de la IA y lo digital
Artificial intelligence and machine learning are the sistemas this field governs. On this platform the methods are explained so that oversight bodies, legislators and the public understand what models do, how they fail and what evidence about them can be trusted.
01Contenido
Artificial intelligence and machine learning for AI and digital governance in five parts.
02Solicitud
Lo que aportan aquí la inteligencia artificial y el aprendizaje automático.
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence, digital public infrastructure and cyber and digital resilience, machine learning can scale detection and forecasting across interconnected sistemas. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on el bien común CTIM.
Reading model documentation
Model cards, data sheets and system cards are read for what they disclose and omit about training data, evaluation and limits.
Agent architectures explained
How agents chain model calls, tools and memory is described, so that permission and liability questions can be placed at the right point.
03Seguimiento
Entrenamiento de modelos.
La pantalla que utilizaría un equipo para seguir este método: sus mediciones, estados y decisiones. Los nombres son ejemplos y los valores son ilustrativos.
Entrenamiento de modelos
AI and digital governance · Artificial intelligence · Run R-6213
Deriva en un segmentoGRF · Gobernanza de la IA y lo digital
Evaluación por segmento
| Todo | 0.85 | 0.04 | 4407 | Aprobado |
| Región A | 0.78 | 0.04 | 1829 | Revisión |
| Región B | 0.65 | 0.07 | 444 | Revisión |
| Clase poco frecuente | 0.74 | 0.14 | 124 | Por debajo del umbral |
Ficha del método
- Método
- Inteligencia artificial y aprendizaje automático
- División
- basado en el tiempo, sin filtración
- Variables
- 55
- Etiqueta
- MODELIZADO
Estabilidad de la población
04Datos
Lo que consume el método.
Conjuntos de datos y registros utilizados por la inteligencia artificial y el aprendizaje automático en esta plataforma, con la función que desempeña cada uno y la etiqueta que llevan sus valores. Las fuentes se enumeran en el registro de fuentes.
| Datos | Función | Etiqueta |
|---|---|---|
| Model and system cards | Disclosed capabilities and limits | DECLARADO |
| Benchmark results | Comparative capability | NOTIFICADO |
| Incident records | Observed failures | NOTIFICADO |
| Research literature | Métodos y evidencia | NOTIFICADO |
05Escenarios de política
Comparar instrumentos: normas, incentivos e información.
Tres familias de instrumentos comparadas con la línea de base, cada una con su propio desfase y su propia velocidad de adopción, según la cobertura y el cumplimiento que usted fije; los tamaños de efecto son valores didácticos que deben sustituirse por evidencia. Escenario: supuestos explícitos sobre el futuro, no un pronóstico.
Controles
- Tendencia de base del resultado
- El 2,0 % anual
- Cobertura del instrumento
- 70%
- Cumplimiento
- 75%
- Tamaño del efecto, frente al valor didáctico
- 100%
- Años por delante
- 20 años
Lecturas
- Mayor reducción en el horizonte
- Regulación
- Su reducción respecto de la línea de base
- 21%
Cifras, métodos y fuentes
| Año | Referencia | Regulación | Incentivo económico | Información y capacidades |
|---|---|---|---|---|
| 0 | 100.0 | 99.5 | 98.8 | 99.1 |
| 1 | 102.0 | 101.2 | 100.1 | 99.8 |
| 2 | 104.0 | 102.5 | 101.1 | 99.9 |
| 3 | 106.1 | 103.5 | 101.6 | 100.0 |
| 4 | 108.2 | 103.7 | 101.8 | 100.7 |
| 5 | 110.4 | 103.2 | 101.7 | 102.1 |
| 6 | 112.6 | 102.0 | 101.6 | 103.9 |
| 7 | 114.9 | 100.4 | 101.6 | 105.9 |
| 8 | 117.2 | 99.2 | 102.1 | 108.0 |
| 9 | 119.5 | 98.6 | 102.9 | 110.1 |
| 10 | 121.9 | 98.9 | 104.2 | 112.3 |
| 11 | 124.3 | 99.7 | 105.7 | 114.5 |
| 12 | 126.8 | 101.1 | 107.4 | 116.8 |
| 13 | 129.4 | 102.7 | 109.4 | 119.2 |
| 14 | 131.9 | 104.5 | 111.4 | 121.6 |
| 15 | 134.6 | 106.5 | 113.5 | 124.0 |
| 16 | 137.3 | 108.5 | 115.7 | 126.5 |
| 17 | 140.0 | 110.7 | 118.0 | 129.0 |
| 18 | 142.8 | 112.9 | 120.4 | 131.6 |
| 19 | 145.7 | 115.1 | 122.8 | 134.2 |
| 20 | 148.6 | 117.4 | 125.2 | 136.9 |
Métodos
- Las herramientas del gobierno Hood (1983), The Tools of Government, Macmillan
- Zanahorias, palos y sermones Bemelmans-Videc, Rist y Vedung (1998), Transaction
- Difusión de innovaciones Rogers (2003), Diffusion of Innovations, Free Press
- Abanico de incertidumbre (Monte Carlo de parámetros) Spiegelhalter, Pearson y Short (2011), Visualising uncertainty about the future, Science 333
- Sensibilidad de un factor a la vez (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Datos
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Fronteras Natural Earth
- Ciudades Natural Earth
En los seis pilares, bajo la dirección de Nexus Consortium
- Experimentos Laboratorios
- Integrado en Gobernanza de la IA y lo digital en Foundry
- Probado en Gobernanza de la IA y lo digital en Universe
- Codificado en Riesgo digital, cibernético y de la IA en Standards
- Publicado en Gobernanza de la IA y lo digital en Reports
- Se imparte en Facultad de Tecnología y Sistemas Digitales en Academy
06Validación
Cómo se verifican los resultados.
Los modelos se evalúan con datos reservados que respetan la estructura espacial, temporal y de grupos. La robustez, la calibración y la equidad se prueban junto con la exactitud.
| Verificación | Cómo se hace |
|---|---|
| Claims against evidence | Capability claims are checked against published evaluations |
| Context of benchmarks | Benchmark results are read with their task and data limits stated |
| Deployment conditions | Behaviour is described for the conditions in which the system is used |
El desempeño se degrada cuando las condiciones de despliegue difieren de los datos de entrenamiento. Los modelos pueden incorporar sesgos y fallar sin aviso claro ante eventos poco frecuentes.
07Implementación
Del mandato a la evaluación, por pilar.
Los pasos que sigue un instrumento desde el mandato hasta la evaluación, con el pilar que lo ejecuta y las decisiones que siguen en manos de la autoridad. Modelo didáctico con valores ilustrativos declarados, no una predicción.
- Mandato y planteamiento del problema Autoridad competente (fuera del programa)
Una autoridad competente plantea el problema y el mandato conforme a sus propias normas. Howlett, Ramesh y Perl (2009) - Evidencia y modelo del sistema Foundry
El sistema se modela con sus retroalimentaciones, datos y límites declarados. OCDE (2014), principio 2 - Opciones evaluadas con escenarios Foundry
Los instrumentos se comparan en distintos escenarios, mostrando la incertidumbre. Hood (1983) - Ejercicio con las partes interesadas Universo
Las opciones se ponen a prueba en un ejercicio con quienes las implementarían y las soportarían. OCDE (2014), principio 3 - Norma u orientación redactada Nexus Standards
Lo que funciona se codifica como norma u orientación, abierta a comentarios. Proceso de Nexus Standards - Decisión de la autoridad Autoridad competente (fuera del programa)
La autoridad decide, fuera del programa, con la evidencia que consta en acta. Howlett, Ramesh y Perl (2009) - Capacidades y formación Risk Academy
Quienes implementan reciben formación sobre el instrumento decidido y sus datos. Marco de Sendai para la Reducción del Riesgo de Desastres (2015), prioridad 2 - Seguimiento e informe público Informes
Los indicadores se publican con sus fuentes, límites y correcciones. OCDE (2014), principio 5 - Evaluación y revisión Nexus Standards
Los resultados vuelven a la norma y al modelo: el ciclo se cierra. Howlett, Ramesh y Perl (2009)
Métodos
- Ciclo de políticas Howlett, Ramesh y Perl (2009), Studying Public Policy, Oxford University Press
- Gobernanza de los riesgos críticos OCDE (2014), Recomendación del Consejo sobre la Gobernanza de los Riesgos Críticos
- Dibujo por capas de grafos dirigidos Sugiyama, Tagawa y Toda (1981), IEEE SMC 11
En los seis pilares, bajo la dirección de Nexus Consortium
- Experimentos Laboratorios
- Integrado en Gobernanza de la IA y lo digital en Foundry
- Probado en Gobernanza de la IA y lo digital en Universe
- Codificado en Riesgo digital, cibernético y de la IA en Standards
- Publicado en Gobernanza de la IA y lo digital en Reports
- Se imparte en Facultad de Tecnología y Sistemas Digitales en Academy
09Instrumentos y compromisos
Instrumentos, mandatos y compromisos.
Los instrumentos, mandatos, actores y mecanismos de rendición de cuentas con los que trabaja un responsable de políticas, un diplomático o un organismo de desarrollo, con cita de los acuerdos que los establecen. Las estructuras siguen los marcos nombrados. Cualquier estado o avance representado es ilustrativo, no un registro.
Matriz de instrumentos de política
The kinds of instrument available on Artificial intelligence and machine learning for AI and digital governance, by level of government and cooperation.
| Tipo de instrumento | Local | Nacional | Regional | Mundial |
|---|---|---|---|---|
| Regulatorio | Zonificación, códigos de construcción | Leyes, normas, licencias | Normas armonizadas | Convenciones y tratados |
| Económico | Tasas locales, subvenciones | Partidas presupuestarias, impuestos, esquemas de seguro | Fondos mancomunados de riesgo, fondos regionales | Mecanismos de financiación |
| Información | Alertas locales | Divulgación, alerta temprana, estadísticas | Acuerdos de intercambio de datos | Seguimiento y presentación de informes a nivel mundial |
| Institucional | Comités locales | Organismos rectores, consejos de coordinación | Organismos regionales y secretarías | Mandatos multilaterales |
| Cooperativo | Acuerdos comunitarios | Pactos de alianza | Memorandos y programas conjuntos | Acuerdos y compromisos conjuntos |
Marco de Sendai para la Reducción del Riesgo de Desastres · UNDRRAcuerdo de París · CMNUCCAgenda 2030 y los Objetivos de Desarrollo Sostenible · Naciones UnidasReglamento Sanitario Internacional · OMS
10Custodia responsable
Quién mantiene el método.
Inteligencia artificial y sistemas autónomos es el custodio de la inteligencia artificial y el aprendizaje automático para el Consortium y revisa cómo se aplican en las distintas plataformas.
11Conectado
Adónde lleva esta página en todo el Consorcio.
12Preguntas
Preguntas y respuestas.
¿Cuáles son los límites de la inteligencia artificial y el aprendizaje automático en este campo?
El desempeño se degrada cuando las condiciones de despliegue difieren de los datos de entrenamiento. Los modelos pueden incorporar sesgos y fallar sin aviso claro ante eventos poco frecuentes.
¿Cómo se verifican los resultados?
Los modelos se evalúan con datos reservados que respetan la estructura espacial, temporal y de grupos. La robustez, la calibración y la equidad se prueban junto con la exactitud.
¿Son reales los valores de esta página?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
¿Dónde más se aplica este método?
El Observatory del página canónica del método enumera todas las plataformas que lo aplican.
InformesContribuir
Aporte evidencia desde esta página.
Informes is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
Global Risks ForumGobernanza de la IA y lo digitalTecnología exponencialNota de evidencia
- Correo electrónicoPasarela GW-GRFEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoDepósito abiertoDeposítelo y envíelo a la comunidadPublique su propio registro en Zenodo con su ORCID iD y luego envíelo a la comunidad de Reports allí. Los curadores lo revisan; el DOI sigue siendo suyo.
- InformesGlobal Risks ForumVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Gobernanza de la IA y lo digital
Plantee una cuestión de gobernanza al Foro.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Legal
Documentos jurídicos.
Mostrar los 18 documentos jurídicos
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.