GRF · Gobernanza de la IA y lo digital
Agentes autónomos y responsabilidad
AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.
Agentes autónomos y responsabilidad, en el registro.
Autonomous agents and liability: how the risk develops.
Límites de la acción y rendición de cuentas. El expediente siguiente expone cómo se desarrolla el riesgo, qué se mide, de dónde proceden los datos, cómo se modelan y quién decide.
Actions outrun intent
An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.
Many hands, unclear fault
El modelo, el marco de agentes, los proveedores de herramientas, la empresa que lo despliega y el usuario contribuyen todos. Demostrar qué defecto causó el daño resulta costoso para los demandantes sin acceso a los registros.
Permissions define exposure
What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.
Law adapts slowly
Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.
Registro público de algoritmos.
La pantalla que utilizaría un equipo para seguir esta materia: sus mediciones, estados y decisiones. Los nombres son ejemplos y los valores son ilustrativos.
Registro público de algoritmos
Autonomous agents and liability · Algorithm register · Quarter 2
Sistemas registrados
| Detección de fraude en prestaciones | Agencia social | Alto | Inexistente | Parcial |
| Clasificación de solicitudes de permisos | Planificación | Limitado | Hecho | Sí |
| Asignación escolar | Educación | Alto | Hecho | Sí |
| Asistente de chat | Oficina tributaria | Mínimo | Hecho | n/a |
Acción de supervisión
- Sistema
- Detección de fraude en prestaciones
- Obligatorio
- evaluación de impacto, vía de apelación
- Plazo
- 77 days
- Autoridad
- Órgano de supervisión
Reclamaciones sobre decisiones automatizadas
Qué se mide y con qué calidad.
Cada indicador lleva su unidad, su periodicidad, el tipo de fuente que lo respalda y la etiqueta de evidencia que llevaría un valor. No se muestran valores: un programa los aporta bajo su propia autoridad.
| Indicador | Unidad | Cadencia | Tipo de fuente | Etiqueta |
|---|---|---|---|---|
| Jurisdicciones que tratan el software como producto a efectos de responsabilidad | recuento | cuando cambia | Legislación | Estadísticas publicadas |
| Court decisions on AI-caused harm | recuento por tipo | anual | Case law databases | Estadísticas publicadas |
| Agent incidents reported | recuento por tipo de daño | mensual | Bases de datos de incidentes | NOTIFICADO |
| Despliegues con límites de permisos documentados | share of surveyed deployments | periódico | Encuestas y auditorías | DECLARADO |
| Insurance products covering AI liability | número de ofertas | anual | Informes de mercado | NOTIFICADO |
| Orientaciones regulatorias sobre IA agéntica | recuento de documentos | anual | Regulator publications | Estadísticas publicadas |
Cómo se rigen los agentes autónomos y la responsabilidad: instrumentos, mandatos y compromisos.
Los instrumentos, mandatos, actores y mecanismos de rendición de cuentas con los que trabaja un responsable de políticas, un diplomático o un organismo de desarrollo, con cita de los acuerdos que los establecen. Las estructuras siguen los marcos nombrados. Cualquier estado o avance representado es ilustrativo, no un registro.
Matriz de instrumentos de política
The kinds of instrument available on autonomous agents and liability, by level of government and cooperation.
| Tipo de instrumento | Local | Nacional | Regional | Mundial |
|---|---|---|---|---|
| Regulatorio | Zonificación, códigos de construcción | Leyes, normas, licencias | Normas armonizadas | Convenciones y tratados |
| Económico | Tasas locales, subvenciones | Partidas presupuestarias, impuestos, esquemas de seguro | Fondos mancomunados de riesgo, fondos regionales | Mecanismos de financiación |
| Información | Alertas locales | Divulgación, alerta temprana, estadísticas | Acuerdos de intercambio de datos | Seguimiento y presentación de informes a nivel mundial |
| Institucional | Comités locales | Organismos rectores, consejos de coordinación | Organismos regionales y secretarías | Mandatos multilaterales |
| Cooperativo | Acuerdos comunitarios | Pactos de alianza | Memorandos y programas conjuntos | Acuerdos y compromisos conjuntos |
De dónde procede la evidencia.
Conjuntos de datos públicos y registros institucionales identificados, cada uno con su tipo de licencia. Las fuentes obtenidas por acuerdo solo se utilizan conforme a sus condiciones y nunca se republican.
| Fuente | Lo que aporta | Tipo de licencia |
|---|---|---|
| Directiva revisada de la UE sobre responsabilidad por productos defectuosos | Liability rules including software and AI systems as products | Público, condiciones de reutilización de la UE |
| Informes de comisiones de reforma legislativa y parlamentarios sobre la responsabilidad por la IA | Análisis de las opciones de responsabilidad para la IA y los sistemas automatizados | Registros públicos, condiciones según cada órgano |
| Monitor de Incidentes de IA de la OCDE | Recorded incidents involving AI systems | Gratuita, condiciones de la OCDE |
| Ley del Reino Unido sobre Vehículos Automatizados y Eléctricos (Automated and Electric Vehicles Act) y sobre Vehículos Automatizados (Automated Vehicles Act) | Asignación de la responsabilidad en los vehículos automatizados | Open Government Licence |
| Court judgment databases | Decisions on harm involving automated systems | Registros públicos, mandatos por tribunal |
Quién decide y a qué sirve la evidencia.
Gobernanza de la IA y lo digital prepara evidencia. Las decisiones que figuran a continuación las toman las autoridades indicadas, conforme a sus propias normas, y nunca la plataforma.
| Quién decide | La pregunta | Evidencia a la que sirve esta página |
|---|---|---|
| Legislatures and law commissions | How liability rules apply to autonomous systems | Comparative regimes and case evidence |
| Organizaciones que despliegan | Lo que un agente puede hacer y qué controles se aplican | Práctica de control y evidencia de incidentes |
| Aseguradoras | Si conviene cubrir la responsabilidad por la IA y cómo hacerlo | Patrones de incidentes y novedades jurídicas |
| Tribunales | Quién es responsable del daño en un caso concreto | Registros presentados por las partes; la página solo ofrece contexto |
Productos que genera este tema
- Notas comparativas sobre las normas de responsabilidad por software e IA
- Guía de límites de permisos y controles para el despliegue de agentes
- Informes de diálogo sobre la asignación de responsabilidades en cadenas de IA con múltiples partes
- Questions for legislatures on agent liability
Lo que preguntan los expertos sobre los agentes autónomos.
- ¿Qué acciones puede realizar este agente y cómo se aplican técnicamente esos límites?
- Cuando un agente causa un daño, ¿quién es responsable: el desarrollador, el implementador o el usuario?
- How can an agent’s actions be traced, reviewed and reversed?
- How should agents interact with other agents, and who governs those interactions?
Why agents raise new governance questions.
La mayoría de los marcos de gobernanza se construyeron para sistemas que asesoran a una persona que luego actúa. Los agentes eliminan esa brecha y, con ella, uno de los principales puntos en los que se detectaban los errores. Por qué ahora: los agentes de IA que actúan en nombre de personas y organizaciones plantean cuestiones de responsabilidad que las normas existentes no previeron, y los legisladores aún las están abordando. La plataforma está diseñada para comparar enfoques emergentes y registrar cuestiones abiertas para quienes toman decisiones, sin ofrecer asesoramiento jurídico.
Acción sin revisión
Agents can act faster and more often than people can review, so errors can multiply before anyone notices.
Agents meeting agents
Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.
Unclear responsibility
Las normas de responsabilidad vigentes presuponen que actuó una persona o una empresa; los agentes complican determinar quién es.
Instrumentos para acotar a los agentes.
- 01
Permission and scope controls
Límites técnicos a lo que los agentes pueden acceder y hacer, estudiados en Ingeniería de evaluación y garantía de la IA. Limitaciones: los agentes pueden encontrar vías no previstas para eludir los controles.
- 02
Logging and reversibility
Registrar las acciones y diseñarlas para que se puedan deshacer siempre que sea posible. Límites: algunas acciones no pueden revertirse.
- 03
Umbrales de aprobación humana
Exigir la aprobación humana por encima de niveles de riesgo definidos. Límites: puede ralentizar las operaciones y propiciar la fatiga de aprobación.
- 04
Liability analysis
Comparing how legal systems allocate responsibility. Limits: law is still developing.
Cómo se estudia y lo que los métodos no pueden decir.
- 01Ingeniería de evaluación y garantía de la IAAlcance de las auditorías externas · Pruebas de equidad en los sistemas públicos · Supervisión posterior al despliegueAplicado aquí
- 02Inteligencia artificial y aprendizaje automáticoCómo fallan los modelos en el despliegue · Lectura de la documentación de los modelos · Arquitecturas de agentes explicadasAplicado aquí
- 03Ciencia de las políticas, las instituciones y la toma de decisionesComparación de regímenes de IA · Mapeo de la rendición de cuentas en la cadena de valor · Mapeo de foros y mandatosAplicado aquí
- 04Identidad digital y sistemas digitales públicosNiveles de garantía para los servicios públicos · Divulgación mínima · Análisis de exclusiónAplicado aquí
Preguntas y respuestas.
¿Qué es un agente de IA?
¿Quién es responsable cuando un agente de IA causa daño?
What controls limit agent harm?
¿Puede un agente de IA ser jurídicamente responsable?
¿Cómo se pueden mantener las acciones de los agentes dentro de límites?
¿Pone a prueba la plataforma a los agentes?
Why do agent interactions matter?
Aporte evidencia desde esta página.
Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.
- Correo electrónicoPasarela GW-GRFEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Plantee una cuestión de gobernanza al Foro.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Mostrar los 18 documentos jurídicos
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.