GRF · Governance dell'IA e del digitale
Agenti autonomi e responsabilità
Gli agenti di IA ora pianificano e compiono azioni su software, pagamenti e sistemi fisici con un intervento umano limitato. Quando un agente causa un danno, le norme sulla responsabilità vigenti devono stabilire chi paga: lo sviluppatore, chi lo mette in uso, l'utente o il gestore della piattaforma su cui ha agito. Questa pagina illustra come l'autonomia mette sotto pressione responsabilità e supervisione, i registri che lo mostrano e chi decide come attribuire la responsabilità.
Autonomous agents and liability on the record.
Autonomous agents and liability: how the risk develops.
Confini dell'azione e responsabilità. Il dossier che segue illustra come si sviluppa il rischio, che cosa si misura, da dove provengono i dati, come sono modellizzati e chi decide.
Actions outrun intent
Un agente che persegue un obiettivo può compiere passi che il suo utente non aveva previsto né autorizzato. La responsabilità per colpa fatica ad applicarsi quando nessuna persona voleva o poteva ragionevolmente prevedere l'azione dannosa.
Many hands, unclear fault
Il modello, il framework degli agenti, i fornitori di strumenti, l'impresa che lo impiega e l'utente contribuiscono tutti. Dimostrare quale difetto abbia causato il danno è oneroso per i ricorrenti privi di accesso ai registri.
Permissions define exposure
What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.
Law adapts slowly
La responsabilità del produttore, il diritto contrattuale e quello della responsabilità extracontrattuale vengono reinterpretati per software e IA. Finché tribunali e legislatori non risolvono le questioni, l'incertezza stessa condiziona l'impiego.
Registro pubblico degli algoritmi.
La schermata che un gruppo utilizzerebbe per seguire questo tema: misure, stati e decisioni. I nomi sono esempi e i valori sono illustrativi.
Registro pubblico degli algoritmi
Autonomous agents and liability · Algorithm register · Quarter 2
Sistemi registrati
| Segnalazione di frodi sulle prestazioni | Capacità d'azione sociale | Alto | Mancante | Parziale |
| Triage dei permessi | Pianificazione | Limitato | Fatto | Sì |
| Assegnazione dei posti scolastici | Istruzione | Alto | Fatto | Sì |
| Assistente chat | Ufficio delle imposte | Minimo | Fatto | n/a |
Azione di vigilanza
- Sistema
- Segnalazione di frodi sulle prestazioni
- Obbligatorio
- valutazione d'impatto, via di ricorso
- Scadenza
- 77 days
- Autorità
- Organismo di vigilanza
Reclami sulle decisioni automatizzate
Cosa viene misurato e con quale accuratezza.
Ogni indicatore riporta la sua unità, la sua cadenza, il tipo di fonte su cui si basa e l'etichetta di evidenza che un valore riporterebbe. Non sono mostrati valori: un programma li fornisce sotto la propria autorità.
| Indicatore | Unità | Cadenza | Tipo di fonte | Etichetta |
|---|---|---|---|---|
| Giurisdizioni che trattano il software come prodotto ai fini della responsabilità | conteggio | al cambiamento | Legislazione | Statistiche pubblicate |
| Decisioni giudiziarie su danni causati dall'IA | conteggio per tipo | annuale | Banche dati di giurisprudenza | Statistiche pubblicate |
| Incidenti di agenti segnalati | conteggio per tipo di danno | mensile | Banche dati degli incidenti | RIPORTATO |
| Implementazioni con limiti di autorizzazione documentati | quota delle implementazioni rilevate | periodico | Surveys and audits | DICHIARATO |
| Insurance products covering AI liability | numero di offerte | annuale | Rapporti di mercato | RIPORTATO |
| Orientamenti normativi sull'IA agentica | numero di documenti | annuale | Regulator publications | Statistiche pubblicate |
How autonomous agents and liability is governed: instruments, mandates and commitments.
Gli strumenti, i mandati, gli attori e gli assetti di responsabilità con cui lavorano decisori politici, diplomatici e agenzie di sviluppo, con la citazione degli accordi che li stabiliscono. Le strutture seguono i quadri indicati. Qualsiasi stato o avanzamento raffigurato è illustrativo, non un registro.
Matrice degli strumenti di policy
The kinds of instrument available on autonomous agents and liability, by level of government and cooperation.
| Tipo di strumento | Locale | Nazionale | Regionale | Globale |
|---|---|---|---|---|
| Normativo | Zonizzazione, codici edilizi | Leggi, norme, autorizzazioni | Regole armonizzate | Convenzioni e trattati |
| Economico | Prelievi locali, sovvenzioni | Voci di bilancio, imposte, sistemi assicurativi | Pool di rischio, fondi regionali | Meccanismi di finanziamento |
| Informazione | Allerte locali | Divulgazione, allerta precoce, statistiche | Accordi di condivisione dei dati | Monitoraggio e rendicontazione globali |
| Istituzionale | Comitati locali | Agenzie capofila, consigli di coordinamento | Organismi regionali e segretariati | Mandati multilaterali |
| Cooperativo | Accordi comunitari | Patti di partenariato | Memorandum e programmi congiunti | Accordi e impegni congiunti |
Da dove provengono le evidenze.
Set di dati pubblici e registri istituzionali specifici, ciascuno con la sua classe di licenza. Le fonti soggette ad accordo sono utilizzate solo alle relative condizioni e mai ripubblicate.
| Fonte | Cosa fornisce | Classe di licenza |
|---|---|---|
| Direttiva UE riveduta sulla responsabilità per danno da prodotti difettosi | Liability rules including software and AI systems as products | Pubblico, condizioni di riutilizzo dell'UE |
| Rapporti delle commissioni per la riforma del diritto e dei parlamenti sulla responsabilità per l'IA | Analysis of liability options for AI and automated systems | Registri pubblici, condizioni stabilite da ciascun organismo |
| OECD AI Incidents Monitor | Incidenti registrati che coinvolgono sistemi di IA | Gratuito, condizioni OCSE |
| Automated and Electric Vehicles Act e Automated Vehicles Act del Regno Unito | Attribuzione della responsabilità per i veicoli automatizzati | Open Government Licence |
| Court judgment databases | Decisioni sui danni che coinvolgono sistemi automatizzati | Public records, terms per court |
Chi decide, e a cosa servono le evidenze.
Governance dell'IA e del digitale prepara le evidenze. Le decisioni seguenti sono prese dalle autorità indicate, secondo le proprie regole, e mai dalla piattaforma.
| Chi decide | La domanda | Evidenze fornite da questa pagina |
|---|---|---|
| Legislatures and law commissions | How liability rules apply to autonomous systems | Regimi comparati ed evidenze dai casi |
| Organizzazioni che effettuano il dispiegamento | Che cosa può fare un agente e quali controlli si applicano | Pratiche di controllo ed evidenze sugli incidenti |
| Assicuratori | Se e come coprire la responsabilità legata all'IA | Andamento degli incidenti e sviluppi giuridici |
| Tribunali | Chi è responsabile del danno in un caso specifico | Registri presentati dalle parti; la pagina fornisce solo il contesto |
Output prodotti da questo argomento
- Comparative notes on liability rules for software and AI
- Guida ai limiti di autorizzazione e ai controlli per l'implementazione di agenti
- Documenti di dialogo sull'attribuzione delle responsabilità nelle catene di IA con più parti
- Domande per i legislatori sulla responsabilità degli agenti
What experts ask about autonomous agents.
- Quali azioni può compiere questo agente e come vengono applicati tecnicamente tali limiti?
- Quando un agente causa un danno, chi ne risponde: lo sviluppatore, chi lo impiega o l'utente?
- How can an agent’s actions be traced, reviewed and reversed?
- How should agents interact with other agents, and who governs those interactions?
Why agents raise new governance questions.
La maggior parte dei quadri di governance è stata concepita per sistemi che consigliano una persona, la quale poi agisce. Gli agenti eliminano questa distanza, e con essa uno dei principali punti in cui venivano individuati gli errori. Perché adesso: gli agenti di IA che agiscono per conto di persone e organizzazioni sollevano questioni di responsabilità che le norme esistenti non avevano previsto, e i legislatori le stanno ancora affrontando. La piattaforma è concepita per confrontare gli approcci emergenti e per registrare le questioni aperte per i decisori, senza fornire consulenza legale.
Azione senza revisione
Agents can act faster and more often than people can review, so errors can multiply before anyone notices.
Agents meeting agents
Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.
Unclear responsibility
Le norme vigenti sulla responsabilità presuppongono che abbia agito una persona o un'impresa; gli agenti rendono più complesso stabilire chi sia.
Strumenti per delimitare gli agenti.
- 01
Controlli di autorizzazione e di ambito
Limiti tecnici a ciò a cui gli agenti possono accedere e a ciò che possono fare, studiati nell'ambito dell' Ingegneria della valutazione e dell'assicurazione dell'IA. Limiti: gli agenti possono trovare vie impreviste per aggirare i controlli.
- 02
Logging and reversibility
Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.
- 03
Soglie di approvazione umana
Richiedere l'approvazione umana oltre livelli di rischio definiti. Limiti: può rallentare le operazioni e favorire l'affaticamento da approvazione.
- 04
Liability analysis
Comparing how legal systems allocate responsibility. Limits: law is still developing.
Come viene studiato, e cosa i metodi non possono dire.
- 01Ingegneria della valutazione e dell'assicurazione dell'IAAmbito dell'audit di terze parti · Test di equità nei sistemi pubblici · Monitoraggio successivo all'impiegoApplicato qui
- 02Intelligenza artificiale e apprendimento automaticoCome falliscono i modelli in fase di impiego · Leggere la documentazione dei modelli · Architetture degli agenti spiegateApplicato qui
- 03Scienze delle politiche, delle istituzioni e delle decisioniConfronto tra regimi di IA · Mappatura della responsabilità lungo la catena del valore · Mappatura dei forum e dei mandatiApplicato qui
- 04Identità digitale e sistemi digitali pubbliciLivelli di garanzia per i servizi pubblici · Divulgazione minima · Analisi dell'esclusioneApplicato qui
Domande e risposte.
Che cos'è un agente di IA?
Chi è responsabile quando un agente di IA causa un danno?
What controls limit agent harm?
Can an AI agent be legally responsible?
Come si possono mantenere entro limiti le azioni degli agenti?
La piattaforma mette alla prova gli agenti?
Why do agent interactions matter?
Contribuisci con evidenze da questa pagina.
Reports è la pubblicazione trimestrale del consorzio. Ciò che sai su questo tema può diventare un'evidenza, un caso o una correzione nella prossima edizione, attribuita a te e pubblicata con licenza CC BY 4.0 se si tratta di un tuo lavoro.
- EmailGateway GW-GRFSend it from this pageEvidence, a correction, a case, a method, a review, a translation or profile input. It arrives tagged with this page, so the editor who owns it receives it.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Non inviare mai dati personali, dettagli su infrastrutture sensibili o qualsiasi cosa che tu non abbia il diritto di condividere. Un contributo viene sottoposto a revisione prima dell'uso; inviarlo non conferisce diritti di paternità né editoriali, e la sponsorizzazione non compra mai un risultato.
Portate una questione di governance al Forum.
Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.
Documenti legali.
Mostra tutti i 18 documenti legali
Le mappe, i dati e le cifre di questo sito sono mostrati a titolo di contesto e di informazione generale. Non costituiscono consigli, previsioni né allerte; i limiti dell'informazione sono esposti nelle Dichiarazioni di esclusione di responsabilità e nelle Note sui dati.