Il buco nero dell’AI: il rischio prende vita con gli AI Agent e l’AI Act

L’AI Act entra nella sua fase più concreta per broker e compagnie assicurative: dal 2 agosto scattano soprattutto gli obblighi di trasparenza e alfabetizzazione, mentre il capitolo più pesante sui sistemi ad alto rischio è stato rinviato al 2 dicembre 2027. Per il settore assicurativo, quindi, il punto non è un adeguamento totale immediato, ma capire quali strumenti di AI sono già in uso e quali regole li riguardano davvero.

Per anni l’AI è stata trattata come una tecnologia che parla. Ora comincia ad agire. Può inviare ordini, modificare sistemi, accedere a dati sensibili, interagire con clienti e fornitori, perfino incidere su credito, salute e sicurezza. E quando un sistema sbaglia non è più soltanto una questione di contenuto errato: diventa un pagamento sbagliato, una fuga di dati, un danno operativo o, nei casi peggiori, un incidente fisico.

Dal testo all’azione

Il salto è sottile solo in apparenza. Un chatbot può generare una risposta inesatta; un agente può trasformare quell’errore in un’azione con effetti reali. È la differenza tra dire e fare, tra suggerire e decidere, tra supportare un processo e diventare parte del processo stesso.

È qui che il rischio cambia natura. Non basta più chiedersi se un modello abbia allucinato. Bisogna capire chi ha autorizzato l’agente, con quali privilegi, su quali sistemi, con quali controlli e con quale possibilità di blocco.

L’Europa prova a prevenire

Nell’Unione europea il quadro è più rigoroso e più coerente di quello che si vede in altri mercati. L’AI Act introduce obblighi di governance e gestione del rischio, il GDPR continua a presidiare i dati personali, mentre NIS2 e DORA rafforzano i presidi su sicurezza, resilienza e controllo operativo.

L’approccio europeo è chiaro: prima si governa, poi si scala. È una filosofia meno permissiva, ma anche più adatta a un contesto in cui l’autonomia dell’agente può trasformare un errore tecnico in un problema legale e finanziario. In Europa, insomma, l’AI non è solo una questione di innovazione: è una questione di tracciabilità.

Fuori dalla UE, più libertà, meno ordine

Negli Stati Uniti il quadro è più frammentato. La regolazione è meno centralizzata, la giurisprudenza ha un peso maggiore e le imprese si muovono in un ambiente dove il confine tra software bug, negligenza e responsabilità professionale è più sfumato. Questo favorisce velocità e sperimentazione, ma rende più difficile capire in anticipo come verrà trattato un sinistro causato da un agente autonomo.

Nel Regno Unito l’impostazione è più pragmatica e meno prescrittiva, mentre in molti altri mercati il vero problema è ancora più elementare: mancano definizioni condivise su cosa renda davvero “autonomo” un sistema, quando scatti la supervisione umana e dove finisca la responsabilità dell’operatore.

In Svizzera, il comparto assicurativo sta usando l’intelligenza artificiale soprattutto per sottoscrizione, gestione sinistri, customer service e controllo del rischio, con una forte attenzione a governance, qualità dei dati e spiegabilità. Sul piano regolatorio e di vigilanza, la FINMA ( Eidgenössische Finanzmarktaufsicht – Autorità federale di vigilanza sui mercati finanziari) segnala che circa metà degli istituti finanziari svizzeri usa già l’AI o sta sviluppando prime applicazioni, e tra gli assicuratori le aree più diffuse restano interazione con la clientela, liquidazione dei sinistri, distribuzione e tariffazione.

Come la usa il settore

Le compagnie la impiegano per estrarre informazioni da documenti lunghi, automatizzare pratiche e supportare i team tecnici nelle decisioni di underwriting e risk modeling. In pratica, l’AI funziona spesso come un copilota: accelera i processi senza sostituire del tutto il lavoro umano, soprattutto nei casi complessi o sensibili.

Esempi concreti

Zurich è uno dei casi più visibili: ha testato la AI generativa per sinistri e modellazione del rischio, ha acquisito AlphaChat.ai per assistenti virtuali e ha lanciato iniziative come lo Zurich AI Lab e strumenti operativi come Program IQ per analizzare polizze multinazionali e individuare incoerenze contrattuali. La stessa Zurich afferma che AI e automazione saranno cruciali per migliorare la qualità del servizio nel futuro assicurativo svizzero.

Governance e rischi

La parte più delicata non è solo tecnica, ma anche di controllo: la FINMA indica come priorità protezione dei dati, cybersecurity, gestione dei dati, rischio operativo e spiegabilità dei modelli. Per questo molte compagnie stanno creando comitati interni e processi specifici per governare l’uso dell’AI, invece di adottarla in modo isolato o sperimentale.

L’assicurazione entra nella stanza dei motori

Il paradosso è che gli agenti AI non mettono in crisi solo la compliance, ma anche l’industria assicurativa. Le polizze classiche nascono per rischi relativamente separabili; gli agenti, invece, mescolano cyber, errore umano, difetto di servizio e responsabilità da prodotto in un unico evento.

Per questo l’assicuratore non può più limitarsi a rimborsare il danno dopo l’incidente. Deve contribuire a disegnare il rischio prima che si manifesti: definire limiti di accesso, controlli, logging, approvazioni umane, kill switch e criteri di escalation. In altre parole, la copertura dipende sempre più dall’architettura del sistema.

Il vero test per le imprese

La domanda, allora, non è se gli agenti AI siano utili. Lo sono. La vera domanda è se siano assicurabili, governabili e giuridicamente leggibili.

Se la risposta è no, l’adozione rallenterà proprio nei settori più sensibili: finanza, sanità, logistica, servizi professionali, customer operations. E se la risposta è sì, sarà perché il mercato avrà accettato una verità semplice ma scomoda: l’AI non è più soltanto uno strumento. È un attore operativo.

E quando un software inizia a comportarsi come un attore, il vecchio contratto del rischio non basta più.