La Corea del Sud prepara il “Codice della Strada” per gli Agenti AI
La Corea del Sud sta aggiornando le proprie regole sulla sicurezza dell’intelligenza artificiale proprio mentre le aziende cominciano a delegare ai sistemi agentici una quota crescente di decisioni e attività operative. La Korea Internet & Security Agency (KISA), l’agenzia statale sudcoreana per la cybersecurity, ha annunciato di essere al lavoro su una nuova versione della “AI Security Guide”, pubblicata per la prima volta nel 2025. Il documento, ha riferito la KISA a Reuters, sarà dedicato ai rischi di sicurezza associati all’implementazione dei servizi di intelligenza artificiale agentica.
Le autorità non sembrano quindi limitarsi a proporre principi generali sull’affidabilità dei modelli, ma puntano a fornire alle organizzazioni uno strumento pratico per valutare e gestire i rischi prima e durante l’adozione di questi sistemi.
La differenza rispetto ai chatbot tradizionali è sostanziale. Un chatbot risponde a una richiesta; un agente AI, almeno in teoria, può pianificare una sequenza di azioni, utilizzare strumenti digitali, accedere a dati e sistemi e portare a termine un compito con un intervento umano ridotto. È una prospettiva interessante per le imprese, che vedono nell’AI agentica un modo per automatizzare processi, velocizzare il lavoro e ridurre i costi.
Ma è anche una prospettiva che complica il problema della sicurezza. Quando un sistema non si limita a suggerire un’azione, ma dispone degli strumenti necessari per eseguirla, un errore può trasformarsi direttamente in un problema operativo.
La KISA non ha ancora reso pubblici tutti i dettagli della revisione. Ha però precisato che la nuova guida comprenderà una checklist destinata ad aiutare le aziende nella gestione dei problemi di sicurezza legati all’adozione dell’AI agentica. Il formato è significativo: l’obiettivo sembra essere quello di tradurre i rischi associati all’autonomia dei sistemi AI in controlli e procedure concretamente applicabili dalle organizzazioni.
Il punto più delicato riguarda gli accessi. Per svolgere i propri compiti, un agente può avere bisogno di consultare database, utilizzare applicazioni, recuperare informazioni, inviare comunicazioni o interagire con altri software. Ogni autorizzazione aumenta l’utilità del sistema, ma può anche ampliare la superficie d’attacco.
Un agente manipolato, istruito in modo errato o alimentato da dati compromessi potrebbe compiere azioni non previste, propagando un errore attraverso l’organizzazione con una velocità che un dipendente difficilmente potrebbe replicare.
Per questa ragione, la sicurezza degli agenti non può essere valutata soltanto osservando il modello che li alimenta. Occorre considerare l’intero ambiente nel quale operano: i dati che ricevono, i permessi di cui dispongono, gli strumenti che possono utilizzare e i sistemi con cui comunicano. Anche una tecnologia relativamente affidabile può diventare rischiosa se viene dotata di privilegi eccessivi o inserita in processi privi di controlli adeguati.
È quindi ragionevole attendersi che, nell’ambito delle misure di sicurezza considerate dalla nuova guida, assumano un ruolo importante aspetti come la limitazione delle autorizzazioni, il monitoraggio delle attività, la tracciabilità delle operazioni e la possibilità di intervenire rapidamente in caso di comportamento anomalo. Questi elementi, tuttavia, non sono ancora stati tutti indicati pubblicamente dalla KISA come contenuti definitivi della checklist.
La supervisione umana, del resto, non dovrebbe significare soltanto la presenza occasionale di una persona davanti allo schermo. In un sistema realmente autonomo, la sicurezza richiede anche meccanismi capaci di segnalare comportamenti anomali, limitare le azioni potenzialmente dannose e, quando necessario, interrompere un’operazione.
La questione è anche giuridica e organizzativa. Se un agente commette un errore, chi ne risponde? Lo sviluppatore del modello, l’azienda che ha integrato il servizio o l’organizzazione che ne ha autorizzato l’utilizzo? Non esiste necessariamente una risposta semplice, soprattutto quando una decisione viene prodotta attraverso una catena di passaggi automatizzati difficile da ricostruire.
È proprio per questo che audit, tracciabilità e definizione delle responsabilità possono diventare elementi importanti nella gestione dell’AI agentica, anche se non sono stati presentati dalla KISA come l’elenco definitivo delle misure contenute nella nuova guida.
L’iniziativa sudcoreana arriva in un momento in cui l’AI agentica sta passando dai progetti dimostrativi a un numero crescente di applicazioni operative. Le imprese sono attratte dalla promessa di sistemi capaci di lavorare senza istruzioni continue, ma la stessa autonomia che rende questi strumenti più produttivi li rende anche più difficili da controllare.
Un dipendente può essere formato, richiamato e fermato; un agente deve essere progettato affinché i suoi limiti siano incorporati nell’architettura e nei controlli che ne regolano l’azione.
La nuova guida potrebbe inoltre avere un campo di applicazione più ampio del solo software. La Corea del Sud sta infatti guardando anche alla “physical AI”, cioè ai sistemi di intelligenza artificiale capaci di interagire con dispositivi e macchinari del mondo reale. In questo scenario, i problemi di sicurezza assumono una dimensione ulteriore: un comportamento inatteso non riguarderebbe soltanto dati o applicazioni, ma potrebbe produrre conseguenze direttamente nel mondo fisico.
La revisione della guida KISA rappresenta dunque un tentativo di aggiornare le pratiche di cybersecurity alla nuova fase dell’intelligenza artificiale. Non si tratta necessariamente di scegliere tra innovazione e prudenza, ma di stabilire le condizioni alle quali l’innovazione può essere resa più sicura e affidabile.
Il principio è semplice: più potere operativo viene affidato a una macchina, più rigorosi devono essere i controlli che ne delimitano l’azione.
La sfida per la Corea del Sud, e potenzialmente per molti altri Paesi, sarà trasformare questo principio in procedure abbastanza chiare da poter essere applicate dalle aziende prima che gli agenti AI diventino una presenza stabile nei processi aziendali e, sempre più, anche nelle attività che coinvolgono il mondo fisico.