2026: Odissea nel Web

Dario Amodei, amministratore delegato di Anthropic, ha chiesto all’industria di rallentare il ritmo con cui vengono migliorate le capacità dei modelli di intelligenza artificiale. In un saggio intitolato We Must Pace the Frontier, pubblicato il 12 settembre, Amodei sostiene che la velocità dello sviluppo stia ormai superando quella con cui aziende e governi riescono a comprendere, controllare e mettere in sicurezza i sistemi più avanzati.

L’appello di Dario Amodei trova anche il sostegno di Elon Musk e Sam Altman. Dietro la retorica della sicurezza globale, però, si intravede anche un problema più prosaico: la corsa ai modelli di frontiera sta diventando troppo costosa, rischiosa e difficile da governare.

Per anni la Silicon Valley ha seguito un dogma quasi religioso: muoversi rapidamente, sperimentare senza sosta e preoccuparsi delle conseguenze in un secondo momento. Chiunque invocasse prudenza veniva liquidato come un luddista, un burocrate o, nel migliore dei casi, un pessimista incapace di comprendere la portata della rivoluzione tecnologica.

Ora il freno arriva dagli stessi uomini che hanno costruito il motore.

La formula scelta da Amodei — pacing the frontier — non significa fermare la ricerca. Significa, piuttosto, guadagnare tempo: abbastanza tempo perché i sistemi di sicurezza, i controlli indipendenti e le regole riescano a tenere il passo con le capacità dei modelli.

È un’ammissione importante. E sorprende non soltanto perché arriva da Anthropic, società nata anche in reazione alle divergenze sulla sicurezza all’interno di OpenAI. La vera novità è la rapidità con cui alcuni dei suoi rivali hanno mostrato di condividere almeno una parte dell’allarme.

Elon Musk, fondatore di xAI e da sempre critico nei confronti di una regolamentazione che considera troppo debole o troppo lenta, ha espresso sostegno all’appello. Sam Altman, amministratore delegato di OpenAI, ha riconosciuto a sua volta la necessità di gestire il ritmo dello sviluppo e di rafforzare la supervisione sui laboratori di frontiera.

Per una volta, i titani dell’IA sembrano parlare la stessa lingua. Resta da capire se stiano difendendo l’interesse pubblico, il proprio modello di business o entrambe le cose.

La curva che spaventa

Secondo Amodei, il problema non è più soltanto che i modelli diventino più intelligenti. È la possibilità che imparino a migliorare le proprie prestazioni con una rapidità tale da rendere insufficienti i sistemi di controllo progettati dagli esseri umani.

Nel suo saggio, il dirigente di Anthropic richiama in particolare il rischio di forme di miglioramento ricorsivo e di agenti autonomi capaci di operare sulla rete con un livello crescente di indipendenza. In uno scenario estremo, sciami di agenti potrebbero essere utilizzati per condurre attacchi informatici coordinati, sfruttare vulnerabilità e mantenere una presenza persistente online. Alcune ricostruzioni del suo intervento riportano una finestra temporale di sei-dodici mesi per l’emergere di capacità molto più pericolose di quelle attuali.

Amodei evita il linguaggio del catastrofismo cinematografico. La sua tesi è più sobria e, proprio per questo, più inquietante: anche se i progressi continueranno a sembrare rapidi, un rallentamento deliberato potrebbe offrire alle istituzioni il margine necessario per verificare ciò che i modelli sono in grado di fare prima di distribuirli su larga scala.

Il punto non è stabilire se l’apocalisse sia vicina. È riconoscere che le aziende stanno costruendo sistemi le cui capacità non riescono ancora a misurare con precisione.

La coalizione delle Aziende

L’appello di Anthropic si articola in tre direttrici.

Primo: supervisori indipendenti. Le aziende dovrebbero consentire a valutatori esterni di monitorare i modelli, le pipeline di addestramento e i processi interni di gestione del rischio. Anthropic ha dichiarato di voler garantire agli osservatori indipendenti un accesso stabile e approfondito ai propri sistemi, così da verificare che gli impegni sulla sicurezza vengano effettivamente rispettati.

Non si tratterebbe di una consulenza occasionale, ma di una presenza integrata nei laboratori: qualcosa di più vicino a un organismo di controllo permanente che a un audit tradizionale.

Secondo: standard comuni. Le principali società di IA dovrebbero coordinarsi per definire regole condivise e limiti alla velocità dello sviluppo non controllato. È una proposta che ricorda, almeno nella logica, gli accordi internazionali sul controllo di tecnologie strategiche: difficile da negoziare, ma potenzialmente più efficace di una serie di impegni volontari e disomogenei.

Terzo: coordinamento geopolitico. I governi dovrebbero preservare il controllo sulle catene di fornitura dei semiconduttori e delle infrastrutture di calcolo. Le restrizioni all’esportazione verso la Cina, in questa prospettiva, non avrebbero soltanto una funzione commerciale o militare. Potrebbero diventare anche uno strumento per governare la velocità della corsa all’IA.

È qui che la questione della sicurezza incontra quella della geopolitica. Rallentare tutti può essere prudente. Rallentare soltanto alcuni, invece, può significare perdere il vantaggio strategico.

Il mercato presenta il conto

Mentre i tecnologi discutono di biosicurezza e supervisione, gli investitori osservano un problema più immediato: che cosa accadrebbe ai profitti se la frontiera dell’IA smettesse di avanzare a ritmo esponenziale?

Le valutazioni del settore si sono basate, in larga parte, sull’idea che la crescita delle capacità dei modelli sarebbe stata continua, rapida e accompagnata da una domanda quasi illimitata di potenza di calcolo. Un rallentamento coordinato non cancellerebbe questo mercato, ma potrebbe modificarne profondamente tempi, margini e protagonisti. Se i laboratori dovessero rinviare alcuni cicli di addestramento o sottoporre i nuovi modelli a verifiche più lunghe, gli ordinativi potrebbero rallentare.

Non sarebbe necessariamente la fine del boom dei semiconduttori. Potrebbe essere, però, la fine dell’idea che ogni nuova generazione di modelli debba richiedere automaticamente investimenti ancora più giganteschi in calcolo.

Le startup sotto pressione

La regolamentazione tende a favorire chi può permettersela. I controlli indipendenti, gli audit continui, la gestione degli incidenti e la conformità normativa hanno un costo. Per aziende come Microsoft, Google, Meta e Tesla può trattarsi di una voce di bilancio significativa, ma sostenibile. Per una startup, può diventare una barriera all’ingresso.

Secondo Reuters, Anthropic avrebbe  raggiunto una valutazione privata di circa 965 miliardi di dollari dopo un round da 65 miliardi, Una cifra che mostra quanto siano elevate le aspettative del mercato, ma anche quanto sia delicato il passaggio da una fase dominata dal capitale privato a una fase in cui gli investitori pubblici chiederanno risultati, trasparenza e prevedibilità.

L’ipotesi di una supervisione permanente potrebbe ridurre l’appeal speculativo nel breve periodo. Nel lungo periodo, tuttavia, potrebbe rendere queste società più presentabili agli investitori istituzionali e ai regolatori.

La rivincita del software

Se la corsa alla costruzione di modelli sempre più grandi rallentasse, il mercato potrebbe spostare l’attenzione dall’infrastruttura alle applicazioni.

Le società di software hanno trascorso mesi a difendersi dal timore che l’IA avrebbe eroso i tradizionali modelli di licenza e reso rapidamente obsolete intere categorie di prodotti. Una tregua nella corsa ai modelli di frontiera offrirebbe loro il tempo per integrare le tecnologie già disponibili, dimostrare un ritorno sull’investimento e trasformare l’entusiasmo in ricavi ricorrenti.

In altre parole, il rallentamento potrebbe penalizzare la fantasia finanziaria dell’IA, ma favorire la sua industrializzazione.

La prudenza come strategia

C’è una sottile ironia nel vedere i pionieri dell’intelligenza artificiale chiedere ai governi di proteggerli — forse anche da loro stessi. Ma l’appello di Amodei, Altman e Musk non può essere letto soltanto come un gesto di filantropia tecnologica.

Regolare la frontiera significa anche rendere più difficile l’ingresso dei concorrenti. Standard severi e controlli permanenti possono aumentare la sicurezza, ma consolidano inevitabilmente il vantaggio di chi dispone già di enormi risorse finanziarie, infrastrutture cloud, chip e competenze legali.

Il rischio è che la sicurezza diventi anche una forma di protezionismo industriale. Un accordo tra i grandi laboratori occidentali potrebbe limitare i pericoli più estremi, ma anche congelare gli attuali equilibri di mercato e rendere più costoso per le startup competere con gli incumbent.

Questo non rende l’appello illegittimo. Lo rende semplicemente più interessante.

Per gli investitori, la fine del “capitalismo selvaggio dell’algoritmo” potrebbe non essere una cattiva notizia. Un mercato più lento, regolato e prevedibile avrebbe forse meno titoli capaci di raddoppiare in pochi mesi, ma maggiori possibilità di trasformare una gigantesca scommessa speculativa in un ciclo industriale sostenibile.

La domanda decisiva è se i governi riusciranno a regolamentare una tecnologia che, anche quando decide di rallentare, continua a muoversi più rapidamente della legge.