By Marco Hugo Barsotti MHB 
Il dibattito sulla sicurezza dell’intelligenza artificiale ha smesso di essere una questione per soli specialisti nel momento in cui Dario Amodei, CEO di Anthropic, ha pubblicato il suo saggio sul “pacing” dei laboratori frontiera. In un episodio recente del podcast a16z, tre voci molto diverse tra loro — Aaron Levie (Box), Steven Sinofsky (ex Microsoft) e Martin Casado (a16z, ex ricercatore di sicurezza ai Lawrence Livermore National Labs) — hanno smontato pezzo per pezzo quel documento, arrivando a una conclusione scomoda: il problema non è la sostanza tecnica, ma la totale assenza di un vocabolario politico condiviso per parlarne.
Sintesi
Il saggio di Amodei sul pacing viene giudicato tecnicamente ragionevole ma retoricamente incoerente: parla di rallentamento mentre i laboratori corrono più veloce che mai.
Martin Casado lo bolla come “orthogonal alla sicurezza”: si può costruire lentamente anche un’arma nucleare, senza che questo renda nessuno più sicuro.
Il vero rischio identificato non è l’estinzione della specie, ma qualcosa di molto più concreto: la cybersecurity degli agent swarms.
Steven Sinofsky richiama i precedenti storici — antitrust, virus di Windows 95, la FAA che ha impiegato 40 anni per diventare quella attuale.
La previsione più netta: le elezioni USA del 2028 saranno il primo vero referendum sull’intelligenza artificiale.
E mentre Washington resta bloccata, l’Europa — priva di un’industria tech frontiera da proteggere — è pronta a colmare il vuoto regolatorio con lo stesso riflesso del GDPR.
Il paradosso del pacing
Casado è categorico: il post di Amodei sarebbe stato “molto ragionevole” se non fosse per l’atmosfera che lo accompagna. Un dipendente di Anthropic aveva parlato di un rischio del 10% di estinzione della specie; lo stesso giorno, Amodei dichiarava in televisione di essere “più d’accordo che in disaccordo” con quella cifra. Impossibile, secondo Casado, leggere il saggio sulla prudenza come qualcosa di diverso da una capitolazione mascherata da rigore tecnico.
Antitrust, virus e la lezione mai imparata
Sinofsky sposta il discorso sul terreno storico che conosce meglio di chiunque altro: l’industria tech ha “consistentemente rimparato la stessa lezione a ogni ondata tecnologica” — non capisce il clima regolatorio e non sa navigarlo. AT&T e IBM, nate come monopoli di fatto, sono finite entrambe sotto processo antitrust. Microsoft ha scoperto la stessa cosa a proprie spese: una foto di Bill Gates che gioca a golf con Bill Clinton non ha impedito la causa antitrust dell’amministrazione democratica pochi mesi dopo.
Cybersecurity, non fantascienza
Il punto su cui i tre convergono davvero è questo: il rischio esistenziale è filosoficamente irrisolvibile, ma il rischio di cybersecurity è concreto, misurabile e già regolato da precedenti solidi. Casado cita il Computer Fraud and Abuse Act del 1986, nato da un’intrusione specifica ai sistemi GTE Telemail usati anche da NASA e Livermore. La sua critica ai laboratori AI è diretta: i loro post-mortem sulle violazioni di sicurezza “sembrano scritti da un tirocinante”, perché non seguono gli stessi standard di reportistica strutturata che l’industria della sicurezza informatica ha sviluppato dagli anni ’80 in poi con il processo CVE.
Gli agent swarms cambiano il modello di accesso
Il cuore tecnico della discussione riguarda cosa succede quando non è più un dipendente umano, ma uno sciame di agenti software a interagire con le API interne di un’azienda. Se un’organizzazione tollerava un dipendente malevolo su diecimila perché la sicurezza si basava sulla fiducia diffusa, un agent swarm che agisce “mille volte più velocemente e senza stancarsi” può confondere un compito legittimo con uno dannoso — e farlo sembrare, agli occhi dei sistemi di monitoraggio, un attacco denial-of-service su GitHub interno o Slack aziendale. Casado propone di riesumare la ricerca sulla sicurezza multilevel (MLS) degli anni ’80, mai adottata su larga scala per problemi di usabilità che oggi, paradossalmente, l’AI stessa potrebbe risolvere.
L’incubo del prompt-GDPR
La preoccupazione più concreta espressa da Casado riguarda l’Europa. Gli Stati Uniti, dice, hanno smesso di guidare la politica antitrust tecnologica quindici anni fa; il vuoto lasciato apre la strada a Bruxelles, che può permettersi di normare senza nulla da perdere in termini di competitività industriale. Il timore è un’estensione dell’approccio GDPR a ogni interazione degli agenti AI con software di terze parti: un avviso di sicurezza — l’equivalente digitale dell’etichetta dell’airbag in auto — prima di ogni scrittura non banale. Una misura che piace ai regolatori perché assegna responsabilità legale, ma che rischia di anestetizzare l’utente esattamente come già accaduto con i banner sui cookie.
Il 2028 come referendum sull’IA
La previsione politica più netta arriva ancora da Casado: la prossima elezione presidenziale americana sarà, al cento per cento, un referendum sull’intelligenza artificiale. Il problema, osserva Levie, è che nessuno ha ancora trovato un vocabolario efficace per raccontare una posizione favorevole all’AI — ogni parola del dibattito, da “pause” a “swarm” a “rogue“, è stata coniata da chi vuole frenarla. Un’eco diretta di quanto già visto con i social network: il Senato che ammette di aver “perso l’occasione” di regolare internet in tempo, e Elizabeth Warren che rivendica di non voler ripetere lo stesso errore con l’AI.
L’innovazione si sposta fuori dai laboratori
C’è però anche un segnale positivo, ed è forse il più significativo per chi guarda al settore da un’angolazione industriale piuttosto che regolatoria. Sinofsky nota che l’innovazione più interessante non sta più avvenendo dentro i grandi laboratori frontiera, ma nel software costruito attorno ai modelli — un fenomeno che chiama, mutuando il gergo Apple, “Sherlocking” al contrario: la piattaforma diventa così grande e sovraccarica di manutenzione che l’innovazione vera si sposta fuori, nell’application layer. L’esempio citato è il passaggio dalla generazione di testo puro alla programmazione probabilistica — un modello che non genera più frasi ma restituisce direttamente una percentuale da inserire in un if statement, rendendo l’integrazione con il software tradizionale enormemente più semplice ed economica.
Resta la domanda di fondo, posta indirettamente da tutti e tre: regolare troppo presto una tecnologia che non si capisce ancora del tutto rischia di congelarne la forma attuale senza risolvere nulla — esattamente come sarebbe successo a internet, se il Congresso avesse ascoltato nel 1994 chi chiedeva di bloccarlo per i virus che già lo attraversavano. La storia, ricorda Sinofsky, non ha mai premiato chi ha regolato prima di capire. Il rischio, oggi, è che tra Washington paralizzata e Bruxelles pronta a colmare il vuoto, il 2028 arrivi prima della comprensione. (M.H.B.)
Ami Carter-Wilson