Dario Amodei: "l'IA presto si programmerà da sola". Ma allora chi la controllerà?
Il CEO di Anthropic prevede che in 6-12 mesi l'intelligenza artificiale scriverà il proprio codice senza l'intervento umano. Nessuno però sta tirando il freno a mano.
Skynet non serviva: è bastata l’umanità.
Nella storia che vi raccontiamo oggi, infatti, non ci sono robot senzienti che si ribellano, né un’intelligenza artificiale che decide improvvisamente di sterminare l’umanità.
C’è solo un CEO che descrive serenamente come la sua azienda stia costruendo sistemi di intelligenza artificiale capaci di programmarsi da soli, migliorarsi autonomamente, e accelerare il proprio sviluppo in un loop che, sospettiamo, nessuno saprà davvero controllare.
Dario Amodei, CEO di Anthropic, l’ha detto di recente a Davos, nel video che trovate qui sotto: “Ho ingegneri in Anthropic che mi dicono: non scrivo più codice. Lascio che sia il modello a scriverlo. Io mi limito a modificarlo.”
E poi, con una franchezza quasi disarmante, ha aggiunto: “Potremmo essere a sei, dodici mesi di distanza dal momento in cui il modello farà la maggior parte, forse tutto, di ciò che fanno gli ingegneri software dall’inizio alla fine”.
Sei mesi. Dodici al massimo. Non è fantascienza, è una roadmap aziendale e la parte più disturbante non è nemmeno questa. È quello che viene dopo.
l loop che si chiude
Il meccanismo che Amodei descrive si chiama recursive self-improvement, ossia miglioramento ricorsivo autonomo.
“Costruiamo modelli bravi a scrivere codice e a fare ricerca sull’IA”, afferma il CEO di Anthropic, “quindi li usiamo per produrre la generazione successiva di modelli, accelerando il processo e creando un loop che aumenta la velocità di sviluppo dei modelli stessi.”
Il che però è lo scenario che gli esperti di AI safety temono. Il momento cioè in cui l’intelligenza artificiale smette di essere uno strumento nelle mani degli umani e diventa un processo autonomo che si auto-alimenta.
Geoffrey Hinton, premio Nobel per l’informatica, nonché uno dei padri del deep learning, ha lasciato Google nel 2023 proprio per lanciare l’allarme su questo rischio. Yoshua Bengio, altro pioniere dell’IA, ha firmato appelli per rallentare lo sviluppo prima che sia troppo tardi.
E Anthropic? Curiosamente è stata fondata da ex-dirigenti di OpenAI che se ne sono andati proprio perché preoccupati per la mancanza di attenzione alla sicurezza da parte di Altman. Dario Amodei e sua sorella Daniela hanno così creato l’azienda con una missione esplicita: costruire intelligenza artificiale sicura, controllabile, allineata agli interessi umani.
Oggi, Amodei descrive come la sua azienda sta innescando un meccanismo che pare in contrasto con quanto doveva prevenire. E lo fa con la naturalezza di chi illustra il piano di sviluppo del prossimo trimestre.
L’ultima illusione di controllo
Amodei, sia chiaro, è consapevole dell’elefante nella stanza. Non è ingenuo. Sempre nel video che trovate qui sopra, ammette apertamente i rischi che stiamo correndo: bioterrorismo, uso da parte di governi autoritari come il Partito Comunista Cinese, disoccupazione. Ha persino definito questa fase una “crisi” che richiede “quasi tutto il nostro sforzo per capire come superarla”.
Ha poi citato il film Contact e la scena in cui la protagonista, interpretata da Jodie Foster, riflette su quale domanda rivolgere a un’intelligenza extraterrestre, proponendo: “Come avete fatto a sopravvivere all’adolescenza tecnologica senza distruggervi?”. È la stessa domanda che Amodei sembra porsi oggi.
Poi è passato a parlare di “colli di bottiglia fisici”: “Non tutte le parti di quel loop possono essere accelerate dall’IA, giusto? Ci sono i chip, c’è la produzione dei chip, c’è il tempo di addestramento dei modelli”.
Sono questi, secondo lui, i vincoli che potrebbero rallentare il processo. Ma è una consolazione ben magra. Applicando la stessa logica, perché le IA non potrebbero ottimizzare la progettazione dei chip? O suggerire architetture hardware più efficienti? O ancora ridurre i tempi di training attraverso algoritmi migliori di quelli ideati dagli ingegneri umani?
Nvidia ha già iniziato a usare l’IA per progettare le sue GPU. TSMC sta sperimentando l’intelligenza artificiale per ottimizzare i processi produttivi. Google DeepMind ha dimostrato che le IA possono scoprire algoritmi più efficienti di quelli scritti dagli informatici.
I colli di bottiglia fisici non sono muri invalicabili. Sono solo l’ultimo passo prima che il loop si chiuda del tutto.
La corsa agli armamenti dell’IA
C’è qualcosa di ironico in tutto questo, dicevamo. Anthropic si definisce un’azienda di “AI safety”, ha pubblicato paper su come rendere i modelli più interpretabili, più controllabili, più allineati. Ha sviluppato Claude con l’idea di creare un’alternativa “responsabile” a ChatGPT.
Ora però il suo CEO sta ammettendo che in meno di un anno avremo sistemi capaci di fare tutto il lavoro degli ingegneri software, compresi quelli che sviluppano l’IA stessa.
La domanda è semplice: se nemmeno Anthropic sta rallentando, chi lo farà? La risposta la conosciamo già: nessuno.
Dietro ogni discorso sulla sicurezza, dietro ogni trattato accademico sul controllo dell’IA, c’è una competizione feroce tra OpenAI, Google DeepMind, Anthropic, Meta e xAI. E in quella gara, chi rallenta perde.
Sam Altman lo ha detto esplicitamente: “se OpenAI non costruirà l’AGI (Artificial General Intelligence), lo farà qualcun altro”. A ben guardare, è la stessa logica con cui si è giustificata in passato la corsa agli armamenti nucleari.
Solo che stavolta non sono gli Stati a competere ma aziende private. E la bomba di cui tutti avevamo paura da piccoli si sta auto-assemblando in data center sparsi per il mondo.
Europa, Cina, USA: tre modi di non fermarsi
L’Europa ha provato a fare qualcosa. L’AI Act, entrato in vigore nel 2024, è il primo tentativo serio di regolamentare l’intelligenza artificiale a livello continentale. Sistemi ad alto rischio, obblighi di trasparenza, divieti su certe applicazioni.
Il problema è che l’AI Act regolamenta sistemi che cambiano ogni sei mesi. Quando sarà pienamente applicabile nell’agosto 2026, la tecnologia che doveva normare sarà già diverse generazioni avanti. È come provare a mettere limiti di velocità alle automobili mentre qualcuno sta inventando il teletrasporto.
La Cina ha un approccio diverso: controllo statale diretto. Il Partito Comunista decide quali IA si possono sviluppare, impone linee guida, subordinate alla stabilità del regime. Ma anche Pechino sta correndo: Baidu, Alibaba, ByteDance investono miliardi. Perché sanno che chi arriverà prima all’AGI detterà le regole di questo secolo.
Gli Stati Uniti? Zero regole, massima accelerazione. La Casa Bianca di Biden ha provato a emanare una serie di linee guida. Con Trump tornato alla presidenza, quei guardrail sono spariti.
Tre continenti, tre sistemi politici completamente diversi. E tutti e tre stanno correndo nella stessa direzione. Speriamo solo che le IA siano brave e programmarsi.
Stefano Silvestri