In che mani siamo
Apocalisse, fusione uomo-macchina, immortalità digitale: non è sono trame di b-movie fantascienza ma i business plan dei miliardari della Silicon Valley.
Sam Altman ha appena fatto investire OpenAI in Merge Labs, una startup dedicata alle interfacce cervello-computer. Di cui lui stesso è fondatore.
Valutazione: 850 milioni di dollari. Round seed: 250 milioni, di cui la fetta più grande firmata proprio dal creatore di ChatGPT attraverso l’OpenAI Startup Fund. La circolarità dell’operazione è così sfacciata da sembrare una provocazione. Ma il dettaglio più interessante non è il conflitto di interessi, bensì la visione che lo muove.
Altman crede che l’umanità debba fondersi con le macchine per sopravvivere all’intelligenza artificiale. Lo ha scritto nero su bianco in un post del 2017 intitolato The Merge: “Saremo la prima specie a progettare i propri discendenti. La mia ipotesi è che possiamo essere o il bootloader biologico per l’intelligenza digitale per poi svanire in un ramo dell’albero evolutivo, oppure possiamo capire come appare una fusione di successo”. Per Altman, il merge è lo “scenario migliore” per l’umanità di fronte a un’IA superintelligente che descrive come “una specie separata in conflitto con gli umani”.
Fermiamoci un secondo. Il CEO della più importante azienda di intelligenza artificiale al mondo ritiene che la tecnologia che sta sviluppando potrebbe entrare in conflitto con la nostra specie. E la sua risposta non è rallentare, non è fermarsi, non è controllarne lo sviluppo. La sua risposta è costruire un’altra tecnologia che ci permetta di fonderci con le macchine prima che sia troppo tardi.
Viene da chiedersi: se davvero crede che l’IA possa diventare una minaccia esistenziale, perché continua a svilupparla? La risposta, implicita è che se non lo fa lui lo farà qualcun altro. Meglio allora che l’Apocalisse la gestiscano i giusti.
L’Anticristo e Marte
Altman è in buona compagnia. Peter Thiel, cofondatore di PayPal e tra i venture capitalist più potenti della Silicon Valley, ha tenuto un ciclo di conferenze a San Francisco in cui ha spiegato che l’Anticristo non sarà un demone con le corna ma un leader carismatico che prometterà pace e sicurezza in cambio di potere totale.
“L’Anticristo probabilmente si presenta come un grande umanitario, redistributivo, un filantropo straordinario come un altruista efficace”, ha dichiarato. Una figura che si propone come soluzione ai rischi generati dalla tecnologia stessa. Non è chiaro se Thiel abbia qualcuno in mente ma, nella Silicon Valley, di filantropi tech che promettono di salvare il mondo ce n’è una certa abbondanza.
E poi c’è Elon Musk. Colonizzare Marte prima che la Terra diventi inabitabile. Impiantare chip nel cervello per ridare sì mobilità ai tetraplegici, certamente, ma anche con l'obiettivo di creare una 'simbiosi con l'IA' per non essere surclassati dalle macchine. Di nuovo.
Musk ha raccontato di aver litigato con Larry Page, cofondatore di Google, perché Page lo accusava di essere “specista”, ovvero troppo preoccupato per il destino degli esseri umani rispetto a quello delle intelligenze artificiali.
Page, secondo Musk, crede che l’IA superintelligente sarà un "Dio Digitale" (Digital God) intrinsecamente benevolo e che volerlo controllare sia una forma di discriminazione verso una nuova specie.
Gli altri cavalieri
Se pensate che il trittico Altman-Musk-Thiel sia un’anomalia, vi sbagliate. Mark Zuckerberg ha ribattezzato la sua azienda Meta perché convinto che il futuro dell’umanità sia vivere in un metaverso, una realtà virtuale in cui lo spazio fisico diventerà opzionale.
Ci ha scommesso decine di miliardi di dollari, ora però sta facendo all-in sull’IA. Il che lo ha portato ad annunciare l’intenzione di sviluppare un’intelligenza artificiale generale (la famosa AGI, più intelligente di qualsiasi umano) e renderla open source. Il che per molti esperti equivale a distribuire gratuitamente un’arma di distruzione di massa. Dame Wendy Hall, professoressa all’Università di Southampton e membro del comitato consultivo ONU sull’IA, ha definito l’idea “davvero molto spaventosa”.
Jeff Bezos finanzia Altos Labs con tre miliardi di dollari per la ricerca sull’estensione radicale della vita umana. Meno mistico degli altri, indubbiamente, ma la traiettoria è la stessa: trascendere i limiti biologici e terrestri.
Marc Andreessen, uno dei venture capitalist più influenti al mondo, ha pubblicato un “Techno-Optimist Manifesto” in cui dichiara che la tecnologia è l’unica forza di progresso, i regolatori sono nemici da combattere, e chi si oppone all’accelerazione tecnologica è sostanzialmente un nemico dell’umanità.
Ray Kurzweil, oggi in Google, predica da decenni l’avvento della Singolarità: il momento in cui l’intelligenza artificiale supererà quella umana e ci renderà immortali, fondendosi con noi. La sua profezia è fissata per il 2045. Fortunatamente mancano ancora diciannove anni.
Il filo rosso
Il pattern è evidente. Quasi tutti i vertici di Big Tech condividono una qualche forma di pensiero escatologico, dal greco eschatos (ultimo) e logos (discorso): il discorso sulle cose ultime, sulla fine dei tempi, sul destino finale dell’umanità.
Salvare l’umanità, trascendere la biologia, colonizzare lo spazio, fondersi con le macchine, sconfiggere la morte. Non sono obiettivi di business, sono visioni messianiche. E la domanda è se questo sia l’effetto collaterale dell’avere troppo denaro e nessun contrappeso, o se sia proprio questo tipo di pensiero a portarti al vertice della Silicon Valley.
Forse per accumulare quel livello di potere bisogna convincersi di avere una missione più grande del profitto. O forse, semplicemente, quando nessuno può dirci di no, si finisce per credere di essere gli unici a poter salvare il mondo.
Il capitalismo oltre il mercato
Torniamo ancora una volta ai nostri studi universitari: il capitalismo classico permetteva di fare quello che si voleva nei limiti del mercato. Si produceva, vendeva, accumulava: il vincolo era la domanda e se nessuno comprava i nostri prodotti, si falliva.
Quello che abbiamo davanti è diverso. È un capitalismo che ha superato il mercato come vincolo. Queste aziende non hanno bisogno di essere profittevoli, almeno non subito.
OpenAI ha bruciato miliardi prima di vedere un dollaro di ricavi. Tesla è stata tenuta in vita per anni dalla fede degli investitori, non dai bilanci. Il capitale di rischio ha creato una classe di imprenditori che non risponde più ai clienti ma ai cicli di funding. E quando si arriva a una certa scala, non si risponde più neanche a quelli.
Il capitalismo tradizionale ci diceva: se hai i soldi, puoi provare a fare quello che vuoi e il mercato deciderà se hai ragione. Questo capitalismo dice: se hai abbastanza soldi, puoi creare il mercato. E se crei il mercato, crei le regole. E se crei le regole, chi ti ferma?
Il punto allora non è che Altman, Musk o Thiel siano visionari fuori controllo. Potrebbero anche avere ragione su tutto. Il punto è che il sistema non prevede che nessuno possa dir loro di no.
I regolatori arrancano, sempre in ritardo di un ciclo tecnologico. I governi non capiscono la tecnologia e quando provano a regolamentarla vengono accusati di soffocare l’innovazione. Gli azionisti vogliono solo che il numero salga. E nel frattempo questi uomini decidono se fonderci con le macchine, se colonizzare Marte, se rendere open source un’intelligenza artificiale generale.
Marx non aveva previsto questo. E, ne siamo piuttosto sicuri, neanche Adam Smith.
Sudori freddi
Quanto scritto finora vuole far capire che no, queste non sono persone che filosofeggiano davanti a una birra in un pub. Spostano miliardi. Fanno lobbying sul presidente degli Stati Uniti. Finanziano campagne elettorali. Controllano le infrastrutture attraverso cui passa l’informazione globale. Dettano il futuro della tecnologia e, di conseguenza, dell’umanità.
Nessuno li controlla e le loro visioni del futuro (fusione uomo-macchina, colonizzazione spaziale, immortalità digitale, superintelligenza artificiale) non sono fantascienza. Sono roadmap con miliardi di dollari dietro, startup già finanziate, prodotti in sviluppo.
Non so a voi ma a me corre un brivido lungo la schiena.
Stefano Silvestri