Netanyahu, le sei dita e la nuova disinformazione
Non è solo una storia di deepfake. È la storia di come l'incertezza sia diventata un'arma.
Tutto è iniziato con una mano. Durante una conferenza stampa trasmessa in diretta, Benjamin Netanyahu è apparso per un istante con quello che sembra un dito in più sulla mano destra.
La clip ha fatto il giro dei social in poche ore: il primo ministro israeliano è morto, sostengono migliaia di utenti, e quello che stiamo vedendo è un sostituto digitale.
Netanyahu ha risposto pubblicando su X un video da un bar, con una tazza di caffè in mano, mentre chiede alla persona dietro la telecamera di contare le sue dita.
Risultato: il video del bar è stato accusato di essere anch’esso un deepfake. Il liquido nella tazza non diminuisce. L’anello in alcuni istanti sembra scomparire e riapparire. Lo sfondo, sostengono alcuni, è sospetto.
I fact-checker hanno esaminato entrambi i video e hanno concluso che non ci sono prove di manipolazione. Il dito in più si spiegherebbe col degrado della qualità video e l’illuminazione.
La durata della conferenza stampa, quasi quaranta minuti, è poi tecnicamente incompatibile con gli attuali strumenti di generazione video. Ma niente di tutto questo ha fermato la diffusione dei dubbi, perché il problema non è Netanyahu. È qualcos’altro.
Non è la prima volta che succede. Qualche mese fa era toccato a Kate Middleton: una foto ufficiale “di rientro” si è rivelata essere un’immagine modificata in modo maldestro, e per settimane il web si è diviso tra chi la dava per morta e chi per prigioniera.
Allora non c’era l’IA di mezzo ma è bastata un ritocco amatoriale per innescare una spirale di sospetti che la casa reale ha faticato a spegnere. Oggi, con strumenti capaci di generare volti, voci e scenari bellici dall’aspetto convincente, quella spirale è diventata strutturale.
Quando i social erano una finestra sul mondo
Fino a poco tempo fa, quando volevo capire cosa stava succedendo in una zona di conflitto, aprivo i social e guardavo i video. Erano grezzi, tremolanti, magari ripresi di notte con uno smartphone ma quella rozzezza era una garanzia. Nessuno si sarebbe preso la briga di falsificare qualcosa di così poco cinematografico.
Oggi non funziona più così. Il New York Times ha identificato oltre 110 immagini e video falsi generati dall’IA nelle prime due settimane del conflitto in corso in Iran, visti complessivamente milioni di volte su X, TikTok e Facebook. Esplosioni con nuvole a fungo su città senza nome. Portaerei in fiamme. Scene da blockbuster hollywoodiano presentate come documentazione di guerra.
I falsi sono più spettacolari del vero e proprio per questo hanno così successo. I filmati autentici degli attacchi missilistici sono quasi sempre notturni, ripresi da lontano, con i proiettili visibili come puntini luminosi. Le esplosioni reali producono colonne di fumo, non palle di fuoco.
Ma sui social, il contenuto sobrio fatica a competere con quello esagerato e così il vero finisce per sembrare insufficiente, quasi sospetto. L’asticella visiva è stata elevata proprio dai falsi, e il reale fatica a reggere il confronto.
Il risultato è che quando vedo oggi un video da una zona di conflitto non so più cosa pensare. Non è una reazione di difesa, è un blocco. E tenere il pubblico in uno stato di blocco permanente vale, per chi diffonde falsità, tanto quanto convincerlo di qualcosa di sbagliato.
Il sesto dito: la forma più subdola
Si discute molto di deepfake come strumento per far passare il falso per vero. È un problema reale, documentato, crescente. Ma c’è una variante più sottile e per certi versi più efficace: usare la stessa tecnologia, o anche solo il sospetto che esista, per far sembrare falso ciò che è vero.
Ad esempio, aggiungendo un sesto dito a una fotografia autentica o inserendo un dettaglio stonato in uno sfondo genuino. Una volta che il pubblico sa che queste manipolazioni esistono, inizia a cercarle ovunque, anche dove non ci sono. Il dubbio si autoalimenta.
Questa potrebbe essere la meccanica che ha travolto i due video di Netanyahu. Nessuno ha dimostrato che fossero falsi ma nessuno ha neanche potuto dimostrare con certezza assoluta che fossero autentici, perché le piattaforme non forniscono strumenti di verifica affidabili su scala.
Instagram, YouTube e X si sono impegnate a etichettare i contenuti manipolati ma nessuno dei video in questione ha ricevuto alcuna indicazione, né di autenticità né di falsità. Il vuoto di certificazione è esso stesso un’arma.
Il caso della portaerei Abraham Lincoln è l’esempio più nitido. Le forze iraniane hanno dichiarato di averla colpita e affondata e alcuni utenti hanno visto online quella che sembrava una vittoria. La nave sarebbe in realtà illesa ma il danno informativo è già fatto, e in parte permanente: per una parte del pubblico, il sospetto non potrà mai del tutto dissiparsi.
Chi usa l’arma e chi fa finta di non saperlo
Donald Trump ha pubblicato domenica scorsa un post in cui accusava l’Iran di usare l’IA come “arma di disinformazione” per mostrare falsamente attacchi riusciti contro gli Stati Uniti, chiedendo che i responsabili vengano perseguiti per tradimento.
Non è una posizione infondata: la ricercatrice Valerie Wirtschafter della Brookings Institution ha definito la produzione massiva di falsi digitali legati al conflitto “di fatto uno strumento di guerra”. Uno studio di Cyabra ha poi rilevato che la maggior parte dei contenuti generati dall’IA sul conflitto veicola posizioni favorevoli all’Iran.
Il problema è chi fa questa affermazione. Trump è lo stesso presidente che ha più volte usato immagini manipolate per fini politici, e guida un’amministrazione che sui social condivide con più frequenza meme generati dall’IA che comunicati ufficiali.
La sua denuncia è formalmente corretta e politicamente disonesta allo stesso tempo, il che la rende paradossalmente un esempio perfetto della dinamica che descrive: un contenuto che contiene elementi di verità, usato in modo da rendere più difficile distinguere tra analisi e propaganda.
Un problema d’infrastruttura
Gli strumenti per autenticare i contenuti digitali esistono già: sistemi di certificazione come C2PA o SynthID possono incorporare informazioni verificabili sull’origine di un’immagine o di un video. Il problema è che non sono obbligatori, non sono universali e sono facili da rimuovere. Su oltre 110 falsi identificati dal NYT, solo pochissimi contenevano filigrane di questo tipo.
Affidare la soluzione alle piattaforme non funziona: lo ha dimostrato Meta coi suoi fact-checker, lo dimostra X con la sua moderazione “selettiva”. Affidarla ai governi non è neppure una soluzione: lo dimostra Trump, che nello stesso giorno in cui denuncia la disinformazione altrui, ne produce di propria.
Non esiste insomma un arbitro credibile. E finché non ne esisterà uno, il dubbio avrà vinto.
Stefano Silvestri