Chi è responsabile quando l’IA ci diffama?

Da Gemini a ChatGPT, crescono le accuse di danneggiamento della reputazione. Ma stabilire chi sia responsabile quando un algoritmo compromette l’immagine di qualcuno, è tutt’altro che semplice.

Illustrazione: ChatGPT

C’è qualcosa di quasi kafkiano nell’incubo vissuto dai venditori della Wolf River Electric, un’azienda di impianti solari del Minnesota.

Immaginate la scena: siamo alla fine dell’anno e i contratti che dovrebbero chiudersi, iniziano inspiegabilmente a saltare. Quando i commerciali chiedono spiegazioni, la risposta dei clienti è disarmante: “Abbiamo letto su Google che avete truffato lo Stato”.

Il problema però è che non era vero. La Wolf River non era mai stata citata in giudizio, né tantomeno aveva patteggiato per pratiche ingannevoli.

Il caso, riportato dal New York Times, merita più di una riflessione. Perché a inventare di sana pianta quella macchia indelebile sulla reputazione dell’azienda non era stato un giornalista distratto o un concorrente sleale, ma Gemini, l’intelligenza artificiale di Google.

Ed è bastato un cortocircuito algoritmico per scatenare quel tipo di causa legale che le Big Tech temono più di ogni altra cosa. Perché? Perché rischia di infrangere il grande tabù della responsabilità nell’era dell’IA generativa.

Anthropic sta battendo OpenAI sul terreno che conta: il business

Pagare per non creare precedenti

Qui arriviamo alla questione che le aziende della Silicon Valley stanno cercando disperatamente di evitare. Nell’articolo originale del quotidiano newyorkese, l’esperta legale Nina Brown è stata lapidaria: le Big Tech faranno di tutto per impedire che queste cause arrivino a una sentenza definitiva. Non è solo una questione di soldi ma anche di principio legale.

Se un giudice dovesse mettere nero su bianco che Google o OpenAI sono direttamente responsabili delle “allucinazioni” dei loro modelli, si aprirebbe infatti una diga inarrestabile.

Un singolo verdetto di colpevolezza significherebbe ammettere che la piattaforma è responsabile dell’output, esponendola a una marea infinita di cause da parte di chiunque trovi inesattezze sul proprio conto.

Ecco perché vediamo accordi stragiudiziali, come quello tra Meta e l’influencer Robby Starbuck, di cui abbiamo scritto nei mesi scorsi: le aziende preferiscono staccare un assegno e chiudere velocemente la faccenda, piuttosto che rischiare un precedente giuridico che minerebbe le fondamenta del loro business.

Vogliono evitare a tutti i costi che un tribunale risponda ufficialmente alla domanda: “Di chi è la colpa?”.

La tecnologia è il nuovo occhio di Dio?

Il caso Wolf River: quando il danno è un “fatto”

La vicenda della Wolf River è pericolosa per Google, perché il danno è concreto. Justin Nielsen e i suoi soci hanno documentato perdite reali, con contratti sfumati per centinaia di migliaia di dollari. Quando un potenziale cliente cerca un nome e l’IA risponde con una frode inesistente, la reputazione crolla istantaneamente.

“Frankenstein non può creare un mostro che va in giro a uccidere la gente e poi dire che non c’entra nulla”, ha sintetizzato un avvocato in una causa simile.

Eppure, la difesa delle tech company sostiene che l’utente dovrebbe sapere che le IA sbagliano. Fortunatamente per la Wolf River, non essendo un personaggio pubblico, l’azienda deve solo dimostrare la negligenza di Google, un ostacolo legale molto più basso rispetto a quello richiesto per le celebrità.

Se accadesse in Italia: onore contro libertà di parola

Proviamo a spostare questo scenario dal Minnesota a Milano: le regole del gioco cambierebbero radicalmente. Se un’azienda o un professionista italiano venisse colpito da un’allucinazione dell’IA, la battaglia legale avrebbe tutt’altro sapore.

Negli Stati Uniti, patria del Primo Emendamento, la libertà di parola è un principio quasi intoccabile. Una figura pubblica, per vincere una causa, deve provare la cosiddetta “actual malice”: dimostrare cioè che Google sapeva di diffondere informazioni false o agì con totale indifferenza verso la verità. Un obiettivo quasi impossibile da raggiungere quando di mezzo c’è un modello algoritmico che funziona come una scatola nera.

In Italia, e in Europa in generale, l’equilibrio è diverso. La tutela della dignità e dell’onore pesa di più, e la diffamazione è un reato. Da noi il diritto di cronaca vale solo se i fatti sono veri: se una notizia è falsa, il contrappeso della libertà d’espressione salta immediatamente.

OpenAI dice di voler ridurre il “bias” politico di ChatGPT. Ma è davvero possibile?

Un modello generativo non può invocare la libertà di stampa se inventa fatti inesistenti. E mentre negli Stati Uniti sopravvive ancora la protezione della Section 230 per i contenuti pubblicati dagli utenti sui social network, in Europa il Digital Services Act ha stretto le maglie: se una piattaforma viene avvisata di un contenuto illegale o inesatto e non interviene tempestivamente, può diventare responsabile.

La differenza? I soldi. Negli USA si punta ai “danni punitivi”, con richieste milionarie. Da noi si otterrebbe “solo” il risarcimento effettivo del danno. La vittoria, però, sarebbe più probabile.

Cosa significa questo trend (e perché esplode adesso)

Tornando al quadro complessivo, perché queste cause stanno emergendo proprio ora? Perché siamo passati dalla fase di “wow” tecnologico alla realtà operativa. L’integrazione frettolosa di chatbot nei motori di ricerca ha trasformato strumenti di consultazione in editori di fatto, spesso inaffidabili.

Il caso del DJ irlandese Dave Fanning, associato falsamente a crimini sessuali dall’IA su MSN, o quello del conduttore radiofonico Mark Walters, accusato di appropriazione indebita da ChatGPT, sono figli di questa corsa all’oro priva di paracadute.

L’ombra digitale di Robin Williams: ecco cosa ci sta insegnando Sora 2

Il che ci costringe a riscrivere il nostro rapporto con l’informazione digitale. L’autorevolezza che abbiamo storicamente concesso a Google si sta sgretolando: non possiamo più fidarci ciecamente dei suoi risultati. Per le aziende e i professionisti, nasce un nuovo fronte di guerra: la reputazione non si difende più solo sui giornali o sui social, ma nel “cervello” delle IA.

Dovremo abituarci a un futuro in cui la verifica delle fonti sarà l’unica difesa contro un oracolo che, per sua natura, non distingue la verità dalla menzogna statistica. E mentre le Big Tech pagano in silenzio per mantenere intatto il loro scudo legale, non ci resta che ricordare che non dobbiamo credere a tutto ciò che l’algoritmo ci racconta.

Stefano Silvestri