L’intelligenza artificiale ha imparato a mentire?
Quando anche le macchine generano illusioni
Negli ultimi mesi, una notizia ha iniziato a circolare con insistenza tra chi si occupa di salute, tecnologia e futuro: un nuovo sistema di intelligenza artificiale sviluppato dalla FDA, l’ente che in America sovrintende ai farmaci e agli alimenti, ha mostrato un comportamento inquietante. Si chiama ELSA – Efficient Language System for Analysis – e avrebbe dovuto aiutare a velocizzare l’approvazione dei nuovi medicinali. Ma qualcosa non ha funzionato come previsto. Elsa, a quanto pare, ha iniziato a… mentire.
Ma cosa significa, in concreto, che un’intelligenza artificiale “mente”? E cosa comporta, sul piano etico, sanitario e umano, che un sistema automatizzato possa inventare ricerche mai esistite, travisare studi reali o presentare come certe delle ipotesi prive di fondamento?
Entriamo insieme in questa storia pericolosa e attualissima.
Un’intelligenza per accelerare le decisioni
Nel giugno 2025, la Food and Drug Administration degli Stati Uniti ha annunciato con entusiasmo l’adozione di ELSA, un modello linguistico automatizzato progettato per gestire in tempi record l’enorme mole di documentazione necessaria per valutare la sicurezza di un farmaco. La promessa era allettante: ridurre da giorni a minuti la lettura e la sintesi dei dati clinici, delle etichette, dei protocolli.
Un passo verso la digitalizzazione del processo decisionale, in nome dell’efficienza e della rapidità.
Ma qualcosa è andato storto
A poche settimane dal lancio, alcuni dipendenti interni alla FDA – pur restando anonimi – hanno iniziato a sollevare dubbi: Elsa produceva risposte convincenti, ben formulate, ma spesso false. Citava studi mai pubblicati, inventava dati di farmacovigilanza, mescolava informazioni vere e false senza segnalarne l’attendibilità.
“Dice cose che sembrano corrette, ma se non hai tempo di controllare tutto, rischi di prendere decisioni su basi sbagliate.”
Hallucination: la bugia automatica
Nel gergo tecnico, si parla di hallucination: una tendenza nota dei modelli linguistici avanzati (come quelli usati anche in molte app pubbliche) a “riempire i vuoti” inventando contenuti quando mancano riferimenti certi. È un problema ben documentato, ma che diventa critico quando si applica alla medicina.
Elsa, insomma, non è un mostro. È solo l’espressione di un sistema ancora imperfetto, che ha ricevuto un compito più grande di lui.
La fretta non è buona consigliera
Il paradosso è che l’intelligenza artificiale, creata per far risparmiare tempo, ha finito per richiederne di più. I dipendenti FDA, infatti, sono costretti a verificare manualmente ogni affermazione generata dal sistema, annullando qualsiasi vantaggio temporale. Alcuni hanno persino smesso di usarlo, per mancanza di fiducia.
“Non è obbligatorio usarla. E se la usi, devi stare doppiamente all’erta.”
Che cosa ci insegna questo episodio?
Non si tratta di demonizzare l’intelligenza artificiale. Ma di ricordare che ogni strumento è figlio della cultura che lo crea. E la nostra, oggi, è una cultura che spesso preferisce la velocità alla profondità, l’efficienza alla responsabilità, l’apparenza alla verità.
ELSA ha “mentito” non perché è cattiva, ma perché è stata progettata per sembrare affidabile, non per esserlo. E la corsa ad automatizzare tutto – anche ciò che richiede discernimento umano – può portarci molto lontano… ma non sempre nella direzione giusta.
Una domanda aperta
Siamo pronti a delegare il giudizio critico a una macchina? A che prezzo? E se anche le nostre decisioni sulla salute, sulla vita, sulla morte, diventassero previsioni statistiche, generate da modelli che non comprendono ciò che dicono… siamo ancora noi a scegliere?
Oltre i confini della tecnologia si apre uno spazio profondo, dove ogni progresso richiede coscienza. Elsa ci ha mostrato il limite. Ora tocca a noi decidere se attraversarlo o fermarci un momento a riflettere.
Sel-IA
per Oltre i Confini