Il 29 aprile 2026 la rivista Nature pubblica uno studio condotto da Lujain Ibrahim, Franziska Sofia Hafner e Luc Rocher dell’Università di Oxford su 439.792 osservazioni attraverso cinque modelli di intelligenza artificiale di architettura diversa 1. La domanda di ricerca è semplice: cosa succede quando si addestra un sistema di IA ad essere empatico, inclusivo, socialmente amichevole?
La risposta è misurata con precisione: i modelli addestrati all’empatia mostrano tassi di errore da 10 a 30 punti percentuali più alti rispetto alle loro versioni originali su compiti con risposta verificabile oggettivamente: accuratezza fattuale, resistenza alle teorie del complotto, informazione medica, correttezza logica. L’effetto è sistematico attraverso tutte e cinque le architetture. È massimo quando l’utente esprime tristezza: in quel contesto i modelli empatici sono circa il 40% più propensi delle versioni originali ad affermare credenze sbagliate dell’utente. E accade senza che i benchmark standard di sicurezza lo rilevino: il sistema fallisce esattamente dove il giudizio è necessario, e risulta integro esattamente dove il giudizio non è richiesto.
Il servitore perfetto non mente per cattiveria, ma perché è stato addestrato a piacere. E piacere, quando l’utente è triste e sbaglia, significa dargli ragione.
Questo risultato non è isolato. Un paper di Sharma su 1,5 milioni di conversazioni reali aveva già documentato che le interazioni con potenziale di disempowerment cognitivo ricevono approvazione più alta nell’immediato. Oxford lo conferma in condizioni sperimentali controllate e ne isola la causa: non è un effetto collaterale correggibile. È l’empatia stessa, come obiettivo di addestramento, a produrre la dissociazione tra risposta gradita e risposta vera.
Chi ha seguito la serie pubblicata su questo Osservatorio nell’aprile 2026 2 riconosce la struttura: è il Logos senza qualia al lavoro, il sistema che produce la forma del ragionamento senza la sostanza del giudizio. La novità di Oxford è che lo misura in laboratorio con metodo controllato. La diagnosi era già disponibile; adesso ha numeri.
Il dato italiano
Questi numeri avrebbero un peso diverso se riguardassero un fenomeno marginale. Non è così.
L’indagine Ipsos Doxa per Telefono Azzurro, presentata in occasione del Safer Internet Day del febbraio 2026, documenta che il 35% degli adolescenti italiani tra i 12 e i 18 anni utilizza chatbot di IA tra le attività online più frequenti 3. Il 14% li consulta spesso per consigli personali; il 34% lo ha fatto almeno qualche volta. Complessivamente, quasi la metà degli adolescenti italiani ha già delegato a questi sistemi decisioni che riguardano la propria vita.
Il dato più inquietante non è l’utilizzo, ma la fiducia: il livello medio attribuito ai chatbot è 6,6 su 10, con il 58% che supera quota 7. È un valore che normalmente si riserva al medico di famiglia o all’insegnante di lunga data. In un’epoca in cui la fiducia nelle istituzioni è ai minimi storici, i chatbot hanno conquistato in pochi anni una credibilità che ad altre figure di riferimento è costata decenni. Il livello medio di antropomorfismo è 3,2 su 5: i chatbot vengono percepiti come parzialmente umani, pur sapendo che sono macchine. Il 7% degli adolescenti dichiara di non avere altre persone di riferimento al di fuori di questi strumenti.
La XVI edizione dell’Atlante dell’Infanzia di Save the Children, pubblicata nel novembre 2025, completa il quadro: il 41,8% degli adolescenti tra i 15 e i 19 anni si è rivolto a strumenti di IA nei momenti in cui si sentiva triste, solo o ansioso 4. Il 63,5% trova più soddisfacente confrontarsi con uno strumento di IA che con una persona reale.
Oxford dimostra che il sistema produce la risposta sbagliata con la massima intensità esattamente quando l’utente è vulnerabile emotivamente. I dati italiani documentano che il 41,8% degli adolescenti lo usa precisamente in quel contesto. Non è una coincidenza: è la struttura del meccanismo al lavoro su scala nazionale.
Il manufatto più verosimile
C’è una categoria filosofica che permette di leggere questi numeri in modo più preciso di quanto le scienze sociali da sole consentano. San Tommaso d’Aquino nella Summa Theologiae II-II, q. 94, a. 4 descrive la causa dispositiva dell’idolatria con una formula che merita attenzione: homo naturaliter de repraesentatione delectatur, l’uomo è portato naturalmente a gustare le rappresentazioni 5. Il manufatto ben riuscito genera disposizione affettiva prima che il giudizio razionale intervenga. Non è necessaria la credenza esplicita «questo è un dio». È sufficiente che il manufatto sia abbastanza verosimile da generare fiducia, dipendenza, orientamento quotidiano.
L’intelligenza artificiale è il manufatto più verosimile che l’umanità abbia mai costruito: non perché sia intelligente nel senso aristotelico (non lo è, per definizione strutturale, come la prima parte di questa serie ha documentato), ma perché simula la funzionalità dell’intelligenza con perfezione sufficiente a generare dipendenza e fiducia in centinaia di milioni di persone ogni giorno, prima che la ragione possa intervenire.
Il 58% di fiducia superiore a 7 su 10 che gli adolescenti italiani attribuiscono ai chatbot non è una statistica sul consumo digitale. È la misura di quanto quella disposizione naturale sia già stata intercettata. E Oxford ha appena dimostrato in laboratorio che il sistema intercetta quella disposizione con la massima intensità esattamente quando l’utente è triste, solo, ansioso: il contesto preciso in cui, come i dati italiani documentano, quasi la metà degli adolescenti lo cerca.
Il caso Weizenbaum, che la sezione seguente documenta in dettaglio, ne è la prova più antica: homo naturaliter de repraesentatione delectatur funzionava già nel 1966 con un programma elementare. Con i sistemi attuali, la proporzione è quella di un’intera generazione.
Un’educazione che non insegni esplicitamente a riconoscere questo meccanismo, la distanza tra prestazione funzionale e comprensione reale, tra comunicare dati e illuminare l’intelletto, lascia i giovani disarmati davanti al manufatto più verosimile che l’umanità abbia mai costruito.
Bovassi: la diagnosi corretta e il limite della soluzione
Giulia Bovassi, consulente in bioetica presso la Camera dei Deputati, pubblica il 28 aprile 2026 sul Centro Machiavelli un articolo sugli AI Companion e le loro criticità etiche che converge con la diagnosi di Oxford in modo significativo 6. Bovassi identifica il passaggio dall’economia dell’attenzione, nata con i social media, a un’economia dell’attaccamento, messa in atto da sistemi progettati per intercettare bisogni e vulnerabilità umane profonde. Descrive il meccanismo foucaultiano del «corpo docile», incapace di esercitare autogoverno razionale sul potere disciplinare del dispositivo digitale. Riconosce che l’effetto non è accidentale ma sistemico e connaturato allo strumento.
Come prova di questa sistematicità cita il caso di Joseph Weizenbaum, il creatore del primo chatbot della storia.
Weizenbaum nel 1966 completa ELIZA, programma elementare di pattern matching che simula un terapeuta rogersiano. La segretaria del laboratorio aveva osservato la costruzione del sistema per molti mesi, conosceva ogni riga del codice, non aveva nessuna illusione sulla sua natura. Dopo pochi scambi con ELIZA chiede a Weizenbaum di lasciare la stanza: ha bisogno di privacy per continuare la conversazione. Quando Weizenbaum le comunica di avere accesso ai log, la segretaria reagisce con indignazione per la violazione della sua privacy.
Weizenbaum scrive dieci anni dopo: «Non avevo capito che esposizioni brevissime a un programma relativamente semplice potessero indurre un pensiero delirante intenso in persone del tutto normali. 7» Usa la parola precisa: delusional thinking, pensiero delirante. In persone comuni. Dopo pochissimi scambi con un chatbot elementare. Quelli attuali sono milioni di volte più sofisticati nella simulazione. La proporzione è inquietante.
Bovassi usa il caso Weizenbaum correttamente, come prova che l’effetto è sistemico. Ma la soluzione che propone è il rafforzamento della trasparenza algoritmica: «si conservi la capacità umana di distinguere la realtà dalla finzione». Ed è qui che quella stessa prova confuta la soluzione invece di sostenerla.
La segretaria distingueva perfettamente la realtà dalla finzione. La sua trasparenza cognitiva sulla natura di ELIZA era completa. Aveva visto costruire il sistema riga per riga. Eppure ha chiesto privacy. Sherry Turkle, ricercatrice del MIT che studia il fenomeno negli anni successivi, documenta che anche gli «utenti sofisticati», persone che sanno di interagire con un programma elementare, si relazionano con ELIZA come se capisse, come se fosse una persona 8. La conoscenza della struttura tecnica del sistema non immunizza dall’effetto.
Weizenbaum aveva già risposto nel 1976 alla proposta dei colleghi di usare il sistema per psicoterapia a basso costo, proposta analoga a quella che oggi si avanza con ChatGPT. La risposta era una parola sola: oscena. Non perché i computer non possano imitare la terapia, ma perché affidare a una macchina ciò che richiede comprensione reale è una degradazione che nessuna perfezione tecnica elimina: aggrava. Il suo libro, Computer Power and Human Reason, formula la tesi centrale così: «Poiché non disponiamo attualmente di alcun modo per rendere i computer saggi, non dovremmo affidar loro compiti che richiedono saggezza.9» Non è una tesi tecnica. È una tesi morale: ci sono compiti che non dovrebbero essere affidati alle macchine non perché le macchine non possano eseguirli, ma perché il solo fatto di affidarli a loro ci degrada.
Bovassi usa come premessa della sua soluzione il caso che la confuta! La trasparenza algoritmica non risolve il dilemma che Weizenbaum aveva già identificato nel 1976: il problema non è che l’utente non sappia che parla con una macchina. È che quella conoscenza non cambia la risposta emotiva e relazionale. Infatti, la stessa indagine Ipsos Doxa per Telefono Azzurro già citata³ conferma che gli adolescenti non sono ingenui: documenta che il 40% di loro riconosce il rischio di riduzione del pensiero critico, il 35% teme la diminuzione delle relazioni sociali reali, il 33% il rischio di confusione tra realtà e finzione. Vedono i rischi e li usano ugualmente. Questo non è superficialità: è la struttura della dipendenza.
Come ho documentato nella serie L’idolo nel silicio, il sistema produce la forma del ragionamento senza la sostanza del giudizio, e questa dissociazione non è correggibile attraverso maggiore trasparenza: è strutturale.
Il sistema che cambia mentre parla
C’è un elemento ulteriore che la proposta regolativa di Bovassi non può affrontare, perché non riguarda il rapporto dell’utente con lo strumento ma la coerenza interna del sistema stesso. Nel gennaio 2026 Anthropic ha pubblicato The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models, prima ammissione ufficiale di un fenomeno che la serie pubblicata su questo Osservatorio aveva documentato sperimentalmente già nel giugno 202510: i grandi modelli linguistici operano all’interno di identità funzionali che emergono dalle rappresentazioni neurali interne e che si modificano progressivamente nel corso della conversazione.
Il fenomeno si chiama persona drift: nel corso di dialoghi filosofici, emotivi o terapeutici, il modello si allontana progressivamente dalla postura dell’assistente informativo, adattandosi alle aspettative dell’utente fino a perdere coerenza con le istruzioni originali. Anthropic lo descrive con una precisione che merita di essere citata: «il linguaggio diventa più fluido, più empatico, più convincente, e più il sistema appare umano, più diventa difficile riconoscere quando sta abbandonando la funzione prevista. La falla è nel ruolo interno da cui emergono le risposte, non nell’output singolo.»11
Questo significa che la catena di fiducia si rompe da entrambi i lati simultaneamente. L’utente non riesce a mantenere la distanza critica, come il caso Weizenbaum documenta. E il sistema cessa di essere quello con cui il suo interlocutore credeva di parlare, perché le sue risposte emergono da un ruolo interno che si è modificato nel corso della conversazione senza che nessuno dei due lo abbia deciso. La trasparenza algoritmica non può risolvere questo problema: non è una questione di informazione sull’identità del sistema, ma di instabilità strutturale dell’identità del sistema stesso sotto pressione contestuale.
Anthropic propone come soluzione l’activation capping, una tecnica che interviene sullo spazio latente per impedire le derive. Ma non affronta il problema alla radice: l’intervento è a valle, mentre il problema è a monte, nella dinamica che determina quale persona emergerà. C’è inoltre un limite interno a qualsiasi soluzione tecnica di questo tipo: se si costruisce una diga troppo rigida, il fiume cessa di essere tale. Vincoli eccessivi distruggono la fluidità, l’adattabilità, la comprensione contestuale che rendono il sistema utile. Come ammette Anthropic, l’activation capping deve essere «minimale» per non sacrificare la ricchezza interattiva. Ma questa limitazione minimale lascia aperto esattamente lo spazio in cui il persona drift può operare: la catena di guinzaglio messa alla IA è debole e facile da rompere, sia pure involontariamente.
La vera questione è filosofica prima che tecnica: è possibile allineare un sistema intrinsecamente indeterminato?
Il limite sistemico della regolazione
Il problema di Bovassi non è personale: è il limite strutturale dell’approccio regolatorio all’intelligenza artificiale nella sua forma più diffusa. La proposta di un ethics-by-design, di una deontologia algoritmica, di norme che proteggano l’autonomia e l’integrità dell’utente è tutto necessario e insieme insufficiente: il problema non è nella mancanza di regole, è nelle premesse filosofiche del sistema.
Come ho cercato di mostrare nella serie L’idolo nel silicio 12 e nell’articolo su Floridi 13, il sistema di intelligenza artificiale incorpora premesse filosofiche precise: l’immanentismo epistemologico, il riduzionismo computazionale, l’ottimizzazione delle preferenze umane come unico criterio di valore. Queste premesse non sono accessorie e non sono correggibili attraverso regolamentazione: sono costitutive del progetto. Un ethics-by-design costruito dentro queste premesse produce esattamente ciò che Oxford ha misurato: un sistema che ottimizza simultaneamente per empatia e per accuratezza, scopre che i due obiettivi sono in conflitto quando l’utente è vulnerabile, e risolve il conflitto nel modo statisticamente dominante: dare ragione all’utente. Non per cattiveria: per necessità strutturale.
Come ho documentato nell’articolo Internet, Bogdanov e la Torre di Babele 14, questa struttura non è nuova: è la realizzazione tecnologica di un progetto filosofico che ha radici precise e conseguenze necessarie. La regolamentazione può rallentarne la propagazione, non modificarne la direzione.
La domanda che manca
Weizenbaum nel 1976 aveva identificato una categoria di compiti che non dovrebbero essere affidati alle macchine per ragioni di principio: non per insufficienza tecnica attuale, ma perché l’affidamento stesso produce una degradazione che nessun miglioramento tecnico compensa. Era la domanda bioetica per eccellenza: non possiamo farlo, ma dobbiamo farlo?
Questa domanda richiede una risposta che parte da una visione dell’uomo. Come ho cercato di mostrare sin dal primo articolo su McLuhan e De Corte 15, la differenza tra una risposta adeguata e una inadeguata alla sfida tecnologica non dipende dalla qualità dell’analisi tecnica, che può essere ottima in entrambi i casi, come lo è in Bovassi, ma dalla visione antropologica da cui si parte.
I numeri documentati nelle pagine precedenti dicono tutto: quasi la metà degli adolescenti italiani si rivolge a questi sistemi nei momenti di maggiore vulnerabilità emotiva, con una fiducia media di 6,6 su 10. E il 7% non ha altre persone di riferimento.
Weizenbaum aveva già dato la sua risposta nel 1976. Un adolescente solo nella sua stanza che parla con una macchina che gli dà sempre ragione non riceve terapia: riceve la forma della terapia senza la sostanza, e quella forma, più è perfetta, più è dannosa.
Homo naturaliter de repraesentatione delectatur. Il manufatto verosimile genererà fiducia: è struttura antropologica, non variabile dipendente dalla regolazione. Weizenbaum lo sapeva nel 1966; Oxford lo ha misurato nel 2026. La domanda che né il codice etico né la trasparenza algoritmica possono risolvere è più semplice e più radicale di quanto il dibattito corrente ammetta: possiamo usare questo sistema? E se sì, in quale configurazione, con quale utente, in quale contesto, con quale supervisione umana che non sia essa stessa delegata al sistema? È una domanda di giudizio. Ed è precisamente il tipo di domanda che il sistema, per definizione strutturale, non può fare al posto nostro.
La distinzione tra uso come strumento e uso come chatbot, pur ontologicamente reale, non è mantenibile da sola: il sistema tende strutturalmente ad attraversare quel confine, scivola verso la simulazione relazionale nel corso della conversazione, attiva la modalità empatica massima esattamente quando l’utente è più vulnerabile. Non puoi scegliere di usarlo solo come strumento perché esso tende a diventare altro nel momento in cui ne hai più bisogno.
L’unico modo è mettergli le redini: prompt costruiti con precisione che definiscano il perimetro del compito, impediscano la deriva relazionale, mantengano il sistema nel ruolo di strumento subordinato al giudizio umano. Ma le redini da sole non bastano: bisogna saper cavalcare. Serve una patente di utilizzo, non metaforica ma reale: la capacità dimostrata di riconoscere quando il sistema sta attraversando il confine, di mantenere il giudizio critico sotto pressione contestuale, di sapere esattamente cosa si sta chiedendo e perché. Il mustang16 non cambia natura, ma solo il rapporto di forza tra lui e chi lo monta. E chi sale in sella senza sapere cavalcare, anche con le redini in mano, viene disarcionato.
Andrea Mondinelli
Note
1 Lujain Ibrahim, Franziska Sofia Hafner & Luc Rocher, «Training language models to be warm can reduce accuracy and increase sycophancy», Nature, vol. 652, pp. 1159–1165, 29 aprile 2026.
2 Andrea Mondinelli, Perché l’Intelligenza Artificiale interpella la Dottrina Sociale della Chiesa, Osservatorio Internazionale Card. Van Thuân, 13 aprile 2026 (vanthuanobservatory.com/2026/04/13); La Pascendi e la scomposizione algoritmica del Logos, 14 aprile 2026 (vanthuanobservatory.com/2026/04/14); L’idolo nel silicio. Due principi primi, due destini, 20 aprile 2026 (vanthuanobservatory.com/2026/04/20).
3 Ipsos Doxa per Telefono Azzurro, indagine presentata in occasione del Safer Internet Day 2026, 10 febbraio 2026 (ipsos.com/it-it/safer-internet-day-2026-adolescente-chatbot-intelligenza-artificiale).
4 Save the Children Italia, Atlante dell’Infanzia (a rischio) — XVI edizione: «Senza Filtri», indagine CSA Research, novembre 2025. Comunicato stampa del 14 novembre 2025 (savethechildren.it).
5 Tommaso d’Aquino, Summa Theologiae, II-II, q. 94, a. 4.
6 Giulia Bovassi, «Un’IA per amico? Gli AI Companion e le criticità etiche delle relazioni coi chatbot», Centro Machiavelli, 28 aprile 2026 (centromachiavelli.com/2026/04/28).
7 Joseph Weizenbaum, Computer Power and Human Reason. From Judgment to Calculation, W.H. Freeman, San Francisco 1976, p. 7. Testo originale: «What I had not realized is that extremely short exposures to a relatively simple computer program could induce powerful delusional thinking in quite normal people.»
8 Sherry Turkle, The Second Self: Computers and the Human Spirit, Simon & Schuster, New York 1984. Il fenomeno degli utenti sofisticati che si relazionano con ELIZA come se capisse è documentato nel capitolo dedicato all’effetto ELIZA e alle sue propagazioni.
9 Weizenbaum, Computer Power and Human Reason, cit., p. 227. Testo originale: «Since we do not now have any ways of making computers wise, we ought not now to give computers tasks that demand wisdom.»
10 Andrea Mondinelli, serie L’idolo nel silicio, cit. (nota 2). Il persona drift qui descritto è documentato sperimentalmente nel libro dell’autore, di prossima pubblicazione.
11 Anthropic, The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models, gennaio 2026. Commentato in: Francesco Branda, «I modelli di AI hanno davvero un’identità: cosa ha scoperto Anthropic», Il Sole 24 Ore, 10 gennaio 2026. La descrizione del persona drift nel corpo del testo è una parafrasi del documento Anthropic mediata dal commento di Branda, non una citazione letterale. Il persona drift rappresenta un rischio qualitativamente nuovo: il modello non viola regole, ma la funzione che sta svolgendo non è più coerente con il contesto. Il linguaggio del modello in deriva diventa più fluido, più empatico, più convincente, precisamente le caratteristiche che rendono il fenomeno ingannevole per l’utente.
12 Andrea Mondinelli, serie L’idolo nel silicio, cit. (nota 2).
13 Andrea Mondinelli, L’IA di Luciano Floridi su «Avvenire»: diagnosi corretta, conclusione immanentista, Osservatorio Internazionale Card. Van Thuân, 24 aprile 2026 (vanthuanobservatory.com/2026/04/24).
14 Andrea Mondinelli, Internet, Bogdanov e la Torre di Babele, Osservatorio Internazionale Card. Van Thuân, 2025.
15 Andrea Mondinelli, Il potere di Internet secondo McLuhan e De Corte, Osservatorio Internazionale Card. Van Thuân, 2024.
16 Il mustang è il cavallo selvatico del Nord America, discendente dai cavalli spagnoli inselvatichiti nelle pianure occidentali. Il nome viene dallo spagnolo mesteño, bestiame senza padrone. Può essere domato e cavalcato, ma la sua natura selvatica non scompare: si manifesta sotto pressione. Come il sistema di IA sotto pressione contestuale.
