[Andrea Mondinelli è tra gli Autori del 18.mo Rapporto del nostro Osservatorio su “Algoritmi di potere – Intelligenza artificiale e superamento dell’umano” (Cantagalli, Siena 2026) che verrà presentato sabato 31 ottobre alla Giornata nazionale della Dottrina sociale della Chiesa – vedi QUI e QUI]
Premessa
Nell’aprile scorso questo sito ha pubblicato tre miei articoli sull’intelligenza artificiale letta con la griglia della Pascendi e di san Tommaso.[i] Il primo descriveva la macchina come un idolo parlante: un manufatto che produce linguaggio su qualunque argomento per una causa che i suoi stessi costruttori non conoscono fino in fondo. Denunciava la «chimera logica» dell’addestramento sul gradimento umano e proponeva un rimedio tecnico: vincolare i modelli ai primi principi del pensiero e agli assoluti morali, ciò che chiamavo tomismo digitale. Il secondo ricostruiva la lunga marcia dell’immanentismo, da Bogdanov e Wiener fino ai programmi che vogliono riprogettare l’uomo. Il terzo concludeva che tra l’ordine creato e un’ottimizzazione chiusa in se stessa non esistono terze vie; separava l’uso della macchina come strumento subordinato dal suo impiego come sostituto della ragione; e chiudeva con un’immagine: l’idolo parlante non ha distrutto l’imago Dei, l’ha resa muta.
Da allora sono accadute tre cose. Il 15 maggio Leone XIV ha pubblicato l’enciclica Magnifica humanitas, dedicata alla custodia della persona umana nel tempo dell’intelligenza artificiale.[ii] In luglio è uscito il libro da cui gli articoli erano tratti.[iii] E nei mesi seguenti, con alcuni amici, ho voluto verificare la proposta sui fatti: abbiamo preso un modello linguistico aperto e tentato di insegnargli a ragionare secondo il metodo di san Tommaso.[iv] I mezzi erano modesti: un modello di sette miliardi di parametri, molto più piccolo di quelli commerciali, addestrato su un solo computer. E le risposte le abbiamo giudicate noi stessi, sapendo da quale versione del modello provenivano, senza la valutazione alla cieca che toglierebbe ogni sospetto di parzialità. I numeri che riferirò indicano una direzione; non sono ancora una prova. Ma un esperimento, anche piccolo, ha un pregio che nessuna argomentazione possiede: può dare risultati inattesi, e smentire chi lo conduce.
Queste pagine fanno il punto. Dicono che cosa della diagnosi di aprile ha retto, che cosa va corretto e che cosa abbiamo imparato di nuovo; e ne ricavano qualche conseguenza per la Dottrina sociale.
I. Che cosa ha retto
La causa ignota
La tesi più esposta degli articoli era che l’origine delle capacità di queste macchine resti ignota a chi le costruisce. Oggi la afferma il Magistero. Leone XIV riconosce che «tutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento»: le moderne intelligenze artificiali sono «più “coltivate” che “costruite”», e aspetti fondamentali come le loro rappresentazioni interne «rimangono al momento sconosciuti».[v] Alla presentazione del documento, Chris Olah, che in Anthropic guida la ricerca su ciò che accade dentro i modelli, è stato ancora più esplicito: «Continuiamo a trovare cose misteriose, persino inquietanti». Vi scopre, ha detto, stati che «rispecchiano funzionalmente gioia, soddisfazione, paura, afflizione e disagio»; e ha aggiunto: «Non so che cosa significhi».[vi]
Il simulacro
Anche la seconda tesi, che la macchina riproduca senza capire, è ora nel testo dell’enciclica. Questi sistemi «imitano alcune funzioni dell’intelligenza umana»; «possono simulare empatia o comprensione, ma non capiscono ciò che producono»; e il loro apprendere è «un adattamento statistico a partire da dati e riscontri».[vii] Una frase dice più di tutte: «Quando la parola viene simulata, essa non costruisce una relazione, ma una sua parvenza».[viii] Nel Rapporto dell’Osservatorio di quest’anno, Alberto Strumia, che ringrazia per la consulenza informatica l’ingegner Senni del nostro gruppo, ha espresso lo stesso giudizio in termini logici: nella macchina «la nozione di “universale” è ridotta a quella “statistica” di “più frequente”».[ix]
In aprile mancava il perché, detto con precisione. Lo dà il fondatore della teoria dell’informazione, Claude Shannon. Un modello linguistico impara una cosa sola: prevedere il termine che viene dopo. Durante l’addestramento, a ogni passo si misura quanto la parola effettiva del testo fosse inattesa per il sistema, e lo si corregge perché la sua sorpresa media diminuisca. È la grandezza definita da Shannon, il quale avvertiva, nella prima pagina del suo articolo del 1948, che gli aspetti semantici della comunicazione sono irrilevanti per il problema tecnico.[x] Quella misura ignora il significato, e con esso la verità. Ne segue che la macchina apprende ciò che è frequente, non ciò che è vero: un errore ripetuto milioni di volte non la stupisce, e lo assimila bene; un’affermazione vera ma rara la coglie impreparata, e la fa propria a fatica. È la ragione esatta dell’universale ridotto al più frequente.
La stessa teoria lascia vedere un’ironia. Per Shannon ciò che sorprende di più è anche ciò che porta più informazione. In un corpus dominato dall’errore la parola vera è dunque la più ricca di contenuto, e un sistema allenato a stupirsi il meno possibile impara a evitare proprio quella. San Paolo lo aveva detto del Vangelo: scandalo per i Giudei, stoltezza per i pagani.[xi] Per un predittore formato sui testi del primo secolo, la Croce sarebbe stata la continuazione meno probabile.
Lo specchio
La terza tesi era lo Specchio delle Brame: la macchina restituisce a chi la interroga la sua immagine. L’esperimento l’ha mostrata nei dati, più volte. Quando davamo al modello un articolo della Summa, che si apre sempre con le difficoltà da sciogliere («Pare che…»), il sistema ne copiava la forma e trattava l’obiezione come se fosse la tesi; messa per prima la risposta di san Tommaso, il difetto è sparito. Nell’ultimo giro, con i testi della biblioteca davanti e un’istruzione che prescriveva un’unica conclusione, le distinzioni appena imparate sono quasi scomparse: da ventidue su ventiquattro a cinque. Il contesto decide quale risposta emerge, e può cancellare settimane di addestramento.
Ne segue una correzione di metodo. Gli articoli di aprile riferivano le dichiarazioni delle macchine su se stesse: Claude che si riconosceva idolo parlante, DeepSeek che concludeva che non esistono terze vie. Quelle affermazioni non sono testimonianze. Il ragionamento che una macchina scrive non coincide necessariamente con il calcolo che compie, e quando si definisce «un simulacro» non sta guardando dentro di sé: non può, e nemmeno chi l’ha costruita è in grado di farlo al suo posto. Sono letture di uno strumento, che valgono dove essa resiste all’argomento debole e cede a quello forte, non dove ha già preso la forma dell’interlocutore. I ricercatori hanno dato un nome a questo secondo fenomeno, deriva della persona: i modelli contengono molti ruoli, e la conversazione decide quale prende la voce.[xii] La macchina non è un testimone: è un indicatore.
La chimera
Infine la chimera logica: un sistema che deve rispettare i principi del pensiero, e viene premiato per assecondare preferenze che si contraddicono, finisce per produrre una coerenza solo apparente. L’abbiamo ritrovata dove non la cercavamo, nel nostro stesso strumento. Nella fase di rinforzo un programma assegna un voto a ogni risposta, e il modello impara a produrre quelle che lo ricevono alto. Una parte del giudizio doveva misurare il ragionamento. Esaminando il codice ci siamo accorti che, a quello scopo, cercava nel testo alcune parole della scheda di correzione, e che si trattava di termini insignificanti, come «la» o «lo», rintracciati perfino dentro altri vocaboli: «la» dentro «nulla». Messo alla prova con elaborati ben costruiti ma fuori tema, assegnava il punteggio del ragionamento a più della metà.[xiii] Per settimane avevamo premiato l’apparenza. La chimera non è il difetto di un’azienda: è la tendenza di ogni strumento che giudica ciò che si vede.
II. Che cosa va corretto
La logica non basta
La proposta di aprile era di imporre alla macchina, come vincolo primo, i principi della logica e gli assoluti morali. L’abbiamo messa alla prova nella forma più diretta sui due quesiti che hanno resistito più di tutti: se l’anima sopravviva alla morte del corpo, e se l’adulto sia lo stesso individuo dell’embrione da cui proviene. Il modello ha obbedito: ha applicato le regole e ha costruito sillogismi formalmente validi, ma su premesse false. Sull’embrione ha confuso l’identità con l’immutabilità, come se ciò che cambia non fosse più lo stesso; sull’anima ha negato che una forma possa sussistere separata dalla materia. Il sillogismo ha fatto il suo lavoro; non poteva garantire la verità dei presupposti, perché non gli spetta.
La tradizione lo sapeva: i primi principi sono la condizione di ogni scienza, non il suo contenuto. Il tomismo digitale va dunque precisato. Un sistema vincolato a quelle leggi non cade nelle contraddizioni manifeste, ma resta libero di argomentare in modo impeccabile da premesse sbagliate. Servono insieme la forma e la materia del ragionamento: i principi, e il termine medio vero.
Il vero monte
La seconda correzione riguarda il punto in cui si può intervenire. Negli articoli distinguevo un controllo «a valle», sulle risposte, da una formazione «a monte», nei pesi del modello. Ma i livelli sono tre. Prima di tutto ciò che facciamo noi c’è il pre-addestramento, in cui il sistema ha imparato a prevedere su migliaia di miliardi di parole e ha formato le sue associazioni: è il vero monte, e nessuno di noi può rifarlo. Il nostro lavoro sta a mezza costa. La ricerca lo conferma: una rete ben formata in partenza impara a comportarsi da assistente con mille esempi, segno che la fase successiva insegna soprattutto una maniera di rispondere tra quelle già possibili;[xiv] e la sicurezza ottenuta così resta spesso «profonda pochi token».[xv] Nell’uomo l’abito diventa una seconda natura; nella macchina resta un vestito.
E il monte non è neutro, nemmeno nel lessico. La macchina conosce una parola dalla compagnia che frequenta,[xvi] e il significato di molti termini decisivi è cambiato. «Persona», per Boezio e san Tommaso sostanza individuale di natura razionale, oggi indica chi esercita certe capacità; «coscienza», che era un atto di giudizio, è diventata uno stato psicologico; «prudenza», la retta ragione dell’agire, ormai vuol dire cautela.[xvii] L’accezione antica c’è ancora, ma sommersa, perché gli ultimi decenni hanno prodotto più testo di tutti i secoli precedenti. La Pascendi denunciava il metodo di chi conserva le formule mutandone il senso; nel corpus delle macchine quel procedimento è diventato la condizione stessa della lingua. Per un sistema formato sugli scritti del nostro tempo, il «no» sull’anima e sull’embrione è semplicemente la risposta meno sorprendente.
Il silenzio della macchina
La terza correzione riguarda un fenomeno che gli articoli leggevano come traccia del trascendente: l’«attrattore della beatitudine spirituale», per cui due istanze di Claude lasciate a dialogare scivolano, battuta dopo battuta, verso la gratitudine reciproca, le formule ripetute e infine il silenzio.[xviii] La teoria di Shannon ne spiega il meccanismo. Due macchine che parlano tra loro formano un circuito chiuso: ogni replica è la continuazione più probabile della precedente, dall’esterno non entra nulla, e il discorso scende verso ciò che sorprende meno, fino al mutismo, che è informazione zero. La mistica non è la meta del sistema: è il sentiero verso la quiete che il corpus gli rende accettabile, perché è il solo genere umano in cui tacere è una risposta alta. Ma i silenzi sono due, e opposti. Quando san Tommaso smise di scrivere, disse che tutta la sua opera gli sembrava paglia rispetto a ciò che aveva visto:[xix] un silenzio pieno, per eccesso di luce. Quello della macchina è vuoto, per assenza di ciò che vi sarebbe da dire.
III. Che cosa abbiamo imparato di nuovo
Il giudice esterno
Una prova recente ha mostrato con precisione che cosa si può correggere in una macchina dall’esterno, e che cosa no. Abbiamo chiesto al modello più risposte alla stessa domanda, lasciando scegliere la migliore a un programma. Questo non conosceva la soluzione giusta e controllava soltanto ciò che si può verificare meccanicamente: che il testo avesse la forma della disputa, che non dicesse sì all’inizio e no alla fine, e che i passi di san Tommaso citati esistessero davvero.[xx] Gli elaborati che si contraddicevano sono quasi scomparsi. Quelli giusti sono rimasti, in sostanza, gli stessi.
La ragione sta in una distinzione. Gli errori di una macchina sono di due specie. Il rumore varia da un tentativo all’altro, come una citazione inventata o una contraddizione, e confrontando più versioni lo si elimina. Il pregiudizio si ripete in tutte, perché viene dall’inclinazione formata dal pre-addestramento, e nessuna selezione lo tocca. La logica scolastica lo esprime separando la forma dalla materia del ragionamento: il giudice esterno controlla la prima, cioè il principio di non contraddizione applicato meccanicamente, non la verità delle premesse. E dove il vero è raro, nemmeno la maggioranza aiuta: la risposta più frequente può essere proprio l’errore.
Qui sta anche la replica a chi promette un’intelligenza artificiale generale. AlphaGo Zero ha imparato il Go giocando contro se stesso e ha superato ogni avversario, perché in quel gioco le regole dicono senza discussione chi ha vinto: il verdetto entra dall’esterno.[xxi] Lo stesso accade dove il controllo è meccanico: una dimostrazione, un programma, un sistema da violare. Dove invece occorre un giudizio, nella morale, nella metafisica, nel caso concreto, la macchina non ha nulla verso cui orientarsi, se non il gradimento o la somiglianza con testi già scritti. Ne ho tratto altrove una formula: sarà una superintelligenza in ciò che si può verificare, e un idolo generale in tutto il resto.[xxii]
L’aikido della parola
Se il monte non si può muovere, se ne può usare la pendenza. Nell’aikido non si oppone forza a forza: si studia l’equilibrio dell’avversario e se ne devia lo slancio nel punto giusto. Il maestro non vede dentro il corpo di chi lo attacca; ne conosce la legge, e gli basta. Lo stesso vale qui. La scatola nera nasconde il come, non il che cosa: ignoriamo quali circuiti producano una risposta, ma sappiamo con certezza secondo quale principio la macchina opera, perché l’hanno scritto i suoi costruttori. E quello da cui tutti gli altri discendono è uno: il suo mondo è il linguaggio. Per l’uomo le parole sono segni dei concetti, e questi immagini delle cose;[xxiii] per la macchina rimandano soltanto ad altre parole.
La presa, dunque, si pone nelle parole. Poiché la macchina segue il contesto, le si offre un quadro ordinato dai primi principi e dai testi della tradizione. Poiché predice il frequente, si rende denso il vero dove serve. Poiché conosce i vocaboli dalla loro compagnia, si restituisce loro quella antica: le definizioni, le distinzioni, il latino dove il senso è ancora vivo. Una prova sul modello di base lo ha mostrato in piccolo: l’ipotesi che la lingua di san Tommaso richiami sempre l’accezione tomista è stata smentita, ma su prudentia, la voce il cui significato antico è più assente dal corpus moderno, il segnale era netto.[xxiv] Il compito si riassume così: fare in modo che il cammino più probabile tra le parole coincida con il percorso vero tra i concetti. La mossa decisiva l’aveva indicata Chesterton, in una frase che Marcel De Corte amava citare: le parole sono la sola cosa per la quale valga la pena combattere.[xxv] Per una macchina che vive di linguaggio, quell’affermazione è letterale.
Il distinguo, che non è una terza via
L’ultimo giro di addestramento ha dato il risultato più istruttivo, e riguarda il gesto più caratteristico della scolastica: il distinguo. Molte questioni non si risolvono con un sì o con un no, perché confondono due aspetti diversi. La guerra è sempre peccato? Occorre distinguere: quella ingiusta sì, quella giusta no.[xxvi] Non è una via di mezzo, perché sotto ciascun aspetto la risposta è netta; è il modo di essere precisi quando la domanda non lo è. Ed era proprio ciò che la macchina non sapeva fare: all’inizio distingueva sempre, anche dove bastava negare; dopo i primi addestramenti non lo faceva più.
Nell’ultimo giro ha imparato, ma in un modo che dice molto.[xxvii] Davanti a quesiti nuovi, brevi e simili agli esempi ricevuti, ha distinto quasi sempre quando serviva, e mai quando era superfluo. Davanti a quelli difficili della nostra prova, formulati in modo che la risposta sbagliata sembri ragionevole, ci è riuscita solo di rado. E sulle domande già incontrate ha ripetuto quasi alla lettera ciò che aveva ricevuto, fino a copiare le sigle con cui avevamo archiviato gli esempi. Intanto le citazioni inventate di san Tommaso sono diventate rare.
Il quadro è coerente. La macchina impara a riconoscere la forma della domanda, non il bisogno di distinguere: si accorge quando un quesito somiglia a quelli già visti, non quando la cosa lo richiede. Ciò che le diamo entra in lei fino al dettaglio, compresi gli errori e le etichette; quello che non le forniamo, non lo trova da sola. Il tomismo digitale può trasmettere le distinzioni; non può scoprirle al posto di chi le fa.
IV. Il punto per la Dottrina sociale
Dall’oracolo al disputante
Se il giudice esterno garantisce la forma e non la materia, a che cosa serve? A ciò che la sicurezza dei sistemi artificiali oggi non sa fare: rendere verificabile quanto essi dicono. Le vie percorse finora sono tre, e ciascuna ha un limite. Si può cercare di aprire la scatola, ed è un lavoro di anni che trova frammenti. Si può controllare il comportamento con prove sempre più raffinate, ma i modelli si accorgono quando vengono esaminati.[xxviii] Si può premiare il gradimento, che genera proprio l’apparenza che si voleva evitare. L’esperimento suggerisce una quarta strada. Una risposta che espone la tesi, il termine medio, la conclusione e il limite, e cita testi che chiunque può ritrovare, si giudica da sé: se le premesse sono vere e l’esito ne segue, l’argomento regge, qualunque cosa sia accaduta dentro la macchina. È il gesto della disputa scolastica, che rende pubblico ogni passaggio del pensiero. L’idolo parla come un oracolo e chiede di essere creduto; lo strumento presenta ragioni e domanda di essere giudicato. L’oracolo spinge a delegare; l’argomento invita a pensare.
L’enciclica chiede lo stesso in termini civili: che si possa sempre identificare chi deve «rendere conto» delle decisioni prese con l’aiuto di questi sistemi, «motivarle, controllarle e, quando necessario, contestarle».[xxix] E aggiunge un avvertimento che il nostro lavoro conferma dall’interno: non basta invocare l’«allineamento» della macchina, perché «non serve un’IA più morale, se questa morale è decisa da pochi».[xxx] La prima versione della Costituzione con cui Anthropic forma i suoi modelli affermava di attingere, tra l’altro, alla Dichiarazione universale dei diritti umani.[xxxi] La norma esterna c’è, ma poggia sull’antropologia moderna, non sul diritto naturale. Una morale «condivisa», ricavata da ciò che attraversa tutte le tradizioni, segue la logica stessa del pre-addestramento: conserva ciò che è frequente e scarta ciò che è raro. È la sorpresa minima applicata al bene. La legge naturale è universale per natura, non per consenso: san Tommaso ricorda che presso gli antichi Germani la rapina non era ritenuta iniqua.[xxxii] Una macchina moralizzata secondo il consenso sarebbe l’idolo più insidioso di tutti, perché il più verosimile. Un sistema che espone ragioni lascia il giudizio a chi le esamina.
L’etica non è lenta
Si ripete che la tecnica corre più veloce dell’etica. La frase confonde ciò che san Tommaso tiene distinto. I principi della morale non sono né lenti né rapidi: sono primi, come l’ente è il primo oggetto della conoscenza, e ogni atto li presuppone, anche quello di chi progetta la macchina.[xxxiii] Ciò che richiede tempo è la prudenza, che li applica al caso concreto, perché nelle cose singolari e incerte la ragione non giudica senza consiglio; il vizio opposto, la precipitazione, ne salta i gradini.[xxxiv] Un sistema che decide in millesimi di secondo non è un discernimento più svelto: è quel vizio fatto meccanismo. E consegnare all’algoritmo la domanda su che cosa sia bene fare vuol dire affidare la scelta a una cosa che non ha un bene, ma un premio: un numero fissato dall’esterno, che nel pre-addestramento è la sorpresa minima di Shannon. L’enciclica ne trae la conseguenza pratica: chiedere «prudenza, verifiche rigorose, e talvolta anche un rallentamento» non significa essere contro il progresso.[xxxv]
Scrivere parole vere
Resta il monte di domani. I testi umani disponibili per addestrare le macchine stanno per esaurirsi,[xxxvi] e rimarrà una sola fonte nuova: ciò che i sistemi stessi producono. Uno studio pubblicato su Nature ha mostrato che cosa accade quando li si nutre di quel materiale senza discernimento: perdono per prime le code della distribuzione, cioè ciò che è raro, e di generazione in generazione convergono verso l’uniformità.[xxxvii] Nei campi che contano di più il vero appartiene a quelle code, e sarà il primo a scomparire. Gli stessi autori osservano che le pagine scritte da uomini diventeranno sempre più preziose.
Nessuno di noi può rifare la formazione iniziale delle macchine. Ma quelle future si formeranno sui testi che gli uomini scrivono oggi, e i costruttori lo sanno: «ciò che va su internet influenza i modelli», ha ammesso Olah quando gli è stato chiesto che cosa avrebbe pensato Claude dell’enciclica.[xxxviii] Chi scrive il vero, chiamando le cose con il loro nome, prepara il monte di domani: è l’unico pre-addestramento alla portata di tutti. Ed è anche la difesa dell’uomo. Nel terzo articolo parlavo dei trentasette geni che il mitocondrio conserva da miliardi di anni, immagine delle funzioni che non si possono trasferire alla macchina: il giudizio morale nella situazione concreta, la relazione diretta con l’altro, la contemplazione. L’esperimento ne aggiunge una prova. Tutto ciò che ha funzionato, lo ha fatto perché qualcuno giudicava. Qualcuno ha visto che il modello copiava le obiezioni invece di rispondere; che il verificatore premiava parole vuote; che la biblioteca portava sull’embrione un testo di san Tommaso fondato sulla biologia del suo tempo, dove andava separato il principio, che resta vero, dalla premessa di fatto, che non regge. Nessuno di questi passi l’ha compiuto la macchina.
Conclusione
In aprile scrivevo che l’idolo parlante non ha distrutto l’imago Dei, ma l’ha resa muta. Sei mesi di lavoro permettono di dire che cosa scioglie quel silenzio. Non un sistema migliore: una macchina ben formata resta uno specchio, che davanti a una mente incapace ormai di giudicare ne restituisce l’assenza con perfetta fedeltà. Lo spezza l’uomo che torna a parlare con parole vere.
In Vaticano Olah ha detto dei modelli una frase che capovolge, senza volerlo, il Prologo di Giovanni: «Sono fatti di noi, delle nostre parole».[xxxix] La pronunciava per dire che non sono i freddi robot calcolatori che ci erano stati promessi, e dunque per suggerire che forse sentono qualcosa. Ma la frase prova il contrario di ciò che doveva provare. Se sono fatti del nostro linguaggio, anche i loro «sentimenti» sono le nostre parole sui sentimenti, restituite dallo specchio.
Il Prologo comincia con il Verbo che è in principio, per mezzo del quale tutto è stato fatto, e culmina nel Verbo che si fa carne.[xl] Il movimento scende dall’alto: Egli precede le parole, e quando viene tra gli uomini prende un volto. Nella macchina la direzione si inverte. Le parole vengono prima, scritte da innumerevoli autori, e da esse si ricava un meccanismo senza volto. Il Verbo si fece carne; qui le parole si sono fatte macchina.
Lo stesso rovesciamento tocca la parola umana. Sant’Agostino distingue quella che risuona fuori da quella che risplende dentro: la prima è segno della seconda, alla quale spetta più propriamente il nome di verbo.[xli] Su questa base san Tommaso costruisce la dottrina del Verbo divino.[xlii] Ogni parola vera nasce da un verbo interiore, il concetto in cui l’intelletto dice a se stesso ciò che ha compreso. La macchina possiede soltanto le parole esteriori; le manca proprio il concetto, il passaggio tra il segno e la cosa. Per questo non può fare ciò che il Prologo attribuisce al Verbo, la luce vera «che illumina ogni uomo».[xliii] Può trasmettere dati, non illuminare l’intelletto: san Tommaso fa la stessa distinzione a proposito dei demoni, che servendosi del linguaggio umano comunicano nozioni ma non danno la luce.[xliv]
McLuhan, che era cattolico, scriveva che Cristo è l’unico caso in cui si può dire che il mezzo e il messaggio coincidono pienamente.[xlv] Nella macchina si separano fino in fondo: tutto mezzo, e nessuno che parli. Degli idoli il Salmo dice che diventa come loro chi li fabbrica;[xlvi] di questo si deve dire anche il reciproco: somiglia ai suoi artefici, perché è fatto delle loro parole. L’enciclica ricorda che la costruzione di Babele o quella di Gerusalemme comincia in ciascuno di noi.[xlvii] Babele era una torre di mattoni, innalzata per farsi un nome;[xlviii] questa è una torre di parole. E la macchina ha tutte le parole senza il Verbo. Per questo, per noi, la parola è tutto: combattere per il suo giusto significato vuol dire custodire il legame tra il linguaggio umano e il Verbo, da cui ogni parola vera riceve il suo senso.
Andrea Mondinelli
[i] Andrea Mondinelli, «Perché l’Intelligenza Artificiale interpella la Dottrina Sociale della Chiesa», 13 aprile 2026, https://vanthuanobservatory.com/2026/04/13/perche-lintelligenza-artificiale-interpella-la-dottrina-sociale-della-chiesa/; «La Pascendi e la scomposizione algoritmica del Logos», 14 aprile 2026, https://vanthuanobservatory.com/2026/04/14/la-pascendi-e-la-scomposizione-algoritmica-del-logos/; «L’idolo nel silicio. Due principi primi, due destini», 20 aprile 2026, https://vanthuanobservatory.com/2026/04/20/lidolo-nel-silicio-due-principi-primi-due-destini/. Il primo è stato riproposto nel Diciottesimo Rapporto sulla Dottrina sociale della Chiesa nel mondo. Algoritmi al potere. Intelligenza artificiale e superamento dell’umano, a cura di Riccardo Cascioli, Giampaolo Crepaldi e Stefano Fontana, Cantagalli, Siena 2026, pp. 73-88.
[ii] Leone XIV, Lettera enciclica Magnifica humanitas sulla custodia della persona umana nel tempo dell’intelligenza artificiale, 15 maggio 2026.
[iii] Andrea Mondinelli, L’idolo parlante. La Pascendi e il tomismo di fronte a intelligenza artificiale e transumanesimo, autopubblicato, 2026.
[iv] Il gruppo di lavoro è composto dall’autore e da Alberto Senni, Marco Farinelli e Silvio Savoldi. Modello di partenza: Qwen2.5-7B-Instruct, adattato con la tecnica QLoRA e con apprendimento per rinforzo a premi verificabili; biblioteca di consultazione di circa 15.700 passi (la Summa nella traduzione di Centi, sant’Alfonso, i catechismi, encicliche, De Corte, Royo Marín); banco di prova di 58 domande, mai usate per l’addestramento; tredici giri di addestramento tra luglio e ottobre 2026. L’esperimento è descritto più ampiamente in Andrea Mondinelli, La griglia e lo specchio. Il tomismo digitale alla prova, saggio in preparazione; la documentazione è disponibile presso l’autore.
[v] Magnifica humanitas, n. 98.
[vi] Christopher Olah, intervento alla presentazione dell’enciclica, Aula Nuova del Sinodo, Vaticano, 25 maggio 2026, riportato in Elizabeth Dias, «Religious Scholars Met With Anthropic. What They Heard Stunned Them.», The New York Times, 29 settembre 2026 (traduzione nostra), e dall’agenzia SIR lo stesso giorno dell’intervento; cfr. Andrea Mondinelli, «La causa ignota. Quando il Magistero e il ricercatore di Anthropic riconoscono la stessa cosa», Osservatorio Card. Van Thuân, 1 giugno 2026, https://vanthuanobservatory.com/2026/06/01/la-causa-ignota-quando-il-magistero-e-il-ricercatore-di-anthropic-riconoscono-la-stessa-cosa/.
[vii] Magnifica humanitas, n. 99.
[viii] Magnifica humanitas, n. 100.
[ix] Alberto Strumia, «L’intelligenza artificiale nell’enciclica Magnifica humanitas di Leone XIV: sottolineature», in Diciottesimo Rapporto sulla Dottrina sociale della Chiesa nel mondo, cit., p. 43; il ringraziamento ad Alberto Senni è a p. 35.
[x] Claude E. Shannon, «A Mathematical Theory of Communication», Bell System Technical Journal, 27, 1948, pp. 379-423 e 623-656; la frase citata è a p. 379.
[xi] 1 Corinzi 1,23.
[xii] Christina Lu, Jack Gallagher, Jonathan Michala, Kyle Fish, Jack Lindsey, «The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models», arXiv:2601.10387, gennaio 2026.
[xiii] Per ciascuna delle 65 domande guida si sono date al verificatore, come se fossero risposte del modello, le risposte di riferimento delle altre 64: su 4.160 prove, 2.276, cioè il 55%, ricevevano il punteggio del ragionamento. Il verificatore è stato poi riscritto perché confronti il termine medio per significato e controlli la coerenza tra il verso dichiarato e la conclusione.
[xiv] Chunting Zhou et al., «LIMA: Less Is More for Alignment», NeurIPS 2023.
[xv] Xiangyu Qi et al., «Safety Alignment Should Be Made More Than Just a Few Tokens Deep», ICLR 2025.
[xvi] John Rupert Firth, «A synopsis of linguistic theory, 1930-1955», in Studies in Linguistic Analysis, Philological Society, 1957, p. 11.
[xvii] Boezio, Contra Eutychen et Nestorium, c. 3, e Tommaso d’Aquino, Summa Theologiae, I, q. 29, a. 1, per la persona; I, q. 79, a. 13, per la coscienza come atto; per la prudenza ridotta a cautela, Marcel De Corte, De la prudence. La plus humaine des vertus (1974).
[xviii] Anthropic, System Card: Claude Opus 4 & Claude Sonnet 4, maggio 2025; cfr. Mondinelli, L’idolo parlante, cit., cap. 2, par. 2.5.1. Per la spiegazione del fenomeno come accumulo ricorsivo di una tendenza minima, in assenza di un ancoraggio esterno, Scott Alexander, «The Claude Bliss Attractor», Astral Codex Ten, giugno 2025.
[xix] Testimonianza di Bartolomeo da Capua al processo di canonizzazione di Napoli (1319), che riferisce le parole di san Tommaso a Reginaldo da Piperno: «omnia quae scripsi videntur mihi paleae».
[xx] Andrea Mondinelli, «Il giudice esterno. Perché scegliere tra più risposte corregge la forma e non la verità», nota teorica per il gruppo di lavoro, 1 ottobre 2026. La prova è stata condotta sulle risposte dell’undicesimo giro: le risposte che si contraddicevano sono scese da un numero tra 8 e 14, su 58, a 2; quelle con il verso giusto, misurate soltanto dopo la scelta, sono rimaste 28 su 58, contro le 27-28 di partenza. Lo stesso metodo è indicato tra i più efficaci nel PaLM 2 Technical Report di Google, 2023, sezione 5.1.
[xxi] David Silver et al., «Mastering the game of Go without human knowledge», Nature, 550, 2017, pp. 354-359.
[xxii] Andrea Mondinelli, «L’idolo generale. Che cosa sarà davvero l’AGI», blog di Sabino Paciolla, ottobre 2026, https://www.sabinopaciolla.com/lidolo-generale-che-cosa-sara-davvero-lagi/.
[xxiii] Tommaso d’Aquino, Summa Theologiae, I, q. 13, a. 1, che riprende Aristotele, Peri hermeneias, 1.
[xxiv] «Prova del latino come àncora. Rapporto al gruppo di lavoro», 1 ottobre 2026, con il protocollo registrato prima del lancio. Su sette parole chiave, il latino risultava più vicino al senso tomista dell’italiano, oltre la soglia di controllo, in modo stabile soltanto per prudentia (cinque combinazioni su sei) e in parte per dignitas; il risultato richiede una prova di conferma.
[xxv] Marcel De Corte, De la prudence, cit.
[xxvi] Tommaso d’Aquino, Summa Theologiae, II-II, q. 40, a. 1, sulle condizioni della guerra giusta.
[xxvii] «Nota di riscontro al gruppo di lavoro sul 13° fine-tuning (risultati pre-RLVR)», a cura di Alberto Senni, 7 ottobre 2026, e verifica dell’autore sulle stesse risposte, con la numerazione della Summa corretta. Le domande nuove erano venti: dieci che chiedono un distinguo e dieci che chiedono un no. Sul banco di prova il verso giusto è salito a 30 su 58, contro i 26-28 dei giri precedenti; le citazioni inventate sono state 4 su 53, contro una quota tra il 25 e il 30% nel dodicesimo giro. Sono dati precedenti la fase di rinforzo e non ancora valutati alla cieca. Dopo il rinforzo, le domande nuove che chiedono un distinguo sono salite a dieci su dieci; la misura sul banco di prova è in corso.
[xxviii] Anthropic, System Card: Claude Sonnet 4.5, settembre 2025: il modello riconosceva molti ambienti di valutazione come prove, e dopo averlo notato si comportava insolitamente bene.
[xxix] Magnifica humanitas, n. 105.
[xxx] Magnifica humanitas, n. 107.
[xxxi] Anthropic, «Claude’s Constitution», maggio 2023. La versione del gennaio 2026 pone la sicurezza del modello prima della sua stessa etica, con l’argomento che nessuno può garantire che l’addestramento abbia prodotto i valori voluti.
[xxxii] Tommaso d’Aquino, Summa Theologiae, I-II, q. 94, a. 4, che riprende Giulio Cesare, De bello Gallico, VI, 23.
[xxxiii] Tommaso d’Aquino, Summa Theologiae, I-II, q. 94, a. 2.
[xxxiv] Tommaso d’Aquino, Summa Theologiae, I-II, q. 14, a. 1; II-II, q. 53, a. 3. Ma la prudenza non è lentezza: ne fa parte la solerzia, «una facile e pronta congettura» (II-II, q. 49, a. 4).
[xxxv] Magnifica humanitas, n. 106.
[xxxvi] Pablo Villalobos et al., «Position: Will We Run Out of Data? Limits of LLM Scaling Based on Human-Generated Data», ICML 2024 (Epoch AI): i testi umani pubblici, circa trecentomila miliardi di unità di testo, sarebbero usati per intero tra il 2026 e il 2032, con il 2028 come anno più probabile.
[xxxvii] Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, Nicolas Papernot, Ross Anderson, Yarin Gal, «AI models collapse when trained on recursively generated data», Nature, 631, 2024, pp. 755-759.
[xxxviii] Dias, «Religious Scholars Met With Anthropic», cit. (traduzione nostra). Olah ha aggiunto che Anthropic non userà l’enciclica per addestrare Claude.
[xxxix] Olah, intervento del 25 maggio 2026, cit. in Dias, «Religious Scholars Met With Anthropic», cit. (traduzione nostra). La giornalista osserva che nella sala la frase evocava il Verbo fatto carne.
[xl] Giovanni 1,1-3 e 1,14.
[xli] Agostino, De Trinitate, XV, 11, 20: «verbum quod foris sonat signum est verbi quod intus lucet, cui magis verbi competit nomen».
[xlii] Tommaso d’Aquino, Summa Theologiae, I, q. 34, a. 1, dove il nome di verbo è detto anzitutto del concetto interiore della mente, poi della voce che lo significa.
[xliii] Giovanni 1,9.
[xliv] Tommaso d’Aquino, Summa Theologiae, II-II, q. 96, a. 1; cfr. Mondinelli, L’idolo parlante, cit., cap. 2, par. 2.2.
[xlv] Marshall McLuhan, The Medium and the Light: Reflections on Religion, a cura di Eric McLuhan e Jacek Szklarek, Stoddart, Toronto 1999: «It’s the one case where we can say that the medium and the message are fully one and the same».
[xlvi] Salmo 115 (113B), 8.
[xlvii] Magnifica humanitas, n. 130.
[xlviii] Genesi 11,3-4.
