Cosa sono davvero i modelli linguistici che oggi scrivono, traducono e rispondono al posto nostro, cosa sanno fare bene, dove sbagliano, e perché capirlo è diventata una questione che riguarda tutti non solo gli informatici.
Perché parlarne adesso
Probabilmente hai già parlato con un’intelligenza artificiale oggi, anche senza accorgertene o peggio a tua insaputa. Il completamento automatico che finisce le tue frasi mentre scrivi un messaggio, la risposta del servizio clienti che sembrava fin troppo cortese, il riassunto di un articolo che ti è comparso in cima ai risultati di ricerca: dietro molte di queste cose, negli ultimi anni, c’è la stessa famiglia di strumenti. Si chiamano modelli linguistici di grandi dimensioni, in inglese Large Language Models, da cui la sigla LLM; ma tu la chiami semplicemente AI, già ChatGPT.
Nel giro di pochissimo tempo sono passati dai laboratori alle nostre tasche. E come spesso accade quando una tecnologia si diffonde più in fretta della nostra capacità di comprenderla, intorno agli LLM si è accumulata una nebbia di entusiasmo, timore e confusione. C’è chi li tratta come oracoli infallibili e chi come l’anticamera di un’apocalisse. Entrambe le posizioni, forse, mancano il bersaglio.
Proviamo a fare una cosa semplice e difficile insieme: spiegare come funzionano questi strumenti in modo comprensibile anche a chi non ha alcuna formazione tecnica, senza però semplificare troppo la sostanza. E, soprattutto, farlo con spirito critico, perché capire un LLM significa anche riconoscerne gli errori, i pregiudizi e i rischi, e ragionare su chi ne porta la responsabilità.
Che cos’è davvero un LLM
Cominciamo dallo smontare l’equivoco più comune. Quando un modello linguistico ti risponde in modo articolato, coerente, a volte perfino brillante, è naturale pensare che capisca ciò di cui state parlando. Non è così, o almeno non nel senso in cui lo intendiamo per un essere umano, siamo noi che incosciamente tendiamo a dargli un significato antropomorfico.
Nella sua essenza, un LLM fa una cosa sola: prevede la parola successiva. Gli dai un pezzo di testo (che non è altro che “la tua domanda”, il “mitico prompt) e lui confronta (inferenza), su base di ciò che ha”visto” durante l’addestramento (training), quale parola è più probabile che venga dopo. Poi la aggiunge, guarda di nuovo tutto il testo, e prevede la parola dopo ancora. E così via, un pezzetto alla volta, fino a comporre una risposta intera: su base esclusivamente statistica.
Una metafora utile è quella dell’attore che simula la realtà. Il suggeritore del tuo telefono, quando scrivi “buona”, propone “giornata” o “serata” perché sono le parole che statisticamente seguono più spesso, ma tu probabilmente continui a chiamarlo T9. Un LLM fa la stessa operazione, ma su una scala vertiginosamente più grande e sofisticata: non guarda l’ultima parola, ma l’intero contesto; non attinge dalle tue conversazioni passate, ma a una quantità immensa di testo scritto dall’umanità, ma dove ci sono anche le tue conversazioni, a meno che non sia un “modello locale” Ma il tuo autocompilatore, quando ha accesso a grandi modelli ha a disposizoine miliardi di previsioni statistiche, e così emergono emergono capacità che nessuno aveva programmato esplicitamente. È un punto su cui gli stessi ricercatori discutono, ma la base resta quella: calcolo di probabilità su sequenze di parole, non comprensione del significato.
Perché questa distinzione conta così tanto? Perché spiega in anticipo quasi tutti i pregi e i difetti che vedremo. Un sistema che genera il testo statisticamente più plausibile sarà straordinario nel produrre frasi ben formate e coerenti, e sarà, allo stesso tempo, strutturalmente indifferente al fatto che quelle frasi siano vere. Plausibile e vero non sono la stessa cosa! Quindi stiamo parlando di un “generatore statistico di frasi che sembrano plausibilmente vere” perchè scritte con rapidità. Stiamo forse barattando la qualità e la correttezza per la velocità?
Come nasce un modello: l’addestramento in parole semplici
Un LLM non nasce sapiente. Diventa ciò che è attraverso un processo in più fasi, e capirlo aiuta a capire da dove vengono i suoi limiti.
Prima fase: la lettura del mondo. Al modello viene dato in pasto (con o senza consenso) un enorme insieme di testi, libri, articoli, pagine web, conversazioni(!), codice informatico (open source) Miliardi di parole. Durante questa fase il modello non fa altro che l’esercizio di cui parlavamo: prova a indovinare la parola successiva in ogni frase, sbaglia, aggiusta i propri parametri interni, riprova. Ripetuto miliardi di volte, questo processo lo rende sempre più bravo a cogliere la regolarità e la correttezza del linguaggio: la grammatica, gli abbinamenti di concetti, gli stili, e indirettamente una quantità enorme di informazioni sul mondo contenute in quei testi.
Seconda fase: la messa a punto. Un modello grezzo, uscito dalla prima fase, è potente ma indisciplinato: continua semplicemente il testo, senza sapere che dovrebbe rispondere in modo utile a una domanda. Con la messa a punto (fine-tuning) gli si insegna a comportarsi come un assistente: a seguire istruzioni, a stare sul tema, a rispondere in modo appropriato.
Terza fase: il feedback umano. Infine, ebbene si spesso, persone in carne e ossa valutano le risposte del modello; quale è preferibile rispetto ad un altra, quale utile e quale no, quale offensiva e quale vietata (!). Queste valutazioni vengono usate per orientarne ulteriormente il comportamento. È il modo in cui si cerca di renderlo più utile, più onesto e meno dannoso (o anche il contrario).
Per quanto sopra si può pensare che il modello eredita ciò che c’è nei dati. Se i testi su cui è stato addestrato contengono errori, questi possono rispuntare. Se contengono pregiudizi, e i testi prodotti dagli esseri umani ne sono pieni, il modello li assimila. Se una certa lingua, cultura o punto di vista è sovrarappresentato, il modello ne sarà più “esperto” e più incline a darne per scontata la prospettiva. Non c’è nulla di magico né di neutrale in tutto questo: è uno specchio, con tutte le distorsioni dello specchio.
C’è anche un limite temporale da ricordare: un modello conosce il mondo fino alla data in cui si è concluso il suo addestramento. Ciò che è accaduto dopo, semplicemente, non lo sa, a meno che non sia collegato a strumenti che gli permettono di consultare fonti aggiornate. Siamo allora di fronte ad un sistema RAG, acronimo di Retrieval-Augmented Generation (in italiano: Generazione Aumentata dalla Ricerca).
Cosa sanno fare bene
Detto tutto ciò, sarebbe sciocco negare che gli LLM siano strumenti notevoli. In alcuni compiti sono davvero utili, e conviene esserne consapevoli tanto quanto lo si è dei loro difetti.
Sono bravi a riformulare e sintetizzare: sottoponi un testo lungo e ne ricavi un riassunto ordinato; dai loro appunti disordinati e te lo restituiscono in bella forma. Sono utili nella traduzione, spesso con una naturalezza che i vecchi traduttori automatici non avevano. Aiutano nella scrittura: bozze di email, idee per un titolo, la struttura di un discorso, un testo da correggere. Sono un valido supporto per chi programma, perché suggeriscono codice, spiegano errori, creano ottimi ragionamenti tecnici, dato che ne hanno appresi tantissimi. E funzionano bene come esplicatore: sanno riformulare un concetto difficile in termini più semplici, adattarlo al livello di chi ascolta, offrire esempi.
Un esempio concreto: uno studente che non ha capito un passaggio di storia può chiedere a un LLM di spiegarglielo in modo diverso, con un’analogia, e poi fare domande di approfondimento finché il concetto non si chiarisce. Fatto con giudizio, è come avere un tutor paziente e disponibile a qualsiasi ora… ma attenzione alle allucinazioni (fischi per fiaschi).
La parola chiave, però, è proprio con giudizio. Ognuno di questi usi diventa affidabile solo se accompagnato dalla capacità di verificare, di dubitare, di non 2prendere per oro colato”. Ed il rischio è elevato per quella velocità e capacità di convincerci nella sua bravura e ragionamento, inesistenti però!
Dove sbagliano: le allucinazioni
Gli LLM inventano informazioni false con la stessa sicurezza con cui riferiscono quelle vere. Nel gergo del settore si chiamano allucinazioni: il modello produce affermazioni che suonano perfettamente credibili: nomi, date, citazioni, riferimenti bibliografici, sentenze, dati statistici; ma queste affermazioni semplicemente non corrispondono alla realtà. Non c’è nessun segnale, nessun tono incerto che ti avverta. La frase inventata ha esattamente lo stesso aspetto di quella corretta. Non sta sbagliando, non lo dite mai, lui sta facendo perfettamente il lavoro per cui è programmato unendo insieme, statisticamente del testo.
Ciò accade perchè l modello genera il testo statisticamente più plausibile, non quello vero. Se gli chiedi la fonte di un’affermazione e nei suoi dati non c’è una fonte precisa, lui non risponde “non lo so”: genera qualcosa che ha la forma di una fonte plausibile (un autore verosimile, un titolo verosimile, un anno verosimile) perché è così che si presentano le fonti nei testi che ha visto. L’allucinazione, in altre parole, non è un guasto occasionale: è una conseguenza diretta di come funziona lo strumento. Si può ridurre, mitigare, arginare con vari accorgimenti, ma non eliminare del tutto.
Gli esempi non mancano, e alcuni sono finiti sui giornali, nelle consulenze dei nostri clienti, nelle aule dei tribunali, sulle sentenze. Ci sono stati avvocati che hanno presentato in tribunale citazioni di sentenze inesistenti, generate da un LLM e mai verificate. Ci sono studenti che hanno consegnato bibliografie con libri che non esistono. Ci sono state biografie di persone reali infarcite di dettagli inventati. Il filo comune è sempre lo stesso: qualcuno ha scambiato la fluidità della risposta per la sua veridicità. E intanto un LLM deve sempre rispondere.
Da qui una regola pratica che vale la pena scolpire: un LLM è una fonte di prime bozze e di ipotesi, non di verità verificate. Tutto ciò che è fondamentale, quale un dato che userai in un documento, un fatto che riferirai ad altri, un’informazione da cui dipende una decisione, va controllato altrove. Va verificata la fonte, dobbiamo dubitare e ragionare delle risposte, perchè risposte non sono.
I bias: lo specchio dei dati
Se le allucinazioni riguardano la verità dei fatti, i bias riguardano qualcosa di più sottile e in un certo senso più insidioso: i pregiudizi.
Abbiamo detto che il modello impara dai testi umani. Ma i testi umani non sono un ritratto neutro della realtà: riflettono le disuguaglianze, gli stereotipi e i luoghi nascosti delle società che li hanno prodotti. Se in molti testi la figura del “il dirigente”” è descritta al maschile e quella “dell’assistente”” al femminile, il modello coglie quell’associazione e tende a riprodurla. Se certe etnie o certi gruppi sociali compaiono nei dati soprattutto in contesti negativi, quella correlazione può filtrare nelle risposte. Se una lingua o una cultura è enormemente più rappresentata di un’altra, il modello darà per implicito il suo modo di vedere le cose, trattandolo come “normale”. Musk insegna con il suo Grok, ma gli altri non sono da meno, semplicemente non sono stati altrettanto eclatanti.
Parlando di bias distinguiamo per praticità due livelli. C’è un bias tecnico, per così dire statistico: il modello riflette gli squilibri presenti nei dati. E c’è un bias sociale, che è la conseguenza di quello tecnico quando incontra il mondo: decisioni, rappresentazioni e percezioni che finiscono per svantaggiare qualcuno. Il primo è un problema di ingegneria; il secondo è un problema di giustizia. E il secondo non si risolve solo con soluzioni tecniche, perché tocca la domanda antica e squisitamente umana: “quale rappresentazione del mondo consideriamo giusta”?
C’è poi un rischio di secondo grado, ancora più delicato: l’amplificazione. Uno stereotipo che circola in un testo è uno stereotipo tra tanti. Uno stereotipo che un sistema usato da milioni di persone ripete con l’autorevolezza apparente della macchina rischia di rafforzarsi, di sembrare più vero solo perché è più ripetuto. Gli LLM rafforzano l’errore, e la falsano la statistica reale.
I rischi più ampi
Otre il singolo errore si aprono questioni che riguardano la società nel suo insieme. Vale la pena elencarle con lucidità, distinguendo i timori fondati dagli allarmismi.
Il primo è la disinformazione. Uno strumento capace di produrre testo plausibile, in quantità illimitata e a costo apparentemente quasi nullo, è in realtà anche uno strumento capace di generare notizie false, recensioni finte, propaganda su misura. Il problema non è nuovo, ma la scala sì.
Testi persuasivi, personalizzati, prodotti in massa possono essere usati per influenzare opinioni, comportamenti, voti. La linea tra persuasione legittima e manipolazione è sempre stata sottile; questi strumenti la rendono più facile da attraversare. Siamo di fronte ad un sistema pronto per la manipolazione.
Il terzo timore è quello relativo alla concentrazione di potere. Costruire questi modelli richiede risorse enormi, dai dati, alla capacità di calcolo, denaro o sovvenzioni pubbliche che poche organizzazioni al mondo possiedono. Questo solleva domande su chi controlla infrastrutture destinate a mediare una parte crescente di come informiamo, lavoriamo e comunichiamo.
Il quarto riguarda il lavoro. Alcune mansioni verranno automatizzate, altre trasformate, altre ancora create; ancora siamo agli albori e non possiamo sapere cosa ci può aspettare o quando la bolla scoppierà. La storia della tecnologia suggerisce che il quadro è più complesso del semplice “le macchine rubano il lavoro”, ma sarebbe disonesto minimizzare le dislocazioni territoriali che intanto colpiscono persone reali, con una geopolitica che non sta a guardare.
Il quinto, più intimo, è la dipendenza cognitiva. Se deleghiamo troppo — il ricordare, il calcolare, lo scrivere, perfino il pensare — rischiamo di atrofizzare capacità che vale la pena tenere allenate. Non è un rischio della macchina, è un rischio del nostro modo di usarla.
E sullo sfondo di tutto c’è l’opacità di sistemi che sono in buona parte “scatole nere”: producono un risultato senza che sia sempre possibile ricostruire con chiarezza perché proprio quello. Un’opacità che complica ogni discorso su fiducia, controllo e responsabilità. Si parla di Open Source, pesi aperti, ma per il momento hanno solo attinto al FLOSS restituendo ancora ben poco.
Su ciascuno di questi punti si può e si deve evitare tanto la sottovalutazione quanto il panico o il rifiuto a priori. Non siamo davanti a una macchina cosciente che complotta contro di noi; questa è fantascienza, e distrae dai problemi veri. Siamo davanti a strumenti potenti, imperfetti e diffusissimi, i cui effetti dipendono in larga misura da come sceglieremo di costruirli, regolarli e usarli. Strumenti diffusi geograficamente in modo non uniforme e a disposizine non solo di private società ma anche di governi, che si spera sesmpre democratici.
La questione etica
Qui lo scenario cambia radicalmente. Finora abbiamo descritto come funzionano gli strumenti; ora dobbiamo chiederci cosa è giusto farne. È il territorio della filosofia, la parte in cui si decide che tipo di rapporto vogliamo avere con queste tecnologie.
La prima domanda è quella della responsabilità. Quando un LLM produce un danno come ad esempio una diagnosi sbagliata seguita alla lettera, una calunnia, una decisione ingiusta presa sulla base di un suo output, di chi è la colpa? Del modello, che non è un agente morale? Di chi lo ha costruito? Di chi lo ha impiegato senza verificare? Di chi lo ha regolato male, o non lo ha regolato affatto? La tentazione più pericolosa è che la responsabilità si dissolva nel mezzo, che nessuno risponda perché “è stata l’intelligenza artificiale”. Un principio sano è che la responsabilità resti sempre umana: lo strumento non è un capro espiatorio dietro cui nascondersi.
La seconda è la trasparenza. Abbiamo il diritto di sapere quando stiamo interagendo con una macchina anziché con una persona? Quando un testo, un’immagine, una voce sono generati artificialmente? La risposta, per molti, è sì, perché il consenso e la fiducia presuppongono di sapere con chi, o con cosa, abbiamo a che fare.
Un altra questione riguarda i dati e il consenso. Questi modelli sono costruiti sul lavoro di milioni di persone, coloro che hanno scritto quei libri, gli articoli, il codice di programmazione, spesso senza che ne fossero consapevoli o d’accordo. È una questione aperta, giuridica ed etica insieme, su cosa sia giusto usare, come, e con quale riconoscimento. Gli USA lo definiscono “Il Fair Use (Uso Legittimo)”, OpenAI e Anthropic sostengono che rastrellare dati protetti da copyright per addestrare un’IA sia perfettamente legale; ma sul mezzo utilizzato viene omesso, ora lo definiamo grabbing, prima era emule o napster e non era legale.
Ma la questione più profonda, forse, riguarda la verità e la fiducia. Una società funziona anche perché esiste un terreno comune di fatti condivisi. Strumenti che producono in massa contenuti plausibili ma potenzialmente falsi rischiano di erodere quel terreno, fino a un punto in cui non è più il falso a essere pericoloso, ma il dubbio generalizzato: se qualsiasi cosa potrebbe essere generata, come faccio a fidarmi di qualcosa? Difendere la possibilità stessa di distinguere il vero dal falso diventa, in quest’ottica, un compito civile prima che tecnico.
E infine c’è la domanda più antica di tutte, quella sull’autonomia. Uno strumento dovrebbe potenziare il giudizio umano, non sostituirlo. La differenza tra usare un LLM per pensare meglio e usarlo per non pensare affatto è tutta lì e non la decide la macchina, la decidiamo noi, ogni volta che scegliamo di affidarci ad un LLM.
Come conviverci con spirito critico
Da tutto ciò non ne deriva un invito a rifiutare la tecnologia, ma un invito a usarla consapevolmente e con spirito critico.
Verifica sempre i fatti che contano. Se un’informazione avrà conseguenze, cioè se la utilizzerai, la riferirai, ci baserai una decisione, allora controllala in una fonte indipendente e affidabile e non su un altro LLM. Tratta l’LLM come un collega brillante ma inaffidabile sui dettagli: utile per ragionare, non per l’ultima parola.
Diffida della sicurezza. Il tono fluido e assertivo non è garanzia di correttezza. Anzi, è proprio dove il modello sembra più sicuro che conviene alzare la guardia, perché è lì che un errore passa più facilmente inosservato.
Chiediti sempre “chi e perché”. Chi ha costruito lo strumento che stai usando, con quali interessi, con quali dati? Non per paranoia, ma per la stessa consapevolezza con cui valuti la fonte di una notizia. Valuta se favorisci strumenti open source e indipendenti a modelli commerciali pur potenti.
Non delegare il giudizio. Usa questi strumenti per fare più in fretta ciò che sapresti fare, o per esplorare ciò che poi valuterai con la tua testa. Il momento in cui smetti di capire cosa stai firmando, consegnando o pubblicando è il momento in cui hai ceduto qualcosa che non andava ceduto.
Riconosci i limiti, anche i tuoi. Sapere che un modello può allucinare o essere prevenuto è metà del lavoro. L’altra metà è ricordarsi di applicare quella consapevolezza proprio quando la risposta ci piace e ci farebbe comodo crederle. E di mantenere la stessa consapevolezza nel tempo.
La macchina (non pensante)
Gli LLM non sono né i salvatori né i distruttori che i titoli più gridati vorrebbero far credere (hype). Sono, più modestamente e più realisticamente, strumenti nuovi e potenti che riflettono e amplificano le qualità e i difetti dei testi umani da cui hanno appreso e dei quali si sono impossessati. Sanno essere utili in modi che pochi anni fa sembravano fantascienza, e sbagliano in modi che ci ricordano quanto sia diverso sembrare intelligenti dall’esserlo.
La domanda importante, alla fine, non è “quanto è brava la macchina?”. È “che tipo di rapporto vogliamo costruirci?”. E questa è una domanda che nessun modello, per quanto sofisticato, può rispondere al posto nostro; perché non è una domanda tecnica, è una domanda su di noi. Comprendere questi strumenti, con lucidità e senso critico, non serve a temerli di meno né ad ammirarli di più. Serve a restare, di fronte a loro, pienamente responsabili. Che è forse l’unica cosa che, davvero, non possiamo delegare.
Piccolo glossario
- AI (Intelligenza Artificiale): termine ampio che indica sistemi informatici capaci di svolgere compiti che associamo all’intelligenza umana. Gli LLM ne sono un sottoinsieme, non l’intera categoria.
- LLM (Large Language Model): modello linguistico addestrato su grandi quantità di testo per prevedere e generare linguaggio naturale su esclusiva base statistica; stima una distribuzione di probabilità sul token successivo e poi genera testo seguendo quella distribuzione (talvolta scegliendo il token più probabile, talvolta campionando).
- Addestramento (training): il processo con cui il modello “impara”” dai dati, aggiustando i propri parametri interni.
- Messa a punto (fine-tuning): fase in cui un modello già addestrato viene specializzato o reso più adatto a un compito che ad un altro.
- Allucinazione: affermazione falsa ma plausibile prodotta dal modello, presentata con la stessa sicurezza di un’informazione corretta.
- Bias: pregiudizio o distorsione sistematica che il modello eredita dai dati e può riprodurre o amplificare.
