Usiamo un’intelligenza artificiale, le facciamo una domanda e riceviamo una risposta perfettamente scritta. Il testo è ordinato, preciso, magari contiene date, nomi, titoli di libri, riferimenti e spiegazioni dettagliate.
C’è solo un piccolo problema.
Una parte potrebbe essere completamente inventata.
È uno dei fenomeni più interessanti — e anche più importanti da conoscere — quando utilizziamo sistemi di intelligenza artificiale generativa: le cosiddette allucinazioni dell’IA.
Il termine può sembrare curioso, quasi fantascientifico, ma indica qualcosa di molto concreto. Un’intelligenza artificiale può produrre un’informazione falsa, inesatta o addirittura inesistente presentandola però in modo estremamente plausibile.
E proprio qui sta il punto: spesso il problema non è che l’errore sembri assurdo.
È che sembra credibile.
Cosa significa davvero “allucinazione”?
Nel linguaggio dell’intelligenza artificiale, si parla di allucinazione quando un modello genera contenuti che non corrispondono ai fatti disponibili.
Potrebbe, per esempio, attribuire una frase alla persona sbagliata, inventare una data, descrivere una funzione software che non esiste oppure citare un articolo scientifico con un titolo molto convincente… che nessuno ha mai scritto.
Immaginiamo di chiedere:
"Qual è il libro pubblicato da Alan Turing nel 1952 sull’intelligenza artificiale?"
Una IA potrebbe correttamente osservare che la domanda contiene un presupposto problematico.
Ma potrebbe anche generare qualcosa come:
"Nel 1952 Alan Turing pubblicò The Mechanical Mind, nel quale approfondì…"
Titolo plausibile. Autore plausibile. Periodo storico plausibile.
Peccato che quel libro possa non esistere affatto.
Il risultato non assomiglia necessariamente a un errore grossolano. Può assomigliare moltissimo a una risposta corretta.
Ma perché l’IA inventa?
Per capirlo dobbiamo abbandonare per un momento un’idea molto intuitiva ma sbagliata: quando una IA generativa risponde, non sta necessariamente cercando una risposta in una gigantesca enciclopedia nascosta.
Un modello linguistico lavora principalmente individuando relazioni statistiche tra parole, frasi e concetti.
In modo molto semplificato, quando genera un testo cerca di prevedere quale elemento abbia senso produrre successivamente sulla base del contesto ricevuto e dei modelli appresi durante l’addestramento.
Se scriviamo:
"La capitale della Francia è…"
la parola Parigi ha un’altissima probabilità di essere la continuazione appropriata.
Naturalmente il funzionamento reale è enormemente più complesso, ma questo piccolo esempio ci aiuta a capire un concetto fondamentale:
un modello linguistico è progettato per generare una risposta coerente, non per possedere automaticamente la certezza che ogni affermazione sia vera.
Ed è qui che può nascere l’allucinazione.
Quando le informazioni sono incomplete, ambigue o poco rappresentate, il modello può costruire una risposta statisticamente plausibile.
In altre parole, davanti a un vuoto può capitare che l’IA non dica semplicemente:
Non lo so.
Può invece completare quel vuoto con qualcosa che linguisticamente funziona benissimo.
L’IA sta mentendo?
Questa è una distinzione importante.
Dire che l’IA mente significa attribuirle un’intenzione: conoscere la verità e scegliere deliberatamente di nasconderla o modificarla.
Nel caso di un’allucinazione non è ciò che sta accadendo.
L’IA non si siede davanti al monitor pensando:
“Questa non la so… adesso me la invento e vediamo se ci casca.” 😏
Sta generando una risposta sulla base del proprio funzionamento.
Per questo sarebbe più corretto dire che il sistema produce un’informazione falsa piuttosto che dire che sta mentendo.
Può sembrare una sottigliezza linguistica, ma ci aiuta a evitare uno degli errori più frequenti quando parliamo di intelligenza artificiale: attribuirle comportamenti e intenzioni tipicamente umani.
Il vero problema è il tono sicuro
Se un motore di ricerca non trova qualcosa, normalmente ce ne accorgiamo.
Se un programma genera un messaggio di errore, capiamo immediatamente che qualcosa non ha funzionato.
Una risposta generata dall’IA è diversa.
Può essere elegantissima.
Immaginiamo di chiederle informazioni su un fantomatico informatico chiamato Giovanni Bittoni, inventato sul momento:
“Raccontami il contributo di Giovanni Bittoni alla nascita di Internet.”
Un sistema dovrebbe riconoscere che non esistono informazioni sufficienti su questa persona.
Ma una risposta allucinata potrebbe trasformarlo in un ricercatore italiano degli anni Settanta, attribuirgli collaborazioni con università americane e magari regalargli persino qualche pubblicazione.
Il problema è evidente.
- La forma è corretta.
- La grammatica è corretta.
- Il registro è professionale.
- La storia è falsa.
La qualità della scrittura non garantisce la qualità dell’informazione.
È una delle lezioni più importanti da imparare quando utilizziamo l’IA.
Le allucinazioni non riguardano solo nomi e date
Un’allucinazione può assumere forme molto diverse.
Un sistema potrebbe inventare una funzione inesistente di Excel, generare del codice che utilizza una libreria che non possiede realmente quella funzione, attribuire una sentenza a un tribunale, creare una citazione bibliografica falsa oppure descrivere caratteristiche inesistenti di un prodotto.
Può anche mescolare informazioni vere in modo scorretto.
Ed è forse la situazione più insidiosa.
Tre informazioni possono essere tutte reali prese singolarmente, ma essere combinate in una relazione che non è mai esistita.
Pensiamo a un puzzle: tutti i pezzi sono autentici, ma qualcuno li ha montati formando l'immagine sbagliata.
Succede sempre?
No.
E sarebbe altrettanto sbagliato passare dall’estremo “l’IA sa tutto” all’estremo opposto “l’IA inventa tutto”.
I moderni sistemi di intelligenza artificiale vengono continuamente migliorati proprio per aumentare l’affidabilità delle risposte. Inoltre, quando possono utilizzare strumenti esterni — per esempio effettuare una ricerca sul Web, consultare documenti forniti dall’utente o interrogare determinate fonti — possono verificare informazioni invece di affidarsi esclusivamente a ciò che il modello ha appreso.
Ma il rischio non scompare completamente.
Ed è per questo che conoscere il fenomeno rimane fondamentale.
Come possiamo accorgercene?
Non esiste un pulsante magico chiamato “Controlla se l’IA sta dicendo sciocchezze”.
Sarebbe comodo.
Possiamo però adottare alcune buone abitudini.
Quando una risposta contiene informazioni verificabili — date, statistiche, nomi di studi, sentenze, norme, citazioni, caratteristiche tecniche — è buona pratica controllare le fonti.
Soprattutto quando quella informazione è importante per una decisione.
Possiamo anche chiedere all’IA:
“Quali fonti supportano questa affermazione?”
oppure:
“Indica quali parti della risposta non puoi verificare con certezza.”
Ancora meglio, quando il sistema lo permette, possiamo chiedergli esplicitamente di cercare fonti aggiornate e affidabili sul Web.
Attenzione però a un dettaglio quasi comico: anche chiedere semplicemente “dammi le fonti” non è una garanzia assoluta.
Se il sistema non sta realmente consultando fonti esterne, potrebbe persino… inventare le fonti.
Sì, l’allucinazione può avere una certa creatività.
Anche il prompt può fare la sua parte
Il modo in cui formuliamo una domanda può ridurre alcuni errori.
Confrontiamo:
“Parlami di questo argomento.”
con:
“Spiega questo argomento utilizzando solo informazioni di cui hai ragionevole certezza. Se un dato non è verificabile, dichiaralo esplicitamente e non inventarlo.”
Non è una formula magica, ma stiamo dando al sistema istruzioni più precise.
Possiamo anche chiedere:
“Se non conosci la risposta, dimmi che non disponi di informazioni sufficienti.”
Oppure chiedere di distinguere chiaramente tra fatti, ipotesi e interpretazioni.
Un buon prompt non rende automaticamente infallibile un modello, ma può guidarlo verso un comportamento più prudente.
Il nostro ruolo rimane fondamentale
Ed eccoci al punto che, forse, conta più di tutti.
L’intelligenza artificiale è uno strumento straordinario per scrivere, riassumere, spiegare, programmare, confrontare idee, studiare e trovare nuovi punti di vista.
Ma non dobbiamo trasformare la sua capacità di produrre linguaggio in un certificato automatico di verità.
Davanti a una risposta dell’IA dovremmo conservare la stessa capacità critica che utilizziamo quando leggiamo un sito Web, un post sui social o un articolo.
Anzi, forse un po’ di più.
- Perché un testo scritto male ci mette facilmente in allarme.
- Un testo scritto benissimo può abbassare le nostre difese.
La domanda quindi non dovrebbe essere soltanto:
“L’IA mi ha dato una risposta?”
ma anche:
“Quanto posso fidarmi di questa risposta e come posso verificarla?”
È qui che entra in gioco la competenza digitale.
Non significa diffidare sempre dell’intelligenza artificiale.
Significa imparare a usarla conoscendone anche i limiti.
Perché l’IA può essere un eccellente compagno di lavoro, ma la verifica finale — soprattutto quando le informazioni contano davvero — rimane ancora nelle nostre mani.
E forse è proprio questo uno dei modi migliori per lavorare con l’intelligenza artificiale:
lei genera, suggerisce e ci aiuta a esplorare. Noi continuiamo a pensare.
Piccolo vocabolario
Le immagini e i testi presenti sono il risultato di una cooperazione consapevole tra intelligenza umana e artificiale.
Seguimi anche sul canale WhatsApp per non perderti nessuna novità!
Commenti
Posta un commento