Abbiamo visto che un’intelligenza artificiale può produrre una risposta falsa o inesatta mantenendo però un tono molto convincente. È il fenomeno delle cosiddette allucinazioni dell’IA . La domanda successiva viene quasi da sola: come facciamo ad accorgercene? Non sempre è possibile farlo immediatamente. Se l’IA ci racconta qualcosa che non conosciamo affatto, potremmo non avere gli strumenti per riconoscere l’errore al primo colpo. Esistono però alcuni segnali molto utili. Nessuno di questi è infallibile preso singolarmente, ma insieme possono trasformarsi in una specie di piccolo radar anti-allucinazione. Ecco cinque controlli semplici da imparare. 1. Diffida dei dettagli troppo perfetti Immaginiamo di chiedere: “Qual è stato il primo programma antivirus italiano creato negli anni Ottanta?” L’IA potrebbe rispondere fornendo immediatamente: nome del programma; nome del creatore; anno preciso; azienda; città; caratteristiche tecniche. Una risposta molto dettagliata può sembrare p...
Usiamo un’intelligenza artificiale, le facciamo una domanda e riceviamo una risposta perfettamente scritta. Il testo è ordinato, preciso, magari contiene date, nomi, titoli di libri, riferimenti e spiegazioni dettagliate. C’è solo un piccolo problema. Una parte potrebbe essere completamente inventata. È uno dei fenomeni più interessanti — e anche più importanti da conoscere — quando utilizziamo sistemi di intelligenza artificiale generativa: le cosiddette allucinazioni dell’IA . Il termine può sembrare curioso, quasi fantascientifico, ma indica qualcosa di molto concreto. Un’intelligenza artificiale può produrre un’informazione falsa, inesatta o addirittura inesistente presentandola però in modo estremamente plausibile. E proprio qui sta il punto: spesso il problema non è che l’errore sembri assurdo. È che sembra credibile . Cosa significa davvero “allucinazione”? Nel linguaggio dell’intelligenza artificiale, si parla di allucinazione quando un modello genera contenuti che non co...