Quando l’IA comincia a fare (Parte 2)

 

Dal comando all’obiettivo 

Quando utilizziamo un software tradizionale, dobbiamo conoscere i comandi.

Per creare una presentazione dobbiamo aprire il programma, scegliere il modello, inserire le diapositive, organizzare i contenuti, cercare le immagini, sistemare i caratteri e salvare il file.

Con un sistema agentico possiamo formulare una richiesta come:

“Analizza questi documenti e prepara una presentazione di dieci diapositive per un pubblico non esperto. Inserisci una sintesi iniziale, tre esempi pratici e una conclusione con le azioni consigliate.”

Non abbiamo indicato ogni clic. Abbiamo definito il risultato, il pubblico e alcuni vincoli.

L’agente può cercare le informazioni nei file disponibili, selezionare quelle più rilevanti, organizzare la struttura, generare il testo, creare il documento e controllare che il numero delle diapositive sia corretto.

Alcuni agenti sono già in grado di affrontare attività articolate, come esaminare fonti, utilizzare siti web, lavorare con file, elaborare dati e consegnare documenti modificabili.

Questo modifica il modo in cui dialoghiamo con la tecnologia.

Non dobbiamo più descrivere soltanto che cosa il computer deve fare adesso. Dobbiamo imparare a spiegare dove vogliamo arrivare, quali condizioni devono essere rispettate e quali decisioni l’IA non è autorizzata a prendere da sola.

Il prompt, quindi, non scompare. Diventa qualcosa di più simile a un incarico.

Che cosa può fare concretamente un agente

Nella vita quotidiana un agente potrebbe confrontare offerte, preparare una lista della spesa, cercare gli orari di un viaggio, riordinare alcuni file, controllare il calendario o raccogliere informazioni provenienti da fonti diverse.

Nel lavoro potrebbe leggere una serie di documenti, estrarre scadenze, aggiornare un foglio, preparare una bozza di relazione e segnalare le informazioni mancanti.

Nella programmazione gli agenti possono già leggere interi progetti, modificare file, eseguire comandi, effettuare test e correggere alcuni errori.

Nella ricerca scientifica stanno emergendo sistemi composti da più agenti specializzati. Alcuni propongono ipotesi, altri le criticano, altri ancora le confrontano con la letteratura disponibile. Google DeepMind ha presentato nel maggio 2026 un sistema multi-agente progettato per generare, discutere e perfezionare ipotesi scientifiche.

In questo caso non abbiamo una sola IA che tenta di fare tutto, ma una sorta di squadra digitale nella quale ogni agente svolge un ruolo diverso.

Il passaggio successivo è la collaborazione tra agenti costruiti da aziende o sviluppatori differenti. Nel 2026 si sono diffusi protocolli pensati per permettere agli agenti di scoprire le rispettive capacità, comunicare e affidarsi parti di un’attività.

L’utente potrebbe quindi affidare un obiettivo a un agente principale, che a sua volta coinvolge altri agenti specializzati.

Affascinante? Certamente.

Semplice da controllare? Molto meno.

Quando un errore non rimane più dentro una risposta

Se un chatbot sbaglia una risposta, il danno può rimanere confinato nel testo. Possiamo leggere, accorgerci dell’errore e ignorarlo.

Quando un agente sbaglia un’azione, invece, l’errore può produrre conseguenze concrete.

Potrebbe scegliere la data sbagliata, inviare un messaggio alla persona sbagliata, modificare il documento sbagliato oppure interpretare male una condizione importante.

Il problema non è necessariamente che l’IA compia qualcosa di spettacolare o catastrofico. Più spesso potrebbe eseguire molto velocemente una serie di piccole operazioni plausibili, partendo però da un’interpretazione errata.

Un errore iniziale può propagarsi.

Immaginiamo di chiedere a un agente di individuare le fatture ancora da pagare, preparare un riepilogo e inviare un sollecito. Se interpreta male una colonna del foglio elettronico, potrebbe classificare come insoluti alcuni pagamenti già effettuati. A quel punto il testo della mail potrebbe essere perfetto, educato e grammaticalmente impeccabile.

Ma inviato alla persona sbagliata.

L’IA non ha bisogno di “impazzire” per causare un problema. È sufficiente che sia ragionevole nel modo sbagliato.

Il problema delle istruzioni nascoste

Un agente collegato al web può incontrare contenuti creati appositamente per influenzarne il comportamento.

Una pagina, un documento o una mail potrebbero contenere istruzioni nascoste rivolte non all’utente, ma all’IA che sta leggendo. Questo tipo di attacco viene generalmente chiamato prompt injection.

Per una persona, una frase presente in fondo a una pagina potrebbe apparire irrilevante. Un agente, invece, potrebbe scambiarla per un’istruzione da seguire.

Il rischio aumenta quando il sistema possiede accesso a informazioni riservate o può compiere azioni esterne. Per questo gli sviluppatori stanno lavorando su ambienti isolati, autorizzazioni limitate, controlli degli strumenti, protezioni contro le istruzioni malevole e sistemi che richiedono conferma prima delle operazioni più delicate.

Google DeepMind ha descritto nel giugno 2026 un approccio di sicurezza basato su più livelli di difesa, nel quale agli agenti vengono concessi permessi progressivi in base al comportamento verificato, mantenendo controlli capaci di intervenire quando necessario.

È un principio che possiamo applicare anche come utenti: un agente non dovrebbe ricevere automaticamente tutti gli accessi possibili soltanto perché potrebbe averne bisogno.

Autonomia non significa assenza di controllo

Un buon agente non è necessariamente quello che agisce senza mai disturbare l’utente.

In alcuni casi, interrompersi e chiedere conferma è una caratteristica positiva.

Se l’agente sta raccogliendo informazioni pubbliche, può essere ragionevole lasciargli una certa libertà. Se sta per acquistare qualcosa, inviare una comunicazione ufficiale, eliminare un file, pubblicare un contenuto o utilizzare dati personali, la conferma umana diventa molto più importante.

Potremmo immaginare tre livelli.

Nel primo livello l’IA propone: prepara il testo, costruisce il piano e mostra ciò che farebbe.

Nel secondo livello l’IA esegue alcune operazioni reversibili, ma chiede conferma per quelle importanti.

Nel terzo livello agisce con maggiore autonomia entro limiti definiti, registrando però ciò che ha fatto e permettendo a una persona di intervenire.

La scelta del livello non dovrebbe dipendere soltanto dalla capacità tecnica dell’IA, ma dal rischio dell’attività.

Il NIST raccomanda di documentare il grado di supervisione umana applicato ai sistemi di intelligenza artificiale e di considerare trasparenza, sicurezza, affidabilità e possibilità di intervento nel corso del loro utilizzo.

Anche il quadro europeo sull’intelligenza artificiale attribuisce un ruolo centrale alla supervisione umana, soprattutto per gli impieghi classificati ad alto rischio. La Commissione europea sottolinea che chi utilizza tali sistemi deve garantirne il monitoraggio e la corretta supervisione.

"Segue..."

Le immagini e i testi presenti sono il risultato di una cooperazione consapevole tra intelligenza umana e artificiale.

Seguimi anche sul canale WhatsApp per non perderti nessuna novità!