Attacchi ai modelli linguistici? La risposta arriva dalla teoria dei giochi (DataSentinel - Prompt injection)

Immagina di avere un assistente virtuale super intelligente, capace di rispondere a qualsiasi domanda, scrivere testi, analizzare dati e addirittura aiutarti con il codice. Ora immagina che qualcuno riesca a fargli fare cose che non dovrebbe, semplicemente... parlando con lui. Questo è il rischio degli attacchi chiamati prompt injection.

I modelli linguistici come ChatGPT, Gemini o Claude funzionano “a comando”: gli scrivi una richiesta (chiamata prompt) e loro rispondono. Ma se l’attaccante nasconde un’istruzione maliziosa dentro un messaggio apparentemente innocuo, il modello potrebbe eseguire quel comando, senza rendersene conto. È come se una parola magica nascosta dentro un’email riuscisse a ipnotizzare l’assistente.

Questa tecnica, che può sembrare fantascienza, è reale e già sfruttata. Si può usare per rubare dati, aggirare filtri, diffondere disinformazione o sabotare un’app che si affida a un modello linguistico. È un rischio concreto per tutti i sistemi che usano l’intelligenza artificiale in contesti sensibili, come medicina, giustizia, scuola, pubblica amministrazione.

Un gruppo di ricercatori ha proposto una soluzione nuova: usare la teoria dei giochi per insegnare ai modelli a difendersi. L’idea è semplice ma potente: immaginare il dialogo tra l’utente e l’IA come una partita a scacchi. Da una parte c’è chi cerca di mandare istruzioni maliziose, dall’altra l’IA che deve capire se si trova davanti a un avversario o a un amico.

Il sistema si chiama DataSentinel. È come un allenatore digitale che studia le mosse dell’utente e valuta se c’è un comportamento sospetto. Se nota qualcosa di strano, l’IA può ignorare il comando, bloccare la risposta o chiedere conferma. Non si tratta di censura, ma di autodifesa intelligente.

La forza di DataSentinel è che non si basa solo su elenchi di parole vietate, ma sul comportamento generale: analizza il “tono”, la struttura e l’intenzione nascosta nei prompt. In più, può adattarsi nel tempo, imparando dagli attacchi passati. È come se il modello diventasse più scaltro a ogni partita.

Per chi lavora nella sicurezza informatica, questa è una novità importante. Fino a oggi si è parlato tanto di attacchi informatici classici: malware, phishing, ransomware. Ma l’intelligenza artificiale apre una nuova frontiera, dove le minacce non arrivano più solo da virus o hacker, ma anche dal linguaggio stesso. Un codice maligno può essere una semplice frase in italiano.

Il futuro sarà pieno di assistenti virtuali, bot intelligenti e software che capiscono il linguaggio umano. Proteggerli da chi sa “parlare male” è una sfida enorme. Tecnologie come DataSentinel potrebbero essere la prima linea di difesa. E proprio per questo, anche chi non è esperto di sicurezza dovrebbe iniziare a farsi qualche domanda: chi parla con le nostre intelligenze artificiali? E soprattutto… cosa gli sta dicendo?