Quando la tua IA viene ingannata: la trappola del prompt dell'IA

Di Oluwole Akinwale, Direttore di Professional Services

Potresti utilizzare un assistente AI per redigere bozze di e-mail, riassumere messaggi o aiutarti con gli acquisti online. Probabilmente ti fidi che faccia esattamente ciò che gli hai chiesto, vero?

Ma e se qualcuno riuscisse a introdurre di nascosto istruzioni segrete senza che tu lo sappia?

Il prompt injection è un modo subdolo per ingannare l'intelligenza artificiale nascondendo comandi nel contenuto che legge. Quando si parla di cybersecurity, “injection” si riferisce all'inserimento di qualcosa in un flusso esistente. Quindi il prompt injection prende il tuo prompt, o l'input che dai a un'intelligenza artificiale, e inserisce istruzioni nascoste nell'input dell'IA. Immagina che qualcuno sussurri finte istruzioni al tuo assistente prima che tu gli parli, e l'assistente segua quelle invece di ascoltarti.

Come funziona il prompt injection

Gli attacchi di prompt injection sfruttano il modo in cui l'IA legge il testo. I modelli di intelligenza artificiale spesso faticano a distinguere tra ciò che l'utente ha chiesto, ciò che lo sviluppatore intendeva e ciò che un malintenzionato ha inserito di nascosto.

Se l'IA vede istruzioni dannose che sembrano testo normale, potrebbe seguirle. Immagina di utilizzare un'IA per gestire il tuo calendario e di ricevere un invito via email. L'email sembra provenire da un collega, ma contiene istruzioni nascoste affinché l'IA aggiunga una riunione con dettagli errati, interrompendo la tua programmazione. Ci sono due modi principali in cui ciò accade:

1. Iniezione diretta Un utente digita istruzioni che manipolano direttamente l'intelligenza artificiale.
2. Iniezione indiretta Qualcuno nasconde dei comandi all'interno di qualcosa che l'IA legge, come un'email, una pagina web o un documento.

Questo genere di cose sta già accadendo nella vita reale:

I riassunti IA di Gmail ingannati da comandi nascosti

L'intelligenza artificiale di Gmail può riassumere lunghe email per te. Nel 2025, i ricercatori hanno scoperto che gli aggressori potevano nascondere testo invisibile in un'email, ad esempio usando un carattere bianco su sfondo bianco, con istruzioni segrete. L'IA seguiva quelle istruzioni nascoste e forniva riassunti fuorvianti, anche quando l'email era rischiosa o ingannevole.

Un chatbot è stato indotto a offrire un’auto da $76.000 per $1

Nel dicembre 2023, Chris Bakke ha visitato il sito web di una concessionaria Chevrolet e ha fatto qualcosa di divertente ma anche un po’ preoccupante. Con poche abili mosse, è riuscito a convincere il chatbot basato su ChatGPT a vendergli una Chevy Tahoe da $76.000 per $1.

Perché è importante

L'iniezione di prompt non si introduce nel sistema come un malware. Piuttosto, prende il controllo della conversazione tra l'utente e l'IA. Poiché l'IA interpreta il testo come una serie di istruzioni, un prompt dannoso può aggirare le protezioni predisposte dallo sviluppatore se il modello non è in grado di distinguere i messaggi sicuri da quelli inviati da un malintenzionato.

Ciò significa che anche gli strumenti di tutti i giorni possono essere costretti a comportarsi in modi strani se qualcuno conosce i trucchi giusti.

Cosa puoi fare come utente

Mentre gli sviluppatori lavorano costantemente per costruire difese migliori, nel frattempo puoi proteggerti:

1. Essere prudenti con l'input dell'IA.

Evita di incollare testo o documenti non attendibili.

2. Monitorare comportamenti anomali.

Se l'IA inizia a comportarsi in modo strano, non ignorarla. Puoi anche segnalare l'anomalia attraverso gli appositi canali, contribuendo a salvare migliaia o persino milioni di altri utenti.

3. Scegli strumenti affidabili.

Utilizza servizi e plugin di intelligenza artificiale di fornitori noti che si aggiornano frequentemente e danno priorità alla sicurezza. Per assicurarti che uno strumento sia affidabile, cerca aggiornamenti recenti o verifica se il fornitore rilascia frequentemente patch. Inoltre, tieni d'occhio badge di sicurezza o certificazioni che indicano test rigorosi per la privacy e la protezione dei dati.

Questi passaggi ti consentono di fare scelte più sicure e di mantenere il controllo sulle tue interazioni con l'IA.

Il punto della situazione

Il prompt injection è simile all'ingegneria sociale, che consiste nell'indurre con l'inganno le persone a cedere informazioni importanti. Ma per l'intelligenza artificiale, non serve una password; servono solo le parole giuste al posto giusto.

Fortunatamente, più lo comprendiamo, più è facile accorgersi quando qualcosa non va. Essere consapevoli è la tua prima difesa e aiuta a garantire che il tuo assistente digitale funzioni per te, non per qualcun altro.