Intelligenza Artificiale

ASCII Smuggling: come l'iniezione di prompt attraversa il confine tra AI e phishing

Microsoft Security Blog rivela come i caratteri Unicode invisibili, inizialmente usati per nascondere istruzioni ai modelli di intelligenza artificiale, stiano ora venendo impiegati per eludere i filtri email nelle campagne di phishing. Una minaccia emergente che unisce tecniche di prompt injection e ingegneria sociale.

Astratta rappresentazione di caratteri Unicode invisibili che si fondono in un testo email, con sfondo blu scuro e accenti ciano che evocano sicurezza digitale e minacce nascoste

Microsoft Security Blog ha identificato una nuova tecnica di attacco che rappresenta un pericoloso punto di convergenza tra l'intelligenza artificiale e le minacce informatiche tradizionali: l'ASCII smuggling. Si tratta dell'utilizzo di caratteri Unicode invisibili, inizialmente popolarizzati per nascondere istruzioni all'interno dei prompt dei modelli di AI, ora riadattati per eludere i filtri email e facilitare campagne di phishing più efficaci.

Cos'è l'ASCII Smuggling

La tecnica sfrutta caratteri Unicode che non sono visibili all'occhio umano ma che vengono interpretati dai sistemi di posta elettronica. Questi caratteri vengono inseriti prima delle parole chiave nei messaggi di phishing, ofuscando il contenuto in modo che i filtri email tradizionali non riescano a riconoscere le parole proibite o i pattern sospetti. Il risultato è un messaggio che appare pulito e legittimo all'analisi automatica, ma che contiene istruzioni nascoste destinate al destinatario.

Dal prompt injection al phishing

Originariamente, questi caratteri invisibili venivano utilizzati per manipolare i modelli di intelligenza artificiale, nascondendo prompt malevoli all'interno di input apparentemente innocui. Gli attaccanti hanno ora compiuto un passo avanti, applicando la stessa logica ai sistemi di posta elettronica. Questo crossover dimostra come le tecniche sviluppate per attaccare l'AI possano essere riutilizzate per aggirare i controlli di sicurezza tradizionali, creando una nuova categoria di minacce ibride.

Implicazioni per PMI e MSP

Per le piccole e medie imprese e per i fornitori di servizi gestiti, questa evoluzione rappresenta una sfida significativa. I filtri antispam convenzionali, basati su regole testuali e analisi lessicale, potrebbero non essere sufficienti a rilevare queste tecniche di offuscamento. È fondamentale:

  • Aggiornare le difese di posta elettronica con soluzioni che analizzino anche la struttura Unicode dei messaggi, non solo il testo visibile.
  • Formare il personale al riconoscimento dei segnali di phishing avanzato, anche quando il messaggio appare privo di contenuti sospetti.
  • Adottare approcci di sicurezza stratificati che combinino filtri tradizionali con analisi comportamentale e intelligenza artificiale per identificare anomalie.

Come difendersi

Microsoft suggerisce di prestare attenzione a messaggi che contengono caratteri insoliti o formattazioni inattese, anche quando il contenuto testuale sembra normale. Le organizzazioni dovrebbero implementare soluzioni di sicurezza email che includano l'analisi dei caratteri nascosti e monitorare le campagne di phishing che utilizzano tecniche di offuscamento sofisticate. La collaborazione con provider MSP affidabili può aiutare le PMI a rimanere un passo avanti rispetto a queste minacce in continua evoluzione.

Fonte: Microsoft Security Blog

#AI

Articoli correlati

Diagramma astratto di un'architettura a due livelli per memoria AI: cache veloce in primo piano e database relazionale sullo sfondo, colori blu e verde tecnologia
Intelligenza Artificiale

Memoria a lungo termine per agenti AI: architettura a due livelli con AlloyDB e Memorystore per Valkey

Google Cloud presenta un'architettura a due livelli per la memoria persistente degli agenti AI: Memorystore per Valkey come buffer di sessione a breve termine e AlloyDB AI per la memoria a lungo termine. L'approccio riduce i costi dei token fino al 70% e accelera i tempi di risposta dell'80%, mantenendo regole e vincoli aziendali intatti nel tempo.