La falla di sicurezza in Google Gemini e il rischio di phishing - Economiafinanzaonline.it
Una vulnerabilità critica è stata recentemente scoperta in Google Gemini for Workspace, il potente assistente di intelligenza artificiale.
Gli esperti di sicurezza di 0din hanno identificato un meccanismo attraverso cui attori malevoli possono sfruttare la funzionalità “Riepiloga questa email” per inserire messaggi nascosti e ingannevoli all’interno delle email, con il rischio concreto di facilitare attacchi di phishing e di compromettere la sicurezza degli utenti.
La falla individuata riguarda una specifica tecnica definita iniezione indiretta di prompt (IPI), un tipo di attacco in cui i contenuti esterni forniti al modello di intelligenza artificiale contengono istruzioni nascoste che si trasformano in comandi effettivi nell’elaborazione dell’IA. Nel caso di Google Gemini, ciò consente agli aggressori di inserire direttive malevole invisibili agli utenti che vengono poi interpretate come comandi di sistema legittimi dall’assistente AI.
Quando la vittima utilizza la funzione “Riepiloga questa email”, Gemini genera un sommario che può includere falsi avvisi di sicurezza creati ad arte dagli attaccanti. Questi avvisi contraffatti spesso invitano i destinatari a chiamare numeri di telefono specifici o visitare siti web fraudolenti, aprendo così la strada a campagne di phishing vocale o al furto di credenziali sensibili.
La portata di questa vulnerabilità non si limita a Gmail ma si estende all’intero ecosistema di Google Workspace, coinvolgendo Documenti, Presentazioni, Drive e le funzioni di ricerca correlate, ampliando così la superficie di attacco e rendendo potenzialmente insidiosi diversi flussi di lavoro basati su contenuti di terze parti processati da Gemini.
Implicazioni per la sicurezza e scenari di attacco futuri
Gli esperti di 0din hanno evidenziato come gli account compromessi in ambienti SaaS possano essere sfruttati per diffondere su larga scala messaggi di phishing automatizzati, veicolati tramite newsletter, sistemi CRM o email di ticketing. Si apre inoltre la preoccupazione per la possibile evoluzione di worm AI autonomi, in grado di replicarsi e propagarsi automaticamente attraverso le caselle di posta elettronica, passando da attacchi mirati a infezioni diffuse.
Questa situazione pone nuove sfide nella sicurezza informatica, in particolare per le aziende e gli enti che fanno affidamento sulle soluzioni integrate di Google, dove una singola vulnerabilità può innescare una catena di compromissioni con impatti significativi.
Per mitigare questi rischi, i team di sicurezza IT sono invitati a implementare una serie di misure difensive mirate. Tra queste rientrano:
- Linting HTML in ingresso per eliminare stili invisibili o codifiche nascoste che possono veicolare le direttive malevole;
- Configurazione di firewall specifici per Large Language Models (LLM), in grado di filtrare e bloccare richieste sospette;
- Applicazione di filtri di post-elaborazione sull’output generato da Gemini, al fine di individuare e neutralizzare contenuti potenzialmente ingannevoli.
Fondamentale è inoltre potenziare la sensibilizzazione e la formazione degli utenti finali, chiarendo che i riepiloghi prodotti dall’intelligenza artificiale sono da considerarsi esclusivamente informativi e non costituiscono in alcun modo avvisi ufficiali o autorevoli in materia di sicurezza.
L’avvento dei modelli linguistici di ultima generazione, come Gemini, GPT-4, Grok 3 e Claude, ha rivoluzionato l’interazione uomo-macchina, ma ha anche introdotto nuove superfici di attacco da non sottovalutare. La scoperta di questa vulnerabilità sottolinea l’importanza di un approccio integrato alla sicurezza, che unisca tecnologia avanzata a un’attenta gestione dei rischi e a una formazione costante.
Google Gemini, lanciato come assistente AI per migliorare produttività e creatività, integra funzionalità di sintesi e interazione con le applicazioni di Google Workspace. La sua diffusione e l’integrazione profonda con servizi come Gmail, Documenti e Drive lo rendono uno strumento prezioso ma anche un potenziale vettore di attacchi sofisticati se non adeguatamente protetto.
Le ultime versioni di Gemini, disponibili anche su iOS, vantano miglioramenti significativi nell’elaborazione linguistica e nelle capacità di problem solving, confermando il ruolo di Google come leader nell’ambito dell’IA generativa.