Il rilevamento delle truffe on-device di Google DeepMind tiene le chat fuori dal cloud

Ecco gli ultimi aggiornamenti dai mercati delle attività digitali: Google DeepMind ha sviluppato con GovTech Singapore un sistema di rilevamento delle truffe on-device: analizza le conversazioni sul dispositivo, senza mandare le chat ai server cloud. Punti chiave Il modello unisce un classificatore leggero di messaggi e un modello Gemma addestrato su misura. L’accesso alle conversazioni richiede il consenso dell’utente e l’elaborazione resta sul dispositivo.

Dal 2019 Singapore ha registrato oltre 4 miliardi di dollari singaporiani (S$) di perdite per truffe. L’adozione nelle app sarà graduale, insieme al governo di Singapore. Il progetto presentato alla Singapore International Cyber Week Il lavoro rientra nella National AI Partnership con il governo di Singapore, come ha scritto Google DeepMind in un post sul blog del 14 ottobre 2026.

Dinamiche di mercato

Il progetto è stato presentato alla Singapore International Cyber Week (SICW 2026). L’azienda lo propone come modello per le piattaforme di messaggistica che vogliono proteggere gli utenti mantenendo la crittografia end-to-end. Secondo il post, le truffe rappresentano più della metà dei reati denunciati a Singapore e hanno causato più di S$4 miliardi di perdite dal 2019.

Tra gli esempi ci sono frodi sugli investimenti, false offerte di lavoro e impersonificazione di funzionari pubblici. Il testo descrive un passaggio dal semplice phishing a conversazioni credibili, che manipolano la vittima prima di chiedere denaro. Queste truffe di social engineering pesano fino all’80% di tutte le perdite.

Come funziona il rilevamento delle truffe on-device Il sistema lavora in due fasi: un classificatore a basso consumo filtra i messaggi in arrivo, poi un modello Gemma affinato esamina una porzione più ampia della conversazione. La seconda fase valuta il contesto e conferma la minaccia oppure scarta il falso allarme. Il team ha affinato Gemma, il modello leggero di Google, su conversazioni di truffa locali.

Impatto sui mercati

Rientrano nei dati i finti messaggi di istituzioni pubbliche, banche e personaggi del posto, oltre agli schemi regionali di tendenza. I modelli generici, in genere, faticano a riconoscere queste tecniche d’inganno. La divisione in due fasi risponde a un problema pratico: far girare su uno smartphone un classificatore complesso senza prosciugare la batteria.

Il primo livello consuma pochissimo, mentre l’analisi più dettagliata arriva solo dopo. Una volta integrato nelle app, il modello accederà alle conversazioni solo con il consenso dell’utente, secondo i termini d’uso dell’applicazione. L’elaborazione avviene interamente sul dispositivo: né il governo di Singapore né l’azienda avranno accesso alle chat.

L’addestramento nell’ambiente di GovTech Singapore L’affinamento è avvenuto in un ambiente GCP gestito e mantenuto da GovTech Singapore, così i dati di addestramento sono rimasti isolati. Sono stati esclusi i dati privati e quelli che identificano le persone, usando set anonimizzati ricavati da segnalazioni di truffe e flussi di intelligence. Il modello è stato poi messo alla prova con dialoghi sintetici e corpora locali, che coprono diverse categorie di truffa e tattiche di impersonificazione in evoluzione.

Questo cambiamento continua a plasmare il panorama delle attività digitali.