Les estafes ja són un problema d'estat a Singapur: segons el text de Google DeepMind, les estafes d'inversió, les falses ofertes de feina i la suplantació de funcionaris representen més de la meitat dels delictes que s'hi denuncien, i les pèrdues superen els 4.000 milions de dòlars de Singapur des del 2019. La major part, fins a un 80%, vénen d'enginyeria social, és a dir, de convèncer la víctima més que no pas de forçar un sistema.
DeepMind i GovTech Singapore, l'agència tecnològica del Govern, han ajustat Gemma, el model obert i lleuger de Google, amb converses d'estafa locals: suplantacions d'organismes públics, de bancs i de personatges coneguts. El model va dins del telèfon i treballa en dues fases. Primer, un classificador molt lleuger revisa els missatges amb poc consum de bateria; si hi veu res de sospitós, el model ajustat analitza una part més gran de la conversa per confirmar l'amenaça o descartar-la. Si detecta manipulació, avisa l'usuari perquè s'aturi abans de donar dades o diners. Es va presentar a la Setmana Internacional de Ciberseguretat de Singapur.
El que fa interessant el projecte és el lloc on s'executa. Segons el text, la detecció es fa sencera al mòbil, de manera que ni el Govern ni Google no poden llegir les converses, i només hi accedeix amb el consentiment de l'usuari i dins de les condicions de cada aplicació. L'entrenament va fer servir dades anonimitzades, sense dades personals, en un entorn gestionat per GovTech.
De moment és un anunci, no un servei en marxa. El text no dona cap mesura d'encert ni de falsos positius, no diu en quines aplicacions funcionarà i parla d'una implantació progressiva sense data. Les proves es van fer amb diàlegs sintètics i amb textos locals, i l'afirmació sobre la privadesa és de les dues institucions, no d'una auditoria externa.