Gemma no celular contra golpes: modelo on-device

O DeepMind ajustou o modelo Gemma para detectar golpes rodando no proprio aparelho, sem enviar as conversas para a nuvem. Veja o que isso ensina sobre privacidade.

O Google DeepMind e a GovTech Singapore (Government Technology Agency of Singapore) ajustaram (fine-tuning) o modelo leve Gemma para detectar golpes rodando direto no aparelho do usuário, sem enviar as conversas para a nuvem. O modelo foi afinado com conversas reais de golpes locais, incluindo imitações de instituições públicas, bancos e figuras conhecidas de Singapura.

A ideia por trás do projeto é simples e relevante para o Brasil: em vez de escanear mensagens no servidor, a análise acontece no dispositivo, o que reduz exposição de dados pessoais e acelera o alerta. Este artigo explica como funciona a abordagem em dois estágios, o que ela significa para a LGPD e onde o modelo ainda não chegou.

Resumo rápido

O Google DeepMind e a GovTech Singapore ajustaram o modelo Gemma para detectar golpes no próprio aparelho, sem enviar as conversas para a nuvem.

O treino usou conversas de golpes locais, como imitações de instituições públicas, bancos e figuras da região.

O modelo roda em dois estágios: um classificador leve faz a triagem e um Gemma ajustado analisa a conversa para confirmar ou descartar a ameaça.

O anúncio foi apresentado na Singapore International Cyber Week 2026 e faz parte de uma parceria nacional de IA com o governo de Singapura.

O DeepMind não anunciou lançamento nem disponibilidade no Brasil.

O que foi ajustado, exatamente

Segundo o blog oficial do Google DeepMind, a empresa e a GovTech Singapore trabalharam juntas, dentro de uma National AI Partnership (parceria nacional de IA) com o governo de Singapura, para ajustar um modelo de detecção de golpes que preserva a privacidade e roda no dispositivo.

O ponto de partida foi o modelo leve Gemma, da Google. Ele passou por fine-tuning, que é o ajuste de um modelo já treinado com exemplos específicos para uma tarefa. No caso, os exemplos foram conversas de golpes locais, que vão de imitações de instituições públicas, bancos e figuras locais até esquemas regionais em alta.

O objetivo do ajuste é ensinar o modelo a distinguir conversa social inofensiva de manipulação real quando ele for integrado a aplicativos instalados pelos cidadãos. Sem esse ajuste com contexto local, modelos genéricos erram mais em golpes que imitam instituições e costumes de um país específico.

O que o dado sobre golpes em Singapura mostra

A fonte cita números que ajudam a entender a escala do problema. Golpes como fraude de investimento, falsas ofertas de emprego e falsidade ideológica de autoridades representam mais da metade dos crimes reportados em Singapura e somam mais de S$4 bilhões em perdas desde 2019. Além disso, golpes de engenharia social, nos quais o criminoso manipula a vítima com uma conversa convincente antes de pedir dinheiro, chegam a responder por até 80% de todas as perdas.

Esses são os números do contexto de Singapura, citados pela fonte oficial. Eles não descrevem o Brasil e não devem ser usados como estimativa para o mercado brasileiro. O que se aproveita daqui é o padrão: o golpe migrou do phishing simples para a conversa longa e convincente, o que exige análise de contexto, não só de link suspeito.

Como funciona: a arquitetura em dois estágios

Rodar um classificador complexo de golpes em smartphones modernos é difícil, principalmente por causa do consumo de bateria. Para resolver isso, o DeepMind descreve um pipeline de dois estágios.

Estágio	O que faz	Foco	Custo em recursos
Estágio 1: classificador leve	Triagem rápida das mensagens recebidas	Pegar ameaças potenciais e liberar o que é benigno	Baixo consumo de energia
Estágio 2: Gemma ajustado	Análise de contexto em vários turnos da conversa	Confirmar a ameaça ou descartar o falso alarme	Roda só nas mensagens suspeitas

O primeiro estágio funciona como um porteiro: mensagens claramente seguras recebem veredito de benigno e seguem o fluxo. As suspeitas passam para o segundo estágio, em que o Gemma ajustado olha uma janela maior da conversa para decidir se é golpe ou alarme falso. Quando o modelo identifica padrões de manipulação, ele dispara um aviso em tempo real no aparelho, sugerindo que a pessoa pare e tenha cautela antes de compartilhar informação sensível ou transferir dinheiro.

Privacidade: o ponto que interessa ao Brasil

A diferença central em relação à detecção tradicional é onde o dado é processado. Modelos tradicionais dependem de varredura no servidor, na nuvem. Este roda a análise direto no dispositivo.

A fonte afirma que, como o modelo funciona inteiramente no aparelho, nem o governo de Singapura nem o Google conseguem acessar as conversas dos usuários por meio da implantação. E acrescenta que, quando for integrado a aplicativos, o modelo só acessará conversas no dispositivo com o consentimento do usuário, conforme os termos de uso daquele aplicativo.

Por que isso conversa com a LGPD

Pela Lei Geral de Proteção de Dados (LGPD), processar dado pessoal no próprio dispositivo, sem transmiti-lo a terceiros, tende a reduzir a exposição e simplificar a análise de risco, porque diminui o volume de dados que sai do controle do titular. Isso não elimina obrigações: ainda é preciso base legal, informar o usuário e garantir transparência sobre o que o aplicativo faz com as mensagens.

Para entender o quadro geral de conformidade ao implantar IA, vale ler o guia de segurança e LGPD na implantação de IA.

Governança do projeto

O DeepMind descreve três controles mantidos ao longo do desenvolvimento:

Sovereign Sandbox (ambiente soberano): o fine-tuning aconteceu dentro do ambiente GCP gerenciado e mantido pela GovTech Singapore, mantendo os dados de treino isolados.
Sem dados de cidadãos: o treino excluiu estritamente informação privada ou pessoalmente identificável, usando conjuntos de dados anonimizados derivados de relatos de golpes e fontes de inteligência.
Testes de estresse: o modelo foi testado com diálogos sintéticos e corpora locais para cobrir categorias diversas de golpes e táticas de falsidade ideológica em evolução.

Esses controles são o que dá lastro ao discurso de privacidade. Sem eles, “roda no dispositivo” seria só uma frase de efeito.

O que ainda não está confirmado

O DeepMind não anunciou lançamento nem disponibilidade do modelo no Brasil. A fonte consultada não menciona o país.
A fonte não informa data de lançamento, preço, número de usuários ou desempenho medido do modelo.
A empresa diz que a implantação dentro de aplicativos será feita por fases e em parceria com o governo de Singapura, mas não detalha prazos.
O DeepMind afirma que pretende explorar a possibilidade de levar tecnologia semelhante a outros países, sem nomear quais.

O que isso muda para quem faz IA no Brasil

O projeto mostra um caminho concreto para usar IA em dado sensível sem mandar tudo para a nuvem. Três lições práticas:

Modelos leves cabem no celular. Um modelo ajustado de porte pequeno, como o Gemma, pode resolver tarefas específicas sem depender de servidor.
Ajuste com contexto local é decisivo. Golpe que imita banco brasileiro não é igual a golpe que imita banco de outro país. O ajuste precisa usar exemplos reais do seu mercado.
Arquitetura em dois estágios economiza recursos. Um filtro leve antes do modelo maior reduz custo de bateria e de processamento.

Isso se conecta ao movimento de modelos abertos que rodam localmente, tema tratado em conteúdos sobre redução de alucinação em IA e sobre como avaliar o comportamento de um modelo antes de colocá-lo em produção.

Exemplo: cooperativa de crédito em Santa Catarina avaliando triagem no aparelho

Considere uma cooperativa de crédito em Santa Catarina que atende produtores rurais e recebe, pelo aplicativo, mensagens de cooperados encaminhando suspeitas de golpe: pedidos de transferência urgentes, falsas centrais de atendimento, imitações de gerentes. Hoje, essas mensagens são encaminhadas manualmente para uma equipe de prevenção a fraudes.

A cooperativa avalia uma triagem de conversas direto no aparelho do cooperado, no estilo do que o DeepMind e a GovTech testaram em Singapura. Nesse desenho, o aplicativo analisaria o padrão da conversa localmente e só alertaria o usuário quando identificasse manipulação. Nenhum dado de resultado precisa ser inventado: o que se avalia é se o aviso chega a tempo e se o processamento local reduz a exposição de dados pessoais do cooperado. O ponto de LGPD é justamente esse, manter a conversa no aparelho em vez de centralizá-la.

Quem trabalha com atendimento automatizado em canais de mensagem pode se apoiar em um guia de agentes de IA no atendimento por WhatsApp e em um plano de teste de agente antes de produção.

Erros comuns ao avaliar detecção de golpes com IA

Assumir que o modelo está disponível no Brasil. O DeepMind não anunciou lançamento nem disponibilidade no país.
Prometer precisão sem números. Sem teste com dados seus, não se sabe quantos golpes o modelo pega nem quantos falsos alarmes gera.
Ignorar falsos positivos. Um alarme errado em conversa legítima irrita o usuário e reduz a confiança no sistema.
Confundir processamento local com ausência de obrigações. Rodar no aparelho reduz exposição, mas não dispensa base legal, aviso e transparência sob a LGPD.
Treinar com dados de terceiros sem base legal. Usar conversas reais de clientes no ajuste exige cuidado jurídico.
Achar que um idioma serve para todos. Golpe que imita instituição brasileira exige ajuste com exemplos brasileiros.

Como avaliar um sistema assim no seu contexto

Monte um conjunto de conversas reais (com base legal e anonimização) que represente os golpes que seus usuários recebem.
Meça dois números separadamente: quanto de golpe o sistema pega e quantos falsos alarmes ele dispara em conversa legítima.
Defina o que o app faz ao detectar: apenas alerta, bloqueia ou escala para uma equipe humana?
Documente onde o dado é processado e o que sai do dispositivo, para sustentar a análise de LGPD.
Teste em aparelhos reais, porque consumo de bateria é parte do problema em modelos que rodam no celular.

Perguntas frequentes

O modelo de detecção de golpes do DeepMind está disponível no Brasil?

Não. O Google DeepMind não anunciou lançamento nem disponibilidade desse modelo no Brasil. A fonte oficial trata da parceria com o governo de Singapura.

O que é um modelo on-device?

É um modelo que roda dentro do próprio aparelho, como um celular, sem enviar os dados para um servidor na nuvem. Isso reduz a exposição de dados e pode dar respostas mais rápidas.

O que é fine-tuning?

É ajustar um modelo já treinado com exemplos específicos para uma tarefa. No caso, ajustaram o Gemma com conversas de golpes locais para ele reconhecer a manipulação típica de Singapura.

Por que treinar com dados locais faz diferença?

Porque golpes imitam instituições, bancos e figuras de um país específico. Um modelo genérico tende a errar esses padrões locais; o ajuste com exemplos reais melhora a distinção entre conversa inofensiva e manipulação.

O processamento no aparelho ajuda na LGPD?

Ajuda a reduzir a exposição de dados pessoais, porque a informação não precisa sair do dispositivo. Mas ainda exige base legal, aviso ao usuário e transparência sobre o funcionamento do aplicativo.

Posso usar essa mesma abordagem para detectar golpes no meu app?

A arquitetura em dois estágios serve como referência técnica. O que muda é o ajuste: você precisaria treinar o modelo com exemplos de golpes do seu público e medir falsos positivos antes de colocar em produção.

Gemma no celular contra golpes: o modelo on-device que o DeepMind ajustou com Singapura

O que foi ajustado, exatamente

O que o dado sobre golpes em Singapura mostra

Como funciona: a arquitetura em dois estágios