<\> Casa do Dev
Notícias abrir
Ferramentas abrir
Vagas abrir
Aprender abrir
Comunidade abrir
Guia de Compras abrir

WhatsApp testa scam alert com ml no dispositivo e computação confidencial

DA

3 min

Entusiasta das Tecnologias

WhatsApp testa scam alert com ml no dispositivo e computação confidencial

O WhatsApp testa o Scam Alert em beta limitado, rodando machine learning no dispositivo e computação confidencial para detectar golpes sem ler mensagens.

Neste artigo

Como o Scam Alert usa machine learning no dispositivo no WhatsApp

O WhatsApp Scam Alert entrou em fase de beta limitado para testar a detecção de golpes direto no aparelho do usuário. Como desenvolvedor sênior, eu vejo essa abordagem como o único caminho aceitável em termos de arquitetura de privacidade para mensageria em larga escala. O sistema baixa um modelo leve de aprendizado de máquina para avaliar mensagens recebidas apenas de remetentes que não estão na sua agenda. O algoritmo analisa padrões de estrutura conversacional e sinais linguísticos treinados com base em relatórios anteriores enviados pelos próprios usuários.

Quando o modelo identifica um comportamento suspeito, o aplicativo exibe um alerta visível apenas para quem recebeu o texto, sem notificar o remetente. O usuário decide se bloqueia, reporta ou continua a conversa. Se marcar o chat como confiável, o alerta não aparece mais para aquele contato, e o sistema permite enviar opcionalmente as últimas 5 mensagens recebidas para ajudar na melhoria do recurso. A grande sacada aqui é que o processamento pesado de inferência acontece na ponta, mantendo o payload trafegando na rede sem exposição indevida do texto puro nos servidores da Meta.

Como a arquitetura protege a privacidade das mensagens com computação confidencial

A engenharia por trás do Scam Alert separa completamente a classificação da mensagem da medição de performance do modelo. O dispositivo agrupa eventos de alerta e ações do usuário localmente em contagens agregadas. Esses dados de telemetria passam por um relay de Oblivious HTTP (OHTTP) utilizando credenciais anônimas, indo direto para máquinas virtuais confidenciais, que operam em ambientes de execução confiável. O cliente verifica o código executado nesse ambiente e confere os parâmetros de privacidade antes de transmitir qualquer byte.

A agregação aplica limiares mínimos de coorte e privacidade diferencial antes de liberar estatísticas populacionais aproximadas para os servidores do WhatsApp. Esse pipeline se baseia no sistema de analítica federada PAPAYA, apresentado no USENIX NSDI 2025, separando o tráfego de analítica do aprendizado federado tradicional. Em termos práticos, a telemetria deixa de ser um vetor de exposição de dados sensíveis dos usuários.

Por que a distribuição de modelos virou uma fronteira de segurança?

Minha recomendação técnica é sempre olhar para a cadeia de suprimentos dos artefatos de IA, e a Meta tratou a distribuição do modelo como um verdadeiro limite de segurança. Cada versão de modelo em produção ou teste recebe um hash SHA-256 publicado em um ledger de transparência externo e imutável antes de qualquer deploy. Os clientes validam essa entrada no registro, assinatura digital, frescor e hash antes de carregar o arquivo na memória.

O download dos modelos ocorre via credenciais anônimas e OHTTP, enquanto a atribuição de experimentos acontece de forma estritamente local no dispositivo. Isso impede que o servidor escolha direcionar uma variante específica de modelo para um usuário maliciosamente selecionado. O beta limitado serve justamente para o programa de Bug Bounty testar essa cadeia complexa de computação confidencial e federada antes de um lançamento global mais amplo.

Fonte: Infoq.com

Produtos relacionados

Este conteúdo tem links de afiliado: se você comprar por eles, podemos receber uma comissão sem custo extra para você. A escolha dos produtos segue critérios próprios e não é influenciada por comissão.

O que você achou deste artigo?

Responda a Pergunta do Dia Teste seu conhecimento e mantenha sua streak. Crie seu Dev Card público Perfil dev compartilhável em um único link.

Depois dessa formação...

Veja vagas em tecnologia →

Vagas relacionadas

Ver todas as vagas →
DA

Escrito por

Dagmar Cirino

Entusiasta das Tecnologias

Atualizado em 06/10/2026 •

Sou o Cirino, e desenvolvo soluções e produtos utilizando linguagens de programação e ferramentas de analytics e monitoração baseadas em Cloud. Trabalho com tecnologia desde 2010,...

Ver perfil do autor

COMPARTILHAR