Meta quer usar IA para combater golpes no WhatsApp

A Meta anunciou um recurso chamado Scam Alert para o WhatsApp, que usa inteligência artificial no próprio dispositivo para identificar mensagens suspeitas e alertar o usuário sobre possíveis golpes. O Scam Alert ainda está em fase de testes e será liberado para um número limitado de participantes do programa beta. Ao UOL , a Meta afirmou que o recurso não está disponível no Brasil.

O WhatsApp é um dos principais vetores para golpes no Brasil e no mundo. Por aqui, dados da Febraban de 2025 apontam que 34% dos brasileiros já receberam contatos de alguém se passando por um conhecido. Nos Estados Unidos, estima-se que, em 2025, US$ 725 milhões foram perdidos em ações aplicadas pelo mensageiro da Meta, segundo dados da Comissão Federal do Comércio (FTC).

O Scam Alert usa um modelo de machine learning que roda no aparelho, sem depender da nuvem. Ele é treinado para reconhecer padrões conhecidos de mensagens usadas em golpes.

Ao perceber alguma coisa suspeita, a ferramenta dá um alerta ao usuário que está recebendo a mensagem, sem que o suposto golpista veja. A pessoa pode bloquear ou denunciar o contato, assim como também pode continuar a conversa.

Caso o usuário sinalize que o alerta foi disparado incorretamente, o modelo marca aquela conversa como confiável e não emite novas advertências de segurança. Também haverá uma opção para compartilhar com a Meta as últimas cinco mensagens recebidas, para que a empresa possa aperfeiçoar o sistema de proteção.

Segundo a Meta, a tecnologia faz uma classificação probabilística baseada na estrutura conversacional e em sinais linguísticos. Ou seja, ela olha mais para como a conversa “se desenrola” e menos para palavras-chave isoladas.

Além disso, ele só analisa mensagens de números que não estão na lista de contatos dos usuários. Apesar de fazer sentido, também abre uma brecha para golpes aplicados usando números clonados.

A Meta fez questão de ressaltar que o modelo de IA usado roda no próprio dispositivo. Isso significa que as mensagens não precisam ser enviadas a um servidor para que sejam analisadas. A empresa diz que apenas contagens de alertas e ações de usuário são transmitidos, e mesmo esses dados são agregados e anonimizados.

Em outro aspecto de segurança, a companhia afirmou que compartilhará com pesquisadores os pesos do modelo de machine learning usado para analisar as mensagens. A intenção é que eles possam testar a IA com diferentes entradas e cenários.

Por fim, a Meta afirma não ter como direcionar modelos específicos para usuários específicos, além de dar ferramentas de verificação. Isso existe para garantir que o recurso não está sendo usado para vigilância.

Meta quer usar IA para combater golpes no WhatsApp

Publicado originalmente por Tecnoblog. Leia a matéria completa em https://tecnoblog.net/noticias/meta-quer-usar-ia-para-combater-golpes-no-whatsapp/.