Material de abuso infantil continua circulando no X de Musk

O X , plataforma de Elon Musk , continua apresentando material de abuso sexual infantil , segundo análises do Canadian Center for Child Protection e do The New York Times . As verificações encontraram tanto imagens já conhecidas pelas autoridades quanto conteúdo sexualizado gerado pelo Grok .

Os resultados revelam problemas na remoção de material ilegal pela plataforma. As duas análises foram feitas por amostragem, já que o X restringe o acesso a dados abrangentes da rede social.

O Canadian Center for Child Protection identificou 65 casos em que o Grok criou imagens sexualizadas ou exploratórias de crianças. Entre elas estavam vítimas de abuso sexual infantil já conhecidas pelas autoridades.

Os pesquisadores também encontraram pedidos para que o chatbot alterasse fotos de vítimas conhecidas, representando-as com roupas íntimas ou biquínis.

Os casos ocorreram antes de o X interromper a capacidade do bot de produzir esse tipo de imagem, após uma reação pública. Em dezembro e janeiro, a conta do Grok no X havia produzido milhões de imagens de pessoas sem roupas em resposta a pedidos de usuários.

Imran Ahmed, CEO do Center for Countering Digital Hate, classificou as descobertas como “uma das maiores falhas corporativas da minha vida”.

O The New York Times realizou uma análise própria entre janeiro e junho. Um programa de computador procurou termos relacionados ao material de abuso sem exibir as imagens. Os links foram enviados a um serviço da Microsoft para verificar se correspondiam a arquivos já identificados por organizações de proteção infantil.

A busca encontrou mais de 75 imagens. Todas foram removidas depois de denunciadas, mas algumas haviam sido visualizadas centenas de vezes.

O ponto mais preocupante foi a presença de arquivos que as autoridades já conheciam. Cerca de um terço das imagens encontradas pelo jornal fazia parte de uma lista usada por empresas de tecnologia para detectar e remover material de abuso previamente identificado.

Entre os resultados das duas análises estão:

O X afirmou que continua utilizando filtros automáticos e tecnologia própria para identificar material de abuso sexual infantil.

“Levamos a sério nossa responsabilidade de proteger menores de idade”, afirmou a empresa. “O X tem tolerância zero com material de abuso sexual infantil, incluindo material de abuso sexual infantil gerado por IA.”

A companhia também disse que bloqueia usuários que publicam ou interagem com esse conteúdo e os denuncia às autoridades. Segundo o X, 780 mil usuários foram denunciados no último mês, enquanto 1,3 milhão de imagens foram encaminhadas ao National Center for Missing and Exploited Children neste ano.

Musk comprou o então Twitter em 2022 e classificou a remoção desse material como “Prioridade nº 1”. Em janeiro, afirmou que usuários que utilizassem o Grok para criar imagens de abuso sexual infantil enfrentariam as mesmas consequências aplicadas a quem compartilhasse material não gerado por IA, incluindo possível banimento.

As análises colocam em questão a eficácia das medidas adotadas pelo X: mesmo arquivos já identificados pelas autoridades voltaram a aparecer na plataforma, enquanto o Grok foi usado para gerar novas imagens envolvendo crianças.

O post Material de abuso infantil continua circulando no X de Musk apareceu primeiro em Olhar Digital .

Publicado originalmente por Olhar Digital. Leia a matéria completa em https://olhardigital.com.br/2026/09/11/inteligencia-artificial/material-de-abuso-infantil-continua-circulando-no-x-de-musk/.