Discord diz que morte de jovem teve sinais de risco, mas não houve revisão

O Discord admtiu que foram identificados sinais de risco na transmissão ao vivo na qual uma jovem foi induzida ao suicídio, mas afirmou que estes indicativos não acionaram alertas ou foram revisados. A explicação consta em documento enviado pela plataforma ao Ministério da Justiça e obtido pela CNN Brasil .

“Durante o período relevante, o servidor continha nomes, rótulos de papéis e comunicações em texto que, após revisão posterior ao incidente, foram identificados como indicadores associados a um ecossistema mais amplo de alto dano”, escreve.

“No momento do incidente, esses sinais não acionaram, de forma isolada ou combinada, aplicação automática ou revisão humana imediata. Os sistemas de aprendizado de máquina processaram os sinais disponíveis, mas não geraram alerta com nível de confiança para aplicação automatizada”, completa.

No documento, o Discord afirma que a transmissão recebeu uma classificação de risco de 0,12, enquanto o necessário para identificação automatizada é de 0,95. A plataforma argumentou que reduzir esse limiar poderia aumentar os “falsos positivos” e prejudicar seu mecanismo de proteção.

“Esse resultado está sendo reexaminado inclusive para avaliar possíveis aprimoramentos nos critérios de priorização, na sensibilidade dos modelos e no equilíbrio entre capacidade de detecção e incidência de falsos positivos”, aponta ainda.

Nessa comunicação, o Discord diz que a transmissão se iniciou às 2h20. Ainda explica que à 3h50 recebeu um alerta externo, sem detalhes, e retirou o servidor do ar 25 minutos mais tarde, às 4h15.

A plataforma sugere possível coordenação prévia ou paralela do crime em outros serviços digitais, incluindo Telegram e TikTok, antes do ingresso no servidor. Segundo apuração da CNN Brasil , a ANPD (Agência Nacional de Proteção de Dados) investiga a possibilidade.

A ANPD determinou que o Discord, plataforma social de jogos, suspenda as transmissões ao vivo, as chamadas lives, no Brasil. A Agência estabeleceu um prazo de três dias úteis para aplicação da medida.

A decisão ocorre depois da abertura de um processo de fiscalização na última sexta-feira (7) para apurar falhas na proteção de crianças e adolescentes no ambiente digital.

O Discord afirmou também na sexta-feira que apresentará um plano de ampliação da proteção a menores de idade na rede social. A medida foi uma cobrança da AGU (Advocacia-Geral da União), durante uma reunião com representantes da plataforma.

A polêmica em torno da atuação do Discord no Brasil ganhou força após o governo do presidente Luiz Inácio Lula da Silva (PT) acusar a plataforma de descumprir as regras estabelecidas pelo ECA (Estatuto da Criança e do Adolescente) Digital. O principal receio do Ministério da Justiça é em relação às regras de verificação de idade.

A primeira-dama, Janja da Silva, chegou a pedir que o Discord fosse bloqueado no Brasil .

Discord afirma que caracterização da ANPD é errada e diz investir na segurança | CNN PRIME TIME

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/politica/discord-diz-que-morte-de-jovem-teve-sinais-de-risco-mas-nao-houve-revisao/.