Discord diz que houve indicadores de risco em morte de adolescente, mas alertas não foram revisados

O Discord admitiu ter identificado indicadores de risco na transmissão ao vivo que resultou na morte de uma adolescente de 13 anos. A plataforma, porém, disse que esses indícios não acionaram alertas ou foram revisados, segundo documento enviado ao Ministério da Justiça e obtido pela CNN Brasil. Na última quarta-feira (12), as transmissões ao vivo da empresa foram suspensas no país.

"Durante o período relevante, o servidor continha nomes, rótulos de papéis e comunicações em texto que, após revisão posterior ao incidente, foram identificados como indicadores associados a um ecossistema mais amplo de alto dano", afirma o Discord.

A plataforma também diz que, "no momento do incidente, esses sinais não acionaram, de forma isolada ou combinada, aplicação automática ou revisão humana imediata" e acrescenta que "os sistemas de aprendizado de máquina processaram os sinais disponíveis, mas não geraram alerta com nível de confiança para aplicação automatizada."

Segundo o Discord, a transmissão recebeu uma classificação de risco de 0,12, sendo 0,95 o necessário para a identificação automatizada. Argumentou ainda que reduzir esse limiar poderia aumentar os 'falsos positivos' e prejudicar seu mecanismo de proteção.

Além disso, a plataforma sugere possível coordenação prévia ou paralela do crime em outros serviços digitais, como Telegram e TikTok, antes de seu ingresso no servidor.