'Não fomos rápidos o suficiente', diz vice-presidente de Segurança do Discord sobre morte de menina

SÃO PAULO, SP (FOLHAPRESS) - O vice-presidente de Segurança e Confiança do Discord, Jud Hoffman, admitiu, em entrevista ao jornal O Globo, falhas no processo do serviço no episódio que terminou com a morte de uma adolescente de 13 anos durante uma transmissão ao vivo.

"Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança", afirmou na entrevista publicada neste sábado (15).

Segundo Hoffman, a moderação na plataforma tem duas abordagens, proativa e reativa, e ambas combinam modelos de aprendizado de máquina com outras ferramentas de automação. Esse trabalho, ele afirma, é supervisionado por equipes treinadas para investigar e prevenir condutas como extremismo violento e exploração e abuso sexual infantil.

"Cerca de 15% da empresa está dedicada à segurança, com centenas de pessoas atuando em funções de moderação. Algumas trabalham no treinamento dos modelos, aprimorando-os continuamente. Também temos profissionais na minha equipe que entendem português e conhecem o mercado brasileiro. E seguimos investindo nisso", disse na entrevista.

Uma vez cadastrado no Discord, cada usuário tem um perfil próprio e pode participar de servidores -essencialmente, salas de chat-- concebidos para grupos ou interesses específicos. Alguns servidores públicos têm milhões de membros, mas existem também servidores privados, que requerem convite para adesão e costumam ser comunidades menores.

De acordo com Hoffman, o servidor no qual foi transmitida a live da adolescente era pequeno e havia sido criado naquele mesmo dia.

"No caso da menina, o servidor era novo e pequeno. Tinha sido criado há menos de duas horas. As informações disponíveis não acionaram nosso modelo de aprendizado de máquina para encaminhá-lo à revisão humana", afirmou.

O vice-presidente de Segurança do Discord disse também que o combate à violência no ambiente digital deve ser feito de forma colaborativa entre as diferentes redes sociais.

"Não é problema único do Discord ou de qualquer outra. Eles [grupos extremistas] vão explorar cada uma como podem. À medida que os descobrimos e os removemos do Discord, eles migram para outra. O verdadeiro sucesso é detê-los completamente, e não apenas expulsá-los do Discord."