Discord admite falha na proteção e demora de quase duas horas para derrubar live com adolescente
Plataforma informou ao Ministério da Justiça que transmissão foi classificada inicialmente como de baixo risco; ANPD suspendeu ferramenta de lives no Brasil
O Discord reconheceu que seu sistema de proteção falhou e levou quase duas horas para interromper uma transmissão ao vivo que vitimou uma adolescente de 13 anos. A informação consta em um relatório apresentado pela própria plataforma ao Ministério da Justiça nesta semana e obtido pela GloboNews. O caso ampliou os questionamentos sobre os mecanismos de segurança e moderação utilizados pela rede social.
A transmissão teve início às 2h20 do dia 22 de julho e permaneceu ativa até aproximadamente 4h15. Segundo o Discord, a primeira comunicação indicando risco iminente de morte ou de lesão corporal grave foi emitida às 3h50. A retirada do servidor do ar, entretanto, só foi efetivada cerca de 25 minutos depois.
De acordo com a plataforma, o canal que hospedava a transmissão não apresentou inicialmente indicadores considerados suficientes para caracterizar uma atividade violadora. O sistema automatizado de intervenção é acionado quando uma live atinge 0,95 ponto em uma escala de risco. No caso analisado, a transmissão teria recebido inicialmente apenas 0,12 ponto.
No relatório, o Discord afirmou que nomes utilizados e comunicações por texto pelos responsáveis pelo servidor teriam contribuído para “mascarar” a real intenção da atividade. A empresa também declarou que reduzir o limite utilizado para identificar situações de risco poderia aumentar significativamente o número de falsos positivos e prejudicar a eficácia do sistema automatizado de intervenção.
Apesar da justificativa, a plataforma informou que está reavaliando os critérios utilizados pelo modelo de detecção. O Discord afirmou que analisa possíveis aprimoramentos nos mecanismos de priorização para identificar situações de risco com maior rapidez e precisão.
A Agência Nacional de Proteção de Dados (ANPD) determinou, na quarta-feira (12), a suspensão das transmissões ao vivo do Discord em território brasileiro. A medida é preventiva e não representa a retirada da plataforma do ar no país. A determinação estabelece prazo de três dias úteis para que a empresa cumpra a decisão.
O Discord é uma plataforma de comunicação amplamente utilizada por jogadores de games e também por adolescentes. A empresa vem sendo alvo de críticas e investigações relacionadas a mecanismos de moderação de conteúdo e de verificação da idade dos usuários.
A decisão da ANPD ocorre em meio ao debate sobre a responsabilidade das plataformas digitais na proteção de crianças e adolescentes. O caso também coloca em evidência os limites dos sistemas automatizados de segurança e a necessidade de respostas mais rápidas diante de situações que possam representar risco à integridade física de usuários.