A Justiça Federal determinou, em caráter de urgência, que o Discord adote uma série de medidas para ampliar a proteção de crianças, adolescentes e mulheres no ambiente digital. A decisão, da 14ª Vara Federal Cível da Justiça Federal do Distrito Federal, atende a um pedido apresentado pelo Governo Federal, por meio da Advocacia-Geral da União (AGU), em ação civil pública ajuizada contra a plataforma em agosto. Em caso de descumprimento, foi estabelecida multa diária de R$ 100 mil.

A ação integra as iniciativas do Governo Federal voltadas à prevenção e ao combate de crimes no ambiente digital. No caso do Discord, foram realizadas análises sobre o funcionamento da plataforma pela Secretaria de Direitos Digitais (Sedigi), do Ministério da Justiça e Segurança Pública, e pela Secretaria de Políticas Digitais da Secretaria de Comunicação Social da Presidência da República. A atuação também atende a uma demanda da Polícia Federal relacionada ao combate a crimes cibernéticos.

Na ação, a AGU aponta falhas nos mecanismos de verificação de idade e na proteção dos usuários diante de situações consideradas de risco. Entre os casos citados está a morte de uma adolescente de 13 anos, ocorrida em julho.

O pedido apresentado à Justiça também buscava o reforço dos mecanismos de controle parental, a ampliação da cooperação da plataforma com autoridades brasileiras e a criação de sistemas capazes de identificar e prevenir situações que possam colocar crianças e adolescentes em perigo.

A decisão concedeu parcialmente a tutela de urgência e determinou que o Discord cumpra os principais pedidos apresentados pela AGU.

Entre as medidas, a plataforma deverá impedir a recriação de servidores, canais e comunidades que tenham sido removidos, inclusive por meio de novas contas ou identidades vinculadas. Também deverá preservar por pelo menos seis meses registros de moderação, contas, servidores, comunidades, comunicações e notificações relacionadas aos fatos investigados.

A Justiça determinou ainda a criação de um protocolo específico para casos de sextorsão envolvendo crianças e adolescentes, com comunicação às autoridades competentes. O Discord também terá que comprovar que possui estrutura operacional em língua portuguesa para segurança, moderação e recebimento de denúncias no Brasil.

Outra exigência é que a empresa apresente informações sobre seus mecanismos de verificação etária e eventual plano de adequação à legislação brasileira. A plataforma deverá ainda adotar providências para cumprir as regras relacionadas à vinculação de usuários menores de 16 anos a seus responsáveis legais.

Controle parental e conteúdos violentos

A decisão também exige que o Discord comprove a existência e a eficácia de mecanismos de supervisão parental, configurações de proteção e controles de privacidade. A empresa deverá apresentar ainda uma avaliação de impacto sobre a segurança e a saúde de crianças e adolescentes, considerando riscos como aliciamento, violência, automutilação e suicídio.

A plataforma terá que impedir o uso de convites para reconstruir comunidades removidas ou atrair menores para ambientes associados a contas reincidentes. Também deverá preservar e comunicar às autoridades conteúdos relacionados à automutilação, suicídio e violência grave quando forem identificados de forma legítima.

Outro ponto determinado pela Justiça envolve conteúdos de maus-tratos, mutilação ou crueldade contra animais. Esse tipo de material deverá ser incluído nos mecanismos de avaliação e moderação quando houver risco envolvendo menores de idade.

Segundo a ação apresentada pela AGU, foram identificadas situações em que atos de violência contra animais seriam utilizados como instrumento de coesão e escalada de violência entre participantes de grupos considerados radicais.

O Discord também deverá manter representante legal no Brasil, disponibilizar um canal de denúncias em português e remover republicações tecnicamente idênticas de gravações e materiais de incentivo após receber notificações válidas.

A ação civil pública foi apresentada pela AGU em 25 de agosto. Na avaliação do órgão, as falhas nos mecanismos de verificação de idade e de proteção aos usuários exigem medidas para reduzir a exposição de crianças e adolescentes a situações de violência e outros riscos no ambiente digital.