A expedição, pela Agência Nacional de Proteção de Dados (ANPD), de medida cautelar determinando que a plataforma Discord suspenda a funcionalidade de transmissão ao vivo (“Go Live”), até a comprovação da adoção de medidas de proteção de crianças e adolescentes, é mais um capítulo da intensa luta contra os abusos perpetrados ou viabilizados pelas Big Techs e seus modelos de negócios, que estimulam conteúdos nocivos em busca de engajamento e monetização.

O caso envolve a investigação da morte da menina Lívia, no Mato Grosso do Sul, induzida ao suicídio na plataforma Discord após ter falhado em torturar e matar um gato.

Esse terrível episódio trouxe à esfera pública mais abrangente o que há tempos é conhecido pelas autoridades que investigam os extremismos que correm no submundo da internet e que ganharam maior visibilidade com o crescimento dos ataques a escolas no Brasil.

O relatório final do Grupo de Trabalho de Especialistas em Violência nas Escolas, instituído pela Portaria MEC nº 1.089/2023, reuniu importantes contribuições para a formulação de políticas públicas de enfrentamento a esses ataques e apontou medidas que também servem ao combate às redes extremistas de aliciamento e indução de práticas criminosas e cruéis, especialmente entre crianças e adolescentes.

Algumas dessas recomendações vêm sendo perseguidas. Nesse contexto, o vídeo do criador de conteúdo Felca, publicado em agosto de 2025, reacendeu o debate sobre a regulação das plataformas digitais, especialmente quanto à proteção de crianças e adolescentes. Ao denunciar a adultização precoce de meninas impulsionada por conteúdos monetizados nas redes, Felca expôs uma das faces mais perversas do entretenimento digital e mobilizou a sociedade e os poderes da República. Essa repercussão somou-se às mobilizações históricas dos movimentos de defesa dos direitos humanos e dos direitos de crianças e adolescentes, contribuindo para a aprovação do ECA Digital.

Também integra esse processo a decisão do Supremo Tribunal Federal, de junho de 2025, sobre a inconstitucionalidade parcial e progressiva do artigo 19 do Marco Civil da Internet, seguida de novas medidas regulatórias.

É nesse novo ambiente normativo que deve ser compreendida a medida cautelar imposta ao Discord. Ela não representa intervenção arbitrária do Estado sobre uma atividade privada nem tentativa de controlar previamente o que as pessoas dizem ou fazem na internet. Representa a aplicação de uma premissa elementar do Estado Democrático de Direito: quem desenvolve e explora economicamente uma atividade capaz de produzir riscos relevantes não pode simplesmente privatizar os lucros e socializar os danos.

No caso de crianças e adolescentes, essa responsabilidade é ainda mais evidente. O artigo 227 da Constituição estabelece a absoluta prioridade de seus direitos e impõe à família, à sociedade e ao Estado o dever de colocá-los a salvo de toda forma de negligência, exploração, violência, crueldade e opressão. Seria absurdo imaginar que essa proteção constitucional deixasse de existir na porta de entrada das plataformas.

É essa lógica que inspira o ECA Digital. Não se trata apenas de retirar um conteúdo depois que o dano aconteceu, mas de exigir que produtos e serviços digitais acessíveis a crianças e adolescentes sejam concebidos e operados considerando sua condição peculiar de pessoas em desenvolvimento. A proteção deve estar incorporada ao próprio desenho dos serviços e às suas funcionalidades.

Durante muito tempo, as grandes plataformas apresentaram-se como meras intermediárias tecnológicas, espaços neutros pelos quais não poderiam ser responsabilizadas. A narrativa sempre foi conveniente: seriam protagonistas para coletar dados, organizar e recomendar conteúdos, direcionar publicidade, maximizar o engajamento e monetizar a atenção dos usuários, mas agentes passivos quando essas mesmas estruturas servissem para disseminar ódio, promover extremismos, explorar sexualmente crianças ou aliciar adolescentes para práticas violentas.

Uma plataforma que decide o que recomendar, para quem, em que momento e com que intensidade não pode ser equiparada a um simples mural no qual terceiros pregam mensagens. Algoritmos de recomendação, mecanismos de impulsionamento, notificações, transmissões ao vivo e estruturas de formação de comunidades são decisões de arquitetura digital. E decisões empresariais produzem responsabilidades.

Isso não significa imputar automaticamente às empresas todo crime praticado por seus usuários. Significa responsabilizá-las quando deixam de adotar medidas razoáveis para prevenir riscos previsíveis, ignoram denúncias, permitem reiteradamente a formação de redes destinadas à prática de crimes ou oferecem funcionalidades que facilitam danos graves sem salvaguardas proporcionais.

É aí que o caso Discord ultrapassa a tragédia que lhe deu visibilidade. A questão não é apenas saber se determinada funcionalidade deve permanecer suspensa, mas até que ponto uma empresa pode disponibilizar ferramentas capazes de colocar crianças e adolescentes em contato com comunidades violentas e considerar que aquilo que acontece dentro de sua infraestrutura não lhe diz respeito.

Porém, esse enfrentamento não pode ficar restrito à regulação das plataformas. Crianças e adolescentes precisam encontrar, fora das redes extremistas, espaços reais de pertencimento. Escola, cultura, esporte, lazer, convivência comunitária, educação digital e políticas sociais fazem parte da mesma estratégia de prevenção.

Também é insuficiente transferir às famílias toda a responsabilidade pela proteção no ambiente digital. Pais e responsáveis têm deveres de orientação e acompanhamento, mas é desproporcional exigir que uma família disponha, individualmente, dos conhecimentos e instrumentos necessários para enfrentar empresas globais dotadas de sofisticados sistemas de recomendação, coleta de dados e desenho comportamental.

A proteção precisa ser compartilhada. Famílias educam e acompanham. Escolas formam para a cidadania digital. O Estado regula, fiscaliza e executa políticas públicas. A sociedade civil monitora e denuncia. E as empresas devem assumir responsabilidade pelas tecnologias que desenvolvem, pelos ambientes que administram e pelos riscos que seus modelos de negócio produzem ou potencializam.

A tragédia envolvendo Lívia demonstra, da maneira mais dolorosa possível, o preço que pode ser pago quando essa rede de proteção falha.

Durante anos, tratamos o ambiente digital como território separado da sociedade, praticamente imune às responsabilidades existentes no mundo físico. Essa fase precisa ficar para trás. Não existe uma criança “virtual” distinta daquela protegida pelo Estatuto da Criança e do Adolescente. Não existe uma dignidade humana offline e outra online. Tampouco pode existir uma zona de irresponsabilidade empresarial apenas porque a violência atravessou uma tela. Regular democraticamente as plataformas não significa controlar a internet. Significa impedir que aqueles que controlam a internet permaneçam sem controle. E, quando estão em jogo a vida, a dignidade e o desenvolvimento de crianças e adolescentes, proteger não é censurar. É cumprir a Constituição.