No ano passado, 71.867 denúncias sobre imagens de exploração e abuso infantil na internet foram encaminhadas à Central Nacional de Denúncias, conveniada ao Ministério Público Federal. O resultado, equivalente a aproximadamente a um caso a cada sete minutos, representa um aumento de 77% em relação a 2022, além de ser o recorde para a série histórica, iniciada em 2006.
As principais explicações para o crescimento, explica a Safernet — ONG que coordena o canal e compila os dados —, são as demissões em massa registradas nas big techs, o que teria afetado a qualidade do controle de conteúdo; a proliferação da venda de pacotes com imagens de nudez e sexo por adolescentes; e o advento da Inteligência Artificial generativa, capaz de criar esse tipo de conteúdo em escala industrial.
As 71 mil denúncias de exploração infantil recebidas pela ONG são únicas. Ou seja, quando o mesmo conteúdo é denunciado mais de uma vez, os relatos duplicados não foram contabilizados na estatística. Tavares explica que é comum encontrar uma mesma imagem de abuso infantil replicada em diferentes plataformas, mas que há uma assimetria muito grande entre esses sites, e cada um possui tempo de resposta diferente para remoção de conteúdos que violam direitos.
O poder de mediação e controle das principais plataformas é justamente um dos motivos que explicariam o aumento dessa estatística, diz Tavares. Em 2023, houve demissões em massa nas principais empresas de tecnologia, as chamadas big techs.
Um tipo de conteúdo passível de remoção é a venda de pacotes de imagens de nudez e sexo. Entre esses pacotes vendidos há casos envolvendo adolescentes, sendo eles mesmos os geradores do conteúdo ou não. Mas o desafio mais importante, frisa Tavares, é a resposta ao crescimento da Inteligência Artificial (IA) generativa de imagens.
No ano passado, por exemplo, a disseminação de um "nude" criado por IA entre alunos do Colégio Santo Agostinho da Barra da Tijuca, Zona Oeste do Rio, virou caso de polícia. Segundo os investigadores, mais de 20 estudantes foram vítimas da criação de imagens falsas.
— A Inteligência Artificial está se desenvolvendo em uma velocidade muito rápida. Um ano já é uma eternidade. O ChatGPT não existia como produto comercial até o final de 2022 e hoje já possui uma base gigantesca de usuários no mundo inteiro. Enquanto isso, há uma grande preocupação com o potencial uso em crimes virtuais, evidenciado inclusive nos relatórios internacionais — frisa Tavares, que faz referência a um trabalho da Internet Watch Foundation (IWF), da Inglaterra, que em um mês (outubro passado) identificou 20 mil imagens feitas por IA na deep web, sendo 12 mil de abuso sexual infantil.
Imagens falsas de crianças e adolescentes nus atualmente podem gerar condenações pela lei 11.829, de 2008, que atualizou o Estatuto da Criança e do Adolescente. Tavares diz que a lei foi "visionária" por prever, já naquela época, sanções para quem fizesse montagens com imagens de exploração sexual infantil.
Atualmente, o Congresso debate projetos de lei que tratam de um marco legal do IA, demanda cada vez mais urgente, diz o especialista.
— Antigamente era um trabalho "artesanal". Com IA, vira uma escala industrial, tudo se replica de forma mais grave. O acesso às ferramentas de edição está cada vez mais fácil. Hoje basta usar um aplicativo gratuito para gerar uma imagem de nudez a partir de uma simples foto da pessoa na praia ou mesmo na escola. O risco atinge um outro patamar, decorrente da massificação das tecnologias que podem ser mal utilizadas — afirma Thiago Tavares.
Além de mudanças na legislação, Tavares defende que o debate seja bem conduzido nas escolas. Por isso, a Safernet produziu um caderno didático sobre segurança e cidadania digital e fez parcerias com diversas escolas para criação de uma disciplina eletiva, no Ensino Médio, com esse conteúdo. Ano passado, essa disciplina foi implementada em 156 escolas de 13 estados e 116 cidades, alcançando 11 mil estudantes. Agora a ONG está em conversas com o Ministério da Educação para ampliação do trabalho.
Se as denúncias de exploração sexual infantil foram a primeira colocação do ranking em números absolutos, o crime que mais cresceu em porcentagem foi a xenofobia: 252%. Associada a ela, há a categoria da intolerância religiosa, que também teve aumento relevante: 30%.
— Esse resultado está totalmente associado à guerra em Gaza. Foi um debate que se acirrou entre usuários da rede e que extrapolaram limites da liberdade de expressão, contra judeus ou contra a comunidade islâmica. Um pouco do palco virtual da guerra — explica Tavares.
Outra denúncia que teve leve crescimento foi o de tráfico de pessoas. Esse tipo de denúncia está normalmente associado à prostituição, como publicações de falsas agências de modelo para recrutamento de mulheres. Mas é a categoria com menor número de denúncias, por ser uma dinâmica que acontece menos no mundo virtual em comparação com os outros delitos, diz Tavares.
