29

Revista de Ciencias Sociales - Número 87 (2025) - Universidad de Valparaíso - ISSN 0719-8442 - Valparaíso, Chile

Proteção digital de crianças e adolescentes: Direitos, riscos e desafios

formação de profissionais e criação de canais de denúncia acessíveis e seguros para crianças. Além disso, é essencial a aposta na educação sexual digital, com base nos direitos humanos, para prevenir a revitimização e promover a autonomia informada dos jovens no ambiente online.

3.3. A Manipulação através do algoritmo, deepfakes e inteligência ar-tificial (IA)

O avanço das tecnologias de inteligência artificial e dos algoritmos trou-xe novos desafios para a proteção digital das crianças e dos adolescentes. A manipulação do algoritmo, pode afetar profundamente a forma como crianças e adolescentes consomem os conteúdos digitais, moldando as suas percepções do mundo sem que muitas vezes tenham consciência disso. As plataformas como YouTube, TikTok e Instagram utilizam algoritmos que priorizam a recolha de preferências e o tempo de visualização, o que pode resultar na exposição repetitiva a conteúdos sensacionalistas, violentos ou distorcidos. Esta lógica algorítmica pode reforçar padrões discriminatórios inclusivamente de género, raça ou aparência e limitar o acesso a informações diversificadas. A ausência de transparência nos critérios de funcionamento destes sistemas, aliada à falta de regulamentaçãolegal específica, agrava a vulnerabilidade dos menores, que não dispõem de ferramentas críticas ou legais suficientes para compreender e controlar o que consomem online 21. A situação torna-se ainda mais preocupante quando estas tecnologias são utili-zadas para fins comerciais ou políticos, explorando dados comportamentais de crianças com fins de manipulação.

Refira-se ainda os deepfakes e outras tecnologias baseadas em IA ge-nerativa que abrem espaço para formas inéditas de violência e exploração digital. O uso destas ferramentas para produzir vídeos falsos com aparência realista, com a inserção de rostos de menores em contextos inapropriados ou sexualizados, representa uma ameaça concreta à sua dignidade e integridade emocional. Além disso, estas manipulações dificultam a verificação etária,

21 EPRS (2021); CNPD (2022).