Home Mundo Governo da Espanha ordena investigação de redes sociais por disseminar abuso sexual infantil gerado por inteligência artificial

A Espanha ordenou que promotores investiguem as redes sociais X, Meta e TikTok por supostamente disseminarem material de abuso sexual infantil gerado por inteligência artificial (IA), enquanto reguladores europeus intensificam a fiscalização sobre as big techs em relação a conteúdo prejudicial e ilegal.

O anúncio do primeiro-ministro Pedro Sánchez ocorre em meio a uma repressão mais ampla às plataformas online, com reguladores acusando-as de práticas que vão desde comportamento anticompetitivo em publicidade digital até o design deliberado de recursos viciantes. A medida é a primeira de um pacote de regulamentações de redes sociais que Sánchez apresentou em uma cúpula governamental em Dubai no início deste mês. Ela foi baseada em um relatório técnico de três ministérios, informou o gabinete do premiê nesta terça-feira (17).

A porta-voz do governo, Elma Saiz, disse a repórteres que as autoridades “não podem permitir que algoritmos amplifiquem ou protejam” tais crimes, acrescentando que a segurança, a privacidade e a dignidade das crianças estão em risco. Separadamente, na terça-feira, a Comissão de Proteção de Dados da Irlanda (DPC, na sigla em inglês) informou que abriu uma investigação formal sobre o chatbot Grok, da xAI do X, em relação ao processamento de dados pessoais e seu potencial para gerar imagens e vídeos sexualizados prejudiciais, incluindo de crianças.

A DPC é o principal regulador da UE para o X de Elon Musk porque as operações europeias da empresa norte-americana estão sediadas na Irlanda. Uma em cada cinco pessoas jovens na Espanha —principalmente meninas— afirma que imagens falsas de nudez delas mesmas foram criadas por IA e compartilhadas online enquanto eram menores de idade, informou o gabinete de Sánchez, citando a organização de direitos Save the Children.

“Essas plataformas estão prejudicando a saúde mental, a dignidade e os direitos de nossas crianças”, postou Sánchez no X (antigo Twitter). Ele disse que o Ministério da Justiça pediria aos promotores que “investiguem os crimes que X, Meta e TikTok podem estar cometendo por meio da criação e disseminação de pornografia infantil usando sua IA”.

A Espanha não é o único país reprimindo as plataformas de redes sociais. Outros governos abriram investigações, impuseram proibições e buscaram salvaguardas em um esforço global crescente para coibir material ilegal.

A Comissão Europeia está investigando Meta, TikTok e Grok sob a Lei de Serviços Digitais da União Europeia, enquanto França, Brasil e Canadá apresentaram queixas contra o Grok por distribuição de conteúdo ilegal. Há duas semanas, Sánchez delineou novas medidas para combater o abuso online e proteger crianças, incluindo uma proposta de proibição de acesso às redes sociais para menores de 16 anos.

No mesmo dia, a polícia francesa fez buscas nos escritórios do X de Musk e promotores ordenaram que o bilionário respondesse a perguntas em uma investigação em expansão. (Com informações do jornal Folha de S.Paulo)