Gigante da Tecnologia Busca Coibir Uso Malicioso de IA para Conteúdo Explícito Não Consensual em Suas Plataformas
A Meta, empresa controladora do Facebook, Instagram e WhatsApp, entrou com uma ação judicial em Hong Kong contra a Joy Timeline HK Ltd., desenvolvedora do aplicativo “CrushAI”. A acusação central é de que a empresa estaria usando inteligência artificial para criar e disseminar imagens de nudez falsa (deepfakes sexualmente explícitas) de indivíduos sem consentimento, além de burlar repetidamente as regras das plataformas da Meta para veicular anúncios promocionais desses serviços.
A ação judicial, formalizada em 12 de junho de 2025, visa impedir que a Joy Timeline continue a promover o CrushAI e outros aplicativos similares nas redes sociais da Meta. Segundo a denúncia, o desenvolvedor de Hong Kong teria gerenciado mais de 135 páginas no Facebook, por meio de pelo menos 55 contas de usuários ativas, para exibir anúncios do aplicativo. Esses anúncios, que prometiam “apagar qualquer roupa” e criar “versões nuas” de fotos de pessoas vestidas, visavam principalmente usuários nos Estados Unidos, Canadá, Austrália, Alemanha e Reino Unido.
A Batalha Contra o Conteúdo Não Consensual e a Evasão de Sistemas
A Meta alega que, apesar de ter removido milhares de anúncios e páginas, e de ter bloqueado permanentemente URLs associadas aos aplicativos da Joy Timeline desde 2023, a empresa continuou a encontrar maneiras de contornar os sistemas de detecção. Métodos como a dissimulação dos anúncios, a rotação de nomes de domínio e a utilização de termos e emojis codificados eram empregados para evadir as revisões. Pesquisas, como a da Cornell Tech, indicam que mais de 8.000 anúncios relacionados ao CrushAI foram veiculados nas plataformas da Meta nos últimos meses, sugerindo um esforço contínuo para driblar as políticas da empresa.
A iniciativa da Meta se insere em um contexto mais amplo de combate ao uso malicioso da inteligência artificial generativa, especialmente na criação de deepfakes sexualmente explícitos. A empresa tem políticas rigorosas contra conteúdo íntimo não consensual e tem atualizado seus sistemas de detecção para identificar e bloquear não apenas o conteúdo explícito em si, mas também a promoção de aplicativos e serviços que facilitam sua criação. Termos como “nudify”, “undress” e “delete clothing” são restritos nas buscas internas das plataformas.
Implicações Legais e Éticas da IA na Nudez Falsa
O fenômeno dos “deepfakes de nudez” (ou “nudify apps”) tem gerado sérias preocupações éticas e legais em todo o mundo. A capacidade de criar imagens e vídeos realistas de pessoas em situações comprometedoras, sem seu consentimento, levanta questões profundas sobre privacidade, consentimento, dignidade e o potencial de assédio e extorsão. Vítimas, muitas vezes adolescentes, têm relatado traumas psicológicos severos após terem suas imagens manipuladas e divulgadas.
Em resposta a essa ameaça crescente, legislações têm sido propostas e aprovadas em diversos países. Nos Estados Unidos, o “TAKE IT DOWN Act”, sancionado em maio de 2025, criminaliza a publicação não consensual de imagens sexuais autênticas ou deepfakes, impondo penas severas e exigindo que plataformas de tecnologia removam esse tipo de conteúdo em até 48 horas após a denúncia. No Brasil, a Câmara dos Deputados aprovou recentemente um projeto de lei que proíbe a criação, uso e venda de softwares de IA para gerar “deep nudes”, prevendo multas elevadas para criadores e divulgadores, e responsabilizando plataformas digitais que não removerem o conteúdo após serem notificadas. O projeto ainda tramita no Senado Federal.
A ação da Meta é um sinal claro do esforço das grandes empresas de tecnologia em combater o abuso de suas plataformas para fins ilícitos e prejudiciais. A empresa afirma estar desenvolvendo tecnologias de detecção mais avançadas e colaborando com a indústria para identificar e eliminar atores mal-intencionados. Este processo judicial não é apenas um caso isolado, mas um marco importante na luta contra a disseminação de conteúdo íntimo não consensual gerado por IA, e reforça a necessidade de um arcabouço legal robusto e da conscientização pública para proteger os indivíduos na era digital.
