Mais de 400 aplicativos e sites apresentados como serviços comuns de IA foram associados a ferramentas ocultas para gerar imagens e vídeos de deepfake sexualmente abusivos, segundo uma investigação da WIRED. Os serviços incluíam aplicativos divulgados para retratos de animais de estimação, aprendizado de idiomas e treinamento físico com IA.
Um exemplo, o aplicativo de retratos de animais Viefur, permitia que os usuários transformassem fotografias de animais em cenas estilizadas. Pesquisadores descobriram que, sob determinadas condições, o aplicativo poderia, em vez disso, carregar uma interface web que oferecia modelos sexuais explícitos, incluindo cenários violentos, e ferramentas para adicionar fotografias enviadas pelos usuários ao conteúdo gerado.
Os aplicativos pareciam determinar remotamente se um usuário veria os recursos benignos anunciados ou a interface explícita. Segundo Paul Bouchaud, da AI Forensics, a decisão poderia levar em conta informações como a origem do usuário, o idioma e um identificador único. Instalar um aplicativo depois de clicar em um anúncio no Facebook ou no Instagram parecia ser um possível gatilho para exibir o conteúdo oculto.
Os pesquisadores também descobriram que sites associados poderiam aparecer em branco enquanto ainda hospedavam a camada explícita usada pelos aplicativos. O código continha dados de configuração que vinculavam numerosos domínios e aplicativos, incluindo chaves de criptografia e rastreadores de publicidade. Maël Le Touz, pesquisador de ameaças da Infoblox, identificou quase 500 domínios conectados que usavam código semelhante e faziam referência uns aos outros.
A rede começou a aparecer no fim de 2025 e se expandiu acentuadamente na primavera de 2026, segundo a investigação. Em determinado momento, cerca de 30 aplicativos e sites relacionados eram registrados por semana. Em setembro, 27 dos aplicativos estavam disponíveis no Google Play e haviam acumulado mais de 350.000 downloads, com vários classificados como adequados para todas as idades.
O DiffAI, um dos aplicativos mais baixados, foi criado em dezembro de 2025 e ultrapassou 100.000 downloads no Google Play. Uma avaliação de usuário alegou que ele oferecia modelos de material de abuso sexual infantil e outras formas de pornografia sem verificação de idade. O Google removeu o DiffAI antes de a WIRED solicitar um comentário e já havia removido a maioria dos aplicativos identificados pela investigação.
A Apple removeu 19 aplicativos, incluindo o Viefur, depois que a WIRED compartilhou informações sobre a atividade e os domínios relacionados. O porta-voz da Apple, Adam Dema, disse que os aplicativos inicialmente cumpriam as regras da empresa, mas que seus desenvolvedores posteriormente mudaram os sites que forneciam seu conteúdo e substituíram o material aprovado por pornografia. A Apple descreveu a tática como uma troca enganosa e afirmou ter suspendido dezenas de milhares de aplicativos que usavam métodos semelhantes durante o ano anterior.
Os aplicativos e sites pareciam ser operados por desenvolvedores de língua chinesa. Os pesquisadores citaram hospedagem chinesa, comentários em chinês no código e marcas d’água de softwares de edição em língua chinesa em vídeos promocionais. Os serviços usavam políticas de privacidade genéricas, contas de e-mail gratuitas e nomes obscuros de desenvolvedores, enquanto os anúncios nas plataformas da Meta frequentemente eram veiculados sob identidades aparentemente falsas e por páginas sem seguidores.
Desde o início de 2026, os pesquisadores encontraram dezenas de milhares de anúncios explícitos de deepfake ligados à rede nos serviços da Meta. Os anúncios incluíam conteúdo que retratava menores de idade, levando a investigações por parte de reguladores, e direcionavam os usuários a aplicativos nas lojas da Apple e do Google, onde os pagamentos podiam ser feitos por meio do Apple Pay e do Google Pay.
Uma empresa registrada em Hong Kong, a KeLing Technology Limited, aparecia repetidamente na infraestrutura e nas informações de contato da rede. Depois que a WIRED solicitou comentários a endereços de e-mail associados à empresa e a seus serviços, algumas referências públicas à KeLing foram removidas ou alteradas. A Meta disse que havia proibido a empresa de anunciar em 2025, depois que ela não cumpriu uma carta de cessação e desistência.
Depois de receber da WIRED uma lista com mais de 400 domínios, a Meta afirmou ter identificado mais de 3.000 anúncios associados e já ter removido cerca de dois terços deles. A empresa informou posteriormente ter tomado medidas contra 11.600 contas de publicidade, mais de 4.700 páginas comerciais, 5.200 usuários e 15.000 páginas vinculadas aos domínios, além de bloquear 209 aplicativos de anunciar em suas plataformas. Aplicativos e anúncios semelhantes continuavam sendo publicados quando a investigação foi concluída.
Fontes: WIRED.