Uma investigação publicada pela WIRED nesta segunda-feira (2) revelou uma rede de mais de 400 aplicativos e domínios conectados que se apresentavam como ferramentas comuns de inteligência artificial, mas escondiam recursos para produzir imagens e vídeos sexuais abusivos a partir de fotografias. Parte desses aplicativos circulou pelas lojas oficiais da Apple e do Google.
Entre os serviços identificados estavam geradores de retratos de animais, aplicativos de treinamento físico e ferramentas de aprendizado de idiomas. Dependendo das condições de acesso, porém, eles podiam carregar interfaces diferentes das anunciadas, oferecendo funcionalidades de deepfake sexual e modelos de conteúdo violento.
Pesquisadores da organização AI Forensics identificaram 27 aplicativos da rede disponíveis no Google Play em setembro, que acumulavam mais de 350 mil downloads. Um deles, chamado DiffAI, havia ultrapassado 100 mil instalações. Os números representam downloads, não a quantidade de pessoas que utilizaram os recursos abusivos.
Servidores permitiam ocultar funcionalidades durante a análise dos aplicativos
O mecanismo foi identificado por pesquisadores que examinaram o código dos aplicativos e dos sites associados. Ao serem instalados, os programas enviavam informações a servidores externos, incluindo idioma, origem do acesso e identificadores do usuário.
A resposta do servidor determinava se o aplicativo apresentaria sua interface convencional ou carregaria uma página com ferramentas de geração de deepfakes. Um dos possíveis fatores para ativar a versão oculta era acessar o aplicativo por meio de anúncios publicados no Facebook e no Instagram.
"Trata-se de uma operação organizada e conduzida comercialmente", afirmou à WIRED Paul Bouchaud, pesquisador da AI Forensics. A análise técnica também contou com o trabalho da empresa de segurança Infoblox, que identificou quase 500 domínios relacionados.
Após ser procurada pela reportagem, a Apple removeu 19 aplicativos de sua loja. A empresa afirmou que os programas atendiam às regras durante a revisão inicial, mas que seus desenvolvedores posteriormente alteraram o conteúdo carregado de sites externos.
O Google já havia removido a maioria dos aplicativos identificados antes do contato da WIRED e não respondeu ao pedido de comentários. A Meta informou ter adotado medidas contra 11.600 contas publicitárias e bloqueado 209 aplicativos de anunciar em suas plataformas.
A investigação também encontrou conexões técnicas e comerciais com a KeLing Technology Limited, empresa registrada em Hong Kong. Entre os indícios estavam informações de contato, endereços de email e páginas administrativas associados aos serviços. A companhia não respondeu às solicitações de comentário da WIRED.
Apesar das remoções, aplicativos e anúncios semelhantes continuavam aparecendo nas plataformas enquanto a reportagem era concluída.
