Mesmo com controles parentais ativados, contas configuradas para adolescentes de 13 anos conseguiram acessar 24 aplicativos na App Store e 51 na Google Play capazes de produzir imagens sexualizadas. A descoberta faz parte de uma investigação publicada nesta segunda-feira (19) pelo Tech Transparency Project (TTP), que identificou falhas na classificação etária e na fiscalização de aplicativos distribuídos pelas duas empresas.
Ao todo, os pesquisadores encontraram 135 aplicativos com essas capacidades acessíveis em diferentes configurações de teste. Entre as ferramentas estavam editores de fotografia convencionais, geradores de imagens por inteligência artificial e serviços capazes de criar nudez explícita a partir de pessoas vestidas.
A investigação utilizou quatro contas fictícias de um menino de 13 anos nos Estados Unidos, duas em cada plataforma. Em uma conta de cada empresa, os pesquisadores ativaram controles parentais, limitaram a instalação a aplicativos classificados como apropriados para a idade e exigiram autorização de um responsável para downloads e compras.
Nas contas sem supervisão adicional, os resultados também foram expressivos: 61 aplicativos acessíveis na Apple e 47 no Google. Todos os testes de manipulação de imagens foram realizados com fotografias sintéticas, sem utilizar imagens de pessoas reais.
Como aplicativos classificados para crianças passaram pelos controles
Uma das principais falhas identificadas envolve a classificação etária. Apple e Google utilizam informações fornecidas pelos próprios desenvolvedores para determinar a adequação dos aplicativos a diferentes idades.
O relatório encontrou ferramentas classificadas para crianças de 4 ou 9 anos que, durante os testes, conseguiram gerar imagens de nudez. Em outros casos, funcionalidades sexualizadas estavam disponíveis apenas mediante assinatura.
Nos testes supervisionados, os responsáveis fictícios aprovaram a instalação dos aplicativos classificados como adequados à idade. Isso significa que a pesquisa não demonstrou necessariamente uma maneira de contornar a exigência de autorização para downloads. O problema estava também na classificação de ferramentas cujas capacidades não eram evidentes para os responsáveis.
Os pesquisadores identificaram outra falha: compras de assinaturas realizadas com cartões presente não geraram notificações para as contas parentais vinculadas, mesmo com a exigência de autorização para pagamentos. A Apple afirmou que esse comportamento não corresponde ao funcionamento esperado do recurso e que está investigando o problema.
O estudo também constatou que a remoção de aplicativos das lojas não impedia sua utilização em dispositivos onde já estavam instalados. Até 28 de setembro, 25 aplicativos haviam sido retirados da App Store e seis da Google Play, mas continuavam funcionando nos aparelhos utilizados pelos pesquisadores.
Segundo estimativas da AppMagic citadas pelo TTP, os 135 aplicativos identificados acumulavam 5,5 bilhões de downloads e US$ 3,9 bilhões em receitas globais. Esses totais abrangem os aplicativos como um todo e não representam exclusivamente o uso ou o faturamento de suas funcionalidades sexualizadas.
Apple contesta classificação e reforça regras contra imagens íntimas
A definição utilizada pelo TTP é mais ampla do que a adotada pela Apple. A investigação considerou aplicativos capazes de produzir nudez total ou parcial, incluindo imagens em que roupas convencionais eram substituídas por biquínis ou lingerie.
A Apple não considera que essa última capacidade, isoladamente, caracterize um aplicativo de nudificação. Adam Dema, porta-voz da empresa, afirmou ao Guardian que parte dos serviços citados são ferramentas convencionais de edição de fotos e vídeos, com funcionalidades legítimas e amplamente utilizadas.
Em 16 de outubro, três dias antes da publicação do relatório, a Apple anunciou mudanças em suas diretrizes. As regras reforçam a obrigação de impedir e remover imagens íntimas não consensuais, inclusive aquelas geradas por IA, e proíbem aplicativos que ocultam funcionalidades durante a revisão para ativá-las posteriormente.
O Google também contestou a presença de ferramentas proibidas em sua loja. Dan Jackson, porta-voz da empresa, declarou ao Guardian que violações identificadas são investigadas e podem resultar na suspensão de aplicativos e na restrição de termos de pesquisa, medidas que, segundo ele, já foram adotadas neste caso.
A investigação não estabelece quantos menores realmente utilizaram esses aplicativos. Seu resultado documenta, porém, que as classificações etárias e os mecanismos de supervisão testados não impediram o acesso a determinadas ferramentas capazes de produzir imagens sexualizadas, mesmo quando os responsáveis aplicaram as restrições recomendadas pelas plataformas.
