Incluso con los controles parentales activados, cuentas configuradas para adolescentes de 13 años lograron acceder a 24 aplicaciones en la App Store y 51 en Google Play capaces de producir imágenes sexualizadas. El hallazgo forma parte de una investigación publicada este lunes (19) por Tech Transparency Project (TTP), que identificó fallos en la clasificación por edad y en la supervisión de aplicaciones distribuidas por las dos empresas.
En total, los investigadores encontraron 135 aplicaciones con esas capacidades accesibles en distintas configuraciones de prueba. Entre las herramientas había editores de fotografía convencionales, generadores de imágenes por inteligencia artificial y servicios capaces de crear desnudos explícitos a partir de personas vestidas.
La investigación utilizó cuatro cuentas ficticias de un niño de 13 años en Estados Unidos, dos en cada plataforma. En una cuenta de cada empresa, los investigadores activaron los controles parentales, limitaron la instalación a aplicaciones clasificadas como apropiadas para su edad y exigieron la autorización de un tutor para descargas y compras.
En las cuentas sin supervisión adicional, los resultados también fueron significativos: 61 aplicaciones accesibles en Apple y 47 en Google. Todas las pruebas de manipulación de imágenes se realizaron con fotografías sintéticas, sin utilizar imágenes de personas reales.
Cómo pasaron los controles las aplicaciones clasificadas para niños
Uno de los principales fallos identificados tiene que ver con la clasificación por edad. Apple y Google utilizan información proporcionada por los propios desarrolladores para determinar la idoneidad de las aplicaciones para distintas edades.
El informe encontró herramientas clasificadas para niños de 4 o 9 años que, durante las pruebas, lograron generar imágenes con desnudos. En otros casos, las funcionalidades sexualizadas solo estaban disponibles mediante suscripción.
En las pruebas supervisadas, los tutores ficticios aprobaron la instalación de las aplicaciones clasificadas como adecuadas para su edad. Esto significa que la investigación no demostró necesariamente una forma de eludir la exigencia de autorización para descargas. El problema también estaba en la clasificación de herramientas cuyas capacidades no resultaban evidentes para los tutores.
Los investigadores identificaron otro fallo: las compras de suscripciones realizadas con tarjetas de regalo no generaron notificaciones para las cuentas parentales vinculadas, incluso con la exigencia de autorización para pagos. Apple afirmó que ese comportamiento no corresponde al funcionamiento esperado de la función y que está investigando el problema.
El estudio también constató que la retirada de aplicaciones de las tiendas no impedía su uso en dispositivos donde ya estaban instaladas. Al 28 de septiembre, 25 aplicaciones habían sido retiradas de la App Store y seis de Google Play, pero seguían funcionando en los dispositivos utilizados por los investigadores.
Según estimaciones de AppMagic citadas por el TTP, las 135 aplicaciones identificadas acumulaban 5,5 mil millones de descargas y US$ 3,9 mil millones en ingresos globales. Esos totales abarcan las aplicaciones en su conjunto y no representan exclusivamente el uso ni la facturación de sus funcionalidades sexualizadas.
Apple cuestiona la clasificación y refuerza las reglas contra las imágenes íntimas
La definición utilizada por el TTP es más amplia que la adoptada por Apple. La investigación consideró aplicaciones capaces de producir desnudos totales o parciales, incluyendo imágenes en las que la ropa convencional se sustituía por bikinis o lencería.
Apple no considera que esa última capacidad, por sí sola, caracterice una aplicación de desnudización. Adam Dema, portavoz de la empresa, afirmó al Guardian que parte de los servicios citados son herramientas convencionales de edición de fotos y videos, con funcionalidades legítimas y ampliamente utilizadas.
El 16 de octubre, tres días antes de la publicación del informe, Apple anunció cambios en sus directrices. Las reglas refuerzan la obligación de impedir y eliminar imágenes íntimas no consentidas, incluidas las generadas por IA, y prohíben aplicaciones que ocultan funcionalidades durante la revisión para activarlas posteriormente.
Google también cuestionó la presencia de herramientas prohibidas en su tienda. Dan Jackson, portavoz de la empresa, declaró al Guardian que las infracciones identificadas se investigan y pueden dar lugar a la suspensión de aplicaciones y a la restricción de términos de búsqueda, medidas que, según él, ya se han adoptado en este caso.
La investigación no establece cuántos menores utilizaron realmente esas aplicaciones. Su resultado documenta, sin embargo, que las clasificaciones por edad y los mecanismos de supervisión probados no impidieron el acceso a determinadas herramientas capaces de producir imágenes sexualizadas, incluso cuando los tutores aplicaron las restricciones recomendadas por las plataformas.
