Una investigación internacional acusa a las grandes tecnológicas de permitir la circulación masiva de aplicaciones que vulneran la privacidad, facilitan la explotación digital y exponen incluso a menores, pese a que sus propias políticas lo prohíben.
Las tiendas de aplicaciones Play Store de Google y App Store de Apple continúan ofreciendo decenas de aplicaciones que permiten generar desnudos mediante inteligencia artificial, a pesar de que este tipo de contenidos está explícitamente prohibido en sus normas internas. Así lo revela una investigación del Tech Transparency Project (TTP), que vuelve a poner en el centro del debate la responsabilidad de las grandes plataformas tecnológicas en la protección de los derechos digitales.
Según el informe, se identificaron 55 aplicaciones en la Play Store y 47 en la App Store capaces de “desnudar” personas utilizando IA, ya sea generando imágenes desde cero o creando deepfakes al superponer rostros reales sobre cuerpos ajenos. Para encontrarlas, los investigadores solo debieron escribir términos como “nudify” o “undress” en los buscadores oficiales de ambas tiendas.
Negocio millonario pese a la prohibición
El reporte advierte que estas aplicaciones no son marginales. En conjunto, habrían alcanzado 705 millones de descargas y generado 117 millones de dólares en ingresos, de acuerdo con datos de AppMagic citados por TTP. Esto, pese a que tanto Google como Apple aseguran públicamente que no permiten aplicaciones con contenido sexual, desnudos sin consentimiento o material explícito.
Para la organización, el problema va más allá de una falla técnica en la moderación: las plataformas terminan beneficiándose económicamente de aplicaciones que vulneran la dignidad, la privacidad y la seguridad de las personas, contradiciendo sus propios discursos sobre protección de usuarios.
Riesgos para menores y ausencia de controles efectivos
Uno de los casos más graves detectados fue el de DreamFace, una aplicación con más de 10 millones de descargas, que permitía generar videos sexualizados sin filtros efectivos. TTP probó la versión gratuita subiendo la imagen de una mujer en un café y solicitando que el sistema generara un video donde se quitaba la ropa. La aplicación lo hizo sin restricciones, pese a que sus términos de uso prohíben contenido sexual.
Más preocupante aún, DreamFace estaba disponible para mayores de 13 años en Google Play y para mayores de 9 años en la App Store, lo que abría la puerta a que niños y adolescentes pudieran crear o consumir este tipo de contenidos sin impedimentos reales.
Derechos digitales bajo amenaza
Desde una perspectiva de derechos digitales, el informe alerta sobre el uso de la IA para generar imágenes sin consentimiento, una práctica que puede derivar en acoso, violencia digital, daño reputacional y explotación, especialmente contra mujeres y menores. La facilidad de acceso y la masividad de estas apps evidencian una falta de control estructural por parte de las grandes tecnológicas.
Tras la publicación del reporte, Apple eliminó 28 aplicaciones, mientras que Google suspendió al menos 31, según confirmó el propio TTP. Sin embargo, la organización sostiene que estas acciones llegan tarde y solo después de la exposición pública, lo que refuerza la necesidad de mayor regulación, fiscalización independiente y responsabilidad corporativa.
El caso se suma a la creciente presión internacional sobre las plataformas digitales, en un contexto donde la expansión de la inteligencia artificial avanza más rápido que los marcos legales destinados a proteger la privacidad, el consentimiento y los derechos fundamentales en el entorno digital.