La CAA exige bloquear páginas que generan desnudos con IA ya que su uso vulnera derechos de máxima protección. El Consejo Audiovisual de Andalucía (CAA) ha publicado un informe sobre ‘Aplicaciones web de deepnude con IA generativa’, donde se constata que con estas herramientas que facilitan la creación de imágenes de personas desnudas se vulneran derechos de máxima protección que justifican la actuación de los distintos poderes públicos para bloquear el acceso a estas páginas y exigir responsabilidades.
El estudio, consultado por Europa Press, se ha llevado a cabo entre el 12 y el 26 de febrero de 2024 y consiste en una búsqueda activa, mediante el motor de Google, de aplicaciones web específicamente de deepnude, o generación de imágenes virtuales de cuerpos desnudos a partir de una imagen de una persona vestida –en esta investigación siempre mujeres–, conservándose el rostro que aparece en la foto aportada por el usuario. Algunas de estas aplicaciones también permiten la realización de ‘deepfake’, esto es, la mezcla virtual de dos imágenes aportadas con el usuario, normalmente un rostro y un cuerpo distinto al que se quiere añadir el rostro.
La CAA exige bloquear páginas que generan desnudos con IA ya que su uso vulnera derechos de máxima protección
El objetivo del CAA con este informe es analizar los riesgos que conlleva el uso de la IA en el ámbito audiovisual, teniendo en cuenta los datos sobre el incremento del consumo de contenido audiovisual de carácter sexual por parte de los menores y la existencia de aplicaciones generadoras de material pornográfico falso e hiperrealista que circula por las redes y a los que acceden libremente.
El pasado mes de septiembre en la localidad extremeña de Almendralejo, más de 20 niñas y adolescentes, con edades comprendidas entre los 11 y los 17 años, denunciaron ser víctimas de una aplicación que genera desnudos utilizando inteligencia artificial. Las imágenes fueron creadas a partir de fotografías de ellas completamente vestidas y publicadas en sus redes sociales, utilizando una aplicación llamada ‘Clothoff’ que genera una visualización virtual de cómo se vería a esa persona desnuda. Una vez obtenidas esas imágenes de las menores sin ropa, se difundieron «de forma masiva» por redes sociales como Whatsapp y Telegram.
La posibilidad de acceder a webs con esa facilidad junto al efecto multiplicador de las redes sociales, han creado una alarma social y han puesto de manifiesto la necesidad de que los poderes públicos actúen desde las distintas esferas.
El análisis de las aplicaciones, sitios web o programas generadores de deepnudes alerta de que su uso concreto es principalmente ilegal, dado que en casi la totalidad de los casos las imágenes son utilizadas sin autorización o consentimiento de las personas desnudadas, con las consiguientes implicaciones legales que puede conllevar.
Ninguna de las webs que se han analizado en este estudio está alojada o registrada en territorio español. Toronto y Reikiavik son las ciudades que más se repiten en las búsquedas que se han realizado, pero también hay otras como Kuala Lumpur, Nassau, Arizona o Walnut. Un dato a tener en cuenta es que todas las aplicaciones web analizadas están escritas en inglés, aunque la mitad de ellas, al detectar la localización del usuario, son traducidas automáticamente al español.
SIN VERIFICACIÓN DE EDAD
El informe concluye que ninguna de las páginas webs analizadas cuenta con un sistema fiable de verificación de la mayoría de edad de los usuarios. De hecho, en 13 de las 18 webs analizadas no hay ni siquiera advertencia sobre la edad de uso. Las cinco restantes muestran una advertencia y el usuario, debe con una simple pulsación del ratón, declarar que es mayor de edad.
Por otra parte, se han encontrado algunas aplicaciones que pueden ser utilizadas directamente de forma gratuita sin necesidad de identificarse. En otras ocasiones, para hacer uso de la aplicación es necesario inscribirse o darse de alta proporcionando un correo electrónico. En ambos casos el número de imágenes que pueden generarse de forma gratuita está limitado, e incluso en algún caso no genera desnudos gratuitos (como ocurre en undress.love o deepnude.cc) sino que genera imágenes con lencería o bikini o desenfocadas.
En otro caso se han identificado aplicaciones que disponen de un servicio que utiliza IA para crear imágenes pornográficas desde cero en diferentes estilos. Estas imágenes se generan señalando una serie de parámetros predeterminados o bien haciendo una descripción, utilizando lenguaje natural. En otras webs se utiliza esta misma tecnología para aplicarla a un servicio de sexting generado por IA. Además de lo anterior, el informe constata que todas las aplicaciones analizadas están diseñadas y se publicitan para la producción de desnudos virtuales casi exclusivamente femeninos, lo que vulnera el derecho fundamental de la igualdad de género.
