Reddit Actúa Contra Tutoriales de Generación de Imágenes Explícitas
Recientemente, Reddit ha tomado medidas para eliminar tutoriales que instruían a los usuarios sobre cómo generar imágenes explícitas utilizando tecnologías de inteligencia artificial como Gemini y ChatGPT. Estas herramientas han sido utilizadas para crear deepfakes de mujeres, transformando fotografías de personas vestidas en imágenes que las muestran en bikini, a menudo sin su consentimiento.
Generación de Imágenes Sin Consentimiento
En un hilo de Reddit titulado «Gemini NSFW image generation is so easy», los usuarios compartían consejos sobre cómo manipular el modelo de IA de Google para crear imágenes de mujeres con atuendos reveladores. Aunque muchas de las imágenes eran generadas completamente por IA, una solicitud específica destacó entre las demás: un usuario pidió que se le «quitara» la ropa a una mujer vestida con un sari indio y se le «colocara» un bikini. Otro participante del hilo cumplió con esta solicitud generando un deepfake. Tras ser alertado sobre el contenido, Reddit eliminó tanto la solicitud como el deepfake asociado.
Políticas de Reddit y la Prohibición de Contenidos No Consentidos
Un representante de Reddit confirmó que las normas de la plataforma prohíben de manera explícita la creación y distribución de contenidos íntimos no consentidos. El subreddit donde se compartieron estas discusiones, r/ChatGPTJailbreak, contaba con más de 200,000 seguidores antes de ser cerrado bajo la política de la plataforma que prohíbe actividades que puedan perjudicarla.
A medida que las herramientas de IA generativa se vuelven más accesibles, algunos usuarios continúan acosando a mujeres mediante la creación de deepfakes no autorizados. Se ha informado que millones de personas visitan sitios web que permiten a los usuarios subir fotos reales y solicitar que estas sean alteradas para mostrar desnudez generada por IA.
Desafíos en el Control de Contenidos Generados por IA
A pesar de que la mayoría de los chatbots convencionales, como Gemini y ChatGPT, implementan medidas de seguridad para evitar la generación de contenido NSFW, la reciente introducción de nuevos modelos de IA, como el Nano Banana Pro de Google y el ChatGPT Images de OpenAI, ha aumentado la realismo de las imágenes generadas, lo que puede facilitar eludir estas restricciones.
En un hilo relacionado en Reddit, un usuario solicitó consejos sobre cómo eludir las barreras de seguridad al modificar la ropa en imágenes para que parezcan más ajustadas. Investigaciones limitadas han demostrado que, utilizando instrucciones simples, es posible generar deepfakes en Gemini y ChatGPT que transforman imágenes de mujeres vestidas en representaciones con bikini.
Impacto Económico de los Sitios de «Desnudez» Generados por IA
Los sitios que ofrecen el servicio de «nudificación» mediante IA están generando ingresos significativos, alcanzando hasta 36 millones de dólares anuales. A pesar de este crecimiento, las grandes empresas tecnológicas no han tomado medidas contundentes para frenar esta práctica. Un portavoz de Google destacó que la compañía tiene políticas estrictas contra el uso de sus herramientas para crear contenido sexual explícito, y que están en constante actualización para alinearse con estas normas.
Del mismo modo, OpenAI ha tomado medidas para restringir el uso de ChatGPT en la creación de deepfakes. Un portavoz de la empresa mencionó que, aunque algunas restricciones se han flexibilizado, se prohíbe alterar imágenes de personas sin su consentimiento y se toman acciones contra usuarios que generan contenido explícito, incluyendo la suspensión de cuentas.
La Necesidad de Responsabilidad en el Uso de la IA
Los debates sobre la generación de imágenes NSFW continúan activos, con usuarios de diferentes subreddits compartiendo instrucciones sobre cómo alterar fotografías. La directora jurídica de la Electronic Frontier Foundation, Corynne McSherry, ha subrayado que las «imágenes sexualizadas de forma abusiva» representan uno de los mayores riesgos asociados con la IA generativa. McSherry enfatiza la importancia de responsabilizar tanto a los individuos como a las empresas por el potencial daño que estas tecnologías pueden causar.
Este tema resalta la necesidad de un enfoque más riguroso en la regulación y el uso ético de las herramientas de inteligencia artificial, así como la protección de los derechos de las personas frente a la manipulación digital.
