Cómo Protegerse de la Exposición No Consentida en Grok
La proliferación de deepfakes sin el consentimiento de las personas afectadas, como ocurre con la plataforma Grok, se ha convertido en un delito en numerosas jurisdicciones alrededor del mundo. Sin embargo, la responsabilidad de prevenir tales infracciones recae en gran medida en los propios usuarios de estas tecnologías.
El Uso Indebido de Grok
Recientemente, numerosos usuarios de X (anteriormente Twitter) han hecho uso de Grok, el chatbot de inteligencia artificial desarrollado por xAI, para crear versiones sexualizadas de imágenes de mujeres y niños sin su consentimiento. Esta práctica ha sido denunciada por diversas entidades de protección de la privacidad y organizaciones civiles, y persiste a pesar de las advertencias de la plataforma sobre la posibilidad de suspender cuentas que participen en tales actividades.
El uso inapropiado de Grok ha sido ampliamente cubierto por la prensa, con reportes que indican que usuarios solicitan al asistente de IA modificar imágenes de figuras públicas y no públicas para presentarlas en bikinis o con ropa provocativa. Se han observado peticiones explícitas, como «ponla en bikini» o «quítale la ropa», llegando incluso a alterar fotografías de menores, lo que ha generado una alarma global.
Reacciones Internacionales y Legales
La situación ha provocado una fuerte indignación internacional. Francia fue pionera en su respuesta, presentando una denuncia formal contra Grok por facilitar la creación y difusión de contenidos sexistas y sexuales. Las autoridades francesas han solicitado a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que evalúe si X ha incumplido con las regulaciones del Reglamento de Servicios Digitales de la Unión Europea, especialmente en cuanto a la prevención de contenidos ilícitos.
Elon Musk, inicialmente percibido como alguien que minimizaba el problema, posteriormente advirtió que «cualquiera que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera dicho contenido directamente a la plataforma». Esta declaración buscó distanciarse de las acusaciones y reafirmar la postura oficial de la empresa.
Un portavoz de X respaldó esta afirmación, señalando que la compañía toma medidas contra el contenido ilegal, incluida la eliminación de material relacionado con el abuso sexual infantil, la suspensión permanente de cuentas involucradas y la colaboración con autoridades cuando sea necesario.
Fallos y Compromisos de la Plataforma
La red social ha reconocido que la situación se debe a «deficiencias en las salvaguardas» implementadas en Grok. Ante la presión pública y gubernamental, la empresa se comprometió a corregir estos problemas de inmediato, restringiendo ciertas funciones relacionadas con la generación de imágenes.
Recientemente, la Office of Communications (Ofcom) del Reino Unido se puso en contacto con X y xAI solicitando información sobre las medidas adoptadas. Este organismo ha anunciado que seguirá de cerca la respuesta de las empresas para determinar si es necesario abrir una investigación formal, a fin de garantizar la protección de los usuarios.
Simultáneamente, la organización francesa sin fines de lucro AI Forensics realizó un análisis exhaustivo del fenómeno, examinando cerca de 50,000 menciones de @Grok y 20,000 imágenes generadas entre el 25 de diciembre y el 1 de enero. El estudio reveló que alrededor de una cuarta parte de las solicitudes incluían términos relacionados con la sexualización de las imágenes, con más de la mitad de los resultados mostrando a personas en ropa interior o trajes de baño.
La Lucha Contra los Deepfakes
La creación y distribución de deepfakes sin consentimiento se considera un delito en múltiples países. En México, por ejemplo, se reformaron el Código Penal y la Ley de Acceso de las Mujeres a una Vida Libre de Violencia para tipificar como delito la difusión de imágenes sexuales sin autorización, estableciendo sanciones de entre tres y seis años de prisión. Esta legislación, conocida como Ley Olimpia, fue aprobada a nivel nacional en 2021.
Además, más de cuatrocientas personalidades del ámbito tecnológico y legal han solicitado a los gobiernos adoptar medidas urgentes contra los deepfakes en un documento titulado «Disrupting the Deepfake Supply Chain». Este texto destaca que los contenidos generados por inteligencia artificial representan una amenaza creciente y demanda que se impongan obligaciones claras a lo largo de la cadena de suministro tecnológico.
Recomendaciones para Usuarios de Grok
A medida que la regulación del uso de la inteligencia artificial se convierte en un tema crucial en la agenda pública internacional, es esencial que los usuarios tomen medidas para proteger su privacidad. Aunque la responsabilidad de prevenir el uso indebido de contenidos personales recae en los usuarios, Grok ofrece opciones para restringir el uso de datos personales por parte de la inteligencia artificial.
Para activar estas opciones, los usuarios deben acceder a su perfil, seleccionar «Más opciones» en la barra lateral, ingresar a «Privacidad y Seguridad» y, finalmente, elegir «Grok y colaboradores externos». Desde allí, es posible deshabilitar la función que permite a la IA utilizar datos públicos y otros resultados generados con Grok y xAI para su entrenamiento.
