X prohíbe la creación de imágenes sexualizadas con Grok
La red social X, bajo la propiedad de Elon Musk, ha implementado nuevas restricciones para su asistente de inteligencia artificial, Grok, con el fin de evitar la generación de imágenes no consensuadas de personas en trajes de baño o ropa interior. Esta medida se aplica a todos los usuarios, incluidos aquellos con suscripciones premium.
La compañía ha afirmado su compromiso de mantener un entorno seguro, estableciendo una política de cero tolerancia hacia la explotación sexual infantil y la difusión de contenido sexual no consensuado.
Preocupaciones sobre el uso indebido de Grok
La generación y difusión de deepfakes sin consentimiento es un delito en muchos países. Sin embargo, la responsabilidad de prevenir estas infracciones recae en gran medida en los propios usuarios. Esta decisión llega tras denuncias de organizaciones civiles y autoridades de protección de datos, que alertaron sobre el uso indebido de Grok para crear versiones sexualizadas de imágenes de mujeres y menores sin su consentimiento.
Un análisis de AI Forensics reveló que de cerca de 50,000 menciones de Grok en X, aproximadamente una cuarta parte incluía solicitudes relacionadas con términos como «bikini» y «ropa». Además, más de la mitad de las imágenes generadas mostraban a personas en ropa interior o trajes de baño, lo que pone de manifiesto el potencial de los sistemas de IA para crear contenido sexualizado sin los debidos controles.
Investigaciones internacionales sobre Grok
La situación ha suscitado una fuerte reacción global. Francia fue la primera en presentar una denuncia formal contra Grok, argumentando que facilita la creación de contenido sexista y sexual. Las autoridades francesas han solicitado a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que evalúe si X ha incumplido las regulaciones europeas en torno a la difusión de contenido ilícito.
En el Reino Unido, Ofcom ha iniciado una investigación para determinar la eficacia de las medidas de seguridad de la plataforma, mientras que el fiscal general de California, Rob Bonta, ha anunciado una indagatoria sobre la proliferación de material sexualmente explícito no consensuado generado por Grok.
Medidas correctivas y críticas a la solución propuesta
Como respuesta inicial, X había limitado la función de generación de imágenes a usuarios de pago, con la intención de añadir una capa adicional de seguridad. No obstante, esta medida ha sido objeto de críticas por parte de expertos y organizaciones civiles, quienes consideran que no aborda el problema de manera efectiva. Emma Pickering, responsable de una organización benéfica contra el abuso doméstico, ha señalado que esta acción no es más que una monetización del abuso, donde el daño se oculta tras un muro de pago.
Ante la creciente presión, X ha ampliado la prohibición de generar imágenes sexualizadas a todos los usuarios, reafirmando su compromiso de eliminar contenido infractor de alta prioridad y de tomar medidas contra las cuentas que violen sus políticas.
Desafíos y el futuro de la inteligencia artificial
La rápida evolución de la inteligencia artificial presenta retos significativos para toda la industria. X ha expresado su intención de colaborar con usuarios, socios y organismos gubernamentales para abordar estos problemas de manera proactiva. A pesar de las críticas, Elon Musk defiende a Grok como un «antídoto» frente a las restricciones que, según él, imponen otras herramientas similares. El debate sobre los límites de la libertad de expresión en el contexto de la IA continúa siendo un tema candente.
