Investigación a Plataformas por Contenidos Inapropiados
La Fiscalía de España iniciará una investigación formal contra X (anteriormente Twitter), Meta y TikTok por la posible creación y distribución de pornografía infantil mediante el uso de inteligencia artificial (IA). Esta acción es parte de un conjunto de medidas impulsadas por el gobierno de Pedro Sánchez, con el objetivo de fortalecer la seguridad en el entorno digital y mitigar los efectos nocivos que estas plataformas pueden tener, especialmente en la población juvenil.
Compromiso del Gobierno Español
El presidente Sánchez, a través de sus redes sociales, destacó que estas plataformas están poniendo en riesgo la salud mental, la dignidad y los derechos de los niños. Subrayó que «el Estado no puede permitir esta impunidad» y que es imperativo poner fin a la falta de responsabilidad de las grandes empresas tecnológicas. La solicitud a la Fiscalía se fundamenta en el Artículo 8 del Estatuto Orgánico del Ministerio Fiscal, que permite al Gobierno solicitar acciones judiciales en defensa del interés público.
Preocupación por la Seguridad de los Menores
Elma Saiz, ministra de Inclusión, Seguridad Social y Migraciones, enfatizó el compromiso del gobierno con la protección de los menores en el ámbito digital. Ella mencionó que en un corto período se han identificado más de 3 millones de imágenes de desnudos generadas por IA en X, muchas de ellas involucrando a menores. Saiz afirmó que no se puede permitir que estos contenidos sean amplificados por algoritmos, ya que se compromete la seguridad y la intimidad de los jóvenes.
Responsabilidad de las Plataformas
El documento enviado a la Fiscalía también señala que la responsabilidad penal no recaerá únicamente en los usuarios que generan estos contenidos, sino que las plataformas podrían ser consideradas responsables debido a su control sobre los contenidos y las herramientas de IA que ofrecen. Se busca establecer criterios claros y mecanismos que permitan a tutores legales defender los derechos de niños y adolescentes en el entorno digital.
Desafíos de la Tecnología Deepfake
La proliferación de tecnologías deepfake para crear contenidos inapropiados se ha vuelto más accesible y peligrosa, afectando a millones de personas. Recientemente, el Gobierno español informó que en el último año se han detectado casi 900,000 contenidos de odio en redes sociales, y se estima que uno de cada cinco menores ha sido víctima o testigo de violencia digital.
Medidas Propuestas por el Gobierno
En respuesta a esta problemática, el presidente Sánchez ha presentado un plan que incluye cinco acciones clave. Entre estas se encuentran la prohibición de acceso a plataformas sociales para menores de 16 años, la criminalización de la manipulación algorítmica y la amplificación de contenidos ilegales, así como la asignación de responsabilidad legal a ejecutivos de empresas tecnológicas por infracciones en sus servicios.
Reacciones del Sector Tecnológico
Las medidas anunciadas han generado reacciones mixtas en el sector tecnológico. Elon Musk, CEO de X, criticó abiertamente al presidente Sánchez, etiquetándolo de «tirano», mientras que Pavel Durov, cofundador de Telegram, advirtió que estas acciones podrían convertir a España en un «Estado de vigilancia» bajo el pretexto de protección. A pesar de las críticas, Sánchez reafirmó su compromiso de proteger a la ciudadanía, especialmente a los jóvenes, ante lo que describió como un «universo tóxico e impune» en las redes sociales.
