Facilitando la detección de contenido generado por IA
La identificación de contenido multimedia creado o editado mediante inteligencia artificial (IA) se vuelve más accesible para todos. Google ha lanzado SynthID Detector, una nueva plataforma que permite a cualquier usuario, sin importar su ubicación, detectar si una imagen, un audio o un vídeo ha sido generado o manipulado por un algoritmo.
En el año 2023, la compañía presentó SynthID, un sistema que utiliza marcas de agua imperceptibles al ojo humano para etiquetar audios, imágenes y vídeos generados mediante IA. Pushmeet Kohli, vicepresidente de Ciencia e Iniciativas Estratégicas de Google DeepMind, ha revelado que más de 180,000 millones de imágenes y vídeos, así como el equivalente a 240,000 años de contenido de audio, han sido marcados con esta tecnología hasta la fecha.
A pesar de estas cifras impresionantes, aquellos interesados en detectar contenidos creados o alterados de forma sintética requerían software especializado para leer el marcaje de SynthID. Para solucionar esta necesidad, Google lanzó el año pasado una versión preliminar de SynthID Detector, aunque su acceso estaba limitado a ciertos medios de comunicación, una restricción que recientemente ha sido levantada.
Nuevas capacidades en la detección de textos generados por IA
Anthropic ha introducido una marca invisible en los textos procesados por Claude, su modelo de IA, con el fin de identificar el uso de inteligencia artificial. Sin embargo, esta marca puede perderse tras ediciones, paráfrasis o traducciones, lo que representa un desafío adicional para la detección de contenido.
Con el reciente anuncio de Google, cualquier persona puede acceder a la herramienta de detección a partir de hoy. Kohli ha subrayado que esta apertura refleja el compromiso de la empresa de proporcionar más información y herramientas que ayuden a los usuarios a desarrollar un criterio más informado sobre el contenido que consumen en línea. “A medida que las herramientas de IA evolucionan y se hacen más accesibles, contar con un contexto claro sobre el contenido que encuentras en internet te permite tomar decisiones más informadas sobre en qué confiar. Con el nuevo SynthID Detector, cualquiera puede verificar fácilmente si una imagen, un vídeo o un archivo de audio ha sido creado por inteligencia artificial”, ha afirmado.
Funcionamiento del SynthID Detector
La herramienta está disponible en un sitio web dedicado, donde los usuarios deben iniciar sesión utilizando sus credenciales de Google, ChatGPT o Apple. Tras aceptar los términos y condiciones, así como los permisos necesarios, solo es necesario ingresar el contenido que se desea analizar. El sistema trabaja de manera rápida y sencilla, proporcionando un resultado en cuestión de segundos.
El equipo de Google ha indicado que si la herramienta identifica una marca de agua, es “probable que el material haya sido editado o generado por un modelo de IA compatible con SynthID”. Esta funcionalidad promete ser un recurso valioso para aquellos que buscan discernir la autenticidad de los contenidos que consumen.
