TikTok y su Enfoque en la Inteligencia Artificial para Combatir Deepfakes y Contenidos Falsos
TikTok, una de las plataformas sociales más influyentes del mundo, ha presentado sus innovadoras estrategias para enfrentar los desafíos de la era digital, en especial en lo que respecta a la moderación de contenido y la detección de material generado por inteligencia artificial (IA). Durante el Foro Europeo de Confianza y Seguridad 2025, la red social reveló que su tecnología de IA es capaz de eliminar automáticamente un 80% del contenido que infringe sus políticas.
Control de Cuentas y Protección de Menores
Las políticas de TikTok establecen que solo los usuarios mayores de 13 años pueden registrarse en la plataforma. Para los grupos de edad más jóvenes, existen restricciones que limitan el acceso a contenidos potencialmente perjudiciales. En ausencia de un sistema de verificación de edad objetivo, TikTok utiliza algoritmos de IA que analizan fotos de perfil y publicaciones de cumpleaños para estimar la edad de los usuarios. Gracias a estos métodos, se han eliminado aproximadamente 6 millones de cuentas mensuales de usuarios menores de 13 años.
El problema de las cuentas de spam también ha sido abordado, con más de mil millones de cuentas eliminadas en 2024. Sin embargo, el verdadero desafío radica en la proliferación de contenido peligroso, especialmente aquel relacionado con la violencia y el extremismo. Judy Korn, de la Violence Prevention Network, señala que ha surgido un tipo de extremismo que carece de una ideología definida, lo que dificulta su rastreo.
La Sinergia entre Moderación Humana y Automatización
La estrategia de TikTok combina la automatización proporcionada por la IA con la supervisión humana, un enfoque que se ha vuelto común en el sector tecnológico. La plataforma sostiene que la implementación de herramientas de IA no solo mejora la eficiencia de la moderación, sino que también contribuye al bienestar de los moderadores, quienes a menudo se enfrentan a contenido violento. TikTok ha informado que esta tecnología ha reducido en un 76% la exposición de los moderadores a material que infringe las normas comunitarias y ha disminuido en un 34% los errores en la moderación.
Sin embargo, la mejora en la eficiencia a veces conlleva recortes de personal, un tema que ha generado preocupación entre los trabajadores del sector.
Desafíos de los Contenidos Generados por IA
Aunque la IA generativa se considera una herramienta crucial para la moderación, también plantea riesgos significativos en términos de desinformación. TikTok se ha comprometido a implementar una estrategia de transparencia, donde el contenido generado por IA debe ser claramente etiquetado. Los creadores de contenido deben utilizar la etiqueta «Incluir contenido generado por IA» para facilitar a los usuarios la evaluación de la credibilidad del material consumido.
Además, la plataforma ha desarrollado un sistema de marca de agua que asegura que la procedencia del contenido sea clara, incluso si se edita. Sin embargo, la correcta etiquetación de los contenidos generados fuera de la plataforma puede ser un desafío, para lo cual se están explorando sistemas como Content Credentials, que ayudan a identificar el origen artificial de los contenidos.
La Eficacia de las Etiquetas y el Futuro de la Moderación
A pesar de los esfuerzos, existe el riesgo de que las etiquetas de contenido generado por IA se vuelvan ineficaces con el tiempo, especialmente si los usuarios se familiarizan demasiado con ellas y comienzan a ignorarlas. Este fenómeno ya se ha observado en otros ámbitos, como en las advertencias de los anuncios de medicamentos. TikTok sigue trabajando para hacer frente a estos desafíos, buscando un equilibrio entre la innovación tecnológica y la protección de los usuarios en su plataforma.
