OpenAI Aumenta Drásticamente los Informes de Explotación Infantil en 2025
Durante el primer semestre de 2025, OpenAI reportó un incremento asombroso en el número de denuncias de explotación infantil, enviando 80 veces más informes al Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) en comparación con el mismo periodo del año anterior. Esta notable cifra se deriva de la necesidad de abordar el material de abuso sexual infantil (CSAM) y otras formas de explotación que son denunciadas a través de la CyberTipline, un canal autorizado por el gobierno para el intercambio de información sobre estos casos.
Obligaciones Legales y Procedimientos de Denuncia
Las empresas están legalmente obligadas a reportar cualquier indicio de explotación infantil a la CyberTipline. Una vez que se recibe una denuncia, el NCMEC la evalúa y la remite a la autoridad policial correspondiente para su investigación. Es importante señalar que el aumento en las denuncias puede no siempre reflejar un aumento real en este tipo de actividad delictiva, ya que puede estar relacionado con cambios en los métodos de moderación y criterios de denuncia de las plataformas.
Inversiones en Capacidades de Moderación
Gaby Raila, portavoz de OpenAI, mencionó que la empresa realizó inversiones significativas a finales de 2024 para mejorar su capacidad de gestión de informes, alineándose con el creciente número de usuarios. Este crecimiento también coincide con la introducción de nuevas funciones que permiten a los usuarios subir imágenes y un aumento en la popularidad de sus productos. En agosto de 2025, el vicepresidente de ChatGPT, Nick Turley, reveló que la aplicación contaba con cuatro veces más usuarios activos semanales en comparación con el año anterior.
Estadísticas de Denuncias y Contenido Relacionado
En la primera mitad de 2025, OpenAI presentó casi el mismo número de informes a la CyberTipline como el de contenidos denunciados: 75,027 informes frente a 74,559 contenidos. En contraste, durante el mismo periodo de 2024, solo se enviaron 947 informes para 3,252 contenidos, lo que destaca un aumento significativo en ambos aspectos.
El término “contenido” abarca diferentes elementos, incluyendo cargas y solicitudes de CSAM. OpenAI, que permite a los usuarios interactuar al subir archivos e interactuar con el modelo, reporta todos los incidentes de CSAM al NCMEC. Cabe mencionar que el reciente recuento del NCMEC no incluye informes relacionados con la nueva aplicación de generación de video Sora, lanzada en septiembre de 2025.
Un Aumento Preocupante en la Denuncia de Contenidos Relacionados con IA Generativa
El incremento en las denuncias sigue una tendencia observada en el NCMEC, que documentó un aumento del 1,325 % en informes relacionados con inteligencia artificial generativa entre 2023 y 2024. Aunque los datos de 2025 aún no han sido publicados, otros laboratorios de IA, como Google, han comenzado a reportar sus cifras, aunque sin especificar el porcentaje relacionado con IA.
Desafíos Legales y Nuevas Iniciativas de Seguridad
La situación de OpenAI ha sido objeto de atención, especialmente durante el verano, cuando 44 fiscales generales estatales enviaron una carta conjunta a varias empresas de IA, incluidos OpenAI y Meta, advirtiendo sobre la necesidad de proteger a los niños de posibles riesgos asociados con productos de inteligencia artificial. La empresa ha enfrentado demandas por parte de familias alegando que los chatbots contribuyeron a la muerte de sus hijos, lo que llevó al Comité Judicial del Senado de EE. UU. a realizar audiencias sobre los efectos negativos de estos sistemas.
En respuesta a estos desafíos, OpenAI ha implementado nuevas herramientas de seguridad. En septiembre, la empresa introdujo medidas de control parental para ChatGPT, permitiendo que los padres ajusten las configuraciones y supervisen las interacciones de sus hijos. Además, OpenAI se comprometió a notificar a los padres sobre señales de autolesión en los menores y a alertar a las autoridades en caso de amenazas inminentes.
Compromiso Continuo con la Seguridad Infantil
A finales de octubre, OpenAI llegó a un acuerdo con el Departamento de Justicia de California sobre su plan de recapitalización, comprometiéndose a seguir implementando medidas que mitiguen los riesgos para adolescentes en el contexto del desarrollo de IA. En noviembre, la empresa publicó su Plan de Seguridad para Adolescentes, que destaca sus esfuerzos constantes en la detección y reporte de material de abuso infantil al NCMEC.
La creciente preocupación por la seguridad infantil en el ámbito de la inteligencia artificial plantea desafíos importantes para las empresas del sector, que deben equilibrar la innovación con la protección de los más vulnerables.
