La sustitución de los buscadores por chatbots
Los chatbots están emergiendo como una alternativa prominente a los buscadores en línea tradicionales, convirtiéndose en una de las principales maneras de acceder a la información. Sin embargo, un estudio reciente sugiere que esta tendencia podría dar lugar a un “colapso del conocimiento”, ya que los sistemas de inteligencia artificial (IA) tienden a basar sus respuestas en un conjunto más restringido de fuentes y perspectivas.
Investigación sobre la diversidad epistémica
Este estudio fue llevado a cabo por científicos del Departamento de Informática de la Universidad de Copenhague, quienes se centraron en analizar diversos modelos de lenguaje (LLM) para evaluar su diversidad epistémica, es decir, la variedad de afirmaciones sobre la realidad que ofrecen en sus respuestas. Los investigadores examinaron las respuestas generadas en relación con 155 temas sobre 12 países, utilizando 27 LLM desarrollados por empresas como OpenAI, Meta, Google y Alibaba.
Metodología y resultados del estudio
Los algoritmos fueron interrogados sobre una amplia gama de asuntos, que abarcaban desde temas serios como el genocidio y las armas nucleares, hasta cuestiones culturales específicas de cada nación, como la guerra de las Malvinas y el auge del k-pop. Para cada tema, se formularon aproximadamente 200 preguntas basadas en consultas reales de usuarios, resultando en un total de cerca de 1.7 millones de respuestas generadas por IA y alrededor de 70 millones de afirmaciones individuales por cada modelo analizado.
Al comparar la diversidad epistémica de las respuestas de los LLM con la de los resultados del motor de búsqueda de Google, se observó que todos los modelos de IA generaron respuestas menos variadas. Por ejemplo, GPT-5 de OpenAI mostró una disminución del 18.7% en la diversidad de sus respuestas en comparación con Google. A pesar de esta notable diferencia, GPT-5, que sustenta el funcionamiento de ChatGPT, fue el modelo que mostró mayor diversidad de referencias entre los analizados.
Implicaciones de la homogeneización del conocimiento
Según Dustin Wright, exinvestigador postdoctoral en DIKU y principal autor del estudio, estos hallazgos indican que “las personas están expuestas en gran medida a la misma información repetidamente. Los chatbots de IA no solo transforman la manera en que accedemos al conocimiento, sino también el tipo de conocimiento al que tenemos acceso”.
El estudio, que está disponible en arXiv, advierte sobre el riesgo de que el uso creciente de chatbots como principal fuente de información pueda, a largo plazo, llevar a un “colapso del conocimiento”. Isabelle Augenstein, profesora en la Universidad de Copenhague y autora principal de la investigación, compara este fenómeno con algunos efectos de la globalización: si bien la estandarización puede facilitar el acceso a ciertos productos y servicios, también puede disminuir la variedad disponible.
Riesgos de una menor diversidad informativa
Augenstein enfatiza que existe el peligro de que las personas sean expuestas a menos perspectivas y a un espectro de conocimientos más limitado. Esto podría generar un ciclo vicioso en el que el contenido más popular se vuelva aún más predominante, mientras que otras informaciones queden progresivamente relegadas.
El papel de los procesos de entrenamiento de la IA
La investigadora subrayó que, aunque la posible reducción de la diversidad informativa es un pronóstico preocupante, en este momento no se ha llegado a un colapso del conocimiento. “Observamos que los modelos más recientes ofrecen resultados ligeramente más diversos que los antiguos, lo que indica que aún no hemos alcanzado ese estado. Sin embargo, el mecanismo que podría llevarnos allí ya está presente, lo que es motivo de atención”, afirmó.
Para evitar este escenario, los investigadores sugieren que es fundamental abordar las posibles causas subyacentes del problema, que, según el estudio, están vinculadas a los procesos de entrenamiento y perfeccionamiento de la IA.
