Las perspectivas sobre los agentes de IA y sus limitaciones
Las promesas de las grandes empresas de inteligencia artificial (IA) sobre un futuro donde los agentes de IA asuman el control de nuestras vidas se han desvanecido en medio de la incertidumbre. En lugar de ver un avance significativo en 2025, se ha pospuesto la expectativa de una transformación real hacia 2026 o incluso más adelante. Esto ha llevado a cuestionar si alguna vez alcanzaremos un estado en el que estos sistemas automatizados manejen nuestras tareas y decisiones cotidianas.
Un estudio reciente ha arrojado luces sobre las limitaciones inherentes a los modelos de lenguaje, sugiriendo que estos agentes de IA podrían estar matemáticamente condenados al fracaso. En el documento titulado “Estaciones de alucinación: sobre algunas limitaciones básicas de los modelos de lenguaje basados en transformadores”, se argumenta que los modelos de lenguaje, como los LLM, no pueden llevar a cabo tareas complejas más allá de un cierto umbral. Este análisis, realizado por un exdirector de tecnología de SAP junto a su hijo prodigio, desafía la visión optimista sobre la IA agéntica.
La realidad de la fiabilidad en los agentes de IA
Vishal Sikka, ex CEO de Infosys y actual líder de una startup de IA llamada Vianai, comparte su perspectiva sobre la fiabilidad de estos agentes. Según él, es poco probable que los sistemas de IA sean lo suficientemente confiables para tareas críticas, como la gestión de centrales nucleares. Aunque pueden ser útiles para tareas simples, Sikka advierte que es esencial reconocer sus limitaciones.
Sin embargo, el sector de la IA no comparte esta visión pesimista. Recientemente, en un evento en Davos, Demis Hassabis, director de IA de Google, destacó avances significativos en la reducción de errores en estos sistemas. Además, la startup Harmonic, cofundada por Vlad Tenev, ha anunciado avances en la codificación de IA que prometen mejorar la fiabilidad de los modelos de lenguaje mediante la aplicación de métodos de razonamiento matemático.
El potencial de la IA y sus desafíos
A pesar de las preocupaciones sobre las alucinaciones y errores en la IA, tanto expertos como empresas están convencidos de que existe un camino para mejorar la fiabilidad de estos sistemas. Harmonic, por ejemplo, está centrada en el desarrollo de una «superinteligencia matemática», utilizando la programación Lean para verificar los resultados generados por los LLM. Sin embargo, esta solución se limita a objetivos específicos, dejando de lado tareas que no pueden ser validadas matemáticamente.
Achim, un matemático detrás de Harmonic, sostiene que las alucinaciones son una característica inherente de los modelos de IA y pueden ser necesarias para impulsar la innovación. A medida que se desarrollan métodos para mitigar estos errores, existe una creciente creencia en que la IA puede coexistir con sus limitaciones.
Un futuro incierto pero inevitable
La conclusión es que, al igual que con la IA generativa, la IA agéntica presenta una dualidad de imposibilidad e inevitabilidad. Aunque puede que no haya un año específico que se destaque como «el año del agente», es evidente que la industria está comprometida en avanzar en este campo. A medida que se trabajen en las soluciones para las alucinaciones, es probable que los agentes de IA se conviertan en herramientas cada vez más efectivas y económicas.
Frente a este escenario, surge la pregunta de cómo afectará esta evolución a la calidad de nuestro trabajo y vida. Aunque el impacto final de la automatización masiva de nuestras capacidades cognitivas aún está por determinarse, es probable que su evaluación no se pueda medir simplemente a través de fórmulas matemáticas.
La era de la IA está en marcha, y aunque su implementación y fiabilidad sean objeto de debate, la necesidad de avanzar en este camino es innegable.
