Valencia se posiciona como líder en la evaluación de la inteligencia artificial segura
Valencia se ha erigido como un referente mundial en la evaluación de la inteligencia artificial (IA) segura, al albergar la primera edición del programa internacional «International Programme on AI Evaluation: Capabilities & Safety». Esta iniciativa, promovida por la Fundación ValgrAI, ha formado a un grupo inaugural de especialistas en la valoración de riesgos asociados a la IA, un aspecto fundamental para el futuro del Reglamento Europeo de IA.
Un programa pionero y global
Durante cuatro meses, el programa ha reunido a 40 profesionales seleccionados de entre 673 candidaturas de 25 países, consolidando a la Comunitat Valenciana como un centro internacional destacado en investigación y gobernanza de la IA. A diferencia de otros programas que se centran en el desarrollo de modelos de IA, este enfoque prioriza la seguridad y la fiabilidad de dichos sistemas antes de su implementación en la sociedad.
Los participantes han recibido una formación exhaustiva en áreas como la evaluación de modelos, interpretabilidad, gobernanza, ataques simulados (red teaming), y los riesgos asociados a la inteligencia artificial avanzada, así como la aplicación del futuro Reglamento Europeo de IA. El objetivo es preparar a una nueva generación de profesionales capacitados para analizar el comportamiento de estas tecnologías, identificar fallos potenciales y certificar que cumplen con los estándares de seguridad exigidos por la normativa.
Expertos de renombre en la dirección académica
El programa ha contado con la dirección académica de José Hernández-Orallo, catedrático de la Universitat Politècnica de València e investigador en el Leverhulme Centre for the Future of Intelligence de la Universidad de Cambridge, considerado uno de los expertos más destacados en evaluación de inteligencia artificial a nivel internacional. Su reciente incorporación al panel científico que asesora a la Comisión Europea sobre los riesgos de la IA avanzada subraya la importancia de Valencia en este ámbito.
Más de 45 profesores e investigadores de instituciones de prestigio como Google DeepMind, Microsoft Research, la Universidad de Cambridge, la Oficina Europea de IA y el AI Security Institute del Reino Unido han colaborado en el programa, aportando su experiencia y conocimientos.
Desafíos contemporáneos y futuro profesional
La diversidad internacional ha sido una característica clave del programa, con participantes de países como China, India, Estados Unidos, Reino Unido, Nigeria, México, Australia, Camerún, Filipinas, Ucrania y España. En la fase final del programa, celebrada en Valencia, los equipos presentaron proyectos que abordaban desafíos significativos en el campo de la inteligencia artificial, tales como la desinformación generada por IA, la autonomía de los usuarios, la seguridad frente a amenazas biológicas o cibernéticas y los mecanismos de persuasión de los modelos de lenguaje.
Desde ValgrAI se considera que la evaluación de la inteligencia artificial será una de las profesiones más demandadas en la próxima década, especialmente con la implementación del Reglamento Europeo de IA, que exigirá evaluaciones rigurosas para los sistemas considerados de alto riesgo. La fundación ya está trabajando en una segunda edición del programa con el fin de consolidar a Valencia como un referente internacional en la formación de especialistas que garanticen un desarrollo ético, seguro y responsable de la inteligencia artificial.
