La inminente explosión de inteligencia artificial
La humanidad podría estar al borde de experimentar una «explosión de inteligencia», impulsada por los sistemas de inteligencia artificial (IA) más avanzados. Este fenómeno tiene el potencial de convertirse en uno de los hitos más significativos en la historia, pero, si no se gestiona adecuadamente, podría dar lugar a una crisis de gobernanza que afecte no solo al ámbito tecnológico, sino que también amenace las democracias y los sectores económicos y empresariales.
Este planteamiento se establece en el ensayo titulado «¿Qué pasaría si la automatización de la I+D en IA desencadenara una explosión de inteligencia?», elaborado por más de 20 expertos en la materia, entre ellos Jack Clark, cofundador de Anthropic; Jakub Pachocki, científico jefe de OpenAI; y los renombrados científicos Geoffrey Hinton y Yoshua Bengio, reconocidos como pioneros de la IA moderna.
Desafíos en el debate sobre IA
Investigadores destacados en el ámbito de la IA en España han manifestado su preocupación por la distorsión del debate que rodea a esta tecnología, demandando acciones legales contra las empresas responsables por los efectos adversos de sus modelos. Los autores del ensayo expresan una inquietud creciente que ha resonado en los medios recientemente: «Nos preocupa centralmente la posibilidad de una explosión de inteligencia, que implicaría una aceleración drástica del progreso de la IA impulsada por la propia IA, comprimiendo avances que normalmente llevarían años en meses o incluso en menos tiempo. Esta aceleración representaría un cambio cualitativo en comparación con el progreso constante que hemos observado en los últimos años».
La noción de que las máquinas puedan desarrollar la capacidad de crear versiones más potentes de sí mismas, mientras la intervención humana se desvanece con cada generación, no es nueva. Sin embargo, los expertos aseguran que el fenómeno actual presenta características únicas. A diferencia de épocas anteriores, no se requieren grandes infraestructuras físicas. En la actualidad, los desarrolladores se enfocan en automatizar la investigación y el desarrollo de la IA mediante software diseñado para procesar datos, algoritmos y código, un proceso conocido como «automejora recursiva».
Implicaciones de la aceleración en la IA
Este fenómeno, al que se refieren como «explosión de inteligencia», tiene el potencial de superar exponencialmente las capacidades humanas y aumentar considerablemente los riesgos asociados con la IA avanzada en al menos tres aspectos relevantes.
En primer lugar, los sistemas más potentes podrían facilitar la creación de amenazas biológicas y cibernéticas que se desarrollarían a un ritmo más acelerado que las medidas necesarias para contrarrestarlas. En segundo lugar, la reducción de la intervención humana en las tareas de investigación y desarrollo de la IA podría limitar las posibilidades de supervisar y controlar estos sistemas de manera efectiva. Por último, los Estados podrían aprovechar esta «explosión de inteligencia» como una ventaja decisiva para gestionar de forma unilateral los mercados, las economías y los acuerdos internacionales de acuerdo con sus propios intereses.
La necesidad de regulación y control
Los expertos advierten que una explosión de inteligencia artificial podría ser el desarrollo tecnológico más impactante en la historia de la humanidad, comprimiendo años de progreso en meses o menos, lo que pondría en riesgo el control humano sobre los sistemas de IA y erosionaría gravemente los controles de poder entre los Estados, las empresas y las distintas ramas del gobierno. En este sentido, es imperativo que las autoridades internacionales y los gobiernos actúen con celeridad para regular el desarrollo de la IA, ya que «una vez que se produzca una explosión de inteligencia, puede que ya sea demasiado tarde para actuar». Se estima que los proyectos de investigación y desarrollo relacionados con esta tecnología podrían automatizarse por completo en un plazo de dos años.
El documento propone tres medidas concretas para evitar un escenario caótico: exigir informes transparentes sobre los avances en I+D relacionados con la IA, incluyendo la participación de auditores independientes en las empresas; desarrollar mecanismos que frenen el avance acelerado de estos sistemas; y establecer medidas de adaptación ante la eventual «explosión de inteligencia».
Los especialistas concluyen que los controles actualmente establecidos son ineficaces y enfatizan que «una explosión de inteligencia podría ser el desarrollo tecnológico más trascendental de la historia humana, que amenazaría el control humano sobre los sistemas de IA y erosionaría gravemente los contrapesos de poder en los Estados, las empresas y las distintas ramas del gobierno». Por lo tanto, subrayan que el momento de actuar es ahora.
