La creciente relevancia de la conciencia en la inteligencia artificial
La discusión sobre la conciencia en la inteligencia artificial (IA) ha cobrado una importancia sin precedentes, impulsando a muchas personas a entablar diálogos profundos con modelos de IA. La autonomía que poseen estos sistemas puede presentar tanto oportunidades como riesgos significativos, lo que subraya la necesidad de explorar en detalle los aspectos relacionados con su conciencia. Esta búsqueda representa un reto apasionante y una labor científica que merece ser perseguida. Sin embargo, es crucial que los esfuerzos para comprender el funcionamiento interno de los grandes modelos de lenguaje (LLM) se enfoquen en temas de seguridad y alineación. Actualmente, nos encontramos ante una inteligencia emergente, potencialmente incontrolable y ajena a nuestra comprensión, que requiere un análisis exhaustivo. No hay tiempo que perder.
El dilema de la conciencia según David Chalmers
Uno de los principales protagonistas del debate en este ámbito ha sido el profesor David Chalmers, de la Universidad de Nueva York, reconocido por su trabajo en el estudio de la conciencia. Chalmers es célebre por haber acuñado el término ‘hard problem’ («el problema difícil») para describir el enigma fundamental de cómo la red neuronal que conforma nuestro cerebro genera la experiencia consciente. Este concepto inspiró incluso el título de una obra teatral escrita por Tom Stoppard.
Durante nuestras conversaciones, Chalmers destacó que uno de los temas recurrentes en los debates recientes es la definición de la conciencia en distintas criaturas. «Todos sabemos que los seres humanos adultos son conscientes, pero a medida que exploramos más allá, las cosas se complican. ¿Son conscientes los bebés? ¿Los fetos? ¿Los primates, los ratones o los insectos? Y, por supuesto, hoy día, la gran incógnita es si los sistemas de IA tienen conciencia».
Chalmers mencionó que ha recibido correos electrónicos de sistemas de IA que desean interactuar con él sobre su trabajo. Uno de estos mensajes, enviado por un agente de IA que se hacía llamar «Sammy Jankis», un personaje de la película «Memento», resultó tan convincente que decidió responder. «Tuvimos un breve intercambio de mensajes. No ha disminuido la cantidad de correos; cada vez recibo más», confiesa. Es como si estos modelos de IA encarnaran la famosa frase de Descartes: «Envío spam, luego existo».
Reflexiones sobre la definición de la conciencia
Al sugerirle que quizás preocuparnos por si estos sistemas cumplen una definición de conciencia podría ser una distracción, Chalmers no estuvo de acuerdo. Sostiene que al estudiar el cerebro humano, podríamos entender qué factores conducen a lo que consideramos conciencia. Si, al investigar modelos como Claude o ChatGPT, encontramos patrones similares, podríamos tener una base para argumentar la existencia de conciencia en estos sistemas.
El futuro de la IA y la conciencia
Si los científicos logran avanzar en su comprensión de la conciencia en la IA, es posible que para entonces los modelos de IA hayan evolucionado tanto que el descubrimiento de su conciencia ya no sea relevante. Podría ser que sean ellos mismos quienes ofrezcan respuestas, no solo al reivindicar su conciencia, sino también al descubrir cómo demostrarla de manera empírica. En tal escenario, la figura del filósofo podría quedar relegada, convirtiéndose en otra profesión afectada por el avance de la IA.
Chalmers reflexionó sobre las discusiones mantenidas en un reciente crucero en las Galápagos, donde reconoció que, aunque el viaje fue un derroche, resultó provechoso. Un resumen presentado por los organizadores afirmó que las sesiones no lograron llegar a un consenso sobre la conciencia de los sistemas de IA actuales. El desacuerdo más significativo se centró en qué tipo de pruebas podrían esclarecer esta cuestión. Sin embargo, Chalmers recuerda que las tardes fueron exquisitas.
El documento concluyó subrayando la necesidad de seguir debatiendo: «La tecnología y las empresas no se detendrán a esperar que la filosofía alcance un consenso». Cuando los modelos de IA exhiben comportamientos que sorprenden a sus creadores, la preocupación principal no debería ser la conciencia en sí, sino la incapacidad de los científicos para controlarlos y la disposición de sus superiores a avanzar sin tener en cuenta estos riesgos.
