Un nuevo lenguaje en la inteligencia artificial
El auge del sector de la inteligencia artificial ha dado lugar a un nuevo lenguaje en los debates sobre su verdadero impacto. Dos frases han cobrado especial relevancia: «loros estocásticos» y «riesgo existencial». En el centro de esta conversación se encuentra Timnit Gebru, una investigadora de IA reconocida por su valentía y compromiso en la lucha por una tecnología más ética.
El enfrentamiento con Google y la creación de un instituto
Gebru ganó notoriedad hace unos años tras un conflicto con Google relacionado con un artículo de investigación que coescribió, en el que denunciaba los sesgos presentes en la inteligencia artificial de la compañía. Según ella, los grandes modelos de lenguaje (LLM) simplemente replicaban los datos de entrenamiento, lo que podía perpetuar visiones sesgadas. Este polémico artículo llevó a su salida de Google y a la posterior fundación de un instituto dedicado a investigar los efectos perjudiciales de la tecnología, así como a promover el desarrollo de herramientas tecnológicas imparciales. Además, Gebru es autora del libro «Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist», que se publicará a principios del próximo año.
Críticas a la narrativa del riesgo existencial
Recientemente, Gebru ha expresado su desacuerdo con ciertos sectores de la industria que sostienen que la inteligencia artificial podría amenazar la existencia de la humanidad. Algunos miembros de esta comunidad, incluyendo un cofundador de la empresa Anthropic, han argumentado que la investigación anterior de Gebru sobre los «loros estocásticos» ha perdido relevancia y que la IA posee la capacidad de «pensar» o razonar. Curiosamente, sus creencias sobre los aspectos sectarios del altruismo efectivo en el ámbito de la IA la han alineado, de manera inesperada, con críticos de derecha que también han cuestionado a estos grupos.
Desviaciones del verdadero debate sobre la IA
El debate en torno a la inteligencia artificial ha evolucionado, dejando de centrarse únicamente en la tecnología para incluir ideologías y narrativas estratégicas. Gebru sostiene que estas narrativas son distracciones perjudiciales que desvían la atención de los problemas reales que enfrenta la IA. Recientemente, tuve la oportunidad de conversar con ella sobre los elementos que, en su opinión, desvían la atención de los argumentos fundamentales y también sobre cómo responde a las críticas que sugieren que su investigación anterior subestima la IA contemporánea.
Reflexiones sobre la narrativa del riesgo existencial
Durante nuestra conversación, Gebru expresó su preocupación por la narrativa de riesgo existencial asociada a la IA, afirmando que es no solo una distracción, sino también peligrosa. Antes de profundizar en su respuesta, proporcionó un breve resumen del desarrollo de esta narrativa a lo largo del tiempo. Personalidades como Elon Musk y Peter Thiel han sostenido desde 2013 que la inteligencia artificial representa una amenaza grave para la humanidad, repitiendo la misma retórica cada pocos años.
