Preocupaciones sobre el desarrollo de la inteligencia artificial
Las recientes advertencias de expertos en inteligencia artificial han generado inquietud acerca del acelerado avance de esta tecnología, con la posibilidad de que su desarrollo pueda tener consecuencias devastadoras para la humanidad. Estas preocupaciones están alimentadas por una feroz competencia, principalmente entre Estados Unidos y China, donde las empresas luchan por crear modelos de inteligencia artificial que superen con creces las capacidades humanas.
Sin embargo, el padre Paolo Benanti, sacerdote y asesor en temas de inteligencia artificial para la Iglesia católica, sostiene que esta controversia desvía la atención de un debate crucial sobre la necesidad de regular a las empresas que desarrollan estas tecnologías. Al presentar el problema como algo tan complejo que solo ellos pueden manejar, los grandes laboratorios excluyen a la sociedad del diálogo necesario.
La necesidad de un debate público sobre la ética
Benanti argumenta que la ética no debe ser una prerrogativa exclusiva de los consejos de administración de las empresas tecnológicas, sino que debe ser un tema debatido y equilibrado en la esfera pública. «Es fundamental establecer una regulación democrática que involucre a diferentes actores de la sociedad», explica.
En un ensayo posterior a las advertencias de seguridad, Dario Amodei, director ejecutivo de Anthropic, abogó por la implementación de evaluaciones obligatorias por parte de organismos externos para los nuevos modelos de inteligencia artificial antes de su lanzamiento al público. También planteó la necesidad de establecer medidas en contra de la «destilación», una práctica en la que las empresas entrenan sus modelos utilizando los resultados de otros sistemas. Otros expertos incluso sugieren prohibir la «automejora recursiva», donde la IA utiliza sus propias capacidades para programar futuras versiones de sí misma.
Normas en lugar de restricciones excesivas
Aunque Benanti reconoce la importancia de establecer normas, no está a favor de restringir los métodos de desarrollo, ya que teme que esto pueda obstaculizar la innovación. Su enfoque se centra en asegurar que los modelos de inteligencia artificial permanezcan bajo control humano. Considera que el diseño de estas normas no debería recaer en los laboratorios que las desarrollan.
«El discurso de las empresas líderes refleja intereses particulares que buscan mantener o lograr un dominio en el mercado», señala Benanti. Cuando un reducido grupo de individuos establece las reglas, se asemeja a una estructura de cártel, advierte.
La influencia de intereses económicos y políticos
La credibilidad de las declaraciones sobre las capacidades de los nuevos modelos de inteligencia artificial puede verse afectada por los intereses económicos, políticos y personales involucrados. A pesar de que OpenAI y Anthropic apoyan la idea de desacelerar el desarrollo, ambas empresas se preparan para salir a bolsa, lo que demuestra que hay miles de millones de dólares en juego para quienes dominen el mercado. Las tensiones geopolíticas entre Estados Unidos y China, donde se desarrollan los modelos más avanzados, también complican el panorama.
Anthropic no ha hecho comentarios sobre este asunto, y OpenAI y Google DeepMind no respondieron a las solicitudes de información.
Un enfoque crítico hacia la «superinteligencia»
Benanti también critica la forma en que ciertos sectores de la industria se refieren a la «superinteligencia» con un tono casi reverencial, como si se tratara de una deidad. Este enfoque, que presenta la inteligencia artificial como algo tan sofisticado que escapa a nuestra comprensión, puede llevar a una distorsión del discurso. «No estamos creando una divinidad; simplemente nos estamos engañando al pensar que hay algo más que cálculos estadísticos en juego», sostiene.
Un nuevo papel para las religiones en el debate tecnológico
Al reflexionar sobre lo que distingue al ser humano de la máquina y cómo proteger a las futuras generaciones de los efectos negativos de esta tecnología, Benanti sugiere que la llegada de la inteligencia artificial podría permitir a las religiones asumir un nuevo papel en el debate público. «Enfrentar los desafíos de nuestra era es parte de la misión de la Iglesia», concluye.
