¿Podrá la IA evitar que las plataformas se conviertan en basura digital?

Recientemente disfruté de unas vacaciones en Italia. Como es habitual hoy en día, revisé mi itinerario con GPT-5 para obtener sugerencias sobre lugares de interés y recomendaciones de restaurantes. El asistente virtual me indicó que la mejor opción para cenar cerca de nuestro hotel en Roma estaba a un corto paseo por Via Margutta. Resultó ser una de las mejores comidas que recuerdo. Al regresar a casa, le pregunté al modelo cómo había seleccionado ese restaurante, algo que dudé en compartir aquí por si acaso necesito una mesa en el futuro (¡quién sabe si volveré!). Se llama Babette, y para reservar, es recomendable llamar con antelación. La respuesta fue compleja e impresionante, considerando factores como las excelentes críticas de los lugareños, las reseñas en blogs gastronómicos y la prensa italiana, así como la famosa combinación de cocina romana y contemporánea del restaurante. Ah, y el paseo corto.

También necesitaba algo: confianza. Tenía que creer que GPT-5 era un intermediario honesto, que elegía mi restaurante sin prejuicios; que el restaurante no se me mostraba como contenido patrocinado y que no se llevaba una buena parte de mi cheque. Podría haber investigado a fondo por mi cuenta para verificar la recomendación (busqué el sitio web), pero el objetivo de la IA es evitar esa fricción.

La experiencia reforzó mi confianza en los resultados de la IA, pero también me hizo dudar: a medida que empresas como OpenAI se vuelven más poderosas y buscan recuperar el dinero de sus inversionistas, ¿experimentará la IA la erosión de valor que parece endémica en las aplicaciones tecnológicas que usamos hoy en día?

La \»enshittificación\»

El crítico tecnológico Cory Doctorow denomina a esta tendencia \»enshittificación\». Su premisa es que plataformas como Google, Amazon, Facebook y TikTok comienzan con el objetivo de complacer a los usuarios, pero una vez que las empresas eliminan a sus competidores, se vuelven intencionalmente menos útiles para maximizar beneficios. Después de que WIRED publicara varios artículos sobre el ensayo pionero de Doctorow de 2022 sobre el fenómeno, el término se popularizó, especialmente en EE. UU., porque la gente reconoció que daba en el clavo. “Enshittification” fue elegida palabra del año 2023 por la American Dialect Society. Este concepto ha sido citado tan a menudo que ha trascendido su vulgaridad, apareciendo en contextos donde normalmente se evitaría tal término. Doctorow ha publicado un libro homónimo sobre el tema, cuya portada presenta el emoji de… adivina qué: 💩.

Si los chatbots y los agentes de inteligencia artificial se ensucian de esa manera, podría ser peor que la pérdida de utilidad de la búsqueda de Google, que los resultados de Amazon se plaguen de anuncios e incluso que Facebook muestre menos contenido social en favor de un clickbait generador de ira.

La presión por el beneficio

La IA está en camino de convertirse en una compañera constante, proporcionando respuestas rápidas a muchas de nuestras solicitudes. Las personas ya confían en ella para interpretar eventos actuales y obtener consejos sobre decisiones de compra e incluso decisiones de vida. Dado el alto costo de crear un modelo de IA completo, es razonable suponer que solo unas pocas empresas dominarán el campo. Todas ellas planean invertir cientos de miles de millones de dólares en los próximos años para mejorar sus modelos y ponerlos al alcance del mayor número de personas posible. Actualmente, podría decirse que la IA se encuentra en lo que Doctorow llama la etapa \»buena para los usuarios\». Sin embargo, la presión para recuperar las enormes inversiones de capital será intensa, especialmente para las empresas cuya base de usuarios está bloqueada. Estas condiciones, como escribe Doctorow, permiten a las empresas abusar de sus usuarios y clientes comerciales \»para recuperar todo el valor para sí mismas\».

Cuando se imagina la enshittificación de la IA, lo primero que viene a la mente es la publicidad. La pesadilla es que los modelos de IA hagan recomendaciones basadas en qué empresas han pagado por colocarse. Aunque esto no está ocurriendo actualmente, las empresas de IA están explorando activamente el ámbito publicitario. En una entrevista reciente, el CEO de OpenAI, Sam Altman, señaló: \»Creo que probablemente haya algún producto publicitario interesante que podamos hacer y que sea una ganancia neta para el usuario y algo positivo para nuestra relación con él\». Mientras tanto, OpenAI ha anunciado un acuerdo con Walmart para que los clientes del minorista puedan comprar dentro de la aplicación ChatGPT. No creo que haya un conflicto. La plataforma de búsqueda de IA Perplexity tiene un programa en el que los resultados patrocinados aparecen en seguimientos claramente etiquetados. Pero, promete, \»estos anuncios no cambiarán nuestro compromiso de mantener un servicio de confianza que te proporcione respuestas directas e imparciales a tus preguntas.\»

¿Se mantendrán los límites?

El portavoz de Perplexity, Jesse Dwyer, me comentó sobre un posible desboco: \»Para nosotros, la garantía número uno es que no lo permitiremos\». En una reciente jornada para desarrolladores de OpenAI, Altman aseguró que la empresa es \»hiperconsciente de la necesidad de ser muy cuidadosa\» al servir a sus usuarios en lugar de servirse a sí misma. La doctrina de Doctorow no da mucho crédito a afirmaciones como esa: “Una vez que una empresa puede ‘enshittificar’ sus productos, se enfrentará a la tentación perenne de ‘enshittificar’ sus productos\», escribe en su libro.

Poner anuncios en las conversaciones de los chatbots o en los resultados de las búsquedas no es la única forma en que la IA puede degradarse. Doctorow cita ejemplos en los que las empresas, una vez que dominan un mercado, cambian su modelo de negocio y sus tarifas. Por ejemplo, en 2023, Unity, el proveedor más popular de herramientas de desarrollo de videojuegos, decidió cobrar una nueva \»tasa de ejecución\». Ese mal comportamiento fue tan atroz que los usuarios se rebelaron y lograron que se retirara la tasa. Pero observemos lo que ha ocurrido con servicios de streaming como Amazon Prime Video: solía ser un servicio sin anuncios. Ahora te obliga a ver anuncios antes y durante la película, y tienes que pagar para desactivarlos. Además, el precio de Amazon Prime sigue aumentando. Así que podría ser una práctica habitual de las grandes tecnológicas bloquear a los usuarios en un servicio y luego cobrar tarifas cada vez más altas. Incluso podría ocurrir que, para mantener el mismo nivel de inteligencia en los resultados de un chatbot, los usuarios tuvieran que pasar a un nivel superior, aún más caro: otro truco de la enshittificación