Diferencias clave entre transparencia y explicabilidad
La distinción entre transparencia y explicabilidad se torna evidente en situaciones cotidianas vinculadas a plataformas digitales. Por un lado, una plataforma puede afirmar que tiene en cuenta aspectos como la ubicación, la tasa de aceptación y las calificaciones de los usuarios. Sin embargo, esto no necesariamente aclara por qué una persona ha sido afectada tras una acción específica.
En este contexto, Mantilla-León señala la importancia de diferenciar ambos conceptos. La transparencia implica conocer los elementos que intervienen en los sistemas automatizados, mientras que la explicabilidad se centra en facilitar la comprensión del razonamiento detrás de las decisiones tomadas por estos sistemas. Esta diferenciación es crucial, ya que limitarse a conocer solo las reglas generales puede dejar fuera de la ecuación aspectos importantes del proceso.
Por ejemplo, si un trabajador empieza a recibir menos pedidos, pierde un incentivo o su cuenta es suspendida, necesita información más detallada que una simple lista de variables para entender qué ha sucedido. Un informe elaborado por Derechos Digitales resalta que las obligaciones actuales de las plataformas suelen limitarse a descripciones generales de criterios y variables, lo que puede resultar insuficiente para los usuarios afectados.
Implicaciones para la defensa de los derechos laborales
Desde la perspectiva de la Confederación Sindical Internacional (CSI), que agrupa a diversas centrales sindicales de todo el mundo, esta falta de información limita la capacidad de los trabajadores para defender sus derechos. La CSI argumenta que es difícil impugnar una decisión que se percibe como injusta si no se comprende cómo ha sido tomada.
Este contexto se complica aún más con la creciente influencia de los algoritmos de recomendación, que están llevando a una homogeneización de los lugares que frecuentamos. Un estudio reciente confirma que las recomendaciones basadas en inteligencia artificial están reduciendo la diversidad de opciones, y cuanto más se confíen en ellas, mayor será el impacto negativo.
Desentrañando el funcionamiento de los algoritmos
Las consecuencias de la falta de claridad sobre el funcionamiento de los algoritmos ya han sido documentadas en diversas investigaciones. Un estudio realizado en 2024 por la Universidad Nacional de General Sarmiento examinó la experiencia de repartidores y conductores en el Área Metropolitana de Buenos Aires, a través de cerca de 70 entrevistas y una encuesta con 750 participantes.
En este análisis se incluyeron plataformas de transporte como Uber, así como servicios de reparto como PedidosYa, Glovo, Rappi y Uber Eats. Los resultados mostraron que métricas como las calificaciones de clientes, la tasa de aceptación y la tasa de cancelación podían influir directamente en el número de pedidos recibidos, así como en el acceso a trabajos mejor remunerados.
A pesar de que las autoras del estudio lograron identificar algunas de las variables utilizadas por las plataformas, se encontraron con la dificultad de comprender cómo se combinaban y la importancia que cada una tenía en la toma de decisiones. Esta falta de información puede llevar a los trabajadores a intentar «desencriptar las reglas del juego» por su cuenta, con el fin de mejorar su rendimiento o incrementar sus ingresos.
Consecuencias económicas de la opacidad en los sistemas
El trabajo de campo realizado en el estudio permitió reconstruir los sistemas de reparto, considerando factores como pedidos completados, tasa de aceptación, cancelaciones y evaluaciones de clientes. Se observó que una mejor posición en este sistema podía correlacionarse con el acceso a pedidos específicos, horarios más solicitados, promociones o tarifas más elevadas.
Este análisis pone de relieve una de las consecuencias económicas de la falta de transparencia: una variable que podría parecer menor puede tener un impacto significativo en las oportunidades laborales y en los ingresos, incluso si la persona afectada no comprende con claridad cómo se establece esa relación.
Además, el estudio también revela que algunas variables no son tan neutrales como aparentan. Se constató que ciertas mujeres rechazaban trayectos hacia determinadas zonas por motivos de seguridad o responsabilidades familiares, y que los sistemas que premiaban altas tasas de aceptación podían penalizar esas decisiones personales.
