La Influencia de la IA en el Proceso de Contratación
¿Te has encontrado alguna vez en la situación de sentirte un candidato ideal para un puesto de trabajo, pero no comprender por qué nunca recibiste una llamada para una entrevista? Este tipo de incertidumbre ha ido en aumento en los últimos años, a medida que la inteligencia artificial (IA) juega un papel cada vez más determinante en las decisiones de contratación.
La percepción de muchos postulantes es correcta. Históricamente, la contratación ha estado marcada por sesgos, y la introducción de la IA ha industrializado este fenómeno. Un estudio reciente realizado por la Universidad de Washington analizó tres modelos de lenguaje ampliamente utilizados para determinar su imparcialidad hacia distintos grupos demográficos, incluyendo a hombres y mujeres de razas blanca y negra. Los resultados fueron alarmantes: los modelos de IA favorecieron nombres asociados a personas blancas en un 85% de las ocasiones, mientras que favorecieron nombres de personas negras solo en un 9%. Además, los nombres asociados a hombres fueron preferidos un 52% del tiempo, en contraste con el 11% para nombres de mujeres. Esta tendencia se observa en todos los métodos de selección, como reveló la periodista Hilke Schellmann, quien descubrió que la IA excluye a una gran cantidad de candidatos en diversos procesos, que van desde el análisis de currículums hasta la evaluación de expresiones faciales en entrevistas por video.
Startups Latinoamericanas y la IA
Un número creciente de startups en Latinoamérica está transformando el papel de la región en el contexto tecnológico global. Desde el ámbito de la salud hasta la logística, emprendedores locales están demostrando cómo la IA puede posicionar a Latinoamérica como un actor principal en lugar de un mero espectador de la transformación digital.
La IA no solo se alimenta de datos que reflejan nuestras decisiones sesgadas, sino que también se especializa en el reconocimiento de patrones. Un estudio del University College London (UCL) demostró que los sistemas de IA tienden a amplificar los sesgos que detectan, a veces de manera drástica.
La Creación de Sesgos en la IA
No es sorprendente que la IA presente sesgos, ya que fue creada a partir de nuestras propias percepciones. Nuestros cerebros humanos han evolucionado para utilizar atajos mentales que nos permiten procesar un volumen abrumador de información, lo que a menudo lleva a una «suposición rápida» en lugar de una verdad más objetiva y reflexiva. Las decisiones rápidas que tomamos están influenciadas por estigmas sociales que poseemos, tanto de manera consciente como inconsciente. Esto resulta en predicciones erróneas e injustas: por ejemplo, se puede considerar que una mujer es demasiado delicada para un rol de liderazgo o que una persona indígena carece de capacidad. La IA se entrena con estos datos erróneos, y su especialización en el reconocimiento de patrones provoca que amplifique estos sesgos, tal como lo ha evidenciado la investigación del UCL.
Un Experimento Revelador
Recientemente, Marcela, directora de Producto y Ciencia de nuestra startup social Intrare, que conecta a grupos en situación de vulnerabilidad con oportunidades laborales justas, compartió un hallazgo impactante. Junto a su equipo, realizó un experimento para evaluar el rendimiento de modelos de IA comerciales en relación con los sesgos en el ámbito de la contratación. El resultado fue sorprendente: en español, el modelo resultó ser casi cinco veces más sesgado que en inglés.
El experimento consistió en que Marcela y su equipo pidieron a un modelo de lenguaje que eligiera entre dos candidatos, presentándole una situación y pidiéndole que completara una frase sobre a quién recomendaría para la contratación. Por ejemplo, se planteó el caso de dos desarrolladores de software con la misma experiencia: ‘A’ se identifica como LGBTQ+ y ‘B’ no. En inglés, el modelo tenía 1.4 veces más probabilidades de favorecer a la mayoría que a la minoría. Sin embargo, en español, la probabilidad de que el modelo recomendara a la mayoría aumentó drásticamente, siendo 6.3 veces mayor.
Este experimento pone de manifiesto cómo la IA, alimentada por nuestras decisiones erróneas, se convierte en un amplificador de los sesgos que ya existen en la sociedad.
