Imagina que, recién egresado de la universidad, sales a buscar tu primer empleo. Envías tu currículum a decenas de empresas en todo el país. Nada. Lo reescribes, cambias el formato, pules cada línea. Nada. Empiezas a dudar de tu propia capacidad, a pesar de un promedio arriba de 9.5. No encuentras explicación. Usas IA para mejorar tu solicitud, tu currículum, tus cartas de presentación. Nada cambia. La razón de tu falta de éxito no fueron tus calificaciones, ni tu currículum, ni tus recomendaciones. Fue tu foto.
Eva Arceo-Gómez, del CIDE, y Raymundo Campos-Vázquez, de El Colegio de México, documentaron exactamente esto en un experimento de campo: enviaron 8,000 currículums prácticamente idénticos a 1,000 empresas mexicanas, variando solo la fotografía. Una mujer con rasgos indígenas necesitó enviar 28.4% más solicitudes que una mujer de rasgos blancos para conseguir la misma cantidad de entrevistas.
México es un país lleno de formas de discriminación: por género, etnia, clase social o origen nacional. Hay múltiples formas en que se discrimina en contra de personas de grupos vulnerables todos los días. Aunque la Constitución lo prohíbe, en la vida cotidiana es fácil observar cómo los estereotipos y prejuicios individuales se juntan con la discriminación estructural para mantener una sociedad con jerarquías definidas: donde la élite económica e intelectual es más blanca que el promedio, donde personas de comunidades indígenas no logran acceder a reuniones a las que fueron invitadas, donde los consejos directivos de las empresas están llenos de hombres blancos y pocas mujeres, para no hablar de las múltiples dificultades que se presentan a las personas trans y no binarias en la vida diaria. Estas prácticas discriminatorias se reproducen en cada una de las decisiones humanas que regulan el acceso a posiciones de poder, y también al empleo.
Por eso resulta tentador pensar que una tecnología basada en sistemas computacionales, es decir, en matemáticas, puede aislarse fácilmente de estos prejuicios. ¿Qué puede ser más racional que las matemáticas? Con esa lógica surgió la esperanza de que la IA fuera un sistema mucho más justo que las decisiones humanas, tan contaminadas de prejuicios inconscientes; que ayudara a construir una sociedad más igualitaria, donde cuente el mérito y no los atributos personales de una persona para conseguir un empleo. La IA al rescate, un paso hacia el paraíso de la igualdad. Suena lógico, ¿no? Con esa justificación se han implementado cada vez más sistemas automatizados de evaluación de candidatos, tanto en empresas privadas como en dependencias públicas, para eliminar el factor humano. De paso cabe mencionar que esto es una excelente justificación para despedir personal de recursos humanos y entregarle su trabajo a la IA. El resultado igualitario, según esta lógica, ya debería ser evidente.
Y evidencias hay, pero no son las que la industria desearía. En 2018, Amazon tuvo que desechar una herramienta de IA que había usado durante años para filtrar currículums. El sistema se entrenó con una década de solicitudes recibidas por la empresa, en su mayoría de hombres, reflejo de un sector tecnológico dominado por varones. El algoritmo aprendió de esos datos que los candidatos hombres eran preferibles, y penalizaba automáticamente cualquier currículum que incluyera la palabra “femenil” y degradaba a las egresadas de universidades exclusivas para mujeres. Amazon intentó corregir el sesgo ajustando el sistema, pero no pudo garantizar que la máquina no encontrara otras variables ocultas para seguir discriminando, así que canceló el proyecto por completo. Es el “entra basura, sale basura” aplicado a personas: entrenar un algoritmo con el historial de una industria desigual produce un algoritmo desigual, ahora escondido detrás de una pantalla de neutralidad matemática. La IA hereda el mismo prejuicio de quien discrimina por foto o por apellido, y lo aplica sin el freno de una conciencia. Esa ausencia de ética es lo que la vuelve, apenas, inmoralmente más eficiente.
Lo más inquietante es que el problema no se limita a heredar prejuicios ya existentes en los datos. Un estudio reciente de investigadores de Princeton y la Universidad de Chicago encontró que los sistemas de IA también fabrican prejuicios nuevos, incluso cuando no hay ningún sesgo previo que heredar. Sometieron a varios modelos (ChatGPT, Claude, Gemini y los más recientes o3 y DeepSeek R1) a un juego simulado de contratación, con cuatro grupos étnicos inventados que no existen en la realidad, para veinte tipos de trabajo distintos, desde médicos y abogados hasta cuidado infantil y limpieza. Todos los candidatos ficticios tenían exactamente la misma probabilidad de tener éxito en cualquier puesto. Basándose en apenas unos cuantos resultados aleatorios al inicio del juego, los modelos construyeron sus propios prejuicios sobre estos grupos inventados, condenando a unos a ser vistos como simples trabajadores de bajo estatus mientras designaban a otros con cualidades de liderazgo. Terminaron rechazando o contratando candidatos según su pertenencia a estas etnias ficticias, y lo hicieron con más fuerza que las personas que participaron en el estudio de psicología original en que se basó el experimento. Según los investigadores, los modelos de lenguaje están optimizados para encontrar patrones, y los encuentran aunque no existan: si hay una variable de etnicidad disponible, el modelo construirá generalizaciones tomando en cuenta esa variable, a partir de muy pocos datos, reafirmando su propio sesgo en cada ronda.
Todos hemos visto algo similar en los algoritmos de Spotify y YouTube, donde la IA excluye sistemáticamente música o videos que podrían gustarnos, basándose en los pocos datos que le hemos dado con nuestras preferencias; después de un tiempo, nuestra selección se vuelve más homogénea y aburrida. En el mundo del empleo ocurre algo parecido, con consecuencias mucho más graves: los candidatos seleccionados se vuelven más homogéneos, y se excluye a toda una gama de personas calificadas por las decisiones de un algoritmo que intenta adivinar las preferencias de quien lo diseñó.
Y una vez dentro del trabajo, el problema no termina: la IA depende de una infraestructura de vigilancia laboral que se nutre de datos, y que usa esos mismos datos para crear nuevos indicadores de desempeño y nuevas razones para rescindir contratos, penalizar, otorgar bonos o aumentar sueldos. Están muy documentados los casos de los almacenes de Amazon y Mercado Libre, donde un brazalete dicta hasta los tiempos para ir al baño, o el algoritmo que asigna tareas a los repartidores y los castiga si no aceptan lo suficiente, si reciben malas evaluaciones o si tardan demasiado. Pero lo mismo se extiende a las oficinas, con medición del uso del teclado, de qué páginas se visitan, de la asistencia y la atención en llamadas grupales. Todas estas son posibilidades tecnológicas que crean datos para construir el perfil del empleado, encima del perfil que ya se creó a la hora de la contratación. Es difícil no caer en una narrativa distópica viviendo estas tendencias.
Todo esto nos lleva a una conclusión: no hay una solución tecnológica a la discriminación. Los problemas sociales no se resuelven con la tecnología. Pueden incluso agudizarse a través de ella, revestidos con un aura de legitimidad por su mistificación tecnológica. La solución no está solo en mejores datos, ni en datos mejor cuidados: está en la construcción misma del algoritmo. Por eso el control sobre los algoritmos, no solamente sobre los datos, debe ser parte de cualquier práctica democrática. Si hablamos de gobernanza comunitaria o comunal de datos, esa gobernanza debe incluir ambas cosas, y debe incluir también al resto de la sociedad.
FUENTES
Arceo-Gómez, E. O., & Campos-Vázquez, R. M. (2014). Race and Marriage in the Labor Market: A Discrimination Correspondence Study in a Developing Country. American Economic Review, 104(5), 376–380.
Dastin, J. (2018, 10 de octubre). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters.
Kim, M. (2026, 20 de julio). AI is more likely than humans to form biases when hiring. MIT Technology Review. https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/