{"id":37753,"date":"2026-05-27T11:40:48","date_gmt":"2026-05-27T15:40:48","guid":{"rendered":"https:\/\/ermdigital.com\/?p=37753"},"modified":"2026-05-27T11:40:48","modified_gmt":"2026-05-27T15:40:48","slug":"herramientas-de-ia-para-contrataciones-pueden-generar-sesgos-raciales-y-rechazo-sistematico","status":"publish","type":"post","link":"https:\/\/ermdigital.com\/?p=37753","title":{"rendered":"Herramientas de IA para contrataciones pueden generar sesgos raciales y rechazo sistem\u00e1tico"},"content":{"rendered":"

\u200b\"Stanford<\/p>\n

Un estudio encabezado por Stanford hall\u00f3 que los sistemas de inteligencia artificial<\/b><\/a> usados para filtrar candidatos<\/b> en procesos de contrataci\u00f3n generan sesgos raciales<\/b><\/a> y <\/b>favorecen el rechazo<\/b><\/a> repetido de los mismos postulantes en distintas empresas, un resultado que cobra peso en un mercado laboral de entrada m\u00e1s duro y con un uso masivo de estas herramientas, seg\u00fan el art\u00edculo difundido.<\/p>\n

La investigaci\u00f3n<\/a> sigui\u00f3 a 3,4 millones de personas que presentaron 4 millones de postulaciones para 1.700 avisos laborales<\/b> en 150 empleadores y 11 sectores, de acuerdo con Stanford University<\/i>.<\/p>\n

El trabajo aplic\u00f3 la regla de los cuatro quintos de la Comisi\u00f3n para la Igualdad de Oportunidades en el Empleo de Estados Unidos, que identifica un posible perjuicio cuando un grupo es recomendado a una tasa inferior al 80% del grupo m\u00e1s favorecido<\/b>. <\/p>\n

Con estos criterios, el 26% de los postulantes afrodescendientes y 15% de los asi\u00e1ticos se presentaron a puestos en los que el sistema discrimin\u00f3 a su grupo racial, y si ambos hubieran sido recomendados al mismo ritmo que el grupo m\u00e1s beneficiado, por lo general solicitantes blancos, 40.000 postulaciones m\u00e1s habr\u00edan avanzado a la siguiente etapa.<\/p>\n

La pregunta central del estudio tuvo una respuesta concreta: cuando un mismo proveedor concentra el filtrado de m\u00faltiples empresas<\/b>, los efectos de su modelo no quedan limitados a una sola vacante. Seg\u00fan la Stanford University<\/i>, eso aumenta la posibilidad de que una persona quede excluida de manera consistente en todos los puestos a los que se presenta.<\/p>\n

\"El<\/p>\n

Cu\u00e1ndo aparece el sesgo en la evaluaci\u00f3n<\/h2>\n

La investigaci\u00f3n, titulada \u201cAlgorithmic Monocultures in Hiring\u201d, fue elaborada por acad\u00e9micos de Stanford University<\/i>, Chapman University <\/i>y Northeastern University<\/i>, y ser\u00e1 presentada en la conferencia ACM sobre equidad, rendici\u00f3n de cuentas y transparencia en Montreal, seg\u00fan la revista Fortune<\/i>. <\/p>\n

Todas las postulaciones del conjunto principal fueron evaluadas por una herramienta de contrataci\u00f3n<\/b> creada por un \u00fanico proveedor externo: Pymetrics.<\/p>\n

Ese punto es decisivo porque, seg\u00fan Stanford University,<\/i> si se agrupan todas las recomendaciones del proveedor como si fueran un \u00fanico proceso de selecci\u00f3n, el perjuicio no aparece<\/b>. Cuando cada puesto se analiza por separado, como suele exigir la evaluaci\u00f3n jur\u00eddica de discriminaci\u00f3n laboral en Estados Unidos, s\u00ed surge el problema<\/b>.<\/p>\n

Los autores sostuvieron que agregar datos de m\u00faltiples cargos u ocupaciones \u201cbasta para ocultar el efecto adverso por puesto<\/b>\u201d, una pr\u00e1ctica que calificaron como una interpretaci\u00f3n \u201cincorrecta, o como m\u00ednimo incompleta\u201d de la orientaci\u00f3n federal.<\/p>\n

Kathleen Creel<\/b>, profesora de Northeastern University y coautora del estudio, dijo al Financial Times<\/i>: \u201cA medida que un solo proveedor pasa a dominar la toma de decisiones en un espacio, sus peculiaridades o deficiencias pueden estar presentes en todo ese sector de una manera que antes no era posible\u201d.<\/p>\n

\"Un<\/p>\n

Un mismo puntaje puede cerrar puertas en varias empresas simult\u00e1neamente<\/h2>\n

El segundo hallazgo se concentr\u00f3 en lo que los investigadores llaman rechazo sist\u00e9mico. Seg\u00fan la Stanford University<\/i>, las personas que env\u00edan varias postulaciones a puestos evaluados<\/b> por el mismo proveedor algor\u00edtmico tienen m\u00e1s probabilidades de ser rechazadas en todos ellos que si cada empresa decidiera de forma estad\u00edsticamente independiente.<\/p>\n

Este an\u00e1lisis indic\u00f3 tambi\u00e9n que 10% de los solicitantes que presentaron cuatro postulaciones fue rechazado <\/b>en todos los lugares a los que aplic\u00f3. Fortune<\/i> a\u00f1adi\u00f3 que, entre quienes se postularon a 10 posiciones evaluadas por Pymetrics, 4% recibi\u00f3 rechazo en todas, una tasa superior a la que cabr\u00eda esperar por azar si las compa\u00f1\u00edas actuaran sin relaci\u00f3n entre s\u00ed.<\/p>\n

La explicaci\u00f3n t\u00e9cnica est\u00e1 en la reutilizaci\u00f3n de la misma evaluaci\u00f3n. Seg\u00fan Fortune<\/i>, Pymetrics no filtra candidatos por curr\u00edculum<\/b>, sino mediante juegos en l\u00ednea que miden rasgos cognitivos como tolerancia al riesgo, velocidad de procesamiento y altruismo, y los puntajes obtenidos pueden almacenarse y reutilizarse durante hasta 330 d\u00edas.<\/p>\n

Eso implica que, si dos empresas usan Pymetrics, un mismo postulante puede enfrentar en ambas el mismo resultado algor\u00edtmico. Los investigadores describieron ese patr\u00f3n como un \u201cveto algor\u00edtmico\u201d<\/b>, una idea antes planteada en la literatura acad\u00e9mica pero no documentada a esta escala con datos reales de uso.<\/p>\n

Para medir hasta d\u00f3nde llegaba ese efecto, el equipo pidi\u00f3 a Pymetrics que ejecutara sus modelos sobre una muestra de 1.000 aspirantes frente a todos los puestos aplicables del conjunto de datos, seg\u00fan Fortune<\/i>. <\/p>\n

Ninguna persona fue rechazada por todos los modelos, pero para reducir la probabilidad de quedar excluida de forma sist\u00e9mica por debajo de 0,1%, un candidato tendr\u00eda que postularse al menos a 25 vacantes, m\u00e1s del doble de las 10 que bastar\u00edan si las decisiones fueran independientes.<\/p>\n

\"El<\/p>\n

Concentraci\u00f3n del mercado amplifica el problema regulatorio<\/h2>\n

La revisi\u00f3n de Stanford University<\/i> sostuvo que las herramientas de filtrado por IA combinan tres rasgos que no deber\u00edan coexistir en decisiones de alto impacto<\/b>: adopci\u00f3n extendida, consecuencias relevantes y opacidad para el p\u00fablico.<\/p>\n

Ese diagn\u00f3stico se produce cuando 90% de los empleadores de Estados Unidos usa sistemas de IA para ordenar y clasificar aspirantes, con una fuerte dependencia de unos pocos proveedores, seg\u00fan esa universidad.<\/p>\n

El estudio tambi\u00e9n compar\u00f3 estos resultados con el mayor an\u00e1lisis previo de decisiones de contrataci\u00f3n, que envi\u00f3 83.000 postulaciones a 108 firmas de la lista Fortune 500 <\/i>durante el mismo per\u00edodo, sin centrarse en si se utilizaba IA. En ese conjunto, la tasa de rechazos totales no fue superior a la esperable <\/b>si cada empresa decid\u00eda por su cuenta.<\/p>\n

Fortune<\/i> agreg\u00f3 que, en mayo de 2023, m\u00e1s de 60% de las empresas del Fortune 100 <\/i>y ocho de las 10 mayores agencias federales de Estados Unidos usaban algoritmos de la empresa de inteligencia artificial HireVue. <\/p>\n

Por su parte, los autores advirtieron que esa concentraci\u00f3n no solo puede extender sesgos, sino tambi\u00e9n generar una vulnerabilidad sist\u00e9mica<\/b> si un proveedor dominante deja de funcionar o produce resultados discriminatorios.<\/p>\n

En el plano normativo, el informe de Fortune<\/i> se\u00f1al\u00f3 que la ciudad de Nueva York aprob\u00f3 en 2021 la Local Law 144<\/b>, la primera norma dirigida de forma directa a la contrataci\u00f3n algor\u00edtmica, pero los autores sostienen que su gu\u00eda oficial actual parece indicar a los auditores que agrupen datos entre puestos y empleadores, lo cual oculta las disparidades.<\/p>\n

\"Las<\/p>\n

En Europa, la Ley de IA de la Uni\u00f3n Europea<\/b> clasifica por defecto los algoritmos de contrataci\u00f3n como sistemas de alto riesgo y sus exigencias de cumplimiento entrar\u00e1n en vigor el 2 de agosto de 2026<\/b>.<\/p>\n

Los investigadores propusieron cuatro medidas<\/b>: <\/p>\n

    \n
  1. Evaluar el efecto adverso a nivel de cada puesto.<\/li>\n
  2. Reforzar la vigilancia del mercado entre empleadores.<\/li>\n
  3. Seguir los riesgos derivados de la concentraci\u00f3n algor\u00edtmica.<\/li>\n
  4. Abrir v\u00edas legales para que equipos independientes accedan a datos de contrataci\u00f3n.<\/li>\n<\/ol>\n

    Por \u00faltimo, la Stanford University<\/i> concluy\u00f3 que sin investigaci\u00f3n independiente ser\u00e1 dif\u00edcil construir pol\u00edticas p\u00fablicas<\/b> basadas en pruebas para regular el impacto de la IA sobre las posibilidades de empleo de las personas y sobre la composici\u00f3n general de la fuerza laboral.<\/p>\n

    \u00a0La investigaci\u00f3n de Stanford revel\u00f3 que las plataformas algor\u00edtmicas aplicadas en procesos de selecci\u00f3n favorecen la exclusi\u00f3n repetida de aspirantes pertenecientes a minor\u00edas\u00a0\u00a0\u00a0\u00a0\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"

    \u200b Un estudio encabezado por Stanford hall\u00f3 que los sistemas de inteligencia artificial usados para filtrar candidatos en procesos de contrataci\u00f3n generan sesgos raciales y favorecen el rechazo repetido de los mismos postulantes en distintas empresas, un resultado que cobra peso en un mercado laboral de entrada m\u00e1s duro y con un uso masivo de […]<\/p>\n","protected":false},"author":1,"featured_media":37754,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"amp_status":"","footnotes":""},"categories":[12],"tags":[],"class_list":["post-37753","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-eeuu"],"_links":{"self":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts\/37753","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=37753"}],"version-history":[{"count":0,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts\/37753\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/media\/37754"}],"wp:attachment":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=37753"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=37753"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=37753"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}