La IA en recursos humanos puede ampliar sesgos si se aplica sin control humano
La IA en recursos humanos puede amplificar sesgos si se adopta sin control; su uso exige objetivos claros, datos adecuados y supervisión humana real.
Resumen del artículo publicado en ilo.org y recomendado por Digital Skills Institute el 12 de agosto de 2026.
Un anuncio de empleo para un puesto STEM, redactado de forma neutral en términos de género, acabó mostrándose de manera desproporcionada a hombres porque el algoritmo de una plataforma aprendió que era más barato dirigir la publicidad a ellos y optimizó la distribución en ese sentido. El caso ilustra uno de los grandes problemas de la inteligencia artificial aplicada a recursos humanos: incluso cuando no existe una intención explícita de discriminar, los sistemas pueden producir resultados difíciles de prever y comprender.
La gestión de personas en el trabajo siempre ha sido compleja, pero la contratación se ha complicado todavía más con las solicitudes en línea y la IA generativa. El volumen de candidaturas ha crecido de forma masiva y filtrar aspirantes resulta cada vez más difícil. Ante esta presión, muchas empresas recurren a herramientas tecnológicas para seleccionar candidatos, fijar remuneraciones, organizar horarios o evaluar el desempeño. Esta situación refleja la llamada paradoja de la automatización: cada problema que la tecnología intenta resolver genera otro nuevo que también exige respuesta.
Para analizar estas herramientas se propone observar tres aspectos: qué objetivo persigue el sistema, con qué datos se entrena y funciona, y cómo está programado. La calidad de esas tres dimensiones determina si una aplicación puede resultar útil o si simplemente automatiza decisiones deficientes a gran escala. Definir un objetivo parece sencillo cuando se trata de tareas neutrales, como calcular la ruta más corta entre dos puntos. En recursos humanos, sin embargo, se trabaja con cualidades humanas difíciles de medir: compromiso, competencia, esfuerzo o idoneidad para un puesto.
Un ejemplo revelador aparece en una organización que utilizó IA para seleccionar candidatos con “mentalidad de crecimiento”. El sistema fue programado para puntuar entrevistas según la frecuencia con que aparecían palabras como “crecimiento”, “desarrollo” o “aprendizaje”. Una cualidad compleja quedó reducida así al conteo de determinados términos. La duda es si esa herramienta medía realmente una disposición personal relevante o solo premiaba a quienes usaban ciertas palabras durante la entrevista.
La calidad y pertinencia de los datos son otro foco de preocupación. Los sistemas aprenden a partir de datos previos; si esos datos son malos, los resultados también lo serán. En herramientas desarrolladas internamente se suelen emplear operaciones pasadas de la propia organización, mientras que los productos comerciales ya preparados recurren a datos procedentes de fuentes diversas e incluso comprados en mercados especializados. Esos conjuntos pueden no reflejar las características reales de la empresa que adopta el sistema.
También importa que los datos tengan sentido. Algunas herramientas incorporan información procedente de redes sociales o pruebas gamificadas. Una evaluación pedía inflar un globo digital a cambio de una recompensa para medir supuestamente la propensión al riesgo y el tiempo de reacción. En vigilancia laboral ocurre algo parecido: registrar pulsaciones, capturas aleatorias o presencia en línea solo demuestra actividad ante una pantalla, pero no permite equiparar ese tiempo con calidad del trabajo.
Los algoritmos añaden otra capa de dificultad. Aunque consisten en reglas ejecutadas mediante código, esas reglas reflejan decisiones humanas y posibles sesgos. En los modelos de aprendizaje automático, además, el sistema puede evolucionar hasta volverse opaco incluso para quienes lo crearon. Por eso resulta problemático delegar procesos enteros en soluciones preconfiguradas y fáciles de usar cuando los responsables apenas comprenden cómo funcionan ni qué significan sus resultados.
Algunas experiencias muestran alternativas más cuidadosas. Una gran multinacional dedicó dos años a desarrollar y ajustar un sistema de IA para contratación con participación continua del personal de recursos humanos, hasta adoptar un modelo híbrido entre personas e IA con resultados explicables. Una empresa de telecomunicaciones codiseñó con sus técnicos un sistema de programación del trabajo que elevó la productividad un 10 % y redujo en más de un tercio las ausencias vinculadas a salud mental.
La participación real de profesionales de recursos humanos y trabajadores alarga el desarrollo e implantación, y exige mayor conocimiento sobre IA dentro de las organizaciones. Esa inversión permite precisar mejor los objetivos, escoger datos adecuados al contexto y vigilar cómo se programan sistemas que influyen directamente en quién obtiene un empleo, cómo se organiza su jornada y cómo se valora su rendimiento.
