Una empresa recibe doscientas candidaturas y utiliza una herramienta de inteligencia artificial para ordenarlas. El equipo de selección revisa primero los perfiles mejor clasificados. Parece una forma razonable de ahorrar tiempo. Pero hay una pregunta que no puede quedar sin respuesta: ¿por qué la herramienta ha situado a unas personas por delante de otras?
La IA puede ser útil en un proceso de selección. El problema aparece cuando sus resultados se aceptan sin conocer sus criterios, sin comprobar sus errores y sin valorar a quién puede perjudicar. En ese momento, una recomendación tecnológica empieza a condicionar el acceso al empleo.
Un criterio aparentemente neutro puede excluir talento
Imaginemos que un sistema da más valor a las trayectorias profesionales continuas. Si nadie revisa ese criterio, podría penalizar candidaturas con interrupciones laborales relacionadas con los cuidados. También puede ocurrir que una herramienta priorice experiencias o formas de describir competencias que han sido más frecuentes en determinados perfiles profesionales.
Esto no significa que toda herramienta de IA discrimine. Significa que sus resultados deben examinarse con perspectiva de género y en relación con el puesto concreto. El equipo necesita saber qué está valorando el sistema y si esos factores son pertinentes para seleccionar a la persona adecuada.
La revisión humana debe poder cambiar el resultado
Que una persona tome la decisión final no resuelve por sí solo el problema. Si recibe una lista ordenada por la herramienta y se limita a escoger entre las primeras candidaturas, quizá nunca llegue a conocer perfiles que fueron descartados por un criterio inadecuado.
Una revisión humana real implica poder detectar errores, consultar la información original, cuestionar la clasificación y modificarla cuando haya razones para hacerlo. También exige tiempo y formación: nadie puede supervisar bien un sistema cuyo funcionamiento desconoce.
Los datos de las candidaturas requieren especial cuidado
Un currículo contiene información personal. Antes de introducirlo en una herramienta de IA, la empresa debe conocer qué datos se van a tratar, con qué finalidad y bajo qué condiciones. No basta con que la herramienta resulte cómoda o esté disponible para el equipo.
También conviene preguntarse si es necesario utilizar todos los datos que contiene la candidatura. Cuanta más información se incorpora sin un propósito claro, mayor es el riesgo de hacer un uso indebido o de que influyan aspectos ajenos a las competencias requeridas.
Seleccionar con IA exige poder explicar el proceso
Una persona candidata puede querer saber cómo se ha valorado su solicitud. La empresa, por su parte, necesita poder justificar los criterios empleados y detectar dónde se produjo un error. Si nadie puede explicar qué papel ha tenido la IA en el proceso, resulta más difícil revisar una decisión y corregir sus efectos.
El Reglamento europeo de Inteligencia Artificial identifica determinados sistemas utilizados para analizar, filtrar y evaluar candidaturas como sistemas de alto riesgo. El Reglamento General de Protección de Datos también establece garantías para el tratamiento de datos y, en determinadas circunstancias, para las decisiones basadas únicamente en procesos automatizados. Las obligaciones concretas dependen de cómo se utilice cada herramienta y de su función dentro del proceso de selección.
¿Por dónde puede empezar una empresa?
Antes de incorporar IA a la selección, propongo revisar cinco cuestiones: qué tarea realizará la herramienta, qué datos utilizará, qué criterios influyen en sus resultados, cómo se comprobarán posibles efectos discriminatorios y quién podrá corregir una recomendación errónea.
Estas preguntas deben trasladarse a la práctica diaria. Por eso ofrezco formación sobre el uso ético de la IA en recursos humanos, adaptada a los procesos y herramientas de cada empresa, así como asesoría para revisar la selección de personal con perspectiva de género. El objetivo es que los equipos puedan aprovechar la tecnología sin perder el criterio profesional ni las garantías que merecen las personas candidatas.
Si quieres revisar cómo utiliza tu empresa la IA en selección o formar a tu equipo, puedes escribirme a igualdad@meritxellbeltran.com.
Meritxell Beltrán
Consultora de igualdad, docente y especialista en recursos humanos