Cada vez más empresas valoran utilizar herramientas de inteligencia artificial (IA) para clasificar currículums, puntuar candidatos o priorizar perfiles. La Agencias Española de Protección de Datos (AEPD) recuerda que estas soluciones pueden ser útiles, pero deben implantarse con garantías desde el inicio. Se lo explicamos…
Cada vez es más habitual que las empresas se planteen utilizar IA para analizar currículums, ordenar candidaturas o asignar puntuaciones en procesos de selección. La AEPD ha advertido en su web recientemente sobre las precauciones que deben adoptarse cuando este tipo de herramientas pueden influir en el acceso a un puesto de trabajo o en una promoción interna.
La advertencia se refiere a un sistema que todavía no se había implantado, pero que estaba previsto utilizar para evaluar candidaturas y priorizar perfiles.
- Atención. El cumplimiento en protección de datos debe estudiarse antes de poner en marcha la herramienta, no cuando el sistema ya está funcionando.
La protección de datos debe incorporarse desde el principio
La AEPD reconoce que la IA puede mejorar la eficiencia y la calidad de los procesos de selección. Ahora bien, esto no significa que pueda implantarse sin una revisión previa.
La empresa debe aplicar el principio de protección de datos desde el diseño y por defecto, lo que implica analizar desde las primeras fases qué datos se utilizarán, para qué se utilizarán y qué riesgos puede generar el sistema para candidatos y trabajadores. También deberán adoptarse las medidas técnicas y organizativas adecuadas a esos riesgos.
- Atención. Elegir primero la herramienta y revisar después sus implicaciones jurídicas puede ser un error. La privacidad debe formar parte del diseño del proyecto desde el inicio.
Evaluación de impacto
Cuando el tratamiento previsto pueda suponer un alto riesgo para los derechos y libertades de las personas, la empresa deberá realizar previamente una evaluación de impacto en protección de datos.
La relevancia de esta cuestión aumenta cuando la herramienta no se limita a ordenar información administrativa, sino que analiza perfiles, asigna puntuaciones o influye en decisiones laborales.
- Atención. Cuanto mayor sea la influencia de la herramienta sobre la contratación, promoción o descarte de una persona, más importante será analizar previamente sus riesgos.
Los candidatos deben saber cómo se utiliza la herramienta
La transparencia es otro de los puntos destacados por la Agencia. Las personas candidatas y trabajadoras deben recibir información clara, accesible y comprensible sobre el tratamiento de sus datos personales y sobre el papel que desempeña la herramienta de IA en la evaluación.
No se trata simplemente de incluir una referencia genérica a la inteligencia artificial en una política de privacidad.
La persona afectada debe poder entender que sus datos serán analizados mediante este tipo de tecnología y qué función tiene ese análisis dentro del proceso.
- Atención. Si la IA puntúa, clasifica o prioriza candidatos, conviene explicar claramente qué papel juega esa puntuación en el proceso de selección.
Intervención humana
Uno de los aspectos más importantes es el llamado control humano. En el caso analizado por la AEPD, la empresa indicaba que la decisión final correspondería a una persona. Pero esto, por sí solo, no garantiza que exista una intervención humana efectiva. Quien toma la decisión debe poder revisar críticamente la información generada por la herramienta, apartarse de su recomendación cuando sea necesario y adoptar su propia decisión. No sería suficiente limitarse a aceptar automáticamente la puntuación ofrecida por el sistema.
- Atención. Que una persona pulse el botón final no convierte automáticamente una decisión en humana. Debe existir capacidad real de revisión y criterio propio.
Hay que vigilar las decisiones automatizadas
El Reglamento General de Protección de Datos (RGPD) reconoce el derecho de las personas a no ser objeto de determinadas decisiones basadas únicamente en tratamientos automatizados cuando estas produzcan efectos jurídicos o les afecten de manera significativa.
En los procesos de selección, la aplicación de esta garantía dependerá de cómo funcione realmente la herramienta y de hasta qué punto existe una intervención humana efectiva.
Por eso es especialmente importante conocer qué hace el sistema, cómo utiliza las puntuaciones y qué peso tienen estas en la decisión final.
- Atención. No basta con saber que existe una herramienta de IA. Hay que conocer hasta dónde llega su influencia real en la decisión sobre el candidato.
La advertencia de la AEPD es preventiva
La actuación de la Agencia no implica que la empresa haya cometido ya una infracción. El RGPD permite a la autoridad de control emitir una advertencia preventiva cuando considera que un tratamiento previsto podría infringir la normativa. Su finalidad es precisamente permitir que la empresa revise el proyecto y adopte las medidas necesarias antes de ponerlo en funcionamiento.
- Atención. Una advertencia preventiva no equivale a una sanción, pero sí constituye una señal clara para revisar el sistema antes de implantarlo.
Qué conviene revisar antes de utilizar IA en selección
Antes de utilizar una herramienta que analice currículums o puntúe candidatos, conviene revisar qué datos tratará, qué criterios empleará, cómo se informará a los interesados y qué capacidad tendrá una persona para revisar sus resultados.
También habrá que valorar los riesgos del tratamiento y comprobar si resulta necesaria una evaluación de impacto.
La tecnología puede servir de apoyo, pero no debería convertirse en una caja negra que determine quién continúa en un proceso de selección sin una supervisión suficiente.
La idea práctica es sencilla. La IA puede ayudar a decidir, pero no debería sustituir sin más el criterio de la persona que adopta la decisión.
Pueden ponerse en contacto con este despacho profesional para cualquier duda o aclaración que puedan tener al respecto.
Un cordial saludo,
