Como se explica en esta noticia del Washington Post, la evidencia empírica demuestra que los departamentos de recursos humanos de las grandes y medianas empresas están utilizando cada vez más software de aprendizaje automático para medir el rendimiento laboral de las personas e, incluso, para tomar la decisión de despedirlas o retenerlas.
Este tipo de software de inteligencia artificial (IA) analiza millones de datos relacionados con el empleo y “alivian” la carga de trabajo de las “gerencias” de recursos humanos. Producen “recomendaciones” sobre a quién entrevistar, contratar, promover, retener o despedir. Estos programas de ordenador crean también un “inventario de habilidades” que permiten identificar qué tipos de experiencia de trabajo, certificaciones y conjuntos de habilidades están asociados con personas de alto rendimiento para puestos de trabajo. Ciertamente pueden proveer información útil (especialmente, métricas) a headhunters y directores de recursos humanos.
Incluso si eres un profesional liberal (abogado, arquitecto, etc.) que trabaja por cuenta ajena, podrías llegar a ser “objeto” de examen por parte de estos software si trabajas en una empresa que los utilice.
Reflexiones sobre los algoritmos de IA destinados a utilizarse para la selección y contratación de talento y el despido de personas:
TABLA DE CONTENIDOS
- ¿Quién certifica que este tipo de software no utiliza algoritmos sesgados ni discriminatorios que puedan perjudicar con sus recomendaciones “laborales” a personas de color, mujeres, personas mayores, personas con discapacidad, etc.? La certificación previa resulta necesaria.
- ¿Debe existir un registro público de los algoritmos y del código fuente de este tipo de software? Sin tener que publicarse más de lo necesario (los secretos empresariales también se protegen), la idea es evitar algoritmos de caja negra (opacos e indescifrables) y de promover la transparencia y explicabilidad de los algoritmos.
- Toda persona tiene derecho a saber que está siendo objeto de análisis por parte de un sistema de inteligencia artificial.
- Como sabemos, toda persona tiene derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado de datos personales que produzca efectos jurídicos sobre ella (la decisión de promoverla o despedirla, sería un ejemplo). En cualquier caso, las personas tienen derecho a obtener intervención humana, a expresar su punto de vista sobre la decisión que les afecta y a poder impugnarla (véase el artículo 22 del Reglamento General de Protección de Datos).
- La propuesta Reglamento de Inteligencia Artificial de la Unión Europea considera a los sistemas de inteligencia artificial destinados y/o que afecten al empleo, la gestión de trabajadores y al acceso al autoempleo, como sistemas de alto riesgo (Anexo III del Reglamento) por lo que antes de salir al mercado deberán cumplir con una serie de requisitos (implantación de un sistema de gestión de riesgos; sus datos de entrenamiento, validación y prueba deberán cumplir con determinados criterios de calidad; deben poseer determinada documentación técnica; deben poder registrarse sus eventos y efectuarse la trazabilidad de su funcionamiento; sus instrucciones de uso debe ser transparentes, es decir, proveer información clara, concisa, completa, correcta y clara a la par que pertinente, accesible y comprensible por los usuarios; serán sujetos de vigilancia humana; y deberán poseer un nivel adecuado de ciberseguridad) (artículos 8 a 15 del Reglamento de Inteligencia Artificial).
¿Buscas abogados especialistas en derecho de la inteligencia artificial fiable y contratos de software?
