Eventos
Larsson, S., et al., The Artificial Recruiter: Risks of Discrimination in Employers’ Use of AI and Automated Decision‐Making. Social Inclusion, 2024, vol. 12, 2024, 18 p.
Palabras clave
Trabajo, Empresa, Servicios de empleo, Internet, Nuevas tecnologías, Inteligencia, Toma de decisiones, Contratos, Efectos, Discriminación, Desigualdad social, Inclusión laboral, Conocimientos, Factor de riesgo, Datos estadísticos, Sector privado, SueciaResumen
La literatura existente señala que el riesgo de discriminación es intrínseco a los sistemas de IA debido a la dependencia de los datos de entrenamiento y a la dificultad de la auditoría algorítmica a posteriori. Las limitaciones de transparencia y auditabilidad son problemáticas tanto para las iniciativas de prevención de las empresas como para la supervisión gubernamental, tanto en lo que respecta al funcionamiento de los sistemas de inteligencia artificial (IA) como a la forma en que las plataformas digitales a gran escala respaldan los procesos de contratación. Este artículo explora los riesgos y la comprensión de la discriminación por parte de los usuarios al utilizar la IA y la toma de decisiones automatizada (TAA) en la contratación de trabajadores.Se basa en datos de 110 cuestionarios completados con representantes de 10 de las 50 agencias de contratación más grandes de Suecia y representantes de 100 empresas suecas con más de 100 empleados («grandes empleadores»). En este estudio, utilizamos una definición abierta de IA para dar cabida a las diferencias de conocimiento y opinión sobre cómo los encuestados entienden la IA y la TAA.
El estudio muestra una diferencia significativa entre el uso directo e indirecto de IA y ADM, lo que influye en la concienciación de los reclutadores sobre el potencial de sesgo o discriminación en la contratación. Todos los encuestados utilizaron grandes plataformas digitales como Facebook y LinkedIn para su contratación, lo que generó inquietudes en torno a la transparencia y la rendición de cuentas, sobre todo porque la mayoría de los encuestados no lo consideraron explícitamente como uso de IA o ADM.
Se analizan las implicaciones del uso directo e indirecto en la contratación en Suecia, principalmente en términos de transparencia y la asignación de responsabilidades por sesgo y discriminación durante los procesos de contratación.
COMPARTIR