Los empleadores confían cada vez más en las herramientas informáticas para ayudarlos a contratar trabajadores, monitorear el desempeño de los trabajadores, determinar salarios o promociones y establecer términos y condiciones de empleo. El software de selección automática de currículums, el software de contratación, el software de chatbot, el software de entrevistas en video, el software de análisis y el software de supervisión y gestión de empleados permiten a los empleadores encontrar eficiencias en la gestión diaria de los empleados. El software puede escanear currículums y priorizar el uso de ciertas palabras clave, calificar a los empleados en función de sus pulsaciones de teclas, expresiones faciales o patrones de habla, y obtener información sobre calificaciones y habilidades cognitivas antes de que un gerente de contratación vuelva a mirar.
El 12 de mayo de 2022, la Comisión para la Igualdad de Oportunidades en el Empleo (EEOC) de EE. UU. y el Departamento de Justicia (DOJ) de EE. UU. emitieron una guía separada que aborda el uso de algoritmos e inteligencia artificial (IA) por parte de los empleadores en la toma de decisiones relacionadas con el empleo. Ambos documentos de asistencia técnica se enfocan específicamente en cómo el uso de estas tecnologías por parte de los empleadores puede afectar negativamente a las personas con discapacidades y violar la Ley de Estadounidenses con Discapacidades (ADA).
Documentos de asistencia técnica de la EEOC y el DOJ
El documento de asistencia técnica de la EEOC, "La Ley de Estadounidenses con Discapacidades y el uso de software, algoritmos e inteligencia artificial para evaluar a los solicitantes de empleo y empleados", en gran parte advierte que el uso de herramientas de toma de decisiones algorítmicas por parte de los empleadores sin tener en cuenta las adaptaciones razonables puede entrar rápidamente en conflicto con la ADA.
Del mismo modo, el documento de asistencia técnica del Departamento de Justicia, "Algoritmos, inteligencia artificial y discriminación por discapacidad en la contratación", identifica formas en que los empleadores del gobierno estatal y local pueden usar tecnologías de contratación que podrían infringir la ADA.
A. Proporcionar adaptaciones durante el proceso de evaluación
Como cuestión fundamental, las herramientas algorítmicas de toma de decisiones están diseñadas para predecir cómo se desempeñaría un candidato o empleado típico en condiciones de trabajo típicas. Pero es posible que los solicitantes y empleados con discapacidades no se presenten como "típicos", y es posible que no se desempeñen en el lugar de trabajo en condiciones "típicas". Los empleadores, por lo tanto, deben (1) proporcionar adaptaciones razonables durante cualquier proceso de evaluación automatizado; y (2) tenga cuidado con la IA que excluye a los solicitantes con discapacidades, incluso sin darse cuenta. Y en todos los casos, los empleadores deben evitar las herramientas de evaluación que plantean consultas relacionadas con la discapacidad o constituyen exámenes médicos según la ADA antes de una oferta de empleo condicional.
Para ilustrar sus preocupaciones, la EEOC y el DOJ ofrecieron múltiples ejemplos de posibles problemas de accesibilidad de la evaluación, que incluyen:
En estos casos, el empleador deberá proporcionar una versión accesible de la evaluación (es decir, una en la que las respuestas sean orales o se use un lector de pantalla) como adaptación razonable, a menos que hacerlo cause dificultades excesivas. Si no es posible hacer accesibles las evaluaciones existentes, se deben ofrecer evaluaciones alternativas, salvo dificultades excesivas.
B. Cómo evitar las exclusiones no permitidas
La “exclusión” ocurre cuando una discapacidad impide que un solicitante o empleado cumpla con los criterios de selección, o reduce su desempeño en ellos, lo que resulta en la pérdida de una oportunidad laboral. Esto es ilegal si la persona que se excluye puede realizar las funciones esenciales del trabajo con o sin una adaptación razonable. La EEOC y el DOJ brindan ejemplos de cómo las herramientas de toma de decisiones algorítmicas pueden excluir ilegalmente a las personas en función de una discapacidad, aunque la persona puede realizar las funciones esenciales del trabajo con o sin una adaptación razonable:
C. Evitar consultas inadmisibles
Tanto la EEOC como el DOJ también advierten a los empleadores contra el uso de herramientas de toma de decisiones algorítmicas que plantean "consultas relacionadas con la discapacidad". Estas son preguntas que probablemente obtengan información sobre una discapacidad, incluyendo simplemente preguntar si un solicitante o empleado es una persona con una discapacidad. También incluyen preguntas de "examen médico" que buscan información sobre las deficiencias físicas o mentales o la salud de una persona antes de una oferta de empleo condicional.
Mejores prácticas en el futuro
Finalmente, la EEOC y el DOJ destacan las mejores prácticas para que los empleadores cumplan con la ADA al usar herramientas de toma de decisiones algorítmicas. Específicamente, la EEOC y el DOJ alientan a los empleadores a:
¿Qué sigue?
Los documentos de asistencia técnica de la EEOC y el DOJ se encuentran entre los primeros documentos de orientación publicados de cualquier agencia federal relacionada con el uso de la IA por parte de los empleadores. Sin embargo, los documentos no sorprenden. La EEOC se ha interesado en el tema desde al menos octubre de 2016, cuando realizó una reunión sobre “Big Data en el lugar de trabajo”. Más recientemente, en diciembre de 2020, varios senadores escribieron una carta abierta a la EEOC para solicitar información sobre su supervisión de las tecnologías de contratación. Entre otras preguntas, preguntaron si la EEOC planeaba publicar alguna publicación o proporcionar alguna guía sobre el uso de datos y tecnología en la contratación. Y en octubre de 2021, la EEOC anunció que había lanzado una iniciativa sobre inteligencia artificial y equidad algorítmica. Entonces, si bien los documentos de asistencia técnica de la EEOC y el DOJ se encuentran entre los primeros, no serán los últimos. Los empleadores deben esperar que la EEOC y el DOJ continúen ampliando su investigación y regulación del uso de la IA por parte de los empleadores y cómo implica tanto a la ADA como a otras leyes federales contra la discriminación.
