Esta semana, el Departamento de Justicia y la Comisión de Igualdad de Oportunidades en el Empleo (EEOC) lanzaron una nueva iniciativa conjunta para combatir la discriminación que enfrentan las personas con discapacidades en el proceso de contratación federal a través del sesgo integrado en la inteligencia artificial (IA). El sesgo surge de las limitaciones tecnológicas, ya que la IA mide las calificaciones y habilidades de los solicitantes mediante pruebas, currículos y entrevistas en video basadas en computadora.
Las pautas emitidas el jueves advierten que el software y los algoritmos utilizados para preseleccionar candidatos en algunos casos pueden discriminar a los solicitantes con discapacidades y violar las leyes federales de derechos civiles. Específicamente, la iniciativa y la guía complementaria tienen como objetivo hacer cumplir el Título I de la Ley de Estadounidenses con Discapacidades. El Título 1 prohíbe que los empleadores, las agencias de empleo, las organizaciones laborales y los comités laborales y administrativos conjuntos con 15 o más empleados discriminen por motivos de discapacidad.
“A medida que nuestra tecnología continúa avanzando rápidamente, también deben hacerlo nuestros esfuerzos de cumplimiento para garantizar que las personas con discapacidades no sean marginadas y rezagadas en un mundo digital”, declaró la Fiscal General Auxiliar de la División de Derechos Civiles de Justicia, Kristen Clarke.
Las entidades gubernamentales federales, estatales y locales deben seguir las pautas, pero también se aplican a las empresas del sector privado, incluidos los contratistas federales. La presidenta de la EEOC, Charlotte Burrows, enfatizó que la Comisión y el Departamento de Justicia están preparados para hacer cumplir la guía.
En un algoritmo de preselección de candidatos, el presidente Burrows dio el ejemplo de que AI descartaría a un empleado con una discapacidad como la depresión si el software considera que su respuesta a una pregunta relacionada con el optimismo es atípica.
El esfuerzo se produce después de que el presidente Burrows introdujera la Iniciativa de equidad algorítmica en 2021 para garantizar que las nuevas tecnologías utilizadas en las decisiones de contratación cumplan con las leyes federales de derechos civiles. En ese momento, la EEOC descubrió que se necesitaba más investigación sobre los factores humanos y sociales entrelazados en la tecnología y que un marco de gestión de riesgos de IA necesitaría una evaluación adicional.
“Según la Oficina de Estadísticas Laborales de EE. UU., las personas con discapacidades enfrentan tasas de desempleo casi dos veces más altas que otros trabajadores que no tienen discapacidades. Más del 80 por ciento de los empleadores usan IA de alguna forma en su trabajo más amplio y en la toma de decisiones de empleo”, afirmó el presidente Borrows. “Entonces, pensamos que era importante asegurarnos de que ayudábamos a cumplir con las leyes de derechos civiles en lugar de convertirnos en un camino de alta tecnología hacia la discriminación”.
En marzo, el Instituto Nacional de Estándares y Tecnología (NIST) también publicó un nuevo conjunto de recomendaciones sobre el sesgo de la IA para crear un estándar para administrar la tecnología. El mes pasado, el Departamento de Comercio nombró a 27 expertos en tecnología de varios sectores para el Comité Asesor Nacional de IA para asesorar a la Casa Blanca en temas de IA.
Cuando se trata de contratar software, la guía recomienda que las agencias empleen IA para evaluar las habilidades laborales en lugar de evaluaciones sensoriales, manuales o de comunicación.
