Les employeurs s'appuient de plus en plus sur des outils informatiques pour les aider à embaucher des travailleurs, à surveiller leurs performances, à déterminer les salaires ou les promotions et à établir les conditions d'emploi. Les logiciels de filtrage automatique des CV, les logiciels d'embauche, les logiciels de chatbot, les logiciels d'entretien vidéo, les logiciels d'analyse et les logiciels de surveillance et de gestion des employés permettent aux employeurs de trouver des gains d'efficacité dans la gestion quotidienne des employés. Les logiciels peuvent analyser les CV et hiérarchiser l'utilisation de certains mots-clés, évaluer les employés en fonction de leurs frappes au clavier, de leurs expressions faciales ou de leurs modèles d'élocution, et obtenir des informations sur les qualifications et les capacités cognitives avant qu'un responsable du recrutement ne jette un second regard.
Le 12 mai 2022, la Commission américaine pour l'égalité des chances en matière d'emploi (EEOC) et le ministère américain de la Justice (DOJ) ont publié des directives distinctes concernant l'utilisation par les employeurs d'algorithmes et de l'intelligence artificielle (IA) dans la prise de décision liée à l'emploi. Les deux documents d'assistance technique se concentrent spécifiquement sur la manière dont l'utilisation de ces technologies par les employeurs peut avoir un impact négatif sur les personnes handicapées et violer l'Americans with Disabilities Act (ADA).
Documents d'assistance technique de l'EEOC et du DOJ
Le document d'assistance technique de l'EEOC, "The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Candidates and Employees", en grande partie avertit que l'utilisation par les employeurs d'outils décisionnels algorithmiques sans tenir compte des aménagements raisonnables peut rapidement aller à l'encontre de l'ADA.
De même, le document d'assistance technique du DOJ, "Algorithms, Artificial Intelligence, and Disability Discrimination in Hiring", identifie les façons dont les employeurs des gouvernements des États et locaux pourraient utiliser des technologies d'embauche susceptibles d'enfreindre l'ADA.
A. Fournir des aménagements pendant le processus d'évaluation
De manière fondamentale, les outils de prise de décision algorithmique sont conçus pour prédire les performances d'un candidat ou d'un employé typique dans des conditions de travail typiques. Mais les candidats et les employés handicapés peuvent ne pas se présenter comme « typiques » – et peuvent ne pas fonctionner sur le lieu de travail dans des conditions « typiques ». Les employeurs doivent donc (1) fournir des aménagements raisonnables au cours de tout processus d'évaluation automatisé ; et (2) se méfier de l'IA qui filtre les candidats handicapés, même par inadvertance. Et dans tous les cas, les employeurs doivent éviter les outils d'évaluation qui posent des questions liées au handicap ou constituent des examens médicaux en vertu de l'ADA avant une offre d'emploi conditionnelle.
Pour illustrer leurs préoccupations, l'EEOC et le DOJ ont proposé plusieurs exemples de problèmes potentiels d'accessibilité des évaluations, notamment :
Dans ces cas, l'employeur serait tenu de fournir une version accessible de l'évaluation (c'est-à-dire une version dans laquelle les réponses sont orales ou un lecteur d'écran est utilisé) à titre d'aménagement raisonnable, à moins que cela ne cause un préjudice injustifié. S'il n'est pas possible de rendre accessibles les évaluations existantes, des évaluations alternatives doivent être proposées, sauf préjudice injustifié.
B. Éviter les exclusions non autorisées
La « exclusion » se produit lorsqu'un handicap empêche un candidat ou un employé de répondre aux critères de sélection ou diminue leur performance, entraînant la perte d'une opportunité d'emploi. Ceci est illégal si la personne qui est éliminée est en mesure d'exercer les fonctions essentielles de l'emploi avec ou sans aménagement raisonnable. L'EEOC et le DOJ fournissent des exemples de la manière dont les outils décisionnels algorithmiques peuvent exclure illégalement des individus sur la base d'un handicap, bien que l'individu puisse être en mesure d'exécuter les fonctions essentielles du travail avec ou sans aménagement raisonnable :
C. Éviter les demandes de renseignements non autorisées
L'EEOC et le DOJ mettent également en garde les employeurs contre l'utilisation d'outils décisionnels algorithmiques qui posent des "questions liées au handicap". Il s'agit de questions susceptibles d'obtenir des informations sur un handicap, notamment en demandant simplement si un candidat ou un employé est une personne handicapée. Ils comprennent également des questions d'« examen médical » qui visent à obtenir des informations sur les déficiences physiques ou mentales ou la santé d'un individu avant une offre d'emploi conditionnelle.
Meilleures pratiques pour l'avenir
Enfin, l'EEOC et le DOJ mettent en évidence les meilleures pratiques pour que les employeurs se conforment à l'ADA lorsqu'ils utilisent des outils décisionnels algorithmiques. Plus précisément, l'EEOC et le DOJ encouragent les employeurs à :
Quelle est la prochaine ?
Les documents d'assistance technique de l'EEOC et du DOJ sont parmi les premiers documents d'orientation publiés par toute agence fédérale concernant l'utilisation de l'IA par les employeurs. The documents are not surprising, though. L'EEOC s'intéresse au sujet depuis au moins octobre 2016, date à laquelle il a organisé une réunion sur le « Big Data en milieu de travail ». Plus récemment, en décembre 2020, plusieurs sénateurs ont écrit une lettre ouverte à l'EEOC pour demander des informations sur sa surveillance des technologies d'embauche. Entre autres questions, ils ont demandé si l'EEOC prévoyait de publier des publications ou de fournir des conseils sur l'utilisation des données et de la technologie lors de l'embauche. Et en octobre 2021, l'EEOC a annoncé avoir lancé une initiative sur l'intelligence artificielle et l'équité algorithmique. Ainsi, si les documents d'assistance technique de l'EEOC et du DOJ sont parmi les premiers, ils ne seront pas les derniers. Les employeurs doivent s'attendre à ce que l'EEOC et le DOJ continuent d'élargir leurs recherches et leur réglementation de l'utilisation de l'IA par les employeurs et de la manière dont cela implique à la fois l'ADA et d'autres lois fédérales anti-discrimination.
