Cette semaine, le ministère de la Justice et la Commission pour l'égalité des chances en matière d'emploi (EEOC) ont lancé une nouvelle initiative conjointe pour lutter contre la discrimination à laquelle les personnes handicapées sont confrontées dans le processus de recrutement fédéral en raison de biais intégrés dans l'intelligence artificielle (IA). Le biais découle des limitations technologiques, car l'IA mesure les qualifications et les capacités des candidats à l'aide de tests informatiques, de CV et d'entretiens vidéo.
Les directives publiées jeudi avertissent que les logiciels et les algorithmes utilisés pour présélectionner les candidats dans certains cas peuvent être discriminatoires à l'égard des candidats handicapés et enfreindre les lois fédérales sur les droits civils. Plus précisément, l'initiative et les directives supplémentaires visent à appliquer le titre I de l'Americans with Disabilities Act. Le titre 1 interdit aux employeurs, aux agences de placement, aux organisations syndicales et aux comités mixtes patronaux-syndicaux comptant 15 employés ou plus de pratiquer une discrimination fondée sur le handicap.
"Alors que notre technologie continue de progresser rapidement, nos efforts de mise en application doivent également faire en sorte que les personnes handicapées ne soient pas marginalisées et laissées pour compte dans un monde numérique", a déclaré la procureure générale adjointe de la Division des droits civils de la Justice, Kristen Clarke.
Les entités gouvernementales fédérales, étatiques et locales doivent suivre les directives, mais elles s'appliquent également aux entreprises du secteur privé, y compris les sous-traitants fédéraux. La présidente de l'EEOC, Charlotte Burrows, a souligné que la Commission et le ministère de la Justice étaient prêts à appliquer les directives.
Dans un algorithme de présélection des candidats, le président Burrows a donné l'exemple selon lequel l'IA éliminerait un employé souffrant d'un handicap tel que la dépression si le logiciel juge atypique sa réponse à une question concernant l'optimisme.
L'effort intervient après que le président Burrows a lancé l'initiative d'équité algorithmique en 2021 pour garantir que les nouvelles technologies utilisées dans les décisions d'embauche sont conformes aux lois fédérales sur les droits civils. À l'époque, l'EEOC a constaté que davantage de recherches étaient nécessaires sur les facteurs humains et sociaux liés à la technologie et qu'un cadre de gestion des risques liés à l'IA nécessiterait une évaluation plus approfondie.
"Selon le Bureau of Labor Statistics des États-Unis, les personnes handicapées sont confrontées à des taux de chômage près de deux fois plus élevés que les autres travailleurs non handicapés. Plus de 80 % des employeurs utilisent l'IA sous une forme ou une autre dans leur travail plus large et leur prise de décision en matière d'emploi », a déclaré le président Borrows. "Nous avons donc pensé qu'il était important de nous assurer que nous aidions à respecter les lois sur les droits civils au lieu de devenir une voie high-tech vers la discrimination."
En mars, le National Institute of Standards and Technology (NIST) a également publié une nouvelle série de recommandations sur le biais de l'IA afin de créer une norme de gestion de la technologie. Le mois dernier, le ministère du Commerce a nommé 27 experts en technologie de divers secteurs au Comité consultatif national sur l'IA pour conseiller la Maison Blanche sur les questions d'IA.
En ce qui concerne l'embauche de logiciels, les conseils recommandent aux agences d'utiliser l'IA pour évaluer les compétences professionnelles plutôt que des évaluations sensorielles, manuelles ou de communication.
