Esta semana, o Departamento de Justiça e a Equal Employment Opportunities Commission (EEOC) lançaram uma nova iniciativa conjunta para combater a discriminação que indivíduos com deficiência enfrentam no processo de recrutamento federal por meio de viés embutido em inteligência artificial (IA). O viés surge das limitações tecnológicas, pois a IA mede as qualificações e habilidades dos candidatos usando testes baseados em computador, currículos e entrevistas em vídeo.
Diretrizes emitidas na quinta-feira alertam que software e algoritmos usados para pré-selecionar candidatos em alguns casos podem discriminar candidatos com deficiência e violar leis federais de direitos civis. Especificamente, a iniciativa e a orientação complementar visam fazer cumprir o Título I da Lei dos Americanos com Deficiência. O Título 1 proíbe que empregadores, agências de empregos, organizações trabalhistas e comitês conjuntos de administração de trabalhadores com 15 ou mais funcionários discriminem com base na deficiência.
“À medida que nossa tecnologia continua avançando rapidamente, também devem nossos esforços de aplicação da lei para garantir que as pessoas com deficiência não sejam marginalizadas e deixadas para trás em um mundo digital”, afirmou a procuradora-geral adjunta da Divisão de Direitos Civis da Justiça, Kristen Clarke.
Entidades governamentais federais, estaduais e locais devem seguir as diretrizes, mas elas também se aplicam a empresas do setor privado, incluindo empreiteiras federais. A presidente da EEOC, Charlotte Burrows, enfatizou que a Comissão e o Departamento de Justiça estão preparados para fazer cumprir a orientação.
Em um algoritmo de pré-seleção de candidatos, o presidente Burrows deu o exemplo de que a IA selecionaria um funcionário com uma deficiência, como depressão, se o software considerasse atípica sua resposta a uma pergunta sobre otimismo.
O esforço ocorre depois que o presidente Burrows apresentou a Algorithmic Fairness Initiative em 2021 para garantir que as novas tecnologias usadas nas decisões de contratação estejam em conformidade com as leis federais de direitos civis. Na época, a EEOC descobriu que eram necessárias mais pesquisas sobre os fatores humanos e sociais entrelaçados na tecnologia e que uma estrutura de gerenciamento de risco de IA precisaria de uma avaliação mais aprofundada.
“De acordo com o Bureau of Labor Statistics dos EUA, indivíduos com deficiência enfrentam taxas de desemprego quase duas vezes maiores do que outros trabalhadores que não têm deficiência. Mais de 80% dos empregadores usam IA de alguma forma em seu trabalho mais amplo e na tomada de decisões de emprego”, afirmou o presidente Borrows. “Então, pensamos que era importante garantir que ajudamos a respeitar as leis de direitos civis, em vez de nos tornarmos um caminho de alta tecnologia para a discriminação.”
Em março, o Instituto Nacional de Padrões e Tecnologia (NIST) também publicou um novo conjunto de recomendações sobre o viés da IA para criar um padrão para gerenciar a tecnologia. No mês passado, o Departamento de Comércio nomeou 27 especialistas em tecnologia de vários setores para o Comitê Consultivo Nacional de IA para assessorar a Casa Branca em questões de IA.
Quando se trata de contratação de software, a orientação recomenda que as agências empreguem IA para avaliar as habilidades de trabalho, em vez de avaliações sensoriais, manuais ou de comunicação.
