Tällä viikolla oikeusministeriö ja Equal Employment Opportunities Commission (EEOC) käynnistivät uuden yhteisen aloitteen torjuakseen vammaisten henkilöiden kohtaamaa syrjintää liittovaltion rekrytointiprosessissa tekoälyn (AI) sisäisen ennakkoluulon avulla. Harha johtuu teknologian rajoituksista, koska tekoäly mittaa hakijoiden pätevyyttä ja kykyjä tietokonepohjaisilla testeillä, ansioluetteloilla ja videohaastatteluilla.
Torstaina julkaistut ohjeet varoittavat, että hakijoiden esiseulonnassa käytetyt ohjelmistot ja algoritmit voivat joissain tapauksissa syrjiä vammaisia hakijoita ja rikkoa liittovaltion kansalaisoikeuslakeja. Aloitteen ja täydentävien ohjeiden tarkoituksena on erityisesti panna täytäntöön Americans with Disabilities Actin osasto I. Osasto 1 kieltää työnantajia, työvoimatoimistoja, työjärjestöjä ja työvoimahallinnon sekakomiteaa, jossa on vähintään 15 työntekijää, harjoittamasta vammaisuuteen perustuvaa syrjintää.
"Teknologiamme kehittyy edelleen nopeasti, joten myös täytäntöönpanotoimiemme on varmistettava, etteivät vammaiset syrjäyty ja jää jälkeen digitaalisessa maailmassa", sanoi Justice's Civil Rights Divisionin apulaisoikeusministeri Kristen Clarke.
Liittovaltion, osavaltion ja paikallishallinnon yksiköiden on noudatettava ohjeita, mutta ne koskevat myös yksityisen sektorin yrityksiä, mukaan lukien liittovaltion urakoitsijat. EEOC:n puheenjohtaja Charlotte Burrows korosti, että komissio ja oikeusministeriö ovat valmiita panemaan ohjeet täytäntöön.
Ehdokkaassa esiseulontaalgoritmissa Chair Burrows antoi esimerkin, että tekoäly seuloa työntekijän, jolla on vamma, kuten masennus, jos ohjelmisto pitää hänen vastaustaan optimismia koskevaan kysymykseen epätyypillisenä.
Yritykset alkavat sen jälkeen, kun Chair Burrows esitteli Algorithmic Fairness Initiativen vuonna 2021 varmistaakseen, että rekrytointipäätöksissä käytetyt uudet tekniikat ovat liittovaltion kansalaisoikeuslakien mukaisia. Tuolloin EEOC havaitsi, että teknologiaan liittyvistä inhimillisistä ja sosiaalisista tekijöistä tarvitaan lisää tutkimusta ja että tekoälyn riskinhallintakehys vaatisi lisäarviointia.
"U.S. Bureau of Labor Statisticsin mukaan vammaisten työttömyysaste on lähes kaksi kertaa korkeampi kuin muiden työntekijöiden, joilla ei ole vammoja. Yli 80 prosenttia työnantajista käyttää tekoälyä jossain muodossa laajemmassa työssään ja työllistämispäätöksessään”, Chair Borrows totesi. "Joten ajattelimme, että oli tärkeää varmistaa, että autamme noudattamaan kansalaisoikeuslakeja sen sijaan, että olisimme kehittyneet korkean teknologian väyläksi syrjintään."
Maaliskuussa National Institute of Standards and Technology (NIST) julkaisi myös uusia suosituksia tekoälyn harhasta luodakseen standardin tekniikan hallintaan. Viime kuussa kauppaministeriö nimitti 27 teknologia-asiantuntijaa eri aloilta kansalliseen tekoälyn neuvoa-antavaan komiteaan neuvomaan Valkoista taloa tekoälykysymyksissä.
Ohjeissa suositellaan, että virastot käyttävät tekoälyä arvioimaan työtaitoja aistinvaraisten, manuaalisten tai kommunikaatioiden arvioinnin sijaan.
