Tento týden zahájilo ministerstvo spravedlnosti a Komise pro rovné příležitosti zaměstnání (EEOC) novou společnou iniciativu zaměřenou na boj proti diskriminaci, které čelí jednotlivci se zdravotním postižením ve federálním náborovém procesu, a to prostřednictvím zabudované předpojatosti v umělé inteligenci (AI). Zkreslení vyplývá z technologických omezení, protože AI měří kvalifikaci a schopnosti žadatelů pomocí počítačových testů, životopisů a videopohovorů.
Pokyny vydané ve čtvrtek varují, že software a algoritmy používané k předběžnému prověřování kandidátů mohou v některých případech diskriminovat žadatele se zdravotním postižením a porušovat federální zákony o občanských právech. Konkrétně je cílem iniciativy a doplňkových pokynů prosadit hlavu I zákona o Američanech se zdravotním postižením. Hlava 1 zakazuje zaměstnavatelům, agenturám práce, organizacím práce a společným výborům vedení práce s 15 a více zaměstnanci diskriminaci na základě zdravotního postižení.
„Jak se naše technologie rychle rozvíjejí, musí se také vyvíjet naše snaha o prosazování, abychom zajistili, že lidé se zdravotním postižením nebudou v digitálním světě marginalizováni a ponecháni pozadu,“ uvedla zástupkyně generálního prokurátora Justice's Civil Rights Kristen Clarke.
Federální, státní a místní vládní subjekty se musí řídit pokyny, ale vztahují se také na společnosti ze soukromého sektoru, včetně federálních dodavatelů. Předsedkyně EEOC Charlotte Burrowsová zdůraznila, že Komise a ministerstvo spravedlnosti jsou připraveny tyto pokyny prosadit.
V algoritmu předběžného prověřování kandidátů uvedl Chair Burrows příklad, že AI vyřadí zaměstnance s postižením, jako je deprese, pokud software považuje jejich odpověď na otázku týkající se optimismu za atypickou.
Snaha přichází poté, co Chair Burrows v roce 2021 představil iniciativu Algorithmic Fairness Initiative, která má zajistit, aby nové technologie používané při rozhodování o náboru byly v souladu s federálními zákony o občanských právech. V té době EEOC zjistila, že je zapotřebí více výzkumu lidských a sociálních faktorů spojených s technologií a že rámec řízení rizik AI bude vyžadovat další posouzení.
„Podle amerického úřadu pro statistiku práce čelí jednotlivci se zdravotním postižením míře nezaměstnanosti téměř dvakrát vyšší než ostatní pracovníci, kteří nemají zdravotní postižení. Více než 80 procent zaměstnavatelů používá AI v nějaké formě ve své širší práci a při rozhodování o zaměstnání,“ uvedl Chair Borrows. "Takže jsme si mysleli, že je důležité zajistit, abychom pomohli dodržovat zákony o občanských právech, místo abychom se stali high-tech cestou k diskriminaci."
V březnu také Národní institut pro standardy a technologie (NIST) zveřejnil novou sadu doporučení o zkreslení AI s cílem vytvořit standard pro správu technologie. Minulý měsíc jmenovalo ministerstvo obchodu 27 technologických expertů z různých sektorů do Národního poradního výboru pro umělou inteligenci, aby radili Bílému domu v otázkách umělé inteligence.
Pokud jde o najímání softwaru, pokyny doporučují, aby agentury využívaly AI k hodnocení pracovních dovedností spíše než senzorické, manuální nebo komunikační hodnocení.
