Тази седмица Министерството на правосъдието и Комисията за равни възможности за заетост (EEOC) стартираха нова съвместна инициатива за борба с дискриминацията, с която се сблъскват хората с увреждания в процеса на набиране на персонал чрез вградени пристрастия в изкуствения интелект (AI). Пристрастията произтичат от технологичните ограничения, тъй като AI измерва квалификациите и способностите на кандидатите с помощта на компютърно базирани тестове, автобиографии и видео интервюта.
Насоките, издадени в четвъртък, предупреждават, че софтуерът и алгоритмите, използвани за предварителна проверка на кандидатите, в някои случаи могат да дискриминират кандидатите с увреждания и да нарушат федералните закони за гражданските права. По-конкретно, инициативата и допълнителните насоки имат за цел да наложат дял I от Закона за американците с увреждания. Дял 1 забранява на работодателите, агенциите по заетостта, трудовите организации и съвместните комитети за управление на труда с 15 или повече служители да дискриминират въз основа на увреждане.
„Тъй като нашата технология продължава да напредва бързо, трябва да се полагат и усилията ни за правоприлагане, за да гарантираме, че хората с увреждания не са маргинализирани и изоставени в дигиталния свят“, каза Кристен Кларк, помощник-главен прокурор на отдела за граждански права на правосъдието.
Федералните, щатските и местните държавни органи трябва да следват указанията, но те се отнасят и за компании от частния сектор, включително федерални изпълнители. Председателят на EEOC Шарлот Бъроуз подчерта, че Комисията и Министерството на правосъдието са готови да наложат насоките.
В алгоритъм за предварителна проверка на кандидати председателят Бъроуз даде пример, че AI ще отсее служител с увреждане като депресия, ако софтуерът сметне за нетипичен техния отговор на въпрос относно оптимизма.
Усилията идват, след като през 2021 г. председателят Бъроус представи Инициативата за справедливост на алгоритмите, за да гарантира, че новите технологии, използвани при решенията за наемане, са в съответствие с федералните закони за гражданските права. По това време EEOC установи, че са необходими повече изследвания на човешките и социалните фактори, вплетени в технологията, и че рамката за управление на риска от ИИ ще се нуждае от допълнителна оценка.
„Според Бюрото по трудова статистика на САЩ хората с увреждания са изправени пред нива на безработица, почти два пъти по-високи от другите работници, които нямат увреждания. Над 80 процента от работодателите използват изкуствен интелект под някаква форма в по-широката си работа и при вземането на решения за наемане на работа“, каза председателят Бороуз. „Така че решихме, че е важно да се уверим, че помагаме за спазването на законите за гражданските права, вместо да се превърнем във високотехнологичен път към дискриминация.“
През март Националният институт за стандарти и технологии (NIST) също публикува нов набор от препоръки относно отклонението на AI, за да създаде стандарт за управление на технологията. Миналия месец Министерството на търговията назначи 27 технологични експерти от различни сектори в Националния консултативен комитет за ИИ, за да съветват Белия дом по въпросите на ИИ.
Когато става въпрос за наемане на софтуер, насоките препоръчват агенциите да използват AI за оценка на работните умения, а не сензорни, ръчни или комуникационни оценки.
