топлине
Алати за запошљавање који тврде да користе вештачку интелигенцију да би избегли родне и расне предрасуде можда неће побољшати различитост у запошљавању, већ би могли да продуже те предрасуде, тврдили су истраживачи са Универзитета у Кембриџу у недељу, избацујући програме – који су у прошлости изазивали критике – као начин коришћења технологије да се понуди брзо решење за дубљи проблем.
Приказан је Гоогле Висион систем за препознавање лица са АИ.
Гетти Имагес
Кључне чињенице
У раду који је објавио Филозофија и технологија, истраживачи су погледали тврдње неколико компанија које нуде алате за запошљавање засноване на вештачкој интелигенцији, од којих многе тврде да елиминишу предрасуде и промовишу различитост скривањем имена, полова и других идентификатора кандидата, а неке од њих ранк кандидата на основу скенирања биографије, онлајн процене и анализе говора и израза лица кандидата.
Истраживачи — два професора у Центру за родне студије Универзитета у Кембриџу — тврдили су да ови алати могу заправо промовисати униформност у запошљавању јер репродукују културолошке предрасуде „идеалног кандидата“, који су историјски били белци или европски мушкарци.
Алати такође можда неће побољшати разноликост јер су засновани на прошлим подацима компаније и стога могу промовисати кандидате који су најсличнији садашњим запосленима.
Постоји „мало одговорности за то како су ови производи направљени или тестирани“, рекла је у саопштењу Елеанор Драге, коаутор студије и истраживач Центра за родне студије Универзитета у Кембриџу, додајући да би технологија могла да послужи као „опасна“ извор „дезинформација о томе како регрутовање може бити 'обестрасно' и праведније.”
Пресудна цита
„Тврдећи да се расизам, сексизам и други облици дискриминације могу уклонити из процеса запошљавања помоћу вештачке интелигенције, ове компаније своде расу и пол на безначајне податке, уместо на системе моћи који обликују како се крећемо кроз свет, “, рекао је Драге у саопштењу.
Тангент
Амазон је најавио да ће то учинити 2018 зауставити користећи алатку за регрутацију помоћу вештачке интелигенције за преглед животописа кандидата за посао након што је утврђено да систем снажно дискриминише жене. То је зато што су компјутерски модели на које се ослањао развијени на основу животописа достављених компанији у последњих 10 година, који су углавном долазили од мушких кандидата.
Кључна позадина
Организације се све више окрећу АИ како би помогле у управљању процесима запошљавања. У једном Анкета за 2020 Од више од 300 лидера људских ресурса које су цитирали аутори недељног листа, консултантска кућа Гартнер је открила да 86% послодаваца користи виртуелну технологију у својим праксама запошљавања, што је тренд који се убрзао откако је пандемија Цовид-19 приморала многе да промене посао на мрежи. Док неке компаније тврде да вештачка интелигенција може да понуди јефтинији и временски ефикаснији процес запошљавања, неке Експерти have (имати) фоунд системи имају тенденцију да промовишу – уместо да елиминишу – запошљавање засновано на расној и родној припадности реплицирањем постојећих предрасуда из стварног света. Неколико америчких законодаваца је циљано да се ухвати у коштац са пристрасностима у системима вештачке интелигенције, пошто технологија наставља да се брзо развија и постоји неколико закона који то регулишу. Бела кућа је ове недеље објавила „Нацрт закона о правима вештачке интелигенције“, који тврди да је утврђено да алгоритми коришћени при запошљавању „одражавају и репродукују постојеће нежељене неједнакости“ или уграђују нове „пристрасности и дискриминације“. Нацрт — који није правно обавезујући или званична владина политика — позива компаније да обезбеде да вештачка интелигенција не дискриминише или нарушава приватност података и да обавесте кориснике када се технологија користи.
Вхат То Ватцх Фор
У списку препорука, аутори недељ Филозофија и технологија У раду је сугерисано да се компаније које развијају АИ технологије фокусирају на шире, систематске неједнакости уместо на „индивидуализоване случајеве пристрасности“. На пример, они предлажу програмерима софтвера да испитају категорије које се користе за сортирање, обраду и категоризацију кандидата и како ове категорије могу да промовишу дискриминацију ослањајући се на одређене претпоставке о полу и раси. Истраживачи такође тврде да ХР професионалци треба да покушају да схвате како функционишу алати за регрутацију АИ и која су нека од њихових потенцијалних ограничења.
Изненађујућа чињеница
Европска унија је класификовала софтвер за запошљавање са вештачком интелигенцијом и алате за процену учинка као „високи ризик“ у свом новом нацрт правни оквир за вештачку интелигенцију, што значи да би алати били предмет више контроле и да би морали да испуне одређене захтеве усклађености.
Даље читање
Извор: хттпс://ввв.форбес.цом/ситес/маделинехалперт/2022/10/09/аи-поверед-јоб-рецруитмент-тоолс-маи-нот-импрове-хиринг-диверсити-екпертс-аргуе/