Етика вештачке интелигенције и надолазећи дебакл када тај закон Њујорка који захтева ревизије за пристрасност вештачке интелигенције крене у погон

Понекад су најбоље намере жалосно уништене озбиљним недостатком пажње на детаље.

Врхунски пример ове мудрости мудраца вреди истражити.

Конкретно, хајде да изблиза погледамо нови закон у Њујорку у вези са вештачком интелигенцијом (АИ) који ће ступити на снагу 1. јануара 2023. Лако бисте могли да добијете приличну опкладу да ће се појавити свака врста забуне, констернације и невоља када закон ступи на снагу. Иако проблеми нису пројектовани, они ће несумњиво настати као резултат лошег дизајна или барем недовољног прописивања неопходних детаља који су лако требали и могли бити осмишљени и експлицитно наведени.

Мислим на локални закон донет прошле године 11. децембра 2021. у поштованом граду Њујорку који би требало да ступи на снагу почетком 2023. Тренутно нас дели само неколико месеци од великог буђења које овај нови закон ће се узбуркати. Волео бих да могу да кажем да ће амбициозни закон неприметно урадити оно што треба да уради, наиме бави се потенцијалним пристрасностима вештачке интелигенције у домену доношења одлука о запошљавању. Авај, иако је та намера хвале вредна, провест ћу вас кроз зјапеће рупе, пропусте и недостатак специфичности који ће поткопати овај закон и излудити послодавце док покушавају да се изборе са ненамерним, али прилично негативним последицама.

Могли бисте рећи да је ово класично питање гурања напред са напола припремљеним планом. Поштована максима која се приписује Двајту Ајзенхауеру била је да је план ништа, док је планирање све. Укратко, овај конкретан закон ће пружити живописан пример како законодавци понекад могу погрешити ако не размисле унапред неопходне појединости како би закон испунио своје хвале вредне циљеве и могао да буде усвојен на сигурно разуман и разборит начин.

Чека се дебакл.

Већ се ређају изговори.

Неки стручњаци су рекли да никада не можете у потпуности прецизирати закон и да га морате видети на делу да бисте знали који аспекти закона треба да се подесе (општа истина која се у овом случају несразмерно изобличава). Штавише, они жестоко тврде да је то нарочито случај када је реч о новонасталим законима везаним за вештачку интелигенцију. Дођавола, подстичу они, АИ је високотехнолошко чаробњаштво о којем ми као законодавци не знамо много, стога је логика да је боље ставити нешто на правне странице него да тамо немамо ништа.

На површини, то свакако звучи убедљиво. Ипак, копајте дубље и схватићете да је то потенцијално застрашујуће, укључујући и посебно у случају овог специфичног закона. Овај закон би се лако могао умешније и разборитије прописати. Не требају нам магични напитци. Не морамо да чекамо док не дође до невоља. У време писања закона, могла се утврдити права формулација и детаљи.

Хајде да се уверимо и да је непристојна, лебдела идеја да аспекти усвајања не могу да се предвиде унапред буде болно бесмислена. То је легално махање рукама најпразније врсте. Постоји много већ познатих разматрања о суочавању са пристрасностима вештачке интелигенције и спровођењу ревизија вештачке интелигенције која су се лако могла уклопити у овај закон. Исто се може рећи за било коју другу јурисдикцију која размишља о успостављању таквог закона. Немојте се заваравати у уверењу да морамо само да прибегнемо слепо бацању легалне стрелице у дивље ветрове и патњи. Делић правног размишљања у комбинацији са одговарајућим разумевањем АИ је већ изводљив и нема потребе да се хватате само за сламку.

Могао бих да додам, још увек има времена да се ово исправи. Сат и даље откуцава. Можда је могуће пробудити се пре него што звона за аларм почну да звоне. Потребан савет се може извести и објавити. Времена је кратко, па томе треба дати одговарајући приоритет.

У сваком случају, уверите се да схватате нагласак овде.

Дозволите ми да горљиво појасним да такав закон који се тиче пристрасности АИ заиста има заслуге. Одмах ћу објаснити зашто. Такође ћу описати који проблеми постоје са овим новим законом за који би многи рекли да је први уведен у правне књиге (постоје и друге варијације, можда не баш као ова).

Заиста, можете очекивати да ће слични закони постепено ступити на снагу широм земље. Једна значајна забринутост је да ако овај покушај првог покретача Њујорка прође лоше, то би могло довести до тога да остатак земље буде опрезан у доношењу таквих закона. То није права лекција коју треба научити. Исправна поука је да ако намеравате да пишете такав закон, урадите то разумно и са дужном пажњом.

Закони убачени у књиге без адекватне провере могу бити прилично узнемирујући и створити све врсте потешкоћа низводно. У том смислу, молимо вас да не бацате бебу са водом за купање (стара изрека, вероватно би требало да се повуче). Суштина је да такви закони могу бити истински продуктивни и заштитни када су правилно састављени.

Овај конкретан, нажалост, неће то учинити ван капије.

Све врсте паничних упутстава ће сигурно доћи од доносиоца и извршиоца закона. Означите своје календаре за крај јануара и фебруара 2023. да бисте гледали како долази до свађе. Упирање прстом ће бити изузетно интензивно.

Тренутно се нико посебно не буни јер закон још није слетио на главе послодаваца који ће бити зонирани новим законом. Замислите да је ово нека врста земљотреса, метафорички речено, који ће се десити у првим недељама 2023. Мало ко се припрема за земљотрес. Многи и не знају да је земљотрес већ уписан у календар. Узимајући све то у обзир, када се земљотрес догоди, многи веома зачуђени и шокирани бизниси ће се запитати шта се догодило и зашто је дошло до нереда.

Све ово има значајно значајне импликације на етику вештачке интелигенције и нуди згодан прозор у научене лекције (чак и пре него што се све лекције десе) када је у питању покушај да се АИ законски усвоји. За моје текуће и опсежно покривање етике вештачке интелигенције, Етичка вештачка интелигенција, заједно са законом о АИ усред правних аспеката управљања вештачком интелигенцијом, могу се наћи на линк овде линк овде, само да поменемо само неке.

Ова правна прича о несрећи односи се на раније настајање забринутости око данашње вештачке интелигенције, а посебно употребе машинског учења (МЛ) и дубоког учења (ДЛ) као облика технологије и начина на који се она користи. Видите, постоје употребе МЛ/ДЛ које имају тенденцију да подразумевају антропоморфизацију АИ од стране широке јавности, верујући или бирајући да претпоставимо да је МЛ/ДЛ или осећајна АИ или близу (није). Поред тога, МЛ/ДЛ може садржати аспекте подударања рачунарских образаца који су непожељни или потпуно неприкладни, или незаконити из етичке или правне перспективе.

Можда би било корисно прво разјаснити на шта мислим када говорим о АИ уопште и такође дати кратак преглед машинског учења и дубоког учења. Постоји велика конфузија о томе шта вештачка интелигенција подразумева. Такође бих желео да вам представим правила етике вештачке интелигенције, која ће бити посебно саставни део остатка овог дискурса.

Навођење записа о АИ

Хајде да се уверимо да смо на истој страни о природи данашње вештачке интелигенције.

Данас не постоји АИ која је разумна.

Ми немамо ово.

Не знамо да ли ће разумна АИ бити могућа. Нико не може тачно да предвиди да ли ћемо достићи осећајну АИ, нити да ли ће се осећајна АИ некако чудесно спонтано појавити у облику компјутерске когнитивне супернове (која се обично назива Сингуларитет, погледајте моје извештавање на линк овде).

Схватите да данашња вештачка интелигенција није у стању да „размишља“ ни на који начин на нивоу људског размишљања. Када комуницирате са Алеком или Сири, конверзацијски капацитети могу изгледати слични људским капацитетима, али реалност је да су рачунарски и да им недостаје људска спознаја. Најновија ера вештачке интелигенције је у великој мери користила машинско учење и дубоко учење, који користе подударање рачунарских образаца. Ово је довело до система вештачке интелигенције који имају изглед склоности сличних људима. У међувремену, данас не постоји ниједна вештачка интелигенција која има привид здравог разума нити има било какво когнитивно чудо снажног људског размишљања.

Део проблема је наша тенденција да антропоморфизујемо рачунаре, а посебно вештачку интелигенцију. Када се чини да рачунарски систем или вештачка интелигенција делују на начин који повезујемо са људским понашањем, постоји скоро неодољива жеља да се систему припишу људски квалитети. То је уобичајена ментална замка која може ухватити чак и најнепопустљивијег скептика у погледу шанси да достигне осећај.

У извесној мери, зато су етика вештачке интелигенције и етичка вештачка интелигенција тако кључна тема.

Прописи етике вештачке интелигенције нас наводе да останемо будни. Технолози АИ понекад могу бити заокупљени технологијом, посебно оптимизацијом високе технологије. Они не размишљају нужно о већим друштвеним последицама. Имати етички начин размишљања АИ и чинити то интегрално за развој АИ и постављање на терен је од виталног значаја за производњу одговарајуће вештачке интелигенције, укључујући процену тога како компаније усвајају етику вештачке интелигенције.

Поред примене етичких прописа АИ уопште, постоји одговарајуће питање да ли треба да имамо законе који би регулисали различите употребе АИ. На савезном, државном и локалном нивоу се доносе нови закони који се тичу опсега и природе начина на који АИ треба да буде осмишљен. Напори да се израде и донесу такви закони су постепени. Етика вештачке интелигенције у најмању руку служи као зауставно решење и скоро сигурно ће до неког степена бити директно укључено у те нове законе.

Имајте на уму да неки упорно тврде да нам нису потребни нови закони који покривају АИ и да су наши постојећи закони довољни. Они упозоравају да ћемо, ако донесемо неке од ових закона о вештачкој интелигенцији, убити златну гуску ограничавајући напредак у вештачкој интелигенцији који нуди огромне друштвене предности. Погледајте на пример моје извештавање на линк овде.

У претходним колумнама, покрио сам различите националне и међународне напоре за израду и доношење закона који регулишу АИ, види линк овде, на пример. Такође сам покрио различите принципе и смернице етике вештачке интелигенције које су различите нације идентификовале и усвојиле, укључујући, на пример, напоре Уједињених нација као што је УНЕСЦО-ов скуп етике вештачке интелигенције који је усвојило скоро 200 земаља, види линк овде.

Ево корисне кључне листе етичких АИ критеријума или карактеристика у вези са системима вештачке интелигенције које сам претходно пажљиво истражио:

• провидност
• Правда и правичност
• Не нашкодити
• одговорност
• приватност
• Доброчинство
• Слобода и аутономија
• Поверење
• Одрживост
• Достојанство
• Солидарност

Те принципе етике вештачке интелигенције озбиљно би требало да користе програмери вештачке интелигенције, заједно са онима који управљају развојним напорима АИ, па чак и онима који на крају обављају и одржавају АИ системе. Све заинтересоване стране током читавог животног циклуса развоја и употребе АИ сматрају се у оквиру поштовања устаљених норми Етичке АИ. Ово је важан нагласак пошто је уобичајена претпоставка да су „само кодери“ или они који програмирају АИ подложни придржавању појмова етике АИ. Као што је раније наглашено овде, потребно је село да осмисли и примени АИ, а за шта цело село мора да буде упућено у етичке прописе АИ и да се придржава њих.

Хајде да задржимо ствари на земљи и фокусирамо се на данашњу компјутерску неосетљиву вештачку интелигенцију.

МЛ/ДЛ је облик подударања рачунарских образаца. Уобичајени приступ је да прикупљате податке о задатку доношења одлука. Податке уносите у МЛ/ДЛ рачунарске моделе. Ти модели настоје да пронађу математичке обрасце. Након проналажења таквих образаца, ако су пронађени, АИ систем ће користити те обрасце када наиђе на нове податке. Након представљања нових података, обрасци засновани на „старим“ или историјским подацима се примењују да би се донела тренутна одлука.

Мислим да можете погодити куда ово води. Ако су људи који су доносили одлуке по узору на инкорпорирали нежељене предрасуде, шансе су да подаци то одражавају на суптилан, али значајан начин. Машинско учење или дубоко учење упаривање рачунарских образаца ће једноставно покушати да математички опонаша податке у складу са тим. Не постоји никакав привид здравог разума или других разумних аспеката моделирања направљеног од вештачке интелигенције.

Штавише, ни програмери вештачке интелигенције можда неће схватити шта се дешава. Тајна математика у МЛ/ДЛ-у може отежати откривање сада скривених предрасуда. С правом се надате и очекујете да ће програмери вештачке интелигенције тестирати потенцијално скривене предрасуде, иако је ово теже него што се чини. Постоји велика шанса да чак и уз релативно опсежна тестирања, постоје пристрасности и даље уграђене у моделе подударања образаца МЛ/ДЛ.

Могли бисте донекле користити чувену или злогласну изреку смеће-у-ђубре-ван. Ствар је у томе што је ово више слично предрасудама које се подмукло уносе као пристрасности потопљене у АИ. Алгоритам доношења одлука (АДМ) АИ аксиоматски постаје оптерећен неједнакостима.

Није добро.

Верујем да сам сада припремио сцену да довољно дискутујем о улози вештачке интелигенције у рубрици тихог одустајања.

АИ који се користи у доношењу одлука о запошљавању

Закон града Њујорка фокусира се на тему доношења одлука о запошљавању.

Ако сте у последње време покушали да се пријавите за модеран посао скоро било где на свету, вероватно сте наишли на елемент заснован на вештачкој интелигенцији у процесу доношења одлука о запошљавању. Наравно, можда не знате да је он ту јер би могао бити скривен иза кулиса и не бисте имали спреман начин да уочите да је укључен АИ систем.

Уобичајена фраза која се користи за упућивање на ове АИ системе је да се они сматрају Аутоматизовани алати за одлучивање о запошљавању, скраћено АЕДТ.

Хајде да видимо како је закон Њујорка дефинисао ове алате или апликације које подразумевају доношење одлука о запошљавању:

• „Израз 'аутоматизовани алат за одлучивање о запошљавању' означава сваки рачунарски процес, изведен из машинског учења, статистичког моделирања, аналитике података или вештачке интелигенције, који даје поједностављени резултат, укључујући резултат, класификацију или препоруку, који се користи за суштинску помоћ или заменити дискреционо одлучивање за доношење одлука о запошљавању које утичу на физичка лица. Термин „аутоматизована алатка за одлучивање о запошљавању“ не укључује алат који не аутоматизује, подржава, суштински помаже или замењује дискреционе процесе доношења одлука и који не утиче материјално на физичка лица, укључујући, али не ограничавајући се на, филтер за нежељену е-пошту, заштитни зид, антивирусни софтвер, калкулатор, табела, база података, скуп података или друга компилација података“ (НИЦ, Инт 1894-2020, потпоглавље 25, одељак 20-870).

Укратко ћу размотрити ову формулацију пошто је она од виталног значаја за целокупну природу и делокруг закона.

Прво, као што сам много пута навео у својим писмима, једна од најтежих препрека при писању закона о АИ састоји се од покушаја да се адекватно дефинише шта АИ значи. Не постоји јединствен усаглашени законски стандард отпорности на метке на који су сви слетели. Постоје све врсте дефиниција. Неки су корисни, неки нису. Погледајте моје анализе на линк овде.

Можда ћете бити у искушењу да мислите да није посебно важно како бисмо могли да дефинишемо АИ. Извините, али погрешили бисте у вези тога.

Проблем је у томе што ако је дефиниција вештачке интелигенције нејасно специфицирана у датом закону, она омогућава онима који развијају АИ да покушају да заобиђу закон тако што наизглед тврде да њихов софтвер или систем нису прожети вештачком интелигенцијом. Они би са великом смелошћу тврдили да се закон не примењује на њихов софтвер. Исто тако, неко ко користи софтвер такође може да тврди да се закон не односи на њега јер софтвер или систем који користи не спада у дефиницију АИ наведене у закону.

Људи су тако лукави.

Један од најмудријих начина да избегнете да вас обори закон који не волите је да тврдите да се закон не односи на вас. У овом случају, ви бисте настојали да по деловима раставите дефиницију АЕДТ-а. Ваш циљ, под претпоставком да не желите да вам закон буде на леђима, био би да правно аргументујете да је дефиниција дата у закону погрешна у погледу онога што је или ради ваш рачунарски систем који се односи на запошљавање.

Закону ове врсте може се помоћи, а понекад и поткопано, намерно укључивањем искључивих одредби у дефиницију.

Погледајте поново дефиницију АЕДТ-а како је наведено у овом закону. Надамо се да сте приметили да постоји клаузула о искључењу која каже „...не укључује алат који не аутоматизује, подржава, суштински помаже или замењује дискреционе процесе доношења одлука и који не утиче материјално на физичка лица…“.

С једне стране, основа за укључивање таквог искључења је од велике помоћи.

Чини се да сугерише (по мом лаичком мишљењу) да АЕДТ мора да обезбеди одређену сврху и да се користи на суштински начин. Ако је АЕДТ, да кажемо површни или периферни, и ако је одлука о запошљавању и даље прилично људска ручна израда, можда софтверски систем који се користи не треба тумачити као АЕДТ. Такође, ако софтвер или систем „материјално“ не утиче на физичка лица (људе), онда се чини да није вредно труда, такорећи, држати ноге на ватри.

Разумно, не желите да закон преувеличава његов обим и захвата све, укључујући судопер. То је у суштини неправедно и оптерећујуће за оне које закон није имао за циљ да обухвати. Они могу бити ухваћени у мочвару која се понаша као једна од оних мрежа за риболов. Претпоставља се да наши закони треба да буду пажљиви да не би увукли невине у делокруг закона.

Све је добро и добро.

Паметан адвокат је дужан да схвати да клаузула о искључењу може бити нека врста легалне карте за излазак из затвора (на страну, овај конкретан закон предвиђа грађанске казне, а не кривичне, тако да излазак из затвора примедба је само метафорична и због укусне продорности). Ако би неко тврдио да компанија користи АЕДТ у процесу запошљавања, један од првих начина да се покуша превазићи та тврдња био би аргумент да је такозвани АЕДТ заправо у домену искључивања. Можда ћете покушати да покажете да такозвани АЕДТ то не чини аутоматизовати решење о запошљавању или не подршка решење о запошљавању или не битно помоћи or заменити дискрециони процеси доношења одлука.

Затим можете ићи низ вијугав пут утврђивања шта речи „аутоматизовати“, „подршка“, „значајно помоћи“ или „заменити“ значе у овом контексту. То је прилично згодна легална зечја рупа. Може се изнети убедљив случај да је софтвер или систем за који се тврди да је АЕДТ део искључивих индикација. Дакле, нема штете, нема фаула, у вези са овим посебним законом.

Очигледно, за оваква питања треба консултовати лиценциране адвокате (овде није наведен никакав привид правног савета и ово је у потпуности став лаика).

Моја поента је да ће у овом новом закону бити простора за померање. Простор за помицање ће омогућити неким послодавцима који истински користе АЕДТ да можда пронађу рупу у заобилажењу употребе АЕДТ-а. Друга страна те медаље је да ће можда постојати фирме које не користе истински АЕДТ које ће бити заробљене овим законом. Могла би се изнети тврдња да је све што су користили заиста АЕДТ, и мораће да нађу начин да покажу да њихов софтвер или системи не спадају у АЕДТ иу одредбе о искључивању.

Можемо да направимо ово смело предвиђање:

• Несумњиво ће постојати послодавци који свјесно користе АЕДТ који ће потенцијално покушати да избјегну своје законске одговорности.
• Неизбежно ће постојати послодавци који не користе АЕДТ који ће се заглавити у тврдњама да користе АЕДТ, приморавајући их да морају да уложе „додатни“ напор да покажу да не користе АЕДТ.

Ја ћу даље излагати ове бројне пермутације и комбинације када будемо напредовали у овој дискусији. Имамо много више терена.

Коришћење АЕДТ-а само по себи није део овог питања који изазива демонстративну забринутост, већ начин на који АЕДТ изводи своје радње изазивају правни гнев. Суштина је у томе што ако АЕДТ такође уведе пристрасности у вези са доношењем одлука о запошљавању, онда сте у потенцијално врућој води (па, некако).

Како можемо да знамо да ли АЕДТ заиста уводи пристрасности оптерећене вештачком интелигенцијом у напор доношења одлука о запошљавању?

Одговор према овом закону је да се изврши АИ ревизија.

Раније сам и често покривао природу ревизија вештачке интелигенције и шта су оне, заједно са примећивањем постојећих недостатака и лоше дефинисаних аспеката, као што је на линк овде линк овде, између многих других сличних објава. Једноставно речено, идеја је да, баш као што можете извршити финансијску ревизију фирме или обавити технолошку ревизију у вези са рачунарским системом, можете извршити ревизију на АИ систему. Користећи специјализоване технике ревизије, алате и методе, испитујете и процењујете од чега се састоји АИ систем, укључујући, на пример, покушај да се утврди да ли садржи пристрасности ове или оне врсте.

Ово је област пажње која расте.

Можете очекивати да ће ово подобласт ревизије која је посвећена ревизији вештачке интелигенције наставити да расте. Очигледно је да ће све више и више АИ система бити пуштено на тржиште, а заузврат ће бити све више и више захтева за ревизијом АИ. Нови закони ће помоћи да се ово покрене. Чак и без тих закона, биће много ревизија вештачке интелигенције јер људи и компаније тврде да им је АИ учињена неправда и да ће настојати да пруже опипљиву документовану индикацију да је штета била присутна и везана за коришћење АИ.

АИ ревизори ће бити врући и веома тражени.

То може бити узбудљив посао. Један можда узбудљив елемент подразумева урањање у најновију и најбољу вештачку интелигенцију. АИ наставља да напредује. Како се ово дешава, проницљиви АИ ревизор ће морати да остане на ногама. Ако сте ревизор који се уморио од обављања свакодневних конвенционалних ревизија, увек нова арена за ревизију вештачке интелигенције која отвара очи обећава (кажем ово да делимично подигнем статус ревизора пошто су они често ненајављени хероји који раде у рововима и имају тенденцију да буду занемарени због својих настојања).

Поред тога, био сам сертификовани ревизор рачунарских система (једна таква ознака је ЦИСА) и обављао сам ИТ (информационе технологије) ревизије много пута током много година, укључујући ревизије АИ. Већину времена не добијате признање које заслужујете за такве напоре. Вероватно можете погодити зашто. Углавном, ревизори имају тенденцију да пронађу ствари које су погрешне или покварене. У том смислу, они су од велике помоћи, иако то неки могу схватити као лошу вест, а гласник лоших вести обично није посебно постављен на пиједестал.

Да се ​​вратим на ствар.

Што се тиче закона Њујорка, ево шта закон каже о ревизији АИ и настојању да се открију пристрасности АИ:

• „Израз 'ревизија пристрасности' означава непристрасну процену независног ревизора. Таква ревизија пристрасности укључује, али не ограничавајући се на тестирање аутоматизованог алата за одлучивање о запошљавању како би се проценио различит утицај алата на особе било које категорије компоненте 1 које послодавци морају пријавити у складу са пододељком (ц) одељка 2000е-8 наслова 42 закона Сједињених Држава како је наведено у делу 1602.7 наслова 29 кодекса савезних прописа” (НИЦ, Инт 1894-2020, потпоглавље 25, одељак 20-870).

Као резиме, ево где смо до сада распаковали овај закон:

• Закон покрива аутоматизоване алате за одлучивање о запошљавању (АЕДТ)
• Дефиниција врста је укључена да би се идентификовало шта је АЕДТ
• Дефиниција АЕДТ-а такође помиње одредбе о искључењу
• Суштина је да закон жели да разоткрије предрасуде АИ у АЕДТ-у
• Да би се утврдило да ли су присутне АИ пристрасности, потребно је извршити ревизију АИ
• Ревизија АИ ће вероватно објавити све пристрасности АИ

Следеће можемо да закопамо мало више у закон.

Ево од чега се састоји одлука о запошљавању:

• „Израз 'одлука о запошљавању' значи да се испитају кандидати за запошљавање или запослени за унапређење у граду” (НИЦ, Инт 1894-2020, потпоглавље 25, одељак 20-870).

Имајте на уму да ограничавајући аспект „града“ сугерише да се ово питање односи само на околности везане за запошљавање у Њујорку. Такође, вреди напоменути да одлука о запошљавању, како је дефинисано, подразумева проверу кандидата, што је уобичајена конотација онога што сматрамо одлуком о запошљавању, плус укључује и унапређења.

Ово је двоструки ударац у смислу да ће компаније морати да схвате да морају да буду у току са начином на који се њихов АЕДТ (ако га користе) користи за почетна подешавања запошљавања, као и приликом промоције унутар фирме. Вероватно можете да претпоставите или претпоставите да многе компаније неће бити сасвим свесне да се елемент промоције такође налази у овој рубрици. Они ће неизбежно превидети ту додатну конструкцију на сопствену одговорност.

Следеће ћу дати додатни кључни извод закона који ће осветлити суштину онога што се овим законом тумачи као незаконито:

• „Захтеви за аутоматизоване алате за одлучивање о запошљавању. а. У граду ће бити незаконито да послодавац или агенција за запошљавање користе аутоматизовани алат за одлучивање о запошљавању да би прегледали кандидата или запосленог за одлуку о запошљавању осим ако: 1. Такав алат није био предмет ревизије пристрасности која је спроведена не више од годину дана пре употребе таквог алата; и 2. Резиме резултата најновије ревизије пристрасности таквог алата, као и датум дистрибуције алата на који се таква ревизија односи, стављен је на располагање јавности на веб страници послодавца или агенције за запошљавање пре употребе такав алат...” (НИЦ, Инт 1894-2020, потпоглавље 25, одељак 20-871). Постоје додатне потклаузуле које бисте можда желели да погледате, ако сте веома заинтересовани за правну формулацију.

Скептици и критичари су тврдили да ово изгледа помало млако у погледу прозивања незаконите активности.

Кажу да се закон само уско и минимално фокусира спровођење АИ ревизија и објављивање резултате, а не о томе да ли је ревизија АИ открила пристрасности АИ и шта ако је то имало било какве последице у доношењу одлука о запошљавању које спадају у делокруг овог закона. У суштини, очигледно је незаконито да не одлучите да спроведете такву АИ ревизију (када је применљиво, као што је раније дискутовано), плус то је такође незаконито у случају ако спроводите АИ ревизију, али урадите не објавити то.

Чини се да закон не говори о томе да ли су пристрасности АИ откривене и присутне или не. Исто тако, ћутање о томе да ли је АИ пристрасност утицала на било кога у вези са истакнутом активношћу доношења одлука о запошљавању. Кључ је у томе да се наизглед једноставно „само“ спроведе АИ ревизија и каже се о томе.

Зар овај закон не иде довољно далеко?

Део контрааргумента за тврдњу да је ово наизглед задовољавајуће у погледу опсега или обима онога што овај закон обухвата јесте да ако ревизија АИ открије пристрасност АИ и ако су те пристрасности АИ везане за одређене случајеве доношења одлука о запошљавању, особа или би тако оштећена лица могла да гоне послодавца под други Закони. Дакле, нема потребе да се тај аспект укључи у овај конкретан закон.

Наводно, овај закон има за циљ да такве ствари изнесе на видело.

Једном када се баци светлост дана на ове нежељене праксе, могу се приступити свим врстама других правних путева ако постоје пристрасности вештачке интелигенције и утичу на људе. Без овог закона, аргумент је да би они који користе АЕДТ то радили док би можда били луди и потенцијално би имали тоне АИ предрасуда, за које они који траже посао или они који траже унапређења не би знали да се дешава.

Изнесите их на површину. Натерајте их да кажу. Уђи испод хаубе. Види шта је у том мотору. То је мантра у овом случају. Из овог испливавања и казивања, могу се предузети додатне радње.

Поред тражења правног поступка као резултат расветљавања да је ревизија вештачке интелигенције можда пријавила да су присутне АИ пристрасности, постоји и уверење да ће објављивање ових резултата донети реперкусије на репутацију. Послодавци за које се приказује да користе АЕДТ-ове који имају пристрасност АИ вероватно ће трпети друштвени гнев, као што су друштвене мреже и слично. Они ће постати разоткривени због својих злих радњи и посрамљени да исправе своје понашање, а такође ће се можда наћи лишени људи који желе да раде тамо због забринутости да пристрасности вештачке интелигенције спречавају запошљавање или узурпирају унапређења.

Наведене казне повезане са незаконитошћу су следеће:

• „Пенали. а. Свако лице које прекрши било коју одредбу овог потпоглавља или било које правило објављено у складу са овим потпоглављем одговорно је за грађанску казну од највише 500 УСД за прво кршење и сваки додатни прекршај који се догоди истог дана када и први прекршај, а не мање од 500 долара нити више од 1,500 долара за свако наредно кршење” (НИЦ, Инт 1894-2020, потпоглавље 25, одељак 20-872). Постоје додатне потклаузуле које бисте можда желели да погледате, ако сте веома заинтересовани за правну формулацију.

Скептици и критичари тврде да казне нису довољно строге. Велика фирма би се наводно ругала или смејала малим казнама у доларима. Други истичу да би казна могла да буде више него што се на први поглед чини, тако да ако фирма има хиљаду долара прекршаја сваког дана (само један сценарио, постоји много других сценарија), годину дана би вредело око 365,000 долара, под претпоставком да је фирма једноставно игнорисала закон читаву годину и извукла се са тим (изгледа тешко замисливо, али би се могло догодити, па чак и дуже или за већу кулминацију дневних казни, у теорији).

У међувремену, неки су забринути због мањих предузећа и повезаних казни. Ако мало предузеће које једва саставља крај с крајем буде погођено казнама, а наводно то није било намерно мотивисано да заобиђе закон, казне би могле материјално да утичу на њихов тешки посао.

Кључна проблематична разматрања у питању

Имам једноставно и јасно питање за вас.

У контексту овог закона, шта тачно представља ревизију АИ?

Проблематично је то што не постоји дефинитивна индикација унутар наратива закона. Чини се да нам је речено само да „ревизију пристрасности” треба извршити „непристрасном проценом независног ревизора” (према тексту закона).

Можете возити Мац камион кроз ту зјапећу рупу.

Ево зашто.

Размотрите овај прилично збуњујући пример. Преварант контактира фирму у Њујорку и објашњава да она пружа услугу тако да ће обавити такозвану „ревизију пристрасности“ свог АЕДТ-а. Обећавају да ће то учинити „непристрасно“ (шта год то значило). Они се држе као независни ревизор, и помазали су се као један. Нема потребе за било каквом обуком за рачуноводство или ревизију, дипломама, сертификатима или било чим сличним. Можда се помуче да одштампају неке визиткарте или на брзину поставе веб страницу на којој хвале статус свог независног ревизора.

Они ће фирми наплатити скромну накнаду од рецимо 100 долара. Њихова услуга се састоји од можда постављања неколико питања о АЕДТ-у, а затим проглашавања да је АЕДТ без предрасуда. Затим пошаљу извештај величине једне странице и објављују „резултате” такозване ревизије. Фирма ово послушно објављује на својој веб страници.

Да ли је фирма поштовала овај закон?

Ти ми реци.

Изгледа да имају.

Можда ћете одмах бити затечени што је ревизија обављена на површни начин (то је у овом конкретном сценарију љубазно и великодушно). Можда ћете бити узнемирени што је откривање пристрасности (или недостатак истог) можда у суштини унапред одређено (воила, чини се да сте без пристрасности). Можда ћете бити узнемирени што би објављени резултати могли да дају ауру да сте прошли ригорозну ревизију од стране доброверног искусног, обученог, искусног, сертификованог ревизора.

Да, то се тиче величине ствари.

Послодавац би могао одахнути што је испунио овај „блесав” услов и проклето срећан што их је то коштало само мизерних 100 долара. Послодавац би могао интерно и тихо схватити да је независна ревизија била шарада, али изгледа да није на њиховим плећима да одлучују. Представљен им је независни ревизор, ревизор је урадио посао за који је ревизор рекао да је усклађен, фирма је то платила, добили су резултате и објавили резултате.

Неки послодавци ће то учинити и схватити да се придржавају закона. Без обзира на то, они ће веровати да су у потпуности усклађени.

Други послодавци могу бити преварени. Све што знају је потреба да се придржавају закона. Срећом по њих (или барем тако претпостављају), „независни ревизор“ их контактира и обећава да се ревизија жалбе и резултат могу добити за 100 долара. Да би избегли 500 долара или више дневне казне, фирма мисли да им је уручен поклон са неба. Они плаћају 100 долара, „ревизија“ се одвија, добијају бесплатну потврду о недостатку АИ предрасуда, објављују резултате и забораве на ово до следећег пута када буду морали да ураде још једну такву ревизију .

Како свака фирма у Њујорку која подлеже овом закону треба да зна шта је бона фиде поштовање закона?

У случају да вам се већ помало не врти стомак, можемо да погоршамо ствари. Надам се да нисте јели у последњих неколико сати пошто ће следећи обрт бити тешко сачувати.

Јесте ли спремни?

Испоставило се да је овај лажни провајдер услуга више него што сте мислили. Они натерају фирму да се пријави за услугу од 100 долара како би извршила непристрасну ревизију пристрасности као независни ревизор. Ето, они врше „ревизију“ и откривају да постоје пристрасности у сваком кутку и углу АЕДТ-а.

Имају АИ предрасуде као најезда бубашваба.

Ајме, каже фирма, шта можемо да урадимо поводом тога?

Нема проблема, речено им је, можемо да поправимо те АИ пристрасности за вас. То ће вас коштати само 50 долара по свакој таквој пристрасности која је пронађена. У реду, фирма каже, поправите их, хвала што сте то урадили. Добављач услуга мало клевета кодирање и каже фирми да су поправили стотину АИ пристрасности, и стога ће им наплатити 5,000 долара (то је 50 долара по АИ пристрасности које треба поправити, помножено са 100 пронађених).

Јао, фирма се осећа укљештеном, али је ипак боље него да се суочи са кршењем од 500 долара или више по дану, тако да плаћају „независног ревизора“, а затим добијају нови извештај који показује да су сада без пристрасности. Они ово поносно објављују на својој веб страници.

Они мало знају да је ово била обмана, превара, превара.

Можда ћете инсистирати да овај провајдер услуга буде кажњен за своје преваре. Ухватити и зауставити ове преваранте биће много теже него што можете замислити. Баш као што се јурите за оним принчевима са седиштем у иностранству који имају богатство за вас вероватно у некој страној земљи ван домашаја закона Сједињених Држава, исто би се могло догодити иу овом случају.

Очекујте да ће се због овог новог закона појавити домаћа индустрија.

Постојаће бона фиде ревизори који ће настојати да пруже ове услуге. Браво за њих. Биће скитних ревизора који ће пратити овај посао. Постојаће лажно проглашени ревизори који ће ићи за овим послом.

Споменуо сам да је сценарио добављача услуга укључивао тражење 100 долара за такозвану АИ ревизију. То је био само измишљени чувар места. Можда ће неки наплатити 10 долара (изгледа да је мало). Можда неких 50 долара (још увек мало). итд.

Претпоставимо да добављач услуга каже да ће то коштати 10,000 долара за обављање посла.

Или 100,000 долара да то урадите.

Можда 1,000,000 долара за то.

Неки послодавци неће имати појма колико би ово могло или требало да кошта. Маркетинг ових услуга биће бесплатан за све. Ово је закон о зарађивању новца за оне који легитимно обављају ове услуге и правник за прављење новца за оне који су у томе подметнути. Биће тешко знати шта је шта.

Такође ћу вас замолити да размислите о још једној зјапећој рупи.

У контексту овог закона, шта тачно представља пристрасност АИ?

Осим што се помиње кодекс савезних прописа Сједињених Држава (ово не даје нарочито одговор на питање пристрасности вештачке интелигенције и ерго не служи као заустављање или решење по овом питању), било би тешко да тврдите да је овај нови закон пружа било какву суштинску индикацију шта су АИ пристрасности. Још једном, ово ће бити потпуно отворено за веома различита тумачења и нећете посебно знати шта се тражило, шта је пронађено итд. Такође, посао који обављају чак и бона фиде АИ ревизори ће скоро вероватно бити неупоредив са другим, тако да ће сваки тежити да користи своје власничке дефиниције и приступе.

Укратко, можемо са стрепњом и забринутошћу гледати на шта ће се послодавци сусрести као резултат овог лабаво сроченог, иако добронамјерног закона:

• Неки послодавци ће знати за закон и искрено и у потпуности се придржавати најбоље што могу
• Неки послодавци ће знати за закон и маргинално ће се придржавати најтањег, најјефтинијег и можда неугодног пута који могу пронаћи или који им долази на праг
• Неки послодавци ће знати за закон и веровати да нису у оквиру закона, па неће учинити ништа по том питању (иако се испоставило да су можда у делокругу)
• Неки послодавци ће знати за закон и глатко ће одлучити да га игноришу, можда верујући да то нико неће приметити или да се закон неће спроводити, или ће се утврдити да је закон неспроводљив, итд.
• Неки послодавци неће знати за закон и биће ухваћени на ногама, борећи се да га испоштују
• Неки послодавци неће знати за закон и преваранти ће их несрећно испразнити
• Неки послодавци неће знати за закон, они нису у оквиру делокруга, али ионако их преваранти убеде да су у оквиру тога.
• Неки послодавци неће знати за закон и неће ништа учинити по том питању, а за чудо никада неће бити ухваћени или оптужени због свог надзора
• други

Једна кључна ствар коју треба имати на уму је величина или размера повезана са овим новим законом.

Према различитим пријављеним статистичким подацима о броју предузећа у Њујорку, број се обично наводи као негде око 200,000 предузећа (користимо то као ред величине). Под претпоставком да је ово разумна апроксимација, вероватно ће та предузећа као послодавци бити предмет овог новог закона. Дакле, узмите горе поменутих неколико начина на које ће послодавци реаговати на овај закон и размислите колико ће их бити у свакој од различитих кантица које сам управо поменуо.

То је прилично запањујући проблем скалирања.

Поред тога, према објављеним статистикама, постоји можда 4 милиона послова у приватном сектору у Њујорку, плус процењени број од 300,000 државних радника запослених у њујоршкој влади (опет, користите их као редове величине, а не као прецизне бројеве). Ако се узме у обзир да су нова запошљавања наизглед у оквиру овог новог закона, уз унапређења везана за све те постојеће и будуће раднике, број запослених који ће на овај или онај начин бити дотакнути овај закон је искрено запањујући. .

Велика јабука има нови закон који се на први поглед чини безазленим и наизглед занемарљивим или свакодневним, али када схватите факторе скалирања који су укључени, може вам се завртјети у глави

Zakljucak

Споменуо сам на почетку ове расправе да је ово добронамерни нови закон.

Све што сам управо описао као потенцијалне рупе, пропусте, празнине, проблеме и слично, могло би се лако предвидети. Ово није ракетна наука. Могао бих да додам, постоји још више инхерентних забринутости и збуњујућих аспеката у овом закону које због ограничења простора овде нисам навео.

Можете их пронаћи једнако лако као што можете пуцати на рибу у бурету.

Законе ове врсте треба пажљиво осмислити како би се покушало спречити оваква подмукла заврзлама. Претпостављам да су озбиљни композитори настојали да напишу закон за који су веровали да је релативно гвозден и да би можда, у најгорем случају, имао неке ситне капљице овде или тамо. Нажалост, то је ватрогасно црево. Биће потребно много лепљиве траке.

Да ли је закон могао бити написан на разјашњенији начин како би се затвориле ове прилично очигледне рупе и повезана питања?

Да, у изобиљу.

С обзиром да је то случај, могли бисте огорчено да кажете да би такав закон несумњиво био много дужи. Увек постоји компромис да закон траје и траје, постаје незграпан, у односу на то да буде сажет и компактан. Међутим, не желите да будете сажети губитком онога што би била суштинска и заслужна јасноћа и специфичност. Кратак закон који дозвољава смицалице је пун невоља. Дужи закон, чак и ако је наизглед сложенији, обично би био достојан компромис ако би избегао, спречио или барем минимизирао низводне проблеме током фазе усвајања.

Свети Августин је чувено рекао: „Чини ми се да неправедан закон уопште није закон.

Могли бисмо дати закључак да је праведан закон који је састављен од проблематичног језика закон који моли да произведе озбиљне проблеме. У овом случају, изгледа да су нам остале мудре речи великог правника Оливера Вендела Холмса млађег, наиме да страница историје вреди фунту логике.

Гледајте како ће се ускоро стварати историја.