Етика вештачке интелигенције која се страствено бори за ваше законско право да будете изузетак

Кажу да од сваког правила постоји изузетак.

Међутим, проблем је у томе што често преовлађује стално правило и постоји мало или нимало допуштења да се изузетак призна или прихвати. Просечан случај се користи упркос великој могућности да је изузетак у првом плану. Изузетак не добија време за емитовање. Нема шансе да буде прописно размотрено.

Сигуран сам да знате о чему причам.

Да ли сте икада покушали да добијете неку врсту индивидуализоване корисничке услуге при чему су вас безобзирно третирали без икакве разлике за ваш конкретан случај и ваше специфичне потребе?

Ово вам се несумњиво догодило, вероватно безброј пута.

Провешћу вас кроз узнемирујући тренд који се јавља о томе како се вештачка интелигенција (АИ) немилосрдно осмишљава да на силу све уклопи у парадигму једне величине која одговара свима.

Изузеци се или не откривају или се бирају да буду искривљени као да уопште нису изузеци. Основа за то је делимично због појаве машинског учења (МЛ) и дубоког учења (ДЛ). Као што ћете ускоро видети, МЛ/ДЛ је облик подударања рачунарских образаца, чији је сличан „лакши“ за развој и примену ако сте вољни да игноришете или избегавате изузетке. Ово је веома проблематично и изазива значајне бриге око етике вештачке интелигенције. За моје свеукупно текуће и опсежно покривање етике вештачке интелигенције и етичке вештачке интелигенције, погледајте линк овде линк овде, само да поменемо само неке.

Ствари не морају да буду такве и имајте на уму да то подстичу они који праве и примењују АИ бирајући да игноришу или умање поступање са изузецима у оквиру својих АИ измишљотина.

Када владају изузеци

Хајде да прво откријемо природу просечног случаја насупрот реализацији изузетака.

Мој омиљени пример ове врсте гомилања паса или кратковидног приступа без изузетака у просечним случајевима је живо осветљен готово било којом епизодом хваљене и још увек веома популарне ТВ серије познате као Кућа, МД (обично се изражава само као Кућа, који је трајао од 2004. до 2012. и данас се може погледати на друштвеним мрежама и другим медијима). Емисија је укључивала измишљеног лика по имену др Грегори Хаус који је био груб, неподношљив и прилично неконвенционалан, а ипак је био приказан као медицински геније који је могао да открије најсјајније болести и тегобе. Другим докторима, па чак и пацијентима, можда се није нужно допао, али је посао обавио.

Ево како се одиграла типична епизода (генеричко упозорење за спојлер!).

Пацијент се појављује у болници у којој је др Хаус. Пацијент у почетку има неке уобичајене симптоме, а разни други лекари се смењују покушавајући да дијагностикују и излече пацијента. Чудно је то што покушаји да се помогне пацијенту или не успевају да побољшају неповољне услове или што је још горе, имају тенденцију да се обрате. Пацијенту је све горе и горе.

Пошто се на пацијента сада гледа као на неку врсту медицинске радозналости, а пошто нико други не може да схвати од чега пацијент болује, у случај је доведен др Хаус. То се понекад ради намерно како би се искористило његово медицинско умеће, док у другим случајевима он чује за случај и његови урођени инстинкти га вуку ка необичним околностима.

Постепено сазнајемо да пацијент има неку изузетно ретку болест. Само др Хаус и његов тим медицинских стажиста могу ово да схвате.

Сада када сам са вама поделио главну радњу епизода, хајде да заронимо у научене лекције које илуструју природу просечног случаја у односу на изузетке.

Измишљене приче су дизајниране да покажу како размишљање унутар кутије понекад може промашити циљ. Сви други лекари који у први мах покушавају да помогну пацијенту су замућени у својим процесима размишљања. Они желе да натерају симптоме и представљене аспекте у конвенционалну медицинску дијагнозу. Пацијент је само један од многих које су вероватно видели раније. Прегледајте пацијента, а затим му препишите исте третмане и медицинска решења која су више пута користили током своје медицинске каријере.

Оперите, исперите, поновите.

У једном смислу, можете оправдати овај приступ. Шансе су да ће већина пацијената имати најчешће болести. Дан за даном, ови лекари се сусрећу са истим медицинским проблемима. Можете сугерисати да су пацијенти који улазе у болницу заиста на медицинској траци. Сваки од њих тече дуж стандардизованих протокола болнице као да је део производног погона или монтажног погона.

Преовлађује просечан случај. Не само да је ово генерално прикладно, већ такође омогућава болници и медицинском особљу да у складу с тим оптимизују своје медицинске услуге. Трошкови се могу смањити када осмислите медицинске процесе за решавање просечног случаја. Постоји прилично познат савет који се често укуцава у умове студената медицине, а то је да ако чујете звук копита са улице, велика је вероватноћа да би требало да мислите на коња, а не на зебру.

Ефикасно, продуктивно, ефективно.

Све док се изузетак не ушуња у средину.

Можда је зебра из зоолошког врта побегла и одлутала вашом улицом.

Да ли то значи да изузеци треба да буду правило и да треба да оставимо по страни правило просечног случаја уместо фокусирања искључиво на изузетке?

Било би вам тешко да тврдите да сви наши свакодневни сусрети и услуге треба да буду фокусирани на изузетке, а не на просечни случај.

Имајте на уму да ја не дајем такав предлог. Оно што тврдим је да треба да обезбедимо да се изузеци догоде и да морамо да препознамо када се изузеци појаве. Ово помињем зато што су неки стручњаци склони да гласно прогласе да ако сте заговорник признавања изузетака, ерго, морате се противити осмишљавању просечног случаја.

То је лажна дихотомија.

Не падајте на то.

Можемо узети нашу торту и јести је.

Право да будете изузетак

Следеће ћу можда донети мали шок који све ово повезује са све већом употребом вештачке интелигенције.

Системи вештачке интелигенције се све више праве тако да се концентришу на просечни случај, често на искључивање или на штету препознавања изузетака.

Можда ћете бити изненађени када сазнате да се то дешава. Већина нас би претпоставила да, пошто је АИ облик компјутерске аутоматизације, лепота аутоматизације ствари је у томе што обично можете да уградите изузетке. Ово се обично може урадити по нижој цени него да користите људски рад за обављање сличне услуге. Са људским радом, може бити скупо или недовољно имати на располагању све врсте радне снаге која може да се носи са изузецима. Стварима је много лакше управљати и постављати их на своје место ако можете претпоставити да су сви ваши купци или клијенти просечног калибра. Али употреба компјутеризованих система би требало да прихвати изузетке, и то лако. На тај начин размишљања, требало би да бурно навијамо за више компјутеризованих могућности које долазе у први план.

Размотрите ово као загонетку која вас запањује и одвојите тренутак да размислите о овом мучном питању: Како АИ за коју се иначе претпоставља да је најбоља аутоматизација наизглед неумољиво корача рутинским и безизузетним путем за који смо иронично или неочекивано замишљали да иде у потпуно супротном смеру?

Одговор: Међутим, машинско учење и дубоко учење нас воде у беспрекорно постојање не јер морамо принудно да кренемо тим путем (можемо боље).

Хајде да распакујемо ово.

Претпоставимо да одлучимо да користимо машинско учење да осмислимо вештачку интелигенцију која ће се користити за откривање медицинских дијагноза. Прикупљамо гомилу историјских података о пацијентима и њиховим здравственим околностима. МЛ/ДЛ који смо поставили покушава да предузме компјутерско упаривање шаблона које ће испитати симптоме пацијената и приказати очекивану болест повезану са тим симптомима.

На основу добијених података, МЛ/ДЛ математички утврђује симптоме као што су цурење из носа, грлобоља, главобоља и бол који су снажно повезани са обичном прехладом. Болница се одлучује да користи ову АИ за обављање претходног скрининга пацијената. Наравно, пацијентима који пријављују те симптоме по првом доласку у болницу се „дијагностикује“ да вероватно имају обичну прехладу.

Промена брзина, хајде да додамо Др. Хоусе неку врсту обрта свему овоме.

Пацијент долази у болницу и дијагностикује му АИ. АИ указује да се чини да пацијент има обичну прехладу на основу симптома цурења из носа, упале грла и главобоље. Пацијенту се дају наизглед одговарајући рецепти и лекарски савети за лечење обичне прехладе. Ово је све саставни део приступа просечног случаја који се користи при осмишљавању АИ.

Испоставило се да пацијент на крају има ове симптоме неколико месеци. Стручњак за ретке болести и исхрану схвата да ови исти симптоми могу бити одраз цурења цереброспиналне течности (ЦСФ). Стручњак третира пацијента различитим хируршким захватима у вези са таквим цурењем. Пацијент се опоравља (иначе, ова изванредна прича о пацијенту са цурењем ЦСФ-а којем је првобитно дијагностикована прехлада је лабаво заснована на стварном медицинском случају).

Сада ћемо поново пратити наше кораке у овој медицинској саги.

Зашто вештачка интелигенција која је радила пре-скрининг уноса није могла да процени да ли пацијент можда има ову ретку болест?

Један од одговора је да ако подаци о обуци који се користе за прављење МЛ/ДЛ не садрже такве инстанце, у њима не би било ничега са чиме би се подударање рачунарског шаблона ускладило. С обзиром на недостатак података који покривају изузетке од правила, само опште правило или просечан случај ће се сматрати наизглед беспрекорним и примењиваће се без икаквог оклевања.

Друга могућност је да је постојао рецимо пример овог ретког цурења ЦСФ-а у историјским подацима, али то је био само један посебан случај и у том смислу изванредан. Сви остали подаци су математички били блиски констатованом просечном случају. Поставља се онда питање шта учинити са такозваним оутлиером.

Имајте на уму да је суочавање са овим одступањима ствар која се увелико разликује у погледу тога како програмери вештачке интелигенције могу одлучити да се боре са појавом нечега изван утврђеног просечног случаја. Не постоји обавезан приступ на који су програмери вештачке интелигенције приморани да прихвате. Помало је дивљи запад у погледу тога шта би било који програмер вештачке интелигенције могао да уради у било којој инстанци која изазива изузетке својих напора у развоју МЛ/ДЛ.

Ево моје листе начина на које су ови изузеци чести неприкладно обрађено:

• Изузетак се претпоставља као грешка
• Изузетак претпостављен као недостојан
• Изузетак се претпоставља као прилагодљив у „норми“
• Изузетак уопште није примећен
• Изузетак је примећен, али накратко игнорисан
• Изузетак примећен, а затим заборављен
• Изузетак примећен и сакривен од погледа
• Итд

Програмер вештачке интелигенције може одлучити да реткост није ништа друго до грешка у подацима. Ово може изгледати чудно да би неко размишљао на овај начин, посебно ако покушате да га хуманизујете тако што, на пример, замислите да је пацијент са цурењем ЦСФ-а тај један пример. Међутим, постоји снажно искушење да ако сви ваши подаци ван контекста говоре у основи једну ствар, можда се састоје од хиљада и хиљада записа и сви се приближавају просечном случају, појава једног чудног податка може лако (лењо!) бити протумачен као чиста грешка. Програмер вештачке интелигенције тада може да одбаци „грешку“ и да је не узме у обзир у оквиру онога на чему се МЛ/ДЛ обучава.

Други начин да се изборите са изузетком био би одлучити да је то недостојна ствар. Зашто се мучити са једном реткошћу када можда журите да покренете МЛ/ДЛ? Избаците изванредно стање и наставите даље. Ниједна мисао не иде нужно према последицама на путу.

Још један приступ укључује савијање изузетка у остатак миљеа просечног случаја. Програмер вештачке интелигенције мења податке како би се уклопили у остатак норме. Такође постоји шанса да програмер вештачке интелигенције не примети да постоји изузетак.

МЛ/ДЛ би могао да пријави да је изузетак откривен, а затим би програмер АИ требало да упути МЛ/ДЛ о томе како треба математички да се позабави одступником. Програмер вештачке интелигенције може ово да стави на листу обавеза и касније заборави да се носи са тим или може једноставно одлучити да то игнорише, итд.

Све у свему, откривање и решавање бављења изузецима када је у питању АИ је без икаквог посебно предвиђеног или убедљиво уравнотеженог и образложеног приступа само по себи. Изузеци се често третирају као недостојни изопћеници и просечан случај је преовлађујући победник. Суочавање са изузецима је тешко, може одузети много времена, захтева привид вештих развојних вештина вештачке интелигенције, а иначе је гњаважа у поређењу са групом ствари у згодну лептир машну у пакету једне величине за све.

У извесној мери, зато су етика вештачке интелигенције и етичка вештачка интелигенција тако кључна тема. Прописи етике вештачке интелигенције нас наводе да останемо будни. Технолози АИ понекад могу бити заокупљени технологијом, посебно оптимизацијом високе технологије. Они не размишљају нужно о већим друштвеним последицама.

Поред примене етичких прописа АИ уопште, постоји одговарајуће питање да ли треба да имамо законе који би регулисали различите употребе АИ. На савезном, државном и локалном нивоу се доносе нови закони који се тичу опсега и природе начина на који АИ треба да буде осмишљен. Напори да се израде и донесу такви закони су постепени.

У ову конкретну дискусију о улози изузетака долази провокативно гледиште да би можда требало да постоји законско право повезано са изузетком. Могло би бити да једини одрживи начин да се добије бона фиде признање за некога ко је можда изузетак подразумева коришћење дугачке руке закона.

Увести нову врсту људских права.

Право да се сматра изузетком.

Размотрите овај предлог: „Право да будете изузетак не подразумева да сваки појединац is изузетак, али да, када одлука може нанети штету субјекту одлуке, доносилац одлуке треба да размотри могућност да субјект може бити изузетак. Право на изузетак укључује три састојка: нашкодити, индивидуализација, и несигурност. Доносилац одлуке мора да одлучи да нанесе штету само када размотри да ли је одлука на одговарајући начин индивидуализована и, што је најважније, неизвесност која прати компоненту одлуке засновану на подацима. Што је већи ризик од повреде, то је озбиљније разматрање“ (Сарах Цен, у истраживачком раду под насловом Право да будете изузетак у доношењу одлука на основу података, МИТ, 12. април 2022.).

Можда ћете бити у искушењу да претпоставите да већ имамо такво право.

Не нужно. Према истраживачком раду, вероватно најближе међународно признато људско право могло би бити право на достојанство појединца. У теорији, идеја да би требало да постоји признање достојанства тако да би појединац и његова специфична јединственост требало да буду обухваћени вас доводи у оквир потенцијалног људског права на изузетак. Једна недоумица је да се за постојеће законе који регулишу област достојанства каже да су донекле небулозни и превише савитљиви, па стога нису добро усклађени са специфичном правном конструкцијом права на изузетак.

Они који фаворизују ново право које се састоји од људског права да буде изузетак тврдили би да:

• Такво право би прилично законски приморало програмере вештачке интелигенције да се експлицитно носе са изузецима
• Фирме које праве вештачку интелигенцију биле би више легално спремне да се не баве изузецима
• АИ би вероватно био боље избалансиран и робуснији у целини
• Они који користе АИ или који су подложни АИ би били боље
• Када вештачка интелигенција не прихвата изузетке, правни лек би био лако изводљив
• Произвођачи вештачке интелигенције ће такође бити бољи (њихова АИ би покривала шири круг корисника)
• Итд

Они који се противе новом праву означеном као људско право да буде изузетак обично кажу:

• Постојећа људска права и законска права то довољно покривају и нема потребе да се ствари компликују
• Неоправдани терет би био стављен на рамена произвођача вештачке интелигенције
• Напори да се направи АИ би постали скупљи и имали би тенденцију да успоре напредак АИ
• Појавила би се лажна очекивања да ће сви тражити да буду изузетак
• Само право би несумњиво било подложно различитим тумачењима
• Они који највише добијају биће правна професија када правни предмети нагло порасту
• Итд

Укратко, опозиција таквом новом праву обично тврди да је ово игра са нултом сумом и да ће законско право да буде изузетак коштати више него што је корисно. Они који верују да је такво ново право разумно потребно, склони су да нагласе да ово није игра са нултом сумом и да на крају сви имају користи, укључујући и оне који праве вештачку интелигенцију и оне који користе вештачку интелигенцију.

Можете бити сигурни да ће ова дебата која обухвата правне, етичке и друштвене импликације повезане са АИ и изузецима бити гласна и упорна.

Самовозећи аутомобили и важност изузетака

Размотрите како се ово примењује у контексту аутономних система као што су аутономна возила и аутомобили који се сами возе. Већ су постојале различите критике о просечном размишљању о развоју вештачке интелигенције за аутомобиле који се сами возе и аутономна возила.

На пример, у почетку је веома мали број дизајна аутомобила који се сами возе прихватали оне који имају неки облик физичког инвалидитета или оштећења. Није се много размишљало о ширем обухвату читавог спектра потреба јахача. Углавном, ова свест се повећала, иако се и даље изражава забринутост да ли је ово довољно далеко и прихваћено колико би требало да буде.

Још један пример просечног случаја у односу на изузетак има везе са нечим што би вас могло ухватити неспремног.

Јесте ли спремни?

Дизајн и примена многих АИ система за вожњу и самовозећих аутомобила данашњице има тенденцију да створи тиху или неизречену претпоставку да ће се одрасли возити у аутомобилу који се самостално вози. Знамо да када је за воланом човек-возач, у возилу је, наравно, одрасла особа, по дефиницији, пошто се обично добијање возачке дозволе заснива на томе да сте одрасла особа (па, или скоро једна). За аутомобиле који се сами возе и имају АИ који обавља сву вожњу, нема потребе да одрасла особа буде присутна.

Поента је да можемо имати децу која се сама возе у аутомобилима без присуства одрасле особе, барем је то могуће у случају потпуно аутономних самовозећих аутомобила са АИ погоном. Можете послати своју децу у школу ујутру тако што ћете користити аутомобил који се самостално вози. Уместо да морате да возите своју децу или да користите услугу дељења вожње помоћу људског возача, можете једноставно да се ваша деца гомилају у аутомобил који самостално вози и да их одвезу у школу.

Није све ружичасто када је реч о томе да деца буду сама у аутомобилима који се сами возе.

Пошто више нема потребе за одраслом особом у возилу, то имплицира да се ни деца више неће осећати под утицајем или да кажемо под контролом присуства одрасле особе. Да ли ће деца полудети и поцепати унутрашњост самовозећих аутомобила? Да ли ће деца покушати да се попну или посегну ван прозора аутомобила који се самостално вози? Које друге врсте лудорија могу да ураде, што може довести до потенцијалних повреда и тешке повреде?

Покривао сам жестоку дебату о идеји да се деца сама возе у аутомобилима који се сами возе, види линк овде. Неки кажу да се то никада не сме дозволити. Неки кажу да је то неизбежно и да морамо да смислимо како да то најбоље успемо.

Zakljucak

Вратимо се на свеобухватну тему просечног случаја насупрот изузетку.

Чини се да се сви слажемо да ће увек постојати неки изузетак од правила. Када је правило формирано или идентификовано, требало би да тражимо изузетке. Када наиђемо на изузетке, требало би да размислимо о томе на које правило се овај изузетак вероватно односи.

Многи од АИ који се данас осмишљавају обликовани су око формулисања правила, док се изазови повезани са изузецима обично напуштају и одбацују.

За оне који воле да буду лукави и кажу да нема изузетака од правила да увек постоје изузеци од правила, признао бих да ова досјетљивост изгледа као ментална загонетка. Наиме, како можемо имати правило да увек постоје изузеци, а да онда баш ово правило изгледа не важи за правило да увек постоје изузеци од правила?

Врти ти се у глави.

Срећом, нема потребе да се претерано компликују ове отрежњујуће ствари. Надамо се да можемо да живимо са практичним и виталним правилом на које треба да пазимо и прихватамо изузетке од сваког правила.

То решава ствари, па хајдемо сада да радимо на томе.