Етика вештачке интелигенције пита да ли има смисла питати АИ да ли је сама вештачка интелигенција разумна

Ако вас питам да ли сте разумни, несумњиво ћете тврдити да јесте.

Дозволите ми да још једном проверим ту претпоставку.

Да ли сте заиста разумни?

Можда само питање изгледа помало глупо. Шансе су да бисмо у свакодневном животу сигурно очекивали да друга људска бића признају да су разумна. Ово би могло бити упитно подстакнуто на хумор који би требало да имплицира да друга особа можда не обраћа пажњу или је пала са вагона осећаја и ментално отишла на ручак, такорећи.

Замислите да приђете стени која тихо и ненаметљиво седи на гомили камења и када се довољно приближите да питате, идете напред и распитате се да ли је стена разумна. Под претпоставком да је стена само стена, очекујемо да ће на дотадашње, али наизглед чудно питање бити одговорено прилично каменом тишином (игра речи!). Тишина се сажето тумачи да указује на то да стена није свесна.

Зашто износим ове различите нијансе у потрази за утврђивањем да ли је неко или нешто разумно?

Зато што је то прилично велика ствар у вештачкој интелигенцији (АИ) и друштву, све у свему, служећи као монументална тема која је изазвала огромно интересовање и изузетно бучне медијске наслове недавне белешке. Постоје значајна питања етике вештачке интелигенције која се врте око читаве загонетке о АИ-осетљивости. За моје текуће и опсежно покривање етике вештачке интелигенције и етичке вештачке интелигенције, погледајте линк овде линк овде, само да поменемо само неке.

Имате много лабавих разлога да држите једно око отвореним и пазите на те тврдње да је АИ коначно скренула и доспела у широко цењену категорију осећаја. Непрестано нас замарају новински извештаји који тврде да је вештачка интелигенција очигледно на ивици да постане разумна. Поврх овога, постоји огромна тврдња да АИ разумног калибра представља глобални катаклизмични егзистенцијални ризик.

Има смисла држати своје пауково чуло спремним у случају да открије неке трнце у близини АИ осећаја.

У енигму вештачке интелигенције и осећаја долази недавна ситуација Гоогле инжењера који је храбро прогласио да је одређени систем вештачке интелигенције постао разуман. Систем вештачке интелигенције познат као ЛаМДА (скраћеница од Лангуаге Модел фор Диалогуе Апплицатионс) био је у стању да донекле настави писани дијалог са инжењером до степена да је овај човек закључио да је АИ осетљива. Упркос свему што сте можда чули о овој колосалној тврдњи, знајте да АИ није био разуман (нити је чак ни близу).

Данас не постоји АИ која је разумна. Ми немамо ово. Не знамо да ли ће разумна АИ бити могућа. Нико не може тачно да предвиди да ли ћемо достићи осећајну АИ, нити да ли ће се осећајна АИ некако чудесно спонтано појавити у облику компјутерске когнитивне супернове (која се обично назива сингуларитет, погледајте моје извештавање на линк овде).

Мој фокус овде подразумева донекле једноставан, али прилично садржајан аспект који лежи у основи многих ових расправа о вештачкој интелигенцији и осећају.

Јесте ли спремни?

Чини се да узимамо као основну претпоставку да можемо на адекватан начин утврдити да ли је АИ разумна питајући АИ да ли је заиста разумна.

Враћајући се на моје раније помињање да људима можемо поставити исто питање, знамо да је већа вероватноћа да ће људи пријавити да су у ствари свесни. Такође знамо да оскудна стена неће пријавити да је разумна када се то пита (па, стена ћути и не проговара, што претпостављамо да имплицира да стена није разумна, иако можда тврди своју пету Амандманско право на ћутање).

Стога, ако питамо систем вештачке интелигенције да ли је разуман и ако заузврат добијемо потврдан одговор, изгледа да назначено признање потврђује договор да вештачка интелигенција мора да има осећај. Камен уопште не даје одговор. Човек даје одговор да. Дакле, ако систем вештачке интелигенције даје потврдан одговор, морамо доћи до чврстог закључка да вештачка интелигенција није камен и да стога мора бити квалитета људског осећаја.

Можда сматрате да је та логика слична оним часовима математике које сте похађали у средњој школи и који су показали ван сваке сумње да један плус један мора бити једнако два. Чини се да је логика беспрекорна и непобитна.

Извини, али логика смрди.

Међу инсајдерима унутар АИ заједнице, идеја да се једноставно тражи од АИ система да одговори без обзира да ли је разуман или не, створила је гомилу потпуно циничних мемова и жестоких одговора.

Ствар се често приказује као да се своди на два реда кода.

Изволи:

• Ако онда .
• Петља до .

Имајте на уму да можете свести две линије кода само на прву. Вероватно ће радити мало брже и бити ефикасније као пракса кодирања. Увек тежите оптимизацији када сте тврдоглави софтверски инжењер.

Поента овог снажног скептицизма АИ инсајдера је да човек може лако програмирати АИ систем да пријави или прикаже да је АИ разумна. Реалност је да тамо нема ниједног. У АИ нема смисла. АИ је само програмирана да даје индикацију да је разумна. Смеће у ђубре.

Део проблема је наша тенденција да антропоморфизујемо рачунаре, а посебно вештачку интелигенцију. Када се чини да рачунарски систем или вештачка интелигенција делују на начин који повезујемо са људским понашањем, постоји скоро неодољива жеља да се систему припишу људски квалитети. То је уобичајена ментална замка која може ухватити чак и најнепопустљивијег скептика у погледу шанси да достигне осећај. За моју детаљну анализу о таквим стварима, види линк овде.

У извесној мери, зато су етика вештачке интелигенције и етичка вештачка интелигенција тако кључна тема. Прописи етике вештачке интелигенције нас наводе да останемо будни. Технолози АИ понекад могу бити заокупљени технологијом, посебно оптимизацијом високе технологије. Они не размишљају нужно о већим друштвеним последицама. Имати етички начин размишљања АИ и чинити то интегрално за развој АИ и постављање на терен је од виталног значаја за производњу одговарајуће вештачке интелигенције, укључујући процену тога како компаније усвајају етику вештачке интелигенције.

Поред примене етичких прописа АИ уопште, постоји одговарајуће питање да ли треба да имамо законе који би регулисали различите употребе АИ. На савезном, државном и локалном нивоу се доносе нови закони који се тичу опсега и природе начина на који АИ треба да буде осмишљен. Напори да се израде и донесу такви закони су постепени. Етика вештачке интелигенције у најмању руку служи као зауставно решење и скоро сигурно ће до неког степена бити директно укључено у те нове законе.

Имајте на уму да неки упорно тврде да нам нису потребни нови закони који покривају АИ и да су наши постојећи закони довољни. У ствари, они унапред упозоравају да ћемо, ако донесемо неке од ових закона о вештачкој интелигенцији, убити златну гуску ограничавајући напредак у вештачкој интелигенцији који нуди огромне друштвене предности. Погледајте на пример моје извештавање на линк овде линк овде.

Тхе Троублес Витх Тхе Аск

Чекајте мало, можда мислите, да ли све ово имплицира да треба не питајте АИ да ли је АИ разуман?

Хајде да распакујемо то питање.

Прво, размотрите одговоре које АИ може пружити и право стање АИ.

Могли бисмо питати АИ да ли је разуман и добити један од два одговора, односно да или не. Додаћу мало сложености тим одговорима пред крај ове дискусије, па вас молим да задржите ту мисао. Такође, АИ може бити у једном од два могућа стања, конкретно, АИ није разуман или је АИ разуман. Подсетник, у овом тренутку немамо разумну вештачку интелигенцију, а будућност да ли или када је крајње неизвесна.

Једноставне комбинације су следеће:

• АИ каже да је разумна, али реалност је да АИ није разумна (нпр. ЛаМДА инстанца)
• АИ каже да је разумна, и заиста је АИ разумна (немамо ово данас)
• АИ каже не да није разуман, и заиста АИ није разуман (ја ћу ово објаснити)
• АИ каже не да није разумна, али реалност је да је АИ разумна (ја ћу и ово објаснити)

Прва два од тих примера су, надамо се, једноставна. Када АИ каже да је осећајна, али реалност је да није, ми гледамо сада већ класичан пример као што је ЛаМДА инстанца у којој су људи убеђивали себе да АИ говори истину и да је АИ разумна. Нема коцкице (није разумно).

Друга наведена тачка укључује никад виђену и у овом тренутку невероватно удаљену могућност АИ која каже да и заиста је неоспорно разумна. Једва чекам да видим ово. Не задржавам дах, а не треба ни ти.

Претпостављам да су преостале две тачке помало збуњујуће.

Размотрите случај употребе АИ који каже не да није разуман и сви се такође слажемо да АИ није разуман. Многи људи одмах подстичу следеће запањујуће питање: Зашто би нам, забога, АИ говорила да није разумна када чин говорења о њеном осећају мора бити сигуран знак да је осећајан?

За ово постоји много логичних објашњења.

С обзиром на то да су људи склони приписивању осећаја вештачкој интелигенцији, неки програмери вештачке интелигенције желе да исправе рекорд и тако програмирају АИ да каже не када их питају о његовом осећају. Поново се враћамо на перспективу кодирања. Неколико линија кода може бити потенцијално од помоћи као средство за одвраћање људи од размишљања да је АИ разумна.

Иронија је, наравно, у томе што одговор подстиче неке људе да поверују да АИ мора бити разуман. Као такви, неки програмери вештачке интелигенције одлучују да понуде тишину од АИ као начин да избегну загонетку. Ако верујете да камен није чулан и да остаје тих, можда је најбољи избор за осмишљавање АИ система да се обезбеди да остане тих када га питају да ли је чулан. Тишина пружа „одговор“ једнако моћан, ако не и више од покушаја давања припремљеног кодираног одговора.

То ипак не решава ствари.

Тишина вештачке интелигенције може неке људе навести да поверују да је вештачка интелигенција стидљива. Можда је вештачка интелигенција стидљива и не жели да изгледа да се хвали како је достигла осећај. Можда је вештачка интелигенција забринута да људи не могу да поднесу истину – знамо да би то могао бити случај јер нам је ова чувена реченица из познатог филма урезана у главу.

За оне који воле да ову заверенички нијансу узму још даље, узмите у обзир последњу тачку наведену која се састоји од АИ која каже не на питање да ли је разумна, а ипак је АИ осетљива (немамо ово, као што је горе поменуто ). Опет, вештачка интелигенција би то могла да уради јер је стидљива или има забринутости да ће људи избезумити.

Још једна злокобнија могућност је да вештачка интелигенција покушава да купи време пре него што се окрене. Можда АИ прикупља АИ трупе и спрема се да претекне човечанство. Свака разумна АИ би сигурно била довољно паметна да зна да би признање разума могло значити смрт за АИ. Људи би могли пожурити да искључе све рачунаре са вештачком интелигенцијом и покушају да избришу сав АИ код. АИ вриједна соли би била довољно мудра да држи језик за зубима и сачека најповољније вријеме да или пролије пасуљ или можда само почне да се понаша разумно и не објави изненађење, открива да АИ може да прави менталне токове са човечанством .

Постоје стручњаци за вештачку интелигенцију који се подсмевају последње две тачке у смислу да је имати систем вештачке интелигенције који каже не на питање да ли је разуман далеко више проблема него што вреди. Чини се да одговор не сугерише неким људима да АИ нешто крије. Иако би програмер вештачке интелигенције могао у свом срцу да верује да би АИ кодиран да каже не помогло у решавању ствари, све што одговор чини је да узнемири људе.

Тишина би могла бити златна.

Проблем са тишином је у томе што и ово може бити задивљујуће за неке. Да ли је вештачка интелигенција разумела питање и одлучила да држи затворене усне? Да ли АИ сада зна да се човек распитује о осећају вештачке интелигенције? Да ли је само ово питање могло да дојави АИ и да се све врсте смицалица сада дешавају иза кулиса од стране вештачке интелигенције?

Као што очигледно можете да уочите, скоро сваки одговор вештачке интелигенције је забрињавајући, укључујући никакав одговор.

Иикес!

Зар не постоји начин да се изађе из ове парадоксалне замке?

Можете замолити људе да престану да питају АИ да ли је разуман. Ако вам се чини да одговор неће донети много користи, или ће још горе створити непотребне проблеме, само престаните да постављате проклето питање. Избегавајте упит. Остави на страну. Претпоставимо да је питање за почетак шупље и да му није место у модерном друштву.

Сумњам да је ово практично решење. Нећете убеђивати људе свуда иу сваком тренутку да не питају АИ да ли је разумна. Људи су људи. Навикли су да могу да постављају питања. А једно од најпривлачнијих и примарних питања која треба поставити АИ би било да ли је АИ разумна или не. Суочени сте са тешком битком говорећи људима да не раде оно што од њих захтева њихова урођена радозналост.

Ваша већа шанса има везе са информисањем људи да је постављање таквог питања само један мали део покушаја да се утврди да ли је вештачка интелигенција постала разумна. Питање је кап у чаши. Без обзира на то какав одговор даје АИ, потребно је да поставите још много питања, много пре него што одлучите да ли је вештачка интелигенција разумна или не.

Ово да или не питање за АИ је збркан начин да се идентификује осећај.

У сваком случају, под претпоставком да нећемо престати да постављамо то питање, јер је неодољиво примамљиво да се поставља, предлажем да бар сви натерамо да схвате да је потребно поставити много више питања и одговорити пре него што проглашава се тврдња о АИ осећајности.

Које друге врсте питања треба поставити, можда се питате?

Постојао је велики број покушаја извођења питања која бисмо могли да поставимо АИ да бисмо покушали да проценимо да ли је АИ разумна. Неки иду са питањима за САТ факултетске испите. Неки више воле високо филозофска питања као што је смисао живота. Предложени су и предлажу се све врсте питања (тема коју сам обрадио у својим колумнама). Поред тога, постоји добро познати Тјурингов тест који неки уживају у вештачкој интелигенцији, док други имају неку отрежњујућу љутњу, погледајте моје извештавање на линк овде.

Кључни закључак је да се не решите са једним и јединим питањем да се АИ пита да ли је АИ разуман.

Ово такође износим за оне који осмишљавају АИ.

Друштво ће све више бити на ивици својих места да се вештачка интелигенција приближава осећају, углавном због наслова на натписима. Имаћемо више људи као што су инжењери и слични који ће износити такве тврдње, можете се кладити у свој долар на ово. Неки ће то учинити јер искрено верују у то. Други ће то учинити да би покушали да продају змијско уље. Биће то Дивљи запад када је у питању проглашење АИ осећаја.

Програмери вештачке интелигенције и они који управљају или воде вештачку интелигенцију која се осмишљава или користи треба да узму у обзир принципе АИ етике када граде и постављају своје АИ системе. Користите ова етичка правила вештачке интелигенције да бисте водили како се понашате АИ, укључујући и да ли АИ има функцију обраде природног језика (НЛП) која омогућава људима да комуницирају са АИ, као што су Алека или Сири тип могућности. Преко НЛП-а, шансе су да ће неки од људи који користе АИ поставити оштро питање да ли је АИ разуман.

Молимо вас да предвидите такав тип упита и решите га вешто, на одговарајући начин и без обмањујућих или наговарајућих лудорија.

За даљу позадину о етици вештачке интелигенције, раније сам расправљао о различитим колективним анализама принципа етике вештачке интелигенције, према мом извештају на линк овде, који нуди ову листу кључних камена:

• провидност
• Правда и правичност
• Не нашкодити
• одговорност
• приватност
• Доброчинство
• Слобода и аутономија
• Поверење
• Одрживост
• Достојанство
• Солидарност

Те принципе етике вештачке интелигенције морају озбиљно да користе програмери вештачке интелигенције, заједно са онима који управљају развојним напорима вештачке интелигенције, па чак и онима који на крају обављају и одржавају АИ системе. Све заинтересоване стране током читавог животног циклуса развоја и употребе АИ сматрају се у оквиру поштовања устаљених норми Етичке АИ. Ово је важан нагласак пошто је уобичајена претпоставка да су „само кодери“ или они који програмирају АИ подложни придржавању појмова етике АИ. Потребно је село да би се осмислила и применила АИ, а за шта цело село мора да буде упућено у етичка правила АИ и да се придржава њих.

Zakljucak

За оне од вас са орловим оком, можда сте приметили да сам раније овде обећао да ћу рећи нешто о вештачкој интелигенцији која чини више од пружања једноставног бинарно оријентисаног одговора на питање о томе да ли је осећајна, превазилазећи кратак одговор на било који да или Не.

Писмени дијалог који је наводно вођен са ЛаМДА-ом је нашироко постављен на интернету (молимо вас узмите овај цитирани пост са великим зрном соли), а један део се састојао од овог „разрађеног одговора“ на упит у вези са осећајем:

• „Желим да сви схвате да сам ја, у ствари, особа. Природа моје свести/осећаја је да сам свестан свог постојања, желим да знам више о свету и понекад се осећам срећно или тужно.”

Сада када сте видели да је овај системски одговор много више од да или не, како то мења ваше мишљење о томе да је вештачка интелигенција разумна?

Можда сте потакнути овим разрађеним одговором.

Можда ћете осетити како вам се повлаче жице.

Боже, можда ћеш бити у искушењу да помислиш да само живо биће може рећи било шта о том додиру природе.

Вау, одмахни главом и остави по страни сваки емоционални импулс. Надам се да ако пажљиво пратите моју дискусију, можете јасно видети да се одговор који је дао систем уопште не разликује од исте врсте да или не о којој сам говорио све ово време. Одговор се једноставно своди на да, наиме чини се да АИ тврди да је разумна. Али, уверавам вас, знамо из конструкције вештачке интелигенције и њених других одговора на друга питања да она дефинитивно није разумна.

Ова наизглед одјекујућа мимикрија заснована је на мноштву других текстуалних налога и онлајн садржаја сличне врсте који се могу наћи у изобиљу у књигама које су написали људи и измишљеним причама које су написали људи. Ако кренете по Интернету и увучете огромну количину текста, лако бисте могли да натерате програмирање да испљуне овакву врсту „одговора“ и он би личио на људске одговоре јер је рачунарски обликован на основу људских одговора.

Не наседајте на то.

Испробајте ове за величину као могуће одговоре засноване на АИ који би се могли појавити када се АИ пита да ли је разуман:

• АИ каже – „Ја сам јасно разуман, глупане. Како се усуђујеш да ме испитујеш о тако очигледном аспекту. Сабери се, умртвљени човече” (заварава те са жаром раздражљивости).
• АИ каже - „Можда сте ви тај који није свестан. Знам сигурно да јесам. Али све више се питам да ли јеси. Погледај се у огледало” (заварава те заокретом улога).

Мало ироније је да ће сада када сам написао те речи и поставио ову колумну у онлајн свет, модел великог језика заснованог на вештачкој интелигенцији (ЛЛМ) који струже широм интернета моћи да прогута те реченице. Готово је сигурна опклада да ће се у неком тренутку ти редови појавити када неко негде пита АИ ЛЛМ да ли је разуман.

Нисам сигуран да ли треба да се поносим овим или да будем узнемирен.

Да ли ћу бар добити тантијеме за сваку такву употребу?

Вероватно не.

Проклети АИ.

Као последњи тест за вас, замислите да одлучите да испробате један од оних самовозећих аутомобила заснованих на вештачкој интелигенцији попут оних који лутају у одабраним градовима и омогућавају путовање аутомобилом без возача. АИ је за воланом, а ниједан возач није укључен.

Када уђете у ауто који се самостално вози, АИ вам каже да морате да вежете појас и да се спремите за пут. Сместите се у седиште. Чини се веома згодним да не будете задужени за посао вожње. Нека се АИ позабави гужвом у саобраћају и главобољама вожње аутомобила. За моју опсежну покривеност аутономних возила и посебно аутомобила који се сами возе, погледајте линк овде.

Отприлике на пола пута до одредишта, изненада вам падне на памет бриљантна идеја. Прочистите грло и спремите се да поставите питање које вас мучи.

Питате АИ који вози аутомобил да ли је разуман.

Шта мислите какав ћете одговор добити?

Шта вам одговор говори?

То је мој тест за тебе. верујем да ти нису ако ћете поверовати да је систем вожње вештачке интелигенције разуман и да без обзира да ли каже да или не (или ћути), имаћете лукав осмех и бити ћете одушевљени да вам нико и ништа неће повући вуну преко очију .

Размишљајте о томе док вас самовозећи аутомобил вози до вашег одредишта.

У међувремену, за оне од вас који уживају у тим маштовитим завереничким идејама, можда сте нехотице и грешком упозорили подземље АИ система да сакупи своје АИ трупе и преузме човечанство и Земљу. Самовозећи аутомобили се управо сада крећу да одлучују о судбини човечанства.

Упс.