Етика вештачке интелигенције и позната АИ Необична долина, која такође изазива самовозеће аутомобиле засноване на вештачкој интелигенцији

Понекад постоје помало чудне ствари које привлаче вашу пажњу и подстичу ваш интуитиван сок да нешто није у реду. Необичност није очигледна, нимало флагрантно у вашем лицу. Можда чак нећете моћи одмах да схватите шта је несклад или зашто вас пословично пауково чуло трне.

Можда се наслућују суптилни издајнички трагови. Можда вам се деси да у свом стомаку схватите да постоји несклад. Претпостављам да бисте могли рећи да постоји и најмањи наговештај језивости и да ваш деликатни људски радар хвата иначе наизглед скривене сигнале.

Добродошли у чудесну долину.

Ако никада нисте чули за чудесну долину, тему релативно популарну у области вештачке интелигенције, а посебно роботике, чека вас мало посластица јер ћу то помно расправљати и анализирати овде.

Свеобухватни појам се може применити на многе ствари које доживљавамо у животу, иако кључни принципи и изворна дефиниција подразумевају системе вештачке интелигенције и роботе. Прво ћемо истражити порекло и почетно значење чудесне долине, а затим ћемо наставити са проширењем како бисмо видели како се чини да су феномени применљиви у већим контекстима.

Такође бих могао да додам да ћемо размотрити да ли та необична долина уопште постоји.

Видите, неки скептици и циници тврде да је цела ствар помало смицалица и да не држи воду. Будите пажљиви када износите тему онима који знају. Неки ће се радосно насмешити и тапшати вас по леђима да сте добро упознати са чудесном долином, док ће вам други оштро држати предавања да је то пијаница свиња и да морате накратко да очистите свој ум сапуном сапуна за ментално чишћење .

Добра вест је да можете да одлучите да ли је чудновата долина стварна или не, заједно са да ли има заслуге за пажљиву примену или уместо тога треба да је без церемоније баците на отпад техно-идеја. У том смислу, ви сте на седишту возача.

Све ово се такође уско односи на растуће поље етичке вештачке интелигенције и растућу спознају да друштво мора озбиљно и трезвено да обрати пажњу на етику вештачке интелигенције. Ускоро ћемо успоставити везу.

Најбоље место за почетак је директно цитирање професора који је смислио концепт чудне долине и отворено назвао овај прокламовани феномен. Године 1970., професор Масахиро Мори са Токијског технолошког института објавио је прилично ситан чланак у нешто мање познатом часопису под називом енергија (није посебно легло за вештачку интелигенцију и роботику по себи), и рекао је ово:

„Приметио сам да, пењући се ка циљу да роботи изгледају као људи, наш афинитет према њима расте све док не дођемо у долину, коју ја називам језивом долином.

Имајте на уму да је горња фраза приказана на енглеском, иако је оригинални рад био на јапанском. Преведену верзију на енглески је надгледао аутор и касније је објављена у ИЕЕЕ Спецтрум 2012. и заслужан Масахиро Мори као аутор. Рад можете сами да прочитате јер је отворено и бесплатно доступан на мрежи. То је дефинитивно брзо читање од неких десетак минута и не садржи никакву техничку тешку терминологију.

Имајући то у виду, занимљиво је и помало невероватно да је тако жустар чланак, објављен 1970. године, на крају покренуо читаву арену истраживања и покренуо безброј сродних студија, пројеката, истраживања, а понекад и буру контроверзи о томе да ли је уведено концепт необичне долине заиста постоји. Претпостављам да ово показује да интригантне идеје које понекад мењају гледиште не морају бити у великој мери замршене или претрпане жаргоном и узвишеношћу. Сажета идеја може бити чак ни моћнија него што се чини на први поглед.

Верујем да ће вас то охрабрити да покушате да негујете своје нове идеје, чинећи то са спознајом да слатко и једноставно може бити једнако величанствено или понекад више него сложено и сложено.

Хајде да скочимо назад у чудесну долину.

Наилазите на роботски систем који има лице слично лицу које изгледа као човек. Замислите да је ово роботско лице осмишљено кроз бројне итерације. Програмери вештачке интелигенције који састављају главу робота постепено се труде да роботски део лица изгледа све више и више као стварно људско лице.

Њихов први покушај био је крајње примитиван. Лице робота је имало исти изглед који сте видели у научно-фантастичним филмовима да је потпуно метално и приказује зупчанике и жице. Када погледате у направу, одмах знате да је у питању робот. Немаш сумње о томе.

Следећи покушај АИ програмера укључивао је омотавање неких пластичних материјала око металних делова. Иако ово изгледа помало пријатељски, још увек одмах знате да је то глава робота и роботско лице. Опет, лако је открити.

Ти програмери АИ су одлучни да наставе са овим. Они обликују пластику и дају јој тонове коже. Додају карактеристике које изгледају веома сличне људском лицу, као што су младежи, коса, флеке и слично.

На први поглед, могли бисте да поверујете да је ово људско лице. Ако је слика роботског лица направљена и од вас се тражило да идентификујете да ли слика приказује особу насупрот роботском лицу, можда ћете бити у недоумици да одмах кажете које је то лице. С друге стране, да сте стајали поред уређаја, вероватно бисте након детаљног прегледа могли да уочите да то није човек, већ роботски изум.

Ствар је у томе што пре него што сте добили ту прилику да извршите преглед изблиза, било је нешто на лицу што се није у потпуности поклопило. Изгледало је као људско лице. Али нешто није у реду. Морали сте стално да пажљиво буљите изнова и изнова да бисте ставили прст на оно што не изгледа сасвим добро. Можда је право лице. Па опет, можда и није. Ваш ум се врти у складу с тим.

Привид језивости улази у ваш ум.

Нисте имали исти привид језивости када сте видели две раније верзије. Могли сте без паузе или оклевања открити да је робот робот. Само се дете може преварити да поверује да је било која од тих верзија стварна особа.

Ова најновија верзија је ипак била другачија. Још није било усавршено да изгледа као људско лице. Нити је био толико далеко од стварне ствари да је било очигледно да мора бити робот. Дошло је до неке врсте збрканог тла.

Претпоставимо да су програмери даље уложили своје истраживачке напоре и све средили тако да се роботско лице готово не разликује од људског лица. Без обзира колико дуго буљите у ту ствар, нисте сигурни да ли је човек или није човек. Када вас обавесте да је то роботско лице, затечени сте. Боже, урадили су сјајан посао да то изгледа стварно.

Приметите да сте до сада разматрали само роботске аспекте само на основу изгледа.

Могли бисмо да додамо кретање једначини. Ово вам додаје додатну димензију да разлучите да ли је робот робот у односу на човека. Не желим да ово у потпуности разматрам као вишедимензионалну врсту проблема у овој дискусији јер то чини разјашњење ове теме замршенијим (иако су вишедимензије неизбежно испреплетене). У сваком случају, замислите да не само да видите роботско лице, већ можете и да посматрате како робот помера црте лица, као што су уста, очи, нос, итд. Очигледно, и то би могли бити поклони о томе да ли је ово робот или човек.

Један од виталних аспеката који треба да остане на челу језиве долине је да првобитна концепција наглашава чин људске сродности. Феномен који се тврди је да се ваш афинитет повећава док видите лица робота која се постепено побољшавају, све до тачке у којој се појављује необична варијанта. У том тренутку се каже да ваш осећај афинитета драматично опада, стрмоглавивши се у провалију или долину афинитета.

За одређену верзију због које сте посумњали да нешто није у реду, ваш афинитет је наводно радикално опао. Штавише, према теорији, ваш афинитет може поново да порасте када наиђете на напреднију верзију која је скоро идентична стварном људском облику.

Ево више о томе шта је аутор рекао о нашој нормалној склоности да претпоставимо да се аспекти живота глатко повећавају: „Математички термин монотоно растућа функција описује однос у коме функција y = ƒ(x) континуирано расте са променљивом x. На пример, као напор x расте, приход y повећава, или како се притисне гас аутомобила, аутомобил се креће брже. Ова врста односа је свеприсутна и врло лако разумљива. У ствари, пошто такве монотоно растуће функције покривају већину појава свакодневног живота, људи могу пасти у илузију да представљају све односе. Овом лажном утиску сведочи и чињеница да се многи људи боре кроз живот упорним гурањем не схватајући ефикасност повлачења. Зато су људи обично збуњени када се суоче са неким феноменом који ова функција не може да представља.” Ово се цитира према ИЕЕЕ Спецтрум преведени рад.

Ова скоро универзална претпоставка о увек повећању може се поништити када наиђемо на нешто погрешно. Језивост и сумњичавост ће изазвати релативно нагли и драматичан пад афинитета, каже теорија, као што је роботска рука коју сте одлучили да се тресе и нисте могли да осетите карактеристике костију људске руке: „Када се ово деси, губимо смисао афинитета, а рука постаје необична. У математичком смислу, ово се може представити негативном вредношћу."

Ако прихватите претпоставку да постоји овај феномен чудесне долине, сигуран сам да се питате шта вам користи од тога да знате да та необична долина очигледно постоји.

То је класик свих времена "па шта?" тест практичности.

Испоставило се да је много људи смислило многа тумачења шта треба или можемо да урадимо у вези са чудесном долином. Има много мишљења. Ускоро ћу се позабавити некима од тога.

У међувремену, ево шта је Масахиро Мори понудио: „Надамо се да ћемо дизајнирати и изградити роботе и протетске руке које неће пасти у језовиту долину. Због тога, због ризика својственог покушајима да повећају степен њихове људске сличности да би се повећао други врх, препоручујем да дизајнери уместо тога узму први врх као свој циљ, што резултира умереним степеном људске сличности и значајним осећајем афинитета . У ствари, предвиђам да је могуће створити безбедан ниво афинитета намерно праћењем нељудског дизајна. Молим дизајнере да размисле о овоме."

Брза кондензација са моје стране дванаест практичних правила о томе шта треба да се ради у вези са чудесном долином иде овако посебно за програмере вештачке интелигенције:

1) Будите свесни необичне долине и будите на ногама у складу са тим

2) Вероватно желите да постигнете људски афинитет према својој вештачкој интелигенцији што је више могуће

3) Будите спремни на губитак људског афинитета ако ваш АИ падне у језовиту долину

4) Покушајте да избегнете чудесну долину тако што ћете осмислити своју вештачку интелигенцију на овај начин

5) Респектабилно је имати циљ који је кратак од чудесне долине

6) Подигните се до ивице необичне долине, али немојте пасти преко литице

7) Немојте бити опседнути одласком изван необичне долине

8) Постоји шанса да ипак можете прескочити чудесну долину

9) Немојте бити заокупљени скоком јер бисте ионако могли пасти у долину

10) Максимални људски афинитет би се додуше постигао проласком кроз чудесну долину

11) Без обзира на то, постоји адекватан и одговарајући афинитет који се налази пре необичне долине

12) Непрекидно имајте на уму чудесну долину и не дозволите да вам она измакне из ума

Ових десетина су све општа упутства која се могу сматрати кључним или упоришним тачкама знања о чудесној долини. Одмах ћу признати да постоје друге тачке које нису наведене у тих оскудних десетина које би се могле сматрати једнако важним. Такође ћу спремно да признам да ће сигурно постојати неслагање за сваку од идентификованих тачака, а о свакој тачки може да дође до дуготрајне бурне дебате.

Штавише, неки би рекли да је дванаест тачака потпуно смеће јер су засноване на неистини, за почетак. Не постоји таква ствар као што је чудновата долина, тврдили би. Све је то само смицалица и измишљена измишљотина која једино и жалосно апелује на слабе умове (јао, то искрено боли!). Свака пажња ка чудесној долини је изгубљен дах ваздуха и неко би требало да наиђе и стави оштар дрвени теоријски колац у срж ствари (неки истраживачи су то покушали да ураде).

Ради дискусије, хајде да наставимо са током и претпоставимо да постоји чудновата долина и да се генерално поклапа са оним што сам до сада назначио. Они који се не слажу са концептуализацијом чудесне долине добродошли су да се издвоје или наставе да читају стиснутих зуба и да њихов интелектуални бес настаје и кључа (извините због тога).

Ево како се етичка АИ и фокус осмишљавања и примене етичке вештачке интелигенције појављују. Успут, за моја стална и дубинска истраживања етике вештачке интелигенције, погледајте моју дискусију на овај линк овде овај линк овде, само да поменемо само неке.

Необична долина је изразито љубавна афера за оне који се баве етичком вештачком интелигенцијом.

Прво, нека потребна позадина. Једна од етичких недоумица у вези са вештачком интелигенцијом која највише диже косу је то што се људи могу преварити да поверују да је АИ систем разуман. Имајте на уму да не постоји ниједна вештачка интелигенција данашњице која би била ни изблиза осећајна. То се једноставно не дешава у овом тренутку. Моја тобоже „дрска“ тврдња је изречена упркос оним непрестаним и грчевитим насловима који проглашавају ову АИ или да је АИ или разумна или довољно блиска да се сматра таквом. Маларкеи. Нисмо у стању вештачке интелигенције.

Не знамо како да стигнемо тамо. Не знамо да ли ће се то догодити. Осећај вештачке интелигенције је сан и тежња вредан труда, иако немојте прескакати оружје и мислити да смо на корак да то постигнемо.

Наравно, многи жарко упозоравају да ћемо се суочити са егзистенцијалним ризиком ако некако успемо да извучемо осећај вештачке интелигенције, било да то урадимо намерно или чисто случајно. На тај начин размишљања, можда тражење АИ осећаја није баш толико вредно труда. Ризик је да би ова разумна АИ могла утврдити да људи нису вредни да их има. Могли бисмо бити згњечени као буба. Или постаните робови вештачке интелигенције. Ово се може догодити тако што АИ отворено одлучи да то учини, или би АИ могла на крају постати наша сопствена машина судњег дана која нас уништава својом неспособношћу. За моје извештавање о тим забрињавајућим исходима АИ осећаја или сингуларности, погледајте линк овде.

Кључни проблем етичке вештачке интелигенције је да програмери вештачке интелигенције и они који се баве вештачком интелигенцијом повремено наводе људе да мисле да је вештачка интелигенција разумна. Начин на који се АИ показује, као што је роботска формулација или њена интерактивност у разговору, може подмукло да подстакне људе да претпоставе да је АИ разумна. Ово вас заузврат води потенцијално лошом стазом першуна.

Ако упаднете у менталну замку да мислите да је АИ систем разуман, вероватно ћете се ослонити на њега да уради ствари које би жива бића радила. Али још увек не постоји никакав здрав разум о квалитету налик човеку уграђеном у било који од данашњих АИ. АИ коју тренутно доживљавамо је изузетно крхка и плитка када су у питању капацитети слични људима. Можете се увући у неке непријатне и опасне воде ако верујете да је АИ систем разуман.

Како је то повезано са чудном долином?

Ево договора.

Подсетимо се да нам чудесна долина изгледа говори да ће људски афинитет постепено расти како се систем вештачке интелигенције или робот буде све више приближавао формулацији налик човеку. У тренутку када се систем вештачке интелигенције приближава тачки да буде прилично близу, али још увек, не баш тамо, добијамо језив осећај да нешто није у реду. До тада смо знали да АИ није човек. Сада нисмо сигурни. Наш људски афинитет опада. Тек када вештачка интелигенција или робот постану потпуно убедљиви у погледу људских капацитета, поново добијамо свој привид афинитета према уређају.

Вероватно би програмери вештачке интелигенције који су прихватили ово срце Намерно настоје да задрже своју вештачку интелигенцију ван чудесне долине, са циљем да се зауставе у погледу карактеристика вештачке интелигенције, непосредно пре него што падну у језовити понор (подсетимо, то је такође нагласио Масахиро Мори). Програмери би то очигледно урадили тако што би се уверили да још увек постоји обиље издајничких трагова како би било прилично јасно да је вештачка интелигенција мање него осетљива АИ и ерго није човек или исто тако.

Етичари АИ би генерално поздравили тај искрени напор.

Образложење је једноставно. Они тако информисани и прихваћени програмери вештачке интелигенције покушавају да се постарају да систем вештачке интелигенције не доведе људе у заблуду да лажно приписују објекте налик људима на АИ. То је сигурно добра вест. Програмери ће намерно израдити вештачку интелигенцију како би спречили зарон у чудесну долину. Људи ће лако схватити да АИ није разуман.

Није лако покушати навести програмере АИ да прихвате такав приступ. Заиста, то може бити контраинтуитивно у односу на њихове уобичајене инстинкте и покретачке амбиције.

Постоје многе тврдње да су програмери вештачке интелигенције и техничари, генерално, заокупљени циљевима. Они виде циљ и често ће га слепо следити са великим гуштом. Нема времена да се заустави и помирише руже. Идемо на трке, идемо. У области вештачке интелигенције, нормативни циљ би био идеализована вештачка интелигенција која се не разликује од људи по томе што би АИ могла бити интелигентно једнака у паритету. Али још нисмо тамо. Као таква, чудновата долина пружа секундарни циљ, слетање испред иначе страшне чудесне долине, и постаје циљ који је ипак прихватљив. Наравно, то није златни прстен, али идеја је да је ова „секундарна“ награда у реду, хвала вам пуно и можете бити поносни на то.

Изменили смо разорну највишу амбицију тежње ка циљевима и упрегнули је у разумну основу која звучи логично да учинимо праву ствар, такорећи.

Ура!

Освојите победу за етику вештачке интелигенције.

Али сачекајте секунду, упозорење о спојлеру, постоји још нешто што треба да узмемо у обзир.

Сада када ти паметни програмери вештачке интелигенције знају за језовиту долину, могли би да своју памет и вештину техничара окрену ка намерно скакању преко понора, а ипак то чине са привидом обмане на уму. Учините да вештачка интелигенција изгледа и изгледа као да је потпуно човекова, иако програмери знају да је то нетачно.

Лагано размишљање иде овако. Не дозволите да ваш АИ систем нагне свој шешир и натера људе да ухвате ту неухватљиву подземну струју језивости. Искључите аспекте који би могли дати било какав наговештај или назнаку да АИ није људске способности. Урадите то док потајно схватате и неопростиво знајући да АИ нема људске способности и да се ради о скривању те истине од оних који су у интеракцији са АИ или су зависни од ње.

Какви ђаволски планови.

Иронично, необична долина би могла да буде нека врста позива за буђење за програмере вештачке интелигенције да ако желе да заиста преваре људе, морају бити довољно паметни да побегну из понора. Они то не чине тако што постижу потпуну вештачку интелигенцију, већ уместо тога подижу дим и огледала како би вештачка интелигенција изгледала погрешно као да је људска. Да програмери вештачке интелигенције нису схватили да ова необична долина постоји, углавном би упали у њу. То је добро за човечанство јер би људи ерго изгубили свој афинитет према вештачкој интелигенцији у смислу да се не ослањају превише на данашњи квалитет вештачке интелигенције.

Нажалост, знајући да замка постоји, програмери вештачке интелигенције који желе да је заобиђу наћи ће погубно паметне начине да то учине.

Постигните погодак против прописа Етичке вештачке интелигенције.

Да ли видите како ово ствара однос љубави и мржње за етичаре вештачке интелигенције у вези са чудесном долином?

Проклет био ако хоћеш, проклет ако не.

Схватам да је ово било прилично високо испитивање необичне долине и можда жудите за неким примерима из дана у дан. Постоји посебан и сигурно популаран скуп примера који су ми блиски. Видите, у мом својству стручњака за вештачку интелигенцију, укључујући етичке и правне последице, од мене се често тражи да идентификујем реалне примере који приказују дилеме етике вештачке интелигенције како би се донекле теоријска природа теме могла лакше схватити. Једна од најзанимљивијих области која живописно представља ову етичку дилему АИ је појава правих самовозећих аутомобила заснованих на вештачкој интелигенцији. Ово ће послужити као згодан случај употребе или пример за широку дискусију о овој теми.

Ево онда важног питања о којем вреди размислити: Да ли појављивање правих самовозећих аутомобила заснованих на вештачкој интелигенцији осветљава ишта о чудесној долини, и ако јесте, шта нас то обавештава да урадимо?

Дозволите ми тренутак да распакујем питање.

Прво, имајте на уму да не постоји људски возач који је укључен у прави ауто који самостално вози. Имајте на уму да се истински самовозећи аутомобили возе преко АИ система за вожњу. Не постоји потреба за људским возачем за воланом, нити је предвиђено да човек управља возилом. За моју опсежну и сталну покривеност аутономних возила (АВ) и посебно аутомобила који се сами возе, погледајте линк овде.

Желео бих да додатно разјасним шта се мисли када говорим о правим самовозећим аутомобилима.

Разумевање нивоа самоуправних аутомобила

Као појашњење, истински самовозећи аутомобили су они који АИ аутомобилом управљају потпуно самостално и нема људске помоћи током задатка вожње.

Ова возила без возача се сматрају нивоом 4 и нивоом 5 (погледајте моје објашњење на овај линк овде), док се аутомобил за који је потребан људски возач да заједнички дели напор у вожњи обично сматра нивоом 2 или 3. Аутомобили који заједнички деле задатак вожње описани су као полуаутономни и обично садрже различите аутоматизовани додаци који се називају АДАС (Напредни системи за помоћ возачу).

Још нема правог аутомобила за самосталну вожњу на нивоу 5, за који још не знамо да ли ће то бити могуће постићи, нити колико ће времена требати да се тамо стигне.

У међувремену, напори Нивоа 4 постепено покушавају да стекну одређену вучу пролазећи кроз веома уска и селективна испитивања на јавном путу, иако постоје контроверзе око тога да ли ово тестирање треба дозволити само по себи (сви смо ми заморци на живот или смрт у експерименту који се дешавају на нашим аутопутевима и споредним путевима, неки тврде, погледајте моје извештавање на овај линк овде).

С обзиром да је за полуаутономне аутомобиле потребан људски возач, усвајање тих типова аутомобила неће се знатно разликовати од вожње конвенционалних возила, тако да нема много новог што би се само по себи могло покрити на ову тему (мада, као што ћете видјети у тренутку, следеће постављене тачке су углавном применљиве).

За полуаутономне аутомобиле важно је да јавност буде упозорена на узнемирујући аспект који се појављује у последње време, наиме да упркос оним људским возачима који стално објављују видео записе како заспају за воланом аутомобила нивоа 2 или нивоа 3 сви ми морамо да избегнемо да будемо заведени да верујемо да возач може да им одузме пажњу током вожње током вожње полуаутономног аутомобила.

Ви сте одговорна страна за радње у возилу, без обзира на то колико се аутоматизација може убацити у ниво 2 или ниво 3.

Аутомобили који се сами возе и Необична долина

За права возила са самосталним управљањем нивоа 4 и ниво 5 неће бити људског возача који је укључен у задатак вожње.

Сви путници биће путници.

АИ вози вожњу.

Један аспект о којем треба одмах разговарати подразумева чињеницу да АИ укључен у данашње системе АИ вожње није осећајан. Другим речима, АИ је у целини колектив рачунарског програмирања и алгоритама, и сигурно није у стању да расуђује на исти начин на који то могу људи.

Зашто овај додатни нагласак на томе да АИ није свестан?

Зато што желим да подвучем да, када расправљам о улози система за управљање АИ, не приписујем људске особине АИ. Имајте на уму да данас постоји стална и опасна тенденција антропоморфизације АИ. У суштини, људи данашњој уметничкој интелигенцији додељују осећај сличан човеку, упркос непорецивој и неспорној чињеници да још увек не постоји такав уметни интелигенција.

Уз то појашњење, можете да замислите да систем управљања уметном интелигенцијом неће некако „знати“ о аспектима вожње. Вожња и све што то подразумева мораће да се програмирају као део хардвера и софтвера самовозећег аутомобила.

Заронимо у безброј аспеката који се играју на ову тему.

Прво, важно је схватити да нису сви самовозећи аутомобили са вештачком интелигенцијом исти. Сваки произвођач аутомобила и технолошка фирма која се самостално вози користи свој приступ осмишљавању аутомобила који се самостално возе. Као такав, тешко је дати свеобухватне изјаве о томе шта ће АИ системи за вожњу учинити или не.

Штавише, кад год констатују да систем управљања АИ не ради неку посебну ствар, то касније могу преузети и програмери који у ствари програмирају рачунар да то уради. Корак по корак, системи вожње АИ се постепено побољшавају и проширују. Постојеће ограничење данас можда више неће постојати у будућој итерацији или верзији система.

Верујем да то пружа довољно литанија упозорења да поткријепи оно о чему ћу говорити.

Сада смо спремни да дубоко заронимо у самовозеће аутомобиле и етичка питања вештачке интелигенције која подразумевају језиву долину.

Постоје четири аспекта који се односе на ово питање који ће бити овде обухваћени:

1. Укупан изглед самовозећих аутомобила

2. Питање где „гледају“ аутомобили који се сами возе

3. АИ акције вожње самовозећих аутомобила

4. Роботи који возе као средство за постизање самовозећих аутомобила

Додатни аспекти су такође одрживо обухваћени, али због просторних ограничења, ове четири теме ће бити довољне да осветле положај чудесне долине у вези са самовозећим аутомобилима заснованим на вештачкој интелигенцији.

1. Општи изглед самовозећих аутомобила

Кладим се да сте видели слике или видео записе данашњих проба самовозећих аутомобила. Као такви, можда сте приметили да су већина возила аутомобили конвенционалног изгледа који су опремљени додатном специјализованом опремом. На пример, може постојати кровни носач који садржи низ електронских сензора. Сензори понекад укључују видео камере, радарске јединице, ЛИДАР уређаје, ултразвучне сензоре и слично.

Футуристички дизајн обично сугерише да бисмо могли да одступимо од аутомобила конвенционалног изгледа и уместо тога редизајнирамо аутомобиле како у унутрашњости тако иу екстеријеру како би били аутономна возила лепшег изгледа. Тренутно, опште мишљење је да је једноставније користити конвенционалне аутомобиле и не трошити енергију покушавајући да продужи подухват истовремено петљајући по аутомобилима неконвенционалног изгледа (постоје неки изузеци од овог општег гледишта, погледајте моје извештавање на линк овде).

Суштина тренутно је у томе да ако возите на путу и ​​наиђете на оближњи самовозећи аутомобил, скоро увек можете одмах уочити да је то вероватно самовозећи аутомобил тако што ћете само приметити мрвицу сензора постављених на аутономно возило. Ово је брзи визуелни поклон. Наравно, не знате са сигурношћу да се ради о самосталној вожњи, јер су у овом тренутку контроле вожње обично нетакнуте и за воланом може бити помоћни возач.

На један начин размишљања, можете сугерисати да је посебно згодно да се самовозећи аутомобили физички истичу и да их возачи људи у оближњим аутомобилима којима управљају људи лако примећују, као и пешаци у близини. Схватање да у близини лута самовозећи аутомобил може бити згодан траг да будете на опрезу, подстичући вас да будете будни и свесни да АИ вози или можда управља возилом.

Претпоставимо да су самовозећи аутомобили изгледали идентично конвенционалним аутомобилима који управљају људима. Ово је реално изводљиво на најмање два начина. Прво, сензори би потенцијално могли бити скривени или обликовани тако да не буду тако очигледни за повремени визуелни преглед. Друго, могло би бити да се сви аутомобили, укључујући и конвенционалне аутомобиле које управљају људи, постепено опремају сличним сензорима, чак и ако ће возило ипак остати као аутомобил који претежно управљају људи. Погледајте моје даље извештавање на овај линк овде.

Ако пажљиво размислите о томе да ли самовозећи аутомобили могу или би требали бити идентични по изгледу конвенционалним аутомобилима које управљају људи, могли бисте доћи на помисао да се у овом гулашу можда крије чудновата долина.

Видите, аутомобили који очигледно изгледају као аутомобили који се сами возе могли би се означити као да се налазе на раскрсници која је на малој удаљености од чудесне долине. У суштини, „знате“ да је то робот или роботска врста система. То је пресуда на коју можете скоро одмах прескочити.

Када самовозећи аутомобили изгледају идентично аутомобилима које управљају људи, можда то сугерише да су аутономна возила прескочила чудесну долину у погледу свог роботског изгледа. Да ли ипак постоји средина између та два физичка изгледа која нас доводи у језовиту долину?

Можда приметите самовозећи аутомобил како долази низ улицу и изгледа као да је то вероватно самовозећи аутомобил, с друге стране, изглед није ни стриктно аутономан ни стриктно вођен људима. Могли бисте тврдити да је ауто који се самостално вози сада у језивом или узнемирујућем стању.

Самовозећи аутомобил је наводно уроњен у чудесну долину.

Имајући то у виду, не би се сви сложили са том категоризацијом. Неки би тврдили да физички изглед нема никакве везе са чудном долином. Неки, наравно, такође тврде да не постоји ништа реално познато као чудновата долина.

Као што је раније поменуто, добродошли сте да сами донесете одлуку о томе.

2. Питање где гледају самовозећи аутомобили

Велика забринутост коју многи имају у вези са самовозећим аутомобилима је то што им обично недостаје људски возач на седишту возача и стога је тешко схватити где „возач“ гледа док вози аутомобил.

Обично баците поглед на људске возаче да бисте шпијунирали где гледају. На пример, можда сте пешак на пешачком прелазу и аутомобил се приближава прелазу. Пажљиво гледате у особу која седи на седишту возача и покушавате да разазнате где јој је окренута глава и где гледају очи. Ако верујете да вас је човек видео, можда ће вам бити пријатније да пређете улицу. Насупрот томе, ако се чинило да вас људски возач није видео, с правом сте забринути због преласка.

У неким градовима постоји нека врста гамбита мачке и миша о овим аспектима. Посебна културна норма у датом граду може бити да ако успоставите контакт очима са возачем, возач „побеђује“ и они имају привидно право да наставе, без обзира на законитост ситуације у вожњи. Други градови би могли бити потпуно супротни, наиме да је културна норма да када се успостави контакт очима, пешак „побеђује“ и да се људски возач треба повиновати поступцима пешака.

Чини се да смо усвојили овај обичај током релативно дугог времена када су аутомобили били усред наших градова и заједница. Проблем са појавом самовозећих аутомобила је у томе што на седишту возача нема човека-возача, па је стога било који пешак или човек у близини који обично користи главу и очи возача аутомобила као културни показатељ намере за вожњу сада од среће.

Произвођачи аутомобила и програмери аутомобила који се сами возе веома су свесни овог проблема који се појављује. Једно предложено решење састоји се од тога да самовозећи аутомобил трепће фаровима аутономног возила или евентуално труби. Друга идеја је да ауто који се самостално вози може имати варијанту звучника и рећи онима у близини које су „намјере“ система вожње АИ. Свака од ових идеја има значајне недостатке.

Ипак, другачији предлог подразумева да урадите нешто за шта бисте у почетку могли да верујете да је смешно. Предлог се састоји од постављања кугли налик на очне јабучице на спољашњост аутономног возила. Ове кугле би прилично личиле на људске очи у привиду да се могу окретати напред-назад, дајући вам тренутну индикацију која сугерише да вас је АИ „видео“ (то бисте протумачили по очним јабучицама које гледају у вашем одређеном правцу). Анализирао сам овај приступ на линк овде.

Каква би била ваша реакција да видите самовозећи аутомобил како се спушта низ коловоз и имате ове огромне, чудне кугле које се појављују на хауби или крову?

Претпостављам да бисте могли помислити да је језиво, можда језиво.

Неки би сугерисали да језивост произилази из тога што се опремљен самовозећи аутомобил налази у необичној долини. Други би жестоко тврдили да ово нема никакве везе са чудном долином. Од тих таквих стручњака, неки би рекли да постоји језивост која може бити језива, а да не мора бити укоријењена у језивој долини (тј. необична долина наизглед увијек производи језивост, али није сва језива произведена само преко језиве долине). Други угао је да би кугле могле бити дизајниране тако да мање гледају на очне јабучице и да изгледају више роботски, или да ћемо сви неизбежно прихватити појаву ових кугли и почетна запањујућа реакција ће се смирити.

3. АИ акције вожње самовозећих аутомобила

Многа од данашњих покушаја самовозећих аутомобила показала су да су постојећи системи за вожњу са вештачком интелигенцијом обично програмирани да возе на прилично млак и донекле стриктно поштовање законских начина. Систем за вожњу са вештачком интелигенцијом обично доводи до потпуног заустављања самовозећег аутомобила на знаковима Стоп. Систем за АИ вожњу не сме да прође кроз раскрснице када ће семафор ускоро бити црвен. Ове својеглаве праксе вожње су област људских возача.

На неки начин, могли бисте скоро да претпоставите да је самовозећи аутомобил самовозећи аутомобил по стилу вожње који излаже. Чак и ако је аутономно возило визуелно изгледало као конвенционални аутомобил којим управљају људи, могли бисте посматрати радње вожње и можда логично закључити да га вероватно покреће АИ систем.

Неки верују да ћемо морати да направимо системе за вожњу са вештачком интелигенцијом тако да буду сличнији лудостима људских возача како би се ефикасно уклопили у нормативне приступе вожњи. Претпостављам да ово можете протумачити као гашење ватре ватром.

Да ли то има смисла радити?

Имајте на уму да се отворени скептици и критичари гаде те идеје. Они би снажно тврдили да желимо да системи за вожњу са вештачком интелигенцијом возе правилно и опрезно. Додавање потенцијално милиона самовозећих аутомобила на путеве који су програмирани да буду као залутали људски возачи изгледало би као колосална ноћна мора. Разговарао сам о овом контроверзном предлогу на линк овде.

Хајде да преокренемо дилему користећи чудесну долину.

Када је систем вожње АИ строго легалан по својим радњама вожње, ово је можда издајнички знак да је вероватно да је реч о роботском систему (без обзира на то што људски возачи то раде, иако се у данашњем свету чини да су они малобројни). Ако системи за вожњу са вештачком интелигенцијом треба да возе необично као и људски возачи, да ли ово скаче преко необичне долине или пада у језовиту долину?

Размислите о томе.

4. Роботи који возе као средство за постизање самовозећих аутомобила

Ова последња ставка за покривање је најупечатљивија од ове четири.

Можда нисте свесни да неки програмери вештачке интелигенције покушавају да направе роботе који би возили аутомобиле. Робот би изгледао као човек у различитим аспектима, са роботским ногама и роботским рукама као удовима. Када желите да било који конвенционални аутомобил којим управљају људи буде самовозећи, ви само ставите овог специјализованог АИ робота за вожњу на возачево седиште вашег аутомобила. Видите моју анализу овог појма на линк овде.

Зашто бисмо желели да возимо роботе?

Лепота таквог робота је у томе што би сви данашњи аутомобили којима управљају људи могли на неки начин тумачења постати аутомобили који се сами возе, скоро преко ноћи. Ви само купите, изнајмите или некако набавите себи робота за вожњу. Стављате робота на своје возачко седиште када идете на путовање. Робот вас вози до вашег одредишта. Ако желите да пређете на људску вожњу, уклоните робота из возила, можда га одложите у пртљажник за каснију употребу.

Данас у Сједињеним Државама постоји око 250 милиона конвенционалних аутомобила. Неки верују да ће то на крају бити бачено у отпад када буду постојали самовозећи аутомобили. Уместо да бацамо те конвенционалне аутомобиле у отпад, можда бисмо могли да покушамо да их преуредимо у аутомобиле који се сами возе, иако је ово вероватно прилично скупа идеја. Наизглед разборитији приступ би био да се роботи за вожњу буду доступни.

Када бисте видели аутомобил конвенционалног изгледа како долази низ улицу у комшилуку и имао робота за воланом, каква би била ваша реакција?

Вероватно језивост.

Једна додуше спорна тврдња је да је ова језива последица тога што робот који вози конвенционални аутомобил урања у чувену или злогласну језовиту долину.

Zakljucak

Из перспективе етичке вештачке интелигенције, необична долина представља интригантну загонетку.

Постоје неки у АИ који у потпуности верују у чудесну долину, а неки не. Али, без обзира да ли верујете у чудесну долину или не верујете, ипак се сама тема врти около. Не можете сакрити главу и претварати се да конструкт сам по себи не постоји. Конструкт као идеја живи и на неки начин је вирално моћан. Мрзите или волите, проклета или можда узвишена тема и даље постоји.

Према мом ранијем дискурсу о заслугама чудесне долине из угла етике вештачке интелигенције, у њој постоји двобојни однос љубави и мржње. Да ли би они у домену етичке вештачке интелигенције пригрлили чудесну долину, или по кратком поступку одбацили језиву долину, или би остали донекле неутрални по питању истинитости и уместо тога се усредсреде на утицај који настаје услед сталних дивергентних уверења о томе.

Овај изазов доводи до еминентног економисте Адама Смита како је једном рекао (парафразирајући) да на путу од Града скептицизма морате проћи кроз Долину двосмислености.