Етика вештачке интелигенције и готово разумно питање да ли ће људи наџивети вештачку интелигенцију

Имам питање за вас за које се чини да ових дана изазива много кршења руку и жестоких дебата.

Јесте ли спремни?

Да ли ће људи наџивети АИ?

Размислите о томе.

Распакујем питање и пажљиво испитам одговоре и како су одговори разјашњени. Моја примарна намера је да истакнем како су само питање и околни дискурс неизбежно и неумољиво укорењени у АИ Етхицс.

За оне који презирно мисле да је питање само по себи неодговорно или је губљење времена и даха, љубазно бих предложио да чин покушаја да се одговори на питање покреће нека витална питања етике АИ. Стога, чак и ако желите да одбаците питање као можда апсурдно или нереално, ја кажем да оно и даље изазива неку вредност као средство или механизам који наглашава етичка правила вештачке интелигенције. За моје текуће и опсежно покривање етике вештачке интелигенције и етичке вештачке интелигенције, погледајте линк овде линк овде, само да поменемо само неке.

Уз горе поменуту премису, дозволите ми да још једном поновим спорно питање и дозволите нашим умовима да лутају по значају питања.

Да ли ће људи наџивети АИ?

Ако вам је непријатно због те одређене фразе, слободно преформулишите питање да бисте поставили питање да ли ће АИ наџивети људе. Нисам сигуран да ли то олакшава одговор на питање, али можда делује мање узнемирујуће. Кажем то зато што би се идеја да АИ наџиви људе можда деловала мало безазленије. Скоро да би било као да сам вас питао да ли велике зграде и споменици направљени од стране људи могу наџивети човечанство.

Ово се свакако чини изводљивим и не нарочито претећим. Ми правимо ове велике ствари током наших живота и сличне пирамидама, ове моћне структуре ће наџивети оне који су их направили. То, наравно, не значи да истрајемо након краја човечанства, пошто су људи још увек овде. Ипак, чини се сасвим логичним и могућим да структуре које правимо могу у потпуности наџивети наше постојање.

Међутим, значајна разлика је у томе што различите структуре као што су високи небодери и славне статуе нису живе. Они су инертни. Насупрот томе, када се поставља питање о АИ, претпоставка је да је АИ у суштини „жива“ у смислу да има неки облик интелигенције и да може да делује на начин на који то раде људи. Зато је питање о дужем животу застрашујуће, запањујуће и уопште загонетка вредна загонетке.

Кроз своје напомене овде ћу се држати питања које је формулисано о томе да ли ће људи наџивети АИ. Ово је само ради дискусије и лакоће контемплације. Не мислим на непоштовање алтернативног питања да ли ће АИ наџивети људе. Све у свему, ова анализа покрива обе формулације и можда сам открио да питање људи који су преживели АИ изгледа привлачније у овим трновитим стварима.

Добро, питаћу још једном:

Чини се да имате два потенцијална одговора, или оклопно да, људи ће наџивети АИ, или сте можда на другој страни медаље и горљиво инсистирате да не, људи неће наџивети АИ. Дакле, ово узвишено и узнемирено питање своди се на једноставно преношење да или не.

Направите свој избор.

Схватам да је опасан одговор да ни да ни не није применљиво.

Чујем те.

Док се на питање свакако чини да се може одговорити само на изразито бинарни начин, наиме само са да или не, признајем вам да се може разумно дати контра-аргумент да је одговор нешто друго.

Хајде да укратко истражимо неке од основа зашто не желимо само да кажемо да или не на ово питање.

Прво, можете одбацити реч „преживети“ у контексту постављеног питања.

Ова конкретна формулација можда имплицира да је АИ жива. У питању није писало „преживети“, већ се поставља питање да ли ће људи наџивети АИ. Да ли се наџивљавање односи само на људски део питања или се односи и на АИ део питања? Неки би покушали да тврде да се наџивела аура односи и на део АИ. У том случају би имали жгаравицу говорећи да је АИ живо биће. За њих ће вештачка интелигенција бити слична високим зградама и другим структурама. Није живо на исти начин као што су људи живи.

Дакле, са овог горљивог супротног становишта, питање је погрешно формулисано.

Можда сте нејасно упознати са питањима која имају лажне или обмањујуће премисе. Један од најпознатијих примера је да ли ће неко престати да туче своју жену (стара изрека коју очигледно треба оставити по страни). У том злогласном примеру, ако је одговор потврдан, импликација је да је особа то већ радила. Ако кажу не, импликација је да су то чинили и да ће то наставити.

У случају питања да ли ће људи наџивети АИ, можемо завршити затрпани у мочвари око тога да ли се АИ сматра нечим живим аспектом. Као што ћу одмах објаснити, ми данас немамо АИ који је разуман. Мислим да би се већина разумних људи сложила да неосетљива вештачка интелигенција није живо биће (па, не слажу се сви, али ја ћу то одредити за сада – погледајте моје покривање правног лица за АИ на линк овде).

Суштина ове прве основе за неодговарање на питање да ли ће људи наџивети АИ је да се реч „наџивети“ може тумачити да имплицира да је вештачка интелигенција жива. Још немамо АИ такве врсте. Ако заиста произведемо или на неки начин имамо разумну АИ која се појави, било би вам тешко да тврдите да она није жива (иако ће неки покушати да изнесу такав аргумент). Дакле, кључно је да питање поставља нешто што не постоји и ми само спекулишемо о непознатој будућности која изгледа магловито.

Можемо узети ову неуредност и настојати да је проширимо у изражајнији израз. Претпоставимо да уместо тога питамо ово:

• Да ли ће људи као жива бића наџивети АИ који је или (1) нежив, или (2) живо биће ако се то једног дана појави?

Имајте на уму ту проширену формулацију и ускоро ћемо јој се вратити.

Други основ зашто не желимо да одговоримо на првобитно постављено питање да ли ће људи наџивети вештачку интелигенцију је то што она претпоставља да ће једна од ствари наџивети једну од других ствари. Претпоставимо ипак да обоје у суштини живе заувек? Или претпоставимо да оба истичу или нестају у исто време?

Сигуран сам да можете лако да уочите како то чини да се формулација да или не распадне.

Чини се да нам је потребан могући трећи одговор који се састоји од „ниједно“ или сличан одговор.

Постоји низ пермутација повезаних са „ни једно ни друго“. На пример, ако неко чврсто верује да ће људи сами себе уништити помоћу вештачке интелигенције, а истовремено људи успевају да униште вештачку интелигенцију, овај верник не може искрено одговорити на питање шта ће наџивети другог са непоколебљивим одговором да или не. Одговор би, у том прилично јадном и тужном случају, био више на линији да ни једно не наџиви друго.

Исто би било тачно ако велики метеор удари у Земљу и збрише све на планети, укључујући људе и било коју вештачку интелигенцију која се нађе у близини (под претпоставком да смо сви ограничени на Земљу и да већ не живимо додатно на Марсу). Још једном, одговор „ни једно ни друго“ изгледа прикладнији од сугерисања да су људи наџивели АИ или да је АИ наџивео људе (пошто су обоје уништени у исто време).

Не желим да идем предалеко овде, али бисмо такође можда желели да успоставимо неке параметре о времену преживљавања. Претпоставимо да метеор удари у Земљу и да су људи скоро тренутно збрисани. У међувремену, претпоставимо да АИ траје неко време. Замислите ово као да у фабрикама већ имамо машинерију која је у току и која наставља да бруји све док се машине на крају не зауставе јер нема људи који одржавају машине у исправном стању.

Морали бисте рећи да су те машине наџивеле или наџивеле људе. Стога је одговор „не“ у вези са тим да ли су људи дуже преживели. Тај одговор изгледа скициран. Машине су се постепено и неумољиво заустављале, вероватно због недостатка човечанства око њих. Да ли је поштено тврдити да су машине могле да трају дуже од људи?

Вероватно само онима који су избирљиви и увек желе да буду иритантно прецизни.

Онда бисмо могли да додамо неки елемент који је везан за време питању. Да ли ће људи наџивети вештачку интелигенцију више од једног дана? Више од месец дана? Више од годину дана? Више од једног века? Схватам да ово на жалост отвара Пандорину кутију.

Који је прихватљив временски оквир након којег бисмо били спремни да признамо да је АИ заправо наџивела или наџивела људе? Чини се да је тачан одговор да чак и ако се то догоди на наносекунду (милијардини део секунде) или краће, вештачка интелигенција побеђује, а људи губе по овом питању. Омогућавање географске ширине коришћењем дана, недеље или месеца можда изгледа праведније. Остављање овога да траје годинама или вековима чини се могућим напором. Имајући то у виду, ако погледате свет на скали од милион година, идеја да вештачка интелигенција наџиви или наџиви људе не више од неколико векова делује изразито неимпресивно и могли бисмо да изјавимо да су обоје нестали отприлике у исто време (на заокруженој основи).

У сваком случају, хајде да признамо да је из низа разумно разумних разлога дозвољено да постављено питање има три могућа одговора:

• Да, људи ће наџивети АИ
• Не, и тиме тврди да ће људи не наџивети АИ
• Није применљиво ни да ни не (потребно је објашњење, ако желите)

Напомињем да ако изаберете „ни једно ни друго“, такође треба да дате објашњење за свој одговор. Ово је зато да бисмо могли да знамо зашто верујете да „ни једно ни друго“ није применљиво и зашто одбијате употребу да или не. Да бисмо живот учинили праведнијим за све, претпостављам да би требало донекле инсистирати или бар подстицати да чак и ако одговорите са да или не, ипак треба да понудите објашњење. Навођење једноставног да или не не открива посебно вашу логику зашто одговарате онако како јесте. Без давања објашњења, могли бисмо и да бацимо новчић. Новчић не зна зашто је пао на главу или реп (осим ако не верујете да новчић има душу или оличава неку свезнајућу руку судбине, али нећемо за сада с тим).

Очекујемо да људи који одговарају на питања дају неку врсту објашњења за своје одлуке. Имајте на уму да ја не кажем да ће објашњења нужно бити логичне или разумне природе, и заиста објашњење може бити потпуно празно и да не додаје никакву посебну вредност. Ипак, можемо се искрено надати да ће објашњење бити светло.

Током ове расправе, постојала је неизречена претпоставка да ће из овог или оног разлога једна од ових ствари заиста наџивети другу.

Зашто да верујемо у тако подразумевано стање?

Одговор на ово секундарно питање је готово сам по себи очигледан.

Ево договора.

Знамо да су неки истакнути гатари и интелектуалци дали прилично храбра и опсежна предвиђања о томе како ће појава или долазак разумне АИ радикално променити свет какав данас познајемо (подсећања ради, данас немамо разумну вештачку интелигенцију) .

Ево неколико пријављених познатих цитата који наглашавају утицаје разумне АИ који мењају живот:

• Стивен Хокинг: „Успех у стварању вештачке интелигенције био би највећи догађај у људској историји.
• Реј Курцвајл: „У року од неколико деценија, машинска интелигенција ће надмашити људску, што ће довести до Сингуларности — технолошке промене тако брзе и дубоке да представља прекид у ткиву људске историје.
• Ник Бостром: „Машинска интелигенција је последњи изум који ће човечанство икада морати да направи.

Те тврдње су транспарентно оптимистичне.

Ствар је у томе да би требало да узмемо у обзир и ружне доње стомаке када је у питању суочавање са разумном вештачком интелигенцијом:

• Стивен Хокинг: „Развој пуне вештачке интелигенције могао би да значи крај људске расе.
• Елон Муск: „Све више сам склон да мислим да би требало да постоји неки регулаторни надзор, можда на националном и међународном нивоу, само да бисмо били сигурни да не урадимо нешто веома глупо. Мислим са вештачком интелигенцијом ми призивамо демона."

Очекује се да ће разумна АИ бити пословични тигар којег смо зграбили за реп. Хоћемо ли човечанство нагло подићи напред користећи разумну вештачку интелигенцију? Или ћемо глупо произвести сопствену смрт од стране разумне вештачке интелигенције која се одлучи да нас уништи или пороби? За моју анализу ове загонетке двоструке употребе АИ, погледајте линк овде.

Основна недоумица око тога да ли ће људи наџивети вештачку интелигенцију јесте да можда правимо Франкенштајна који се одлучује да искорени човечанство. АИ постаје победник. Постоји много могућих разлога зашто би нам АИ то урадио. Можда је АИ зао и понаша се у складу са тим. Можда се АИ засити људи и схвати да има моћ да се отараси човечанства. Претпоставља се да би се то могло догодити и погрешно. АИ покушава да спасе човечанство и у том процесу, упс, све нас потпуно убија. Бар је мотив био чист.

Можда ће вам бити од релевантног интереса позната АИ загонетка позната као проблем спајалице, коју сам обрадио на линк овде.

Укратко, од АИ једног дана се тражи да направи спајалице. АИ је фиксиран на ово. Да би се осигурало да је израда спајалица у потпуности изведена до крајњег степена, АИ почиње да прождире све друге планетарне ресурсе да би то урадила. Ово доводи до пропасти човечанства јер је вештачка интелигенција потрошила све расположиве ресурсе за једини циљ који су јој предали људи. Спајалице узрокују наше уништење ако хоћете. АИ која је уско осмишљена и којој недостаје било какав привид здравог разума је врста вештачке интелигенције према којој морамо посебно да се зазирамо.

Пре него што пређемо даље на питање да ли ће људи наџивети АИ, приметите да стално постављам питање осећајне вештачке интелигенције у односу на неосетну вештачку интелигенцију. То радим из важних разлога.

Можемо дивље спекулисати о разумној вештачкој интелигенцији. Нико са сигурношћу не зна шта ће то бити. Нико не може са сигурношћу рећи да ли ћемо једног дана достићи разумну АИ. Као резултат ове непознате и још увек непознате околности, може се извести скоро сваки сценарио. Неко може рећи да ће разумна АИ бити зао. Неко може рећи да ће разумна АИ бити добра и доброћудна. Можете да наставите и даље, при чему се не може пружити никакав „доказ“ који би дао тврдњу поткрепио било каквом сигурношћу или уверавањем.

Ово нас доводи до области етике вештачке интелигенције.

Све ово се такође односи на трезвено настајућу забринутост у вези са данашњом вештачком интелигенцијом, а посебно са употребом машинског учења (МЛ) и дубоког учења (ДЛ). Видите, постоје употребе МЛ/ДЛ које имају тенденцију да подразумевају антропоморфизацију АИ од стране широке јавности, верујући или бирајући да претпоставимо да је МЛ/ДЛ или осећајна АИ или близу (није).

Можда би било корисно прво разјаснити на шта мислим када говорим о АИ уопште и такође дати кратак преглед машинског учења и дубоког учења. Постоји велика конфузија о томе шта вештачка интелигенција подразумева. Такође бих желео да вам представим правила етике вештачке интелигенције, која ће бити посебно саставни део остатка овог дискурса.

Навођење записа о АИ

Хајде да се уверимо да смо на истој страни о природи данашње вештачке интелигенције.

Данас не постоји АИ која је разумна.

Ми немамо ово.

Не знамо да ли ће разумна АИ бити могућа. Нико не може тачно да предвиди да ли ћемо достићи осећајну АИ, нити да ли ће се осећајна АИ некако чудесно спонтано појавити у облику компјутерске когнитивне супернове (која се обично назива Сингуларитет, погледајте моје извештавање на линк овде).

Схватите да данашња вештачка интелигенција није у стању да „размишља“ ни на који начин на нивоу људског размишљања. Када комуницирате са Алеком или Сири, конверзацијски капацитети могу изгледати слични људским капацитетима, али реалност је да су рачунарски и да им недостаје људска спознаја. Најновија ера вештачке интелигенције је у великој мери користила машинско учење и дубоко учење, који користе подударање рачунарских образаца. Ово је довело до система вештачке интелигенције који имају изглед склоности сличних људима. У међувремену, данас не постоји ниједна вештачка интелигенција која има привид здравог разума нити има било какво когнитивно чудо снажног људског размишљања.

Део проблема је наша тенденција да антропоморфизујемо рачунаре, а посебно вештачку интелигенцију. Када се чини да рачунарски систем или вештачка интелигенција делују на начин који повезујемо са људским понашањем, постоји скоро неодољива жеља да се систему припишу људски квалитети. То је уобичајена ментална замка која може ухватити чак и најнепопустљивијег скептика у погледу шанси да достигне осећај. За моју детаљну анализу таквих ствари, види линк овде.

У извесној мери, зато су етика вештачке интелигенције и етичка вештачка интелигенција тако кључна тема.

Прописи етике вештачке интелигенције нас наводе да останемо будни. Технолози АИ понекад могу бити заокупљени технологијом, посебно оптимизацијом високе технологије. Они не размишљају нужно о већим друштвеним последицама. Имати етички начин размишљања АИ и чинити то интегрално за развој АИ и постављање на терен је од виталног значаја за производњу одговарајуће вештачке интелигенције, укључујући процену тога како компаније усвајају етику вештачке интелигенције.

Поред примене етичких прописа АИ уопште, постоји одговарајуће питање да ли треба да имамо законе који би регулисали различите употребе АИ. На савезном, државном и локалном нивоу се доносе нови закони који се тичу опсега и природе начина на који АИ треба да буде осмишљен. Напори да се израде и донесу такви закони су постепени. Етика вештачке интелигенције у најмању руку служи као зауставно решење и скоро сигурно ће до неког степена бити директно укључено у те нове законе.

Имајте на уму да неки упорно тврде да нам нису потребни нови закони који покривају АИ и да су наши постојећи закони довољни. Они упозоравају да ћемо, ако донесемо неке од ових закона о вештачкој интелигенцији, убити златну гуску ограничавајући напредак у вештачкој интелигенцији који нуди огромне друштвене предности.

У претходним колумнама, покрио сам различите националне и међународне напоре за израду и доношење закона који регулишу АИ, види линк овде, на пример. Такође сам покрио различите принципе и смернице етике вештачке интелигенције које су различите нације идентификовале и усвојиле, укључујући, на пример, напоре Уједињених нација као што је УНЕСЦО-ов скуп етике вештачке интелигенције који је усвојило скоро 200 земаља, види линк овде.

Ево корисне кључне листе етичких АИ критеријума или карактеристика у вези са системима вештачке интелигенције које сам претходно пажљиво истражио:

• провидност
• Правда и правичност
• Не нашкодити
• одговорност
• приватност
• Доброчинство
• Слобода и аутономија
• Поверење
• Одрживост
• Достојанство
• Солидарност

Те принципе етике вештачке интелигенције озбиљно би требало да користе програмери вештачке интелигенције, заједно са онима који управљају развојним напорима АИ, па чак и онима који на крају обављају и одржавају АИ системе. Све заинтересоване стране током читавог животног циклуса развоја и употребе АИ сматрају се у оквиру поштовања устаљених норми Етичке АИ. Ово је важан нагласак пошто је уобичајена претпоставка да су „само кодери“ или они који програмирају АИ подложни придржавању појмова етике АИ. Као што је раније наглашено овде, потребно је село да осмисли и примени АИ, а за шта цело село мора да буде упућено у етичке прописе АИ и да се придржава њих.

Хајде да задржимо ствари на земљи и фокусирамо се на данашњу компјутерску неосетљиву вештачку интелигенцију.

МЛ/ДЛ је облик подударања рачунарских образаца. Уобичајени приступ је да прикупљате податке о задатку доношења одлука. Податке уносите у МЛ/ДЛ рачунарске моделе. Ти модели настоје да пронађу математичке обрасце. Након проналажења таквих образаца, ако су пронађени, АИ систем ће користити те обрасце када наиђе на нове податке. Након представљања нових података, обрасци засновани на „старим“ или историјским подацима се примењују да би се донела тренутна одлука.

Мислим да можете погодити куда ово води. Ако су људи који су доносили одлуке по узору на инкорпорирали нежељене предрасуде, шансе су да подаци то одражавају на суптилан, али значајан начин. Машинско учење или дубоко учење упаривање рачунарских образаца ће једноставно покушати да математички опонаша податке у складу са тим. Не постоји никакав привид здравог разума или других разумних аспеката моделирања направљеног од вештачке интелигенције.

Штавише, ни програмери вештачке интелигенције можда неће схватити шта се дешава. Тајна математика у МЛ/ДЛ-у може отежати откривање сада скривених предрасуда. С правом се надате и очекујете да ће програмери вештачке интелигенције тестирати потенцијално скривене предрасуде, иако је ово теже него што се чини. Постоји велика шанса да чак и уз релативно опсежна тестирања, постоје пристрасности и даље уграђене у моделе подударања образаца МЛ/ДЛ.

Могли бисте донекле користити чувену или злогласну изреку смеће-у-ђубре-ван. Ствар је у томе што је ово више слично предрасудама које се подмукло уносе као пристрасности потопљене у АИ. Алгоритам доношења одлука (АДМ) АИ аксиоматски постаје оптерећен неједнакостима.

Није добро.

Верујем да сам сада адекватно припремио терен за даље испитивање да ли ће људи наџивети АИ.

Људи и АИ су пријатељи, непријатељи или непријатељи

Раније сам прогласио да сваки одговор на питање да ли ће људи наџивети АИ треба да буде пропраћен објашњењем.

Погледаћемо на да одговор. Даћу кратак списак објашњења. Можете прихватити било које од ових објашњења. Такође се подстичете да извучете друга објашњења, од којих је мноштво замисливо.

Да, људи ће наџивети АИ јер:

• Људи као ствараоци: Људи су креатори и одржаваоци АИ, тако да ће без људи АИ престати да ради или постоји
• Људски урођени дух: Људи имају непоколебљив дух према животу док АИ нема, тако да ће људи на овај или онај начин преживети, али ће вештачка интелигенција несумњиво пасти по страни због недостатка урођене снаге за опстанак
• Људи као победници: Људи неће дозволити да АИ наџиви људе тако што би се људи одлучили да у потпуности униште АИ ако су људи угрожени АИ или на неки други начин изумрли
• други

Погледаћемо одговор Не (не-да). Даћу кратак списак објашњења. Можете прихватити било које од ових објашњења. Такође се подстичете да извучете друга објашњења, од којих је мноштво замисливо.

Људи неће наџивети АИ јер:

• АИ способан да истраје: Чак и ако су људи креатори и одржаваоци АИ, АИ ће или бити програмирани или осмишљени од стране људи да опстане у одсуству људи или ће АИ пронаћи сопствена средства за упорност (вероватно а да људи то не схватају)
• АИ вештачки дух: Чак и ако људи имају несаломив дух према животу, знамо да људи такође имају дух самоуништења; у сваком случају, вештачка интелигенција може бити програмирана вештачким духом, ако хоћете, тако да АИ настоји да преживи и/или ће АИ предвидјети привид урођене окрепе под сопственим условима
• АИ побеђује победнике: Чак и ако људи не желе да допусте АИ да наџиви људе, АИ ће потенцијално бити програмиран да надмаши напоре људског побеђивања или би могао сам да изведе како да то уради (и, можда би могао да одлучи да победи људе у складу са тим, или не)
• други

Једнако смо обавезни да погледамо „Ни једно ни друго“ (не да, Не Не) одговор. Даћу кратак списак објашњења. Можете прихватити било које од ових објашњења. Такође се подстичете да извучете друга објашњења, од којих је мноштво замисливо.

Људи не наџиве АИ, ау међувремену, АИ не наџиви људе, због:

• Људи и АИ постоје срдачно заувек: Испоставило се да људи и вештачка интелигенција треба да буду једно са другим, заувек. Можда ће бити неравнина на путу. Добра вест или срећно лице је да се сви слажемо.
• Људи и АИ постоје са мржњом заувек: Вау, људи и вештачка интелигенција почињу да мрзе једни друге. Сценарио тужног лица. Ствар је у томе што је ту застој. АИ не може надвладати људе. Људи не могу надвладати АИ. Натезање конопа у вечном стању.
• Људи и АИ међусобно уништавају једни друге: Два тешкаша на крају избаце један другог из ринга и са овог света. Људи превладавају над АИ, али АИ је такође успела да превлада над људима (можда поставка судњег дана)
• Људи и АИ бивају избрисани због неке потребе: Људе и вештачку интелигенцију збрише ударни метеор или можда ванземаљац са друге планете који одлучи да је дефинитивно забрањено за људе и вештачку интелигенцију (нису чак ни заинтересовани да украду нашу невероватну вештачку интелигенцију од нас)
• други

Постоје неки од најчешће примећених разлога за одговоре са Да, Не и Ни на питање да ли ће људи наџивети АИ.

Zakljucak

Можда се сећате да сам раније понудио ову проширену варијанту питања о људима који наџиве вештачку интелигенцију:

• Да ли ће људи као жива бића наџивети АИ који је или (1) нежив, или (2) живо биће ако се то једног дана појави?

Горе поменути одговори су углавном фокусирани на други део питања, односно на околност која укључује АИ неке врсте осећања. Већ сам истакао да је ово дивље спекулативно јер не знамо да ли ће се десити разумна АИ. Неки би тврдили да је за сваки случај с правом мудро да унапред размотримо шта би се могло појавити.

Ако вам се то чини крајње нереално, саосећам да је све ово прилично хипотетичко и испуњено претпоставкама поврх претпоставки. То је буре пуно претпоставки. Мораћете да утврдите вредност за коју мислите да такви спекулативни подухвати пружају.

Прелазећи више на месингане алате, такорећи, можемо размотрити неживи или неосетљиви тип АИ.

Скратите питање на ово:

• Да ли ће људи наџивети неживу неосетљиву вештачку интелигенцију?

Веровали или не, ово је суштински вредно питање.

Можда нисте сигурни зашто би ова нежива неосетљива вештачка интелигенција могла да буде било где на терену да би некако могла да наџиви човечанство.

Размотрите ситуацију која укључује аутономне системе наоружања, о којој сам говорио линк овде. Већ видимо да се системи оружја наоружавају вештачком интелигенцијом, омогућавајући оружју да ради донекле аутономно. Овај неживи неосетљиви АИ нема привид размишљања, нема привид здравог разума, итд.

Замислите једну од тих апокалиптичних ситуација. Неколико нација је унело ову вештачку интелигенцију ниског калибра у своје оружје за масовно уништење. Ненамерно (или намерно), ови аутономни системи оружја са АИ-ом се лансирају или ослобађају. Не постоји довољно безбедних да их заустави. Човечанство је уништено.

Да ли би вештачка интелигенција наџивела људе у таквом сценарију?

Прво, можда вам није посебно стало. Другим речима, ако је читаво човечанство збрисано, брига или брига да ли вештачка интелигенција још увек пјевуши изгледа као да померате те лежаљке на Титанику. Да ли је важно што АИ још увек ради?

Човек би могао да тврди да је то још увек важно. У реду, забавићемо лептир. АИ би могао да ради самостално преко соларних панела и других облика енергије који могу наставити да допуњују машинерију. Можда смо такође осмислили системе вештачке интелигенције који поправљају и одржавају друге системе вештачке интелигенције. Имајте на уму да ово не захтева разумну АИ.

Све у свему, можете замислити сценарио у којем је човечанство истекло, а вештачка интелигенција још увек ради. Можда АИ траје само кратко време. Без обзира на то, према ранијој дискусији о прецизности у погледу времена, АИ је заправо наџивела људе (неко време).

Посљедња мисао на ову тему, за сада.

Расправа о томе да ли ће људи наџивети разумну вештачку интелигенцију је скоро као пословична кашика шећера (како је то могуће, можда се питате, па, држите се за шешир и ја ћу вам рећи).

Видите, дефинитивно морамо да схватимо да неосетљива вештачка интелигенција такође има велики и страшни потенцијал да учествује у уништавању човечанства и наџивљавању нас. Не посебно зато што је вештачка интелигенција „хтела да нас наџиви“, већ једноставно нашим сопственим рукама у изради вештачке интелигенције којој није потребна људска интервенција да би наставила да функционише. Неки би снажно тврдили да вештачка интелигенција која је осмишљена да буде донекле вечна може бити дестабилизујући утицај који би могао навести неке људе да пожеле да направе први корак у уништавању других људи, погледајте моје објашњење на линк овде.

Део о наџивјелим људима није главни ослонац зашто ово питање данас заслужује такву тежину. Уместо тога, скривена подлога о томе како правимо данашњу вештачку интелигенцију и како стављамо вештачку интелигенцију у употребу је права ствар овде. Морамо много да размишљамо о последицама етике вештачке интелигенције и друштвеним утицајима данашње вештачке интелигенције.

Ако ће помало луцкасто питање о томе да ли ће људи наџивети вештачку интелигенцију доћи на сто питања овде и сада савремене вештачке интелигенције, биће нам боље. На тај начин разматрања, осећајни аспекти вештачке интелигенције људи који наџиве вештачку интелигенцију је кашичица шећера која ће, надамо се, смањити лек о суочавању са вештачком интелигенцијом овде и сада.

Само кашика шећера понекад помаже да се лек смањи. И то на најдивнији начин. Или барем на привлачан начин који привлачи нашу пажњу и држи нас прикованима за оно о чему треба да бринемо.

Као што песма даље каже, као црвендаћ који пера своје гнездо, имамо врло мало времена за одмор.