Разлози за регулисање АИ алгоритама су једноставнији него што мислите

Да ли бринете да ће вештачка интелигенција завладати светом? Многи то раде. Од бриге Елона Маска ДеепМинд побеђује људе у напредној игри Го 2017., члановима Конгреса, креаторима европске политике (види Европски приступ вештачкој интелигенцији), и академици, постоји осећај да је ово деценија да се вештачка интелигенција схвати озбиљно, и да она све више узима маха. Али, не из разлога које можда мислите, а не због било какве претње.

Овде долазе алгоритми. Шта је алгоритам, питаћете се? Најједноставнији начин да се о томе размишља је као скуп инструкција које машине могу да разумеју и из којих уче. Већ можемо да упутимо машини да израчунава, обрађује податке и размишља на структурисан, аутоматизован начин. Међутим, проблем је што када се дају наведена упутства, машина ће их пратити. За сада, то је поента. За разлику од људских бића, машине прате упутства. Они то не уче добро. Али када то ураде, могли би да изазову проблеме.

Не желим да износим сензационалистички аргумент о идеји да ће компјутери једног дана надмашити људску интелигенцију, познатији као аргумент сингуларности (видети њујоршки филозоф Давид Цхалмерс' размишљања на тему.) Уместо тога, производња би могла бити најбољи пример зашто алгоритми вештачке интелигенције почињу да постају важнији широј јавности. Страхује се да ће машине знатно убрзати своју снагу на наш рачун. Не обавезно неким напредним резоновањем, већ због оптимизације унутар граница онога што алгоритам каже.

Производња се односи на прављење ствари. Али када машине праве ствари, морамо обратити пажњу. Чак и ако је оно што машине праве једноставно. Објаснићу зашто.

Од чизама за кишу до мобилних телефона и назад

Рецимо, фабрика прави чизме за кишу. Волим чизме за кишу јер сам одрастао у области Норвешке где много пада киша; Волим да будем напољу, подложан многим елементима природе. Нокиа је направила чизме за кишу са којима сам одрастао. Да, Нокиа коју данас познајемо као електронску компанију која је некада производила гумене чизме. Зашто је овај кључ? Јер када једном направите нешто, суђено вам је да желите да побољшате. То има смисла. Могло би се рећи да је то људска природа.

Оно што се догодило Нокији је добро познато и иде отприлике овако: У почетку је фабрика папира, док сам био дете, производња гумених чизама (и гума) била посебно успешна за компанију. Међутим, видели су даље прилике. Стога су у неком тренутку 1980-их прешли на електронику и брзо променили фабрике около, изградивши велику структуру локалних добављача када су почели да производе мобилне телефоне. Ово је покренуло револуцију мобилних комуникација, која је започела у Скандинавији и проширила се на остатак света. Разумљиво, многи су писали причу о Нокији 1990-их (види Тајне иза финског чуда: успон Нокије).

Мој пример је једноставан. Можда, превише једноставно. Али размислите о томе на овај начин. Ако велика компанија може брзо да пређе са прављења папира на писање, на чизме које олакшавају излазак на кишу, онда коначно, на мобилне телефоне који мењају начин на који људи комуницирају: колико ће лак бити следећи корак? Претпоставимо да компанија која производи мобилне телефоне одлучи да направи наноботове и можда они полете за једну деценију, мењајући човечанство минијатурним машинама које аутономно трче свуда, способне да поново саставе и промене људско искуство. Шта ако се то догоди без обзира на то како желимо да се то догоди, ко желимо да буде главни и крајње циљеве?

Сугерисати да су роботи свесно помогли Нокији да одлучи да производи мобилне телефоне било би тешко. Али признање да је технологија имала улогу у омогућавању финском руралном подручју на својој северној обали да помисли да може да стекне светску доминацију у новој индустрији игра значајну улогу.

Нокија прича није била тако ружичаста током последње деценије с обзиром на то да нису узели у обзир појаву софтверски заснованих иОС и Андроид оперативних система. Сада, као резултат тога, Нокиа више не производи телефоне. У малој причи о повратку, сада праве мрежну и телекомуникациону инфраструктуру, решења за безбедност мреже, Ви-Фи рутере, паметно осветљење и паметне телевизоре (види Прича о повратку Нокије). Нокиа и даље прави ствари, то је истина. Једино запажање је да Нокиа увек ужива у мешању ствари које праве. Чак је и производне одлуке људских бића понекад тешко разумети.

Производња значи прављење ствари и ствари се развијају. Уопштено говорећи, оно што данас правимо променило се у односу на пре само једну деценију. 3Д штампачи су децентрализовали производњу многих напредних производа, како у индустрији тако иу кући. Последице 3Д штампања које мењају живот се још нису догодиле. Не знамо да ли ће ово трајати, али знамо да је фокус ФДА на регулисању производње производа (види ovde) као што су штампане таблете или медицински уређаји који настају, очигледна питања интелектуалне својине и одговорности, или проблеми око могућности штампања ватреног оружја. На крају крајева, дискусија о политици о томе које негативне последице 3Д штампање може имати изван овога не постоји, и мало нас се потрудило да размисли о томе.

Не сугеришем да је 3Д штампање опасно само по себи. Можда је ово лош пример. Ипак, ствари које у почетку изгледају свакодневно могу променити свет. Примера је много: врх стреле ловаца/сакупљача од метала који покреће ратове, ритуалне маске које нас штите од ЦОВИД-19, ексери који граде небодере, покретне штампарске машине које (још) пуне наше фабрике штампаним папиром и покрећу издавачка делатност, сијалице које вам омогућавају да видите и радите унутра ноћу, могао бих да наставим. Нико за кога знам није седео касних 1800-их и предвидео да ће Нокиа преместити своју производњу са папира на гуму и електронику, а потом и са мобилних телефона. Можда су требали.

Људи су лоши предиктори корака промене, процеса у којем једна промена води ка већој промени, и одједном, ствари су радикално другачије. Још увек не разумемо овај процес јер имамо мало практичног знања о експоненцијалној промени; не можемо то замислити, израчунати или схватити. Међутим, увек изнова нас погађа. Пандемије, раст становништва, технолошке иновације од штампања књига до роботике, обично нас погађају без упозорења.

Трик са футуризмом није ако, већ када. Неко би заправо могао да предвиди промену само одабиром неких нових производних метода и изјавом да ће оне постати све заступљеније у будућности. То је довољно једноставно. Тежак део је схватити тачно када и посебно како.

Спајалице нису проблем

Размотрите поново мој пример фабрике, али овог пута замислите да су машине задужене за бројне одлуке, не све одлуке, већ производне одлуке попут оптимизације. У својој књизи Суперинтелигенција, дистопијски хуманиста са Универзитета Оксфорд Ник Бостром је славно замислио алгоритам за оптимизацију вештачке интелигенције који покреће фабрику спајалица. У неком тренутку, каже он, замислите да машина сматра да је учење да преусмери све веће ресурсе на задатак рационално, на крају постепено претварајући наш свет у спајалице и опирући се нашим покушајима да га искључимо.

Упркос томе што је паметан момак, Бостромов пример је прилично глуп и обмањујући (ипак, незабораван). Као прво, он не узима у обзир чињеницу да људи и роботи више нису одвојени ентитети. Ми смо у интеракцији. Већина паметних робота еволуира у коботе или колаборативне роботе. Људи ће имати много шанси да исправе машину. Чак и тако, његова основна поента остаје. У неком тренутку може доћи до промене корака, а ако се та промена деси довољно брзо и без довољног надзора, контрола би се могла изгубити. Али тај екстремни исход изгледа помало натегнут. У сваком случају, слажем се, морамо да регулишемо људе који управљају овим машинама и да наложимо да радници увек буду у току тако што ће их адекватно обучити. Таква врста тренинга не иде добро. Тренутно траје предуго и потребне су специјалне вештине и за обуку и за обуку. Знам једну ствар. У будућности ће све врсте људи управљати роботима. Они који то не ураде биће прилично немоћни.

Повећање људи је боље од безумне аутоматизације, без обзира да ли се никада у потпуности не спојимо са машинама. Ова два концепта су логички различита. Могуће је да се и људи и роботи заглаве у аутоматизацији ради аутоматизације. То би нанело велику штету производњи у будућности. Чак и ако не производи роботе убице. Верујем да је спајање удаљено стотинама година, али то није поента. Чак и ако је удаљен само тридесет година, самоходне машине које раде на поједностављеним алгоритмима који губе контролу, тај сценарио се већ дешава у радњи. Неке од тих машина су старе тридесет година и раде на старим, власничким контролним системима. Њихов главни изазов није то што су напредни, већ супротно. Превише су једноставни да би могли да комуницирају. Ово није проблем за сутра. То је већ постојећи проблем. Морамо отворити очи за то. Размислите о овоме следећи пут када уђете у гумене чизме.

Још увек имам своје Нокиа чизме из 1980-их. Имају рупу у њима, али их чувам да се подсетим одакле сам и колико сам прешао. Киша такође пада, и све док је довољно чиста, не желим боље решење од тих чизама. А опет, ја сам човек. Робот би вероватно већ кренуо даље. Питам се која је АИ верзија чизама за кишу. То није мобилни телефон. То није сензор за кишу. Запањује ум.

Дигиталне чизме данас значе да их можете персонализовати јер имају 3Д штампане дизајне. Постоје виртуелне ципеле које постоје само као НФТ (незаменљиви токени) које се могу продати и трговати. Врхунске виртуелне патике ових дана вреде 10,000 долара (види Шта су НФТ патике и зашто вреде 10,000 долара?). Не плашим их се, али да ли треба да се плашим? Ако виртуелни свет буде цењенији од физичког света, можда и хоћу. Или би требало да сачекам да будем забринут док сопствени аватар АИ не купи сопствену НФТ чизму да се избори са „кишом“? Ако градимо алгоритме по сопственој слици, већа је вероватноћа да би вештачка интелигенција била добра у стварима у којима бисмо желели да смо добри, али обично нисмо, као што је куповина акција, изградња лојалних пријатељстава (можда и са машинама и са људима) и памћење ствари. Индустријски метаверзум би могао бити изненађујуће софистициран – пун дигиталних близанаца који опонашају наш свет и надмашују га на плодоносне начине – или би могао бити шокантно једноставан. Можда обоје. Само још не знамо.

Морамо да регулишемо АИ алгоритме јер не знамо шта је иза угла. То је довољан разлог, али о томе како то радимо, то је дужа прича. Дозволите ми још једно кратко запажање, можда би сви основни алгоритми требали бити јавно доступни. Разлог је, ако не, не постоји начин да се зна до чега би они могли довести. Најбољи су прилично познати (види 10 најбољих алгоритама машинског учења), али не постоји светски преглед где и како ће се користити. Посебно треба пажљиво пратити алгоритме без надзора (види Шест моћних случајева употребе машинског учења у производњи), било да се користе за предвиђање одржавања или квалитета, за симулацију производног окружења (нпр. дигитални близанци) или за генерисање нових дизајна на које човек никада не би помислио. У данашњем окружењу, ови алгоритми без надзора су типично такозване вештачке неуронске мреже, које покушавају да опонашају људски мозак.

Почео сам да бринем о неуронским мрежама, само зато што ми је тешко разумети њихову логику. Проблем је у томе што већина стручњака, чак и они који их примењују, не разумеју како се ови алгоритми крећу од корака до корака или слоја до слоја. Мислим да метафора „скривених слојева“, која се често користи, није баш прикладна или веома смешна. За почетак, не би требало да постоје скривени слојеви у производњи, аутоматизованој наплати пореза, одлукама о запошљавању или упису на факултет. Можда би и ти требало да размислиш о томе да се бринеш? Једно је сигурно, људи и машине које праве ствари заједно ће променити свет. Већ јесте, много пута. Од папира до чизама за кишу, и слојева данашњег вештачког мозга, ништа не би требало оставити неистражено. Не треба да се кријемо од једноставне чињенице да се из много малих промена одједном може појавити већа промена.