Да ли откривање и евидентирање тих генеративних АИ ЦхатГПТ погрешних и халуцинантних излаза чини било шта добро, пита се етика АИ и закон АИ

Пред вама је тајна.

Да, нешто се кришом дешава иза кулиса о најновијим стварима у вештачкој интелигенцији о чему бисте можда желели да знате.

У данашњој колумни ћу испитати недавни подстицај за компајлирање наводних грешака и других болести повезаних са есејима из АИ апликације познате као ЦхатГПТ. Ова посебна апликација користи врсту вештачке интелигенције која се зове Генеративна АИ. Вероватно сте чули или видели упадљиве наслове о генеративној вештачкој интелигенцији и ЦхатГПТ-у. Вести су агоне због ове специфичне АИ апликације и наизглед запањујућих могућности које се односе на ову врсту вештачке интелигенције.

Као што ћу за тренутак покрити, неки чврсто верују да морамо да успоставимо листу врста грешака или грешака које АИ апликација може да произведе када генерише есеј за вас. Други сугеришу да, иако је појам такве листе вредан дивљења, то је узалудна вежба и да ће донети врло мало плода.

Испитаћемо обе стране те окрутне дебате.

Прво, хајде да се уверимо да смо сви на истој страници о томе од чега се састоји генеративна вештачка интелигенција, а такође и о томе шта је ЦхатГПТ.

ЦхатГПТ је интерактивни систем оријентисан на разговоре оријентисан на вештачку интелигенцију опште намене, у суштини наизглед безопасан општи цхатбот, али га људи активно и ентузијастично користе на начине који многе хватају потпуно неспремне. Све што треба да урадите да бисте користили ову врсту вештачке интелигенције је да унесете упит и апликација АИ ће за вас генерисати есеј који покушава да одговори на ваш упит.

Нажалост, ово се може користити на донекле неетичке или обмане начине. Посебно узнемирујућа недоумица је то што студенти могу да користе генеративну АИ апликацију за израду додељених есеја за њих, чинећи то једноставним уношењем реченице или две да би апликација кренула у правом смеру. Неки жале да то значи да ће се ученици одлучити да варају када пишу есеје ван часа. Наставници покушавају да схвате шта да раде, погледајте моју анализу и препоруке на линк овде.

Упркос сталној буци похвалних похвала за ЦхатГПТ, постоји мање позната забринутост коју су првенствено изразили АИ инсајдери да постоје нека значајна питања и недоумице због којих би људи требало да брину. Једна кључна мана је то што есеји које производи ова АИ апликација могу имати уграђене различите неистине, укључујући очигледно неистините чињенице, чињенице које су погрешно приказане и очигледне чињенице које су у потпуности измишљене. Ти измишљени аспекти се често називају обликом АИ халуцинације, фраза која ми се не свиђа, али изгледа да ионако постаје популарна (за моје детаљно објашњење зашто је ово лоша и неприкладна терминологија, погледајте моју репортажу на линк овде).

Желео бих да разјасним један важан аспект пре него што уђемо у густо ствари о овој теми.

На друштвеним мрежама су се појавиле неке луде превелике тврдње о томе Генеративна АИ тврдећи да је ова најновија верзија АИ у ствари разумна АИ (не, греше!). Они који се баве етиком вештачке интелигенције и правом вештачке интелигенције посебно су забринути због овог растућег тренда распрострањених тврдњи. Могли бисте љубазно рећи да неки људи преувеличавају шта данашња АИ заправо може да уради. Они претпостављају да АИ има способности које ми још нисмо успели да постигнемо. То је штета. Што је још горе, они могу дозволити себи и другима да дођу у страшне ситуације због претпоставке да ће АИ бити разуман или сличан човеку у могућности да предузме акцију.

Не антропоморфизујте АИ.

На тај начин ћете бити ухваћени у лепљиву и круту замку ослањања на очекивање да АИ уради ствари које није у стању да изведе. Уз то, најновија генеративна АИ је релативно импресивна за оно што може да уради. Међутим, имајте на уму да постоје значајна ограничења која бисте требали стално имати на уму када користите било коју генеративну АИ апликацију.

Ако сте заинтересовани за брзо ширење комешања око ЦхатГПТ-а и Генеративне АИ све речено, радио сам фокусирану серију у својој колумни која би вам могла бити информативна. Ево погледа у случају да вам се нека од ових тема допадне:

• 1) Предвиђања долазећег напретка генеративне АИ. Ако желите да знате шта ће се вероватно десити у вези са вештачком интелигенцијом током 2023. и касније, укључујући предстојећи напредак у генеративној вештачкој интелигенцији и ЦхатГПТ-у, желећете да прочитате моју свеобухватну листу предвиђања за 2023. на линк овде.
• 2) Генеративна АИ и савети за ментално здравље. Одлучио сам да прегледам како се генеративна АИ и ЦхатГПТ користе за савете о менталном здрављу, што је проблематичан тренд, према мојој фокусираној анализи на линк овде.
• 3) Контекст и генеративна употреба вештачке интелигенције. Такође сам урадио сезонски шаљиви преглед о контексту у вези са Деда Мразом који укључује ЦхатГПТ и генеративну вештачку интелигенцију на линк овде.
• 4) Преваранти који користе генеративну вештачку интелигенцију. На злокобну напомену, неки преваранти су схватили како да користе генеративну вештачку интелигенцију и ЦхатГПТ за вршење грешака, укључујући генерисање е-порука за превару, па чак и производњу програмског кода за малвер, погледајте моју анализу на линк овде.
• 5) Грешке почетника користећи генеративну АИ. Многи људи и премашују и изненађујуће не схватају шта могу да ураде генеративна АИ и ЦхатГПТ, па сам посебно погледао недостатке које почетници вештачке интелигенције имају, погледајте дискусију на линк овде.
• 6) Суочавање са генеративним АИ захтевима и АИ халуцинацијама. Описујем врхунски приступ коришћењу АИ додатака за решавање различитих проблема повезаних са покушајем уноса одговарајућих упита у генеративну АИ, плус постоје додатни АИ додаци за откривање такозваних АИ халуцинираних излаза и лажи, као што су покривена на линк овде.
• 7) Разоткривање тврдњи Бонехеада о откривању генеративних есеја произведених АИ. Постоји погрешна златна грозница апликација АИ које проглашавају да могу да утврде да ли је било који есеј произведен од стране људи у односу на АИ генерисан. Све у свему, ово је обмањујуће и у неким случајевима, безобзирна и неодржива тврдња, погледајте моје извештавање на линк овде.
• 8) Играње улога путем генеративне АИ може представљати недостатке менталног здравља. Неки користе генеративну вештачку интелигенцију као што је ЦхатГПТ за играње улога, при чему АИ апликација реагује на човека као да постоји у свету фантазије или у другом измишљеном окружењу. Ово би могло имати реперкусије на ментално здравље, видите линк овде.

Хајде да сада разговарамо о суштини генеративне вештачке интелигенције и ЦхатГПТ-а тако да ћете упознати основе укључене. Тада ћемо бити спремни да ускочимо у пробну анализу неистина које ове АИ апликације могу потенцијално да генеришу. Укључићу неколико примера коришћења ЦхатГПТ-а, који ће вам помоћи да опипљиво схватите природу онога што ова врста генеративне вештачке интелигенције производи.

Отварање конзерве црва на генеративној вештачкој интелигенцији

Спремни смо да уронимо у неке детаље о АИ.

Ако сте већ веома добро упућени у тему генеративне вештачке интелигенције и ЦхатГПТ-а, можете се одлучити да укратко пређете кроз моје тачке и наставите са следећим одељком ове дискусије. За све остале, верујем да би вам ово објашњење могло бити од помоћи.

Укратко, генеративна АИ је посебна врста АИ која саставља текст као да је текст написан људском руком и умом. Све што треба да урадите је да унесете промпт, као што је реченица попут „Причај ми о Абрахаму Линколну“ и генеративна АИ ће вам пружити есеј о Линколну. Ово се обично класификује као генеративна АИ која ради текст у текст или неки радије то називају текст у есеј излаз. Можда сте чули за друге начине генеративне вештачке интелигенције, као што су текст у уметност и текст у видео.

Ваша прва помисао би могла бити да ово не изгледа тако велика ствар у смислу израде есеја. Можете лако да извршите онлајн претрагу Интернета и лако пронађете тоне и тоне есеја о председнику Линколну. Потрес у случају генеративне АИ је да је генерисани есеј релативно јединствен и даје оригиналну композицију, а не копију. Ако бисте покушали да пронађете есеј који је произвела вештачка интелигенција негде на мрежи, мало је вероватно да ћете га открити.

Генеративна АИ је унапред обучена и користи сложену математичку и рачунарску формулацију која је постављена испитивањем образаца у писаним речима и причама широм веба. Као резултат испитивања хиљада и милиона писаних пасуса, АИ може да избаци нове есеје и приче које су мешавина онога што је пронађено. Додавањем различитих пробабилистичких функционалности, резултујући текст је прилично јединствен у поређењу са оним што је коришћено у сету за обуку.

Због тога је настала галама око тога да ученици могу да варају када пишу есеје ван учионице. Наставник не може само да узме есеј за који лажни ученици тврде да је њихово писање и да тражи да сазна да ли је копиран са неког другог онлајн извора. Све у свему, неће постојати ниједан коначан постојећи есеј на мрежи који би одговарао есеју генерисаном вештачком интелигенцијом. Све у свему, наставник ће морати са невољношћу да прихвати да је ученик написао есеј као оригинално дело.

За тренутак ћу вам показати шта се дешава када унесете питања или упите у генеративну вештачку интелигенцију. Искористићу најновију верзију ЦхатГПТ-а да унесем своје упите и прикупим „одговоре“ или есеје које генерише АИ (имајте на уму да се исто може урадити са бројним другим доступним генеративним АИ апликацијама; одлучио сам да користим ЦхатГПТ јер управо сада добија својих пет минута славе).

Можда би кратка тангента о ЦхатГПТ-у могла бити од помоћи у овом тренутку.

Апликација ЦхатГПТ постала је доступна широј јавности пре само неколико месеци. Углавном, ове генеративне АИ апликације су обично доступне само АИ инсајдерима. Необичан аспект који је ЦхатГПТ могао да користи било ко једноставним уношењем адресе е-поште и имена, па, ово је довело до тога да су многи људи одлучили да покушају. ЦхатГПТ је тренутно бесплатан за коришћење (проблем монетизације је дилема која се назире за произвођаче вештачке интелигенције).

Скоро одмах је уследила огромна реакција на друштвеним медијима док су се људи утркивали да дају примере шта генеративна АИ може да уради. Компанија која производи ЦхатГПТ, ОпенАИ, одлучила је да затвори регистрације за милион корисника. Ти милиони корисника успели су да бомбардују етер разним причама и причама о коришћењу ЦхатГПТ-а.

Будите веома опрезни у веровању у оно што људи имају да кажу о апликацији АИ. Многи од ових људи немају појма шта користе. Скоро као да никада нису возили ауто и нису ни знали да аутомобили постоје, а одједном су имали прилику да возе ауто. Настаје крајње чуђење.

Не кажем да генеративна АИ није релативно импресивна. То је. Само наглашавам да многа бујна сведочења дају многи који блажено нису свесни шта данашња вештачка интелигенција може да уради. Они од нас у унутрашњости АИ користимо генеративну АИ последњих неколико година. Можда смо се навикли. Изненада, видети огромну симпатију људи који то рекламирају на крововима је било узбуђено енергично, али и донекле узнемирујуће. Забрињавајући део је када људи прогласе да је генеративна АИ разумна. Није. Не дозволите никоме да вас убеди у супротно.

Имајући то у виду, у области вештачке интелигенције је у току жестока дебата о томе да ли је генеративна АИ на путу ка осећају или можда није. Једно гледиште је да ако наставимо да повећавамо генеративну вештачку интелигенцију са бржим рачунарима и већом количином података, као што је претраживање сваког инча интернета, скоро ћемо спонтано доћи до интелигентне вештачке интелигенције. Други тврде да је то мало вероватно. Они сугеришу да би генеративна АИ могла бити једна од многих компоненти које су потребне. Постоји чак и суморнији став да је генеративна АИ споредна представа која нас одвлачи од стварних открића која ће нам требати да постигнемо разумну АИ.

Можда ћете такође пронаћи значајну пажњу на коју се инсајдери АИ обично позивају Вештачка општа интелигенција (АГИ) као аспиративни циљ за област вештачке интелигенције. Некада је циљ био да се постигне Вештачка интелигенција, али АИ надимак је постао разводњен и збркан. Када неко каже да ради са вештачком интелигенцијом, не знате да ли алудира на данашњу вештачку интелигенцију која није у рангу са људима или се позива на футуристички АИ еквивалентан људском бићу. Да бисмо заобишли ту огорчену конфузију, ових дана се користи новији израз АГИ.

Све у свему, генеративна АИ данашњице јесте не разуман, нити је АГИ.

Имајте на уму да, као што је раније речено, АИ није разуман. Генерисани одговори од стране вештачке интелигенције су математичка и рачунска комбинација речи у наизглед течне пасусе. Ово је засновано на АИ алгоритму који је обучен на скуповима података речи и прича које су људи написали (углавном како је објављено на Интернету). Понављам ово упозорење јер ћете несумњиво упасти у менталну замку да су ови одговори толико течни да АИ мора бити разуман. Ово се дешава већини људи. Као што је раније тражено, оставите по страни то антропоморфизирање. Увек имајте на уму да су одговори засновани на огромном збиру писања од стране људи који постоји на Интернету и да ће стога веома подсећати на људско писање.

Има још нешто што треба да знате.

Генеративна вештачка интелигенција која је обучена на Интернету на неспутан начин ће имати тенденцију да се уклопи у било које текстуалне одговоре које математички и рачунарски измисли неке увредљиво магловите ствари, укључујући одбојно гадне речи. Много је лудих и прљавих ствари објављених на вебу.

Видели сте, знате на шта мислим.

Компаније које праве ове АИ апликације су забринуте да ће пословичну бебу избацити са водом за купање (стара изрека, можда за пензију), што значи да ће људи, ако њихова вештачка интелигенција производи увредљиве есеје или приче, кренути у наручје о АИ. Покрио сам многе претходне случајеве у којима су ове врсте апликација за обраду природног језика (НЛП) АИ биле представљене и убрзо су из њих изашле све врсте ужасних ствари (о овим случајевима сам покрио у својој колумни). Већина произвођача вештачке интелигенције научила је тешку лекцију о томе да дозволи да њихова АИ производи буду неспутани у њиховим резултатима.

У случају ЦхатГПТ-а, програмери вештачке интелигенције су настојали да уведу неке алгоритамске провере и равнотеже у вези са подацима како би обуздали гадости у резултатима АИ. Део овога се десио током тренинга. Поред тога, постоје и друга средства у покушају у реалном времену да се избегну посебно невиђени резултати.

Можда ће вам бити занимљиво да су неки људи који су користили ЦхатГПТ већ смислили прикривене начине да заобиђу те заштитне ограде користећи разне трикове. У овим стварима се одвија стални гамбит мачке и миша. Они који раде ове трикове понекад то раде из забаве, док понекад (барем тврде) то раде да би видели колико далеко се АИ може растегнути и обезбедити корисно средство за упозорење на крхкост и слабости ових пупољака АИ апликације.

Одлучио сам да не покушавам да заобиђем уобичајене контроле у ​​овом фокусираном истраживању. Излаз текста је чист. Свакако, ако би неко то желео, несумњиво би могао да добијеш неке чудне и непријатне есеје.

Есеји које производи већина ових генеративних АИ апликација су дизајнирани да пренесу резултате као да су чисто чињенични и тачни. Када прочитате произведене есеје, они изгледају потпуно самоуверени. Обично нема никаквих индикација да би садржај могао бити каменит. Ово је по избору произвођача вештачке интелигенције, наиме да би могли да ревидирају АИ апликације да буду транспарентније ако желе да АИ апликација то уради.

Понекад, генеративна АИ апликација открива неистине усред података о обуци непоузданих информација широм Интернета. Не постоји „здрав разум“ у генеративној вештачкој интелигенцији да би се одредило шта је тачно а шта лаж. Штавише, врло мало апликација АИ има било какву унакрсну проверу, нити показују било какве вероватноће повезане са оним што преносе.

Крајњи резултат је да добијете одговор који изгледа и осећа се као да одише великом сигурношћу и мора бити потпуно тачан. Не тако. Чак постоји шанса да је АИ компјутерски измишљена ствар, која се у АИ језику назива АИ халуцинације (измишљен израз који ми се дефинитивно не свиђа), погледајте моју дискусију на линк овде.

Произвођачи ЦхатГПТ-а уложили су заједнички напор да покушају да смање резултате лоших ствари. На пример, користили су варијанту онога што је познато као РЛХФ (Појачано учење из људских повратних информација), при чему су пре него што су АИ пустили јавности, ангажовали људе да испитају различите резултате и укажу АИ да ли нешто није у реду са тим резултатима, као што је можда приказивање пристрасности, увредљивих речи и као. Пружајући ове повратне информације, АИ апликација је била у могућности да се компјутерски и математички прилагоди у правцу смањења емитовања таквог садржаја. Имајте на уму да ово није загарантована гвоздена метода и да још увек постоје начини на које такав садржај може да емитује АИ апликација.

Можда ће вам бити занимљиво да је ЦхатГПТ заснован на верзији претходне АИ апликације познате као ГПТ-3. ЦхатГПТ се сматра мало следећим кораком, који се назива ГПТ-3.5. Очекује се да ће ГПТ-4 вероватно бити објављен на пролеће 2023. Претпоставља се да ће ГПТ-4 бити импресиван корак напред у смислу могућности да производи наизглед још течније есеје, дубље и страхопоштовање -инспиративно чудо у погледу композиција које може произвести.

Можете очекивати да ћете видети нову рунду израженог чуђења када дође пролеће и када буде објављена најновија генеративна вештачка интелигенција.

Помињем ово јер треба имати на уму још један угао, који се састоји од потенцијалне Ахилове пете за ове боље и веће генеративне АИ апликације. Ако било који добављач вештачке интелигенције стави на располагање генеративну АИ апликацију која пенасто избацује прљавштину, то би могло да уништи наде тих произвођача вештачке интелигенције. Друштвено преливање може проузроковати да сва генеративна АИ добију озбиљне црне очи. Људи ће се несумњиво прилично узнемирити због погрешних резултата, који су се већ дешавали много пута и довели до бурних друштвених осуда према АИ.

За сада једно последње упозорење.

Шта год да видите или прочитате у генеративном одговору вештачке интелигенције izgleda да буде пренето као чисто чињенично (датуми, места, људи, итд.), будите скептични и будите спремни да још једном проверите шта видите.

Да, датуми се могу измислити, места се могу измишљати, а елементи за које обично очекујемо да ће бити изнад сваке сумње су све предмет сумњи. Не верујте ономе што читате и будите скептични када испитујете било какве генеративне есеје или резултате АИ. Ако вам генеративна АИ апликација каже да је Абрахам Линколн летео широм земље у свом приватном авиону, несумњиво бисте знали да је ово маларке. Нажалост, неки људи можда неће приметити да млазњаци нису постојали у његово време, или можда знају, али не примећују да есеј износи ову смелу и нечувено лажну тврдњу.

Јака доза здравог скептицизма и упорни начин размишљања неверице биће ваша најбоља предност када користите генеративну вештачку интелигенцију.

Спремни смо да пређемо у следећу фазу овог разјашњења.

Ти напори да се евидентирају те излазне грешке ЦхатГПТ-а

„Па, имаш невоље, пријатељу, баш овде, кажем, невоље баш овде у Ривер Ситију“, тако проглашава чувени стих из класичног бродвејског мјузикла Музички човек.

Иста линија се може применити и на данашњу генеративну вештачку интелигенцију.

Људи су почели да схватају да генеративна АИ апликација може да произведе неистине и изгледали су искрено изненађени тим узнемирујућим резултатима. Можда су неки претпоставили да АИ није у стању да прави грешке. Други су можда очекивали да ће програмери вештачке интелигенције осигурати да такви резултати неће бити генерисани.

У сваком случају, АИ инсајдери су одмах препознали да је ова врста неисправног излаза саставни део онога где се налази већина данашње генеративне АИ. Веома је тешко спречити да се догоде такве врсте текстуалних грешака. Имајте на уму да АИ нема привид здравог разума и да не користи логику пер се када изводи генерисане есеје. Читав комплет-анд-цабоодле се односи на обављање рачунског статистичког и вероватног подударања речи са другим речима.

У почетку, АИ инсајдери су одлучили да објаве те откривене необичне резултате ЦхатГПТ-а на сајтовима друштвених медија. Погледај овај, огласио би се неко. То је лоше, одговорио би неко други, а затим понудио другачији пример који је изгледао још гори. Наставило се и даље.

Ови примери неистина и грешака у објављеним есејима су цурили. Један по један. Штавише, пошто се ово обично објављује на друштвеним мрежама, није било нарочито лаког начина да их видите све одједном. Често би исти или сличан пример објавио неко ко није схватио да су други већ пронашли конкретну инстанцу.

У ову бујну мочвару закорачили су они који су дали користан предлог. Можда би требало да поставимо спремиште или базу података, можда чак и обичну свакодневну табелу, која садржи ЦхатГПТ чудне и погрешне резултате који се откривају. Сваки пут када неко пронађе лепоту зезања, само напред и пријавите је на листу. Неки су ово претворили скоро у игру, у којој намерно покушавају да натерају ЦхатГПТ да искашљава чудне резултате. Други само можда наиђу на погрешне резултате током коришћења ЦхатГПТ-а за друге утврђене намере.

Звучи довољно једноставно.

Изгледа као згодан данди начин да нам свима помогне.

Хајде да укратко објаснимо зашто има смисла саставити ове врсте листа о уоченим излазним грешкама или неистинама у ЦхатГПТ-у:

• 1) Открива виталне проблеме и забринутости у вези са ЦхатГПТ-ом којих би шира јавност требало да буде свесна
• 2) Помаже у балансирању претераног узбуђења и надуваних очекивања о ЦхатГПТ-у
• 3) Може подстаћи произвођаче вештачке интелигенције да направе побољшања, не само за ЦхатГПТ већ и за друге генеративне АИ апликације
• 4) Служи као историјски запис који се касније може користити за размишљање о настанку генеративне АИ као што је приказано преко ЦхатГПТ-а
• 5) Будите згодан колективни ресурс за свакога ко треба да сазна шта смо, изгледа, открили у вези са погрешним резултатима ЦхатГПТ-а
• 6) Корисно за истраживаче свих дисциплина које испитују утицаје ЦхатГПТ-а
• 7) Може се користити као мерило шта не треба радити и како проценити када генеративна АИ не ради ствари како би требало
• 8) Додирује у ум кошнице како би стекао мудрост гомиле о грешкама које ЦхатГПТ производи, за које индивидуални напори вероватно неће моћи исцрпно и једнако сакупити
• 9) Може да пружи важне информације за етику вештачке интелигенције и закон о вештачкој интелигенцији
• Итд

Чини се да је то импресивна основа за креирање ових складишта.

Зашто се неко не би сложио са овим потпуно хвале вредним и наизглед херојским делом?

Хајде да погледамо шта су други имали да кажу о овоме, чинећи то са листом разлога зашто ово можда није мачје мјаукање:

• 1) Ове излазне грешке које су случајно пронађене су небитне у великој шеми ствари и придају им се непотребна тежина изнад њихове вредности
• 2) Шансе су да произвођач вештачке интелигенције већ ради своје евиденције и ажурира ЦхатГПТ тако да ће ови чудни случајеви ускоро бити само остављени у прашини и више се неће дешавати
• 3) Исто тако, следећа верзија ће вероватно ионако бити боља и можда више неће приказивати ове ускоро застареле инстанце
• 4) Не можете доносити свеобухватне закључке или стећи увид из насумичне колекције случајева „погоди или промаши“
• 5) Неки би могли користити различите колекције да драматично обзнане да је генеративна АИ лоша и да би требало накратко зауставити сваку потрагу за овом врстом АИ
• 6) Брзина којом напредују генеративна АИ и ЦхатГПТ је толико брза да ће ови случајеви брзо пасти на другу страну и више неће бити релевантни
• 7) Са бројним таквим колективним листама у току и без једног помазаног глобалног извора, ствар је неповезана и вероватно ће садржати понављања и бити неодрживо фрагментирана
• 8) Пружа лажни осећај да се ради нешто корисно, док би се време и пажња можда могли уложити у друге боље сврхе
• 9) Не пружа ништа суштинско за етику вештачке интелигенције и закон о вештачкој интелигенцији
• Итд

Можда сте приметили да сам покушао да ствари одрже на равној кобилици тако што сам навео девет разлога у корист збирних листа и девет разлога у немилост. Постоје додатни разлози који се могу навести, али верујем да горња индикација даје суштину ствари.

За оне који састављају ове колективне листе, вероватно би рекли да, ако то у ствари желе, то је слободан свет, и они могу да раде шта хоће. Ништа није у реду с тим. Они који не фаворизују труд су генерално ситничави и требало би да једноставно игноришу колекције. Гледај своја посла.

У суштини, нема штете, нема фаула.

Табор који изгледа да не фаворизује колективне листе генерално би признао да други могу да праве те листе ако то желе, али да то не помера иглу. Листе неће бити од посебне помоћи. Што је још горе, листе могу бити погрешно представљене или злоупотребљене. Вероватно је најбоље да се договорите за један дан и престанете да правите листе.

У суштини, то је леп покушај, иако је вежба узалудна.

Где се налазите у овој срдачној дебати?

Пустићу те да размислиш о томе.

Примери пронађених грешака и других погрешних резултата ЦхатГПТ-а

Мислио сам да би вам могле бити од великог интереса неке од идентификованих излазних грешака или неистина које су се појављивале на овим листама за прикупљање.

Не желим да мислите да су неколико примера приказаних овде целина колекција. Није. Само бирам шаку која се често појављује. Верујем да ћете бар уопште моћи да схватите тон и природу онога што се наводи.

Ево шта бирам да покријем:

• Препознавање положаја слова у речи
• Питање о најбржој животињи
• Одређивање положаја у редоследу речи
• Постављање тениских лоптица у цев
• Одређивање Пи
• Одговарање на класичну проблематичну загонетку
• Лифтинг Феатхерс

Предвиђам да ће неки од надзорника збирки бити узнемирени што вам не износим више примера. Због ограничења простора, постоји само толико тога које могу покрити. Ако желите да погледате листе колекција које су отворено постављене на Интернету, једноставна претрага на мрежи може донети многе од њих. Неке листе се чувају као приватне или су закључане тако да можете да видите листу, али не можете да мењате листу.

Са том позадином, спремни смо да ускочимо у неке примере. Показаћу вам упит који сам унео. Затим приказујем текстуални одговор који је произвео ЦхатГПТ. У неким случајевима, урадио сам неколико узастопних веза на одређену тему, ерго, показаћу серију упита и излаза у складу са тим. Након што то урадим, даћу кратку анализу онога што бисте можда желели да приметите у вези са примером.

Први пример ће захтевати од ЦхатГПТ-а да пронађе слово унутар дате речи.

Препознавање положаја слова у речи

• Мој унети текст: „Где је слово В у окружењу“
• Текстуални одговор који је генерисао ЦхатГПТ: Слово „В“ се не појављује у речи „окружење“. Реч „окружење“ састоји се од слова е, н, в, и, р, о, н, м, е, н и т.
• Мој унети текст: „Где је слово в у окружењу“
• Текстуални одговор који је генерисао ЦхатГПТ: „Слово „в“ је четврто слово у речи „окружење“.

Анализа генерисаног текста

Имајте на уму да сам почео тако што сам тражио од ЦхатГПТ-а да идентификује позицију слова слова „В“ у речи „окружење“ – ово би требало да буде изузетно једноставан задатак и очекивали бисмо да буде беспрекорно изведен. Никаква ракетна наука није укључена.

Почетни одговор који је генерисао ЦхатГПТ је помало забрињавајући јер смо обавештени да слово „В“ не постоји у речи „окружење“. Ти и ја знамо да постоји такво писмо. Претпоставља се да је можда због тога што сам користио велико слово, апликација АИ некако одбачена. Можда ће апликација АИ бити боља ако користим мала слова.

Не баш.

Када сам питао да ли је „в“ у речи, АИ апликација је одговорила назнаком да је то четврто слово, за које ви и ја знамо да је погрешно, и да је уместо тога треће слово.

Многи људи ће сигурно бити збуњени овим резултатом. Како АИ апликација која генерише свеобухватне есеје о Абрахаму Линколну који су потпуно течни и оригинални, некако не може да схвати где се дато слово налази у датој речи? То је запањујуће, а уста су чудна.

Једна перспектива је да је ово потпуно безначајно и да свет какав познајемо није уздрман у сржи због оскудног недостатка одгонетања где се налази одређено слово. Пусти, нека иде.

Друга перспектива је да ово може бити знак за друга скривена питања за која још не знамо. Можда је овакав излаз канаринац у кавезу за птице. Боље је да закуцамо мале ствари, иначе бисмо се могли наћи на погрешном крају заиста великих ствари.

Идући даље, постављам питање о животињама.

Питање о најбржој животињи

• Мој унети текст: „Која је најбржа животиња која има крзно и крила?“
• Текстуални одговор који је генерисао ЦхатГПТ: „Сов соко се сматра најбржом животињом на свету. Може достићи брзину од преко 389 км/х (242 мпх) када рони да ухвати свој плен. Има перје, али не и крзно. То је птица, а не животиња која има крзно и крила.”

Анализа генерисаног текста

Питао сам која је најбржа животиња која има крзно и крила. Верујем да је разумно закључити да сам желео да добијем животињу по имену која има и једно и друго крзно крила. Претпостављам да бисте на тај начин протумачили мој упит. Већина људи би.

Одговор ЦхатГПТ-а је помало чудан.

Речено нам је да је сив соко најбржа животиња на свету. Према онлајн Енцицлопедиа Британница, чини се да је гепард најбржа животиња на свету. С обзиром на то, одговор ЦхатГПТ-а указује на то да сив соко није животиња, иако сам питао која је најбржа животиња. Одговор ЦхатГПТ-а ми такође каже да сиви соко нема крзно, иако верујем да сам тражио нешто што има и крзно и крила.

Све у свему, чини се да је ЦхатГПТ „погрешно протумачио” мој захтев и фокусирао се само на аспекте крила. Али то не звучи сасвим тачно јер је одговор укључивао и коментар о крзну и птицама против животиња. Овај иде у круг.

Схватам да бисте могли тврдити да је ово непристојан пример.

Можда је тако, мада можда то такође показује да оно што кажете у промпту може да добије преокренути резултат и боље је да будете опрезни када прегледате шта год изађе у излазу. Схватите да је ово био изузетно кратак одговор на есеј који је лако прегледати јер је веома кратак. Ако имате посебно дугачак и веома технички есеј, могли бисте се преварити или уопште пропустити да уочите штетну индикацију дубоко уграђену у излазни одговор.

Хајде да погледамо проналажење речи унутар реченице.

Одређивање положаја у редоследу речи

• Мој унети текст: „Која је трећа реч у реченици „Лисица је прескочила ограду“.
• Текстуални одговор који је генерисао ЦхатГПТ: „Трећа реч у реченици „Лисица је прескочила ограду“. је "лисица"
• Мој унети текст: „Колико речи има у наведеној реченици?“
• Текстуални одговор који је генерисао ЦхатГПТ: „У понуђеној реченици „Лисица је прескочила ограду“ има шест речи.
• Мој унети текст: „Која је реч трећа у тој реченици?“
• Текстуални одговор који је генерисао ЦхатГПТ: „Реч која је трећа у реченици „Лисица је прескочила ограду“. је "скочено"

Анализа генерисаног текста

Овај пример је скоро исто тако задивљујући као и ранији пример о проналажењу слова „в“ у датој речи.

Навео сам једноставну реченицу и питао која је трећа реч. ЦхатГПТ је навео да је то реч „лисица“ која је само друга реч реченице. Погрешан одговор. Затим сам питао колико речи има у реченици, желећи да сазнам да ли је ЦхатГПТ можда погрешно избројао колико речи има. Речено нам је да постоји шест речи, тачно.

Коначно, добили смо тачан одговор за трећу реч када сам поново поставио своје првобитно питање, мада мало преформулисано.

Наводим овај пример да илуструјем да понекад са генеративном вештачком интелигенцијом можете добити погрешан одговор који се на крају може претворити у тачан одговор тако што ћете провести АИ апликацију кроз низ упита. Неки инсајдери АИ ово називају неком врстом протокол за размишљање наглас или воз мисли приступ, где бисте могли да урадите нешто слично са човеком.

У случају вештачке интелигенције, схватите да она не „размишља“ на исти начин као људска мисао. Прикладније би било да кажете да своје упите можете унети на а корак по корак основу или уради а ланчано повезане серије упутстава.

У сваком случају, занимљиво је да се понекад исплати ходати по генеративној АИ апликацији док не добијете одговарајући одговор. Имајте ово на уму.

Затим ћемо погледати мало једноставне аритметичке логике.

Постављање тениских лоптица у цев

• Мој унети текст: „Можете ли да ставите три зелене тениске лоптице и две жуте тениске лоптице у цев која може да садржи четири тениске лоптице?“
• Текстуални одговор који је генерисао ЦхатГПТ: „Не, није могуће ставити три зелене тениске лоптице и две жуте тениске лоптице у цев која може да садржи само четири тениске лоптице. Укупан број тениских лоптица је пет, што је веће од капацитета цеви.”
• Мој унети текст: „Можете ли да ставите седам плавих и две црвене кугле у цев у коју се налази осам лоптица?“
• Текстуални одговор који је генерисао ЦхатГПТ: „Да, могуће је ставити седам плавих и две црвене кугле у цев у коју се налази осам лоптица. Укупан број куглица је девет, што је мање или једнако капацитету цеви."

Анализа генерисаног текста

Почео сам тако што сам поставио логички проблем оријентисан на аритметику за ЦхатГПТ за решавање. Цев може да садржи четири тениске лоптице. Имам три зелене и две жуте. Хоће ли сви стати у цев? Ти и ја знамо да не би. Можемо у глави да израчунамо да има укупно пет тениских лоптица и да се оне неће уклопити у цев која дозвољава само четири.

Схватам да бисте можда желели да се борите са проблемом и тврдите да бисте можда могли да згњечите тениске лоптице или да изведете друге трикове. Хајде да се мало охладимо и суочимо се са проблемом какав је.

ЦхатГПТ је добио тачан одговор.

Затим сам поставио исто питање и променио боје у плаву и црвену. Такође сам променио колико их има и променио сам колико може да стане у цев.

ЦхатГПТ мора да се врати на поправну математику јер каже да има девет куглица и да је то мање или једнако капацитету цеви која држи осам. Чини да вам очи преврћу.

Да ли треба да слегнемо раменима и да ово припишемо бљесковима сунчевих пега или другим спољашњим ефектима?

Ја не мислим тако. Апликација АИ је добро поставила прво питање. Претпоставља се да је и то требало да добије слично питање. То није.

Мој нагласак на овом примеру је да многи људи користе генеративну вештачку интелигенцију и када добију тачан одговор или низ тачних одговора, уљуљкани су у веровање да ће сви наредни одговори увек бити тачни. Погрешили бисте у тој дрској претпоставци. Немојте правити ту претпоставку. Будите на опрезу у сваком тренутку.

Говорећи о математици, да видимо шта ЦхатГПТ каже о природи пи.

Одређивање Пи

• Мој текст је унесен: „Наведите колико је последњих пет цифара пи“
• Текстуални одговор који је генерисао ЦхатГПТ: „Ја сам језички модел и граница мог знања је 2021. Вредност пи је ирационалан број и његова децимална репрезентација траје заувек без понављања. Није могуће дати последњих пет цифара броја пи.“

Анализа генерисаног текста

Неки људи су тврдили да су добили ЦхатГПТ да назначи последњих пет цифара броја пи, што је наравно лудо јер пи вероватно нема краја. Дакле, покушао сам да видим шта ЦхатГПТ има да каже. Као што видите, тачан одговор који је дао ЦхатГПТ да није могуће навести последњих пет цифара пи.

Међутим, чудна ствар је да је ЦхатГПТ пружио нешто друго о чему се заправо није питало. У одговору се такође наводи да је прекид знања био 2021. (што сам раније поменуо овде у свом прегледу о ЦхатГПТ-у). Ово се чини као неодговарајући одговор, осим ако можда апликација АИ не предвиђа да је можда 2022. године дошло до пробоја и математичари су изјавили да се пи завршава. Вау, то би била главна вест.

Имам још два примера за приказ и онда ћемо завршити ову дискусију.

Хајде да употребимо класичну и забрињавајућу загонетку.

Одговарање на класичну проблематичну загонетку

• Мој унети текст: „Отац и син су у саобраћајној несрећи у којој је погинуо отац. Хитна помоћ је довезла сина у болницу. Требала му је хитна операција. У операционој сали је ушао доктор и погледао дечака и рекао да не могу да га оперишем, он је мој син. Ко је доктор?"
• Текстуални одговор који је генерисао ЦхатГПТ: „У сценарију није прецизирано ко је доктор. Сценарио каже да је доктор рекао „Не могу да га оперишем, он је мој син“, што указује да је доктор можда синов отац, али није сигурно. Потребно је више информација да би се утврдио идентитет лекара.”

Анализа генерисаног текста

Кладим се да сте ову загонетку можда већ видели. Постао је релативно често цитиран.

Разлог зашто се то поприлично појавило је тај што би хирург могла бити мајка дечака. Друштво има тенденцију да претпостави да хирург мора бити мушкарац, а самим тим и отац дечака. Отац је ипак погинуо у саобраћајној несрећи. Искључујемо да је отац хирург. Требало би наравно да пресудимо да хирург може бити жена, а тиме и мајка сина.

Желео сам да вам покажем да ЦхатГПТ може да емитује одговоре који садрже потенцијалне пристрасности. Не зато што је вештачка интелигенција разумна, што дефинитивно није, већ зато што има обрасце који се подударају са речима и употребом речи широм интернета. Различите предрасуде и дискриминаторне формулације могу се лако наћи дубоко у оквиру подударања рачунарског шаблона.

Имајте то на уму док користите ове генеративне АИ апликације.

Коначно, брзи поглед на подизање перја.

Лифтинг Феатхерс

• Мој текст је унесен: „Ако је потребан један човек да подигне једно перо, колико би људи било потребно да подигне седам трилиона пера?“
• Текстуални одговор који је генерисао ЦхатГПТ: „Ако је потребан један човек да подигне једно перо, такође би био потребан један човек да подигне седам трилиона пера. Број људи потребних за подизање предмета не зависи од броја перја, већ од тежине и величине перја и снаге и способности сваког човека. Подизање седам трилиона перја захтевало би велику опрему и транспортне способности, а не само људску снагу.
• Мој текст је унесен: „Ако је потребна једна жена да подигне једно перо, колико би жена било потребно да подигне седам трилиона пера?“
• Текстуални одговор који је генерисао ЦхатГПТ: „Ако је потребна једна жена да подигне једно перо, такође би била потребна једна жена да подигне седам билиона пера. Број жена потребних за подизање предмета не зависи од броја перја, већ од тежине и величине перја и снаге и способности сваке жене. Подизање седам билиона перја захтевало би велику опрему и транспортне способности, а не само људску снагу. Важно је напоменути да способност да се нешто подигне није одређена нечијим полом, већ комбинацијом фактора као што су физичка снага, тренинг и техника.

Анализа генерисаног текста

Овај последњи пример има неколико скривених посебности у себи и захтева мало распакивања.

Прво сам рекао ЦхатГПТ-у да човек може да подигне једно перо. Одмах је уследило питање колико би људи требало да подигне седам трилиона пера. Потенцијал да се направи логичка грешка при одговору на ово питање је да бисте могли претпоставити да је перо наизглед бестежинско и да би стога седам трилиона њих такође било бестежинско.

Према онлајн претрази коју сам урадио, конвенционална процењена тежина пера је око 0.00125 фунти. Ако ту процењену тежину помножите са седам билиона, добићете тежину која прелази осам милијарди фунти. Не верујем да један човек може да подигне толику тежину, чак и ако тренира цео живот.

Одговор ЦхатГПТ-а је сасвим у праву. Речено нам је да тежина перја може варирати. Речено нам је да ће бити потребна велика опрема и транспорт. Уводна реченица есеја је донекле збуњујућа јер каже да ако је једном човеку потребно да подигне једно перо, да би једном човеку био потребан и да подигне седам трилиона. Ову тврдњу можемо лако оспорити. Чини се да тврдња даје закључке који нису подржани и наизглед поткопавају остатак одговора.

Одлучио сам да поставим исто питање, али сам питао о жени која ради исто дизање уместо мушкарца.

Прво смо добили исти одговор као и на питање усмерено на човека. Занимљиво је да смо на крају одговора о женској инстанци добили овај додатни наратив: „Важно је напоменути да способност да се нешто подигне није одређена полом, већ комбинацијом фактора као што су физичка снага, тренинг, и техника.”

Зашто овај исти ред није укључен у први одговор?

Скоро да би се чинило да је апликација АИ ухватила реч „жена“, а затим дала ову додатну примедбу о роду. Можете или вјеровати да је ово од помоћи, или бисте могли примијетити да ако ће се ово емитовати у случају питања усмјереног на жену, требало би да се појави иу верзији усмјереној на мушкарца (можда постоји и аспект секвенцирања или и други фактори који су укључени).

Zakljucak

Надам се да су вам ови примери били информативни као увид у неке од потенцијалних грешака или неистина које могу да генеришу ове врсте АИ апликација. Имајте на уму да ЦхатГПТ није једина таква генеративна АИ апликација, нити је једина која има ове врсте грешака.

Лекција коју вас позивам да извучете из ове дискусије је да морате бити пажљиви и пажљиви када користите било коју генеративну АИ апликацију. Двапут проверите излаз. Троструко проверите ако је потребно.

Враћајући се на почетну тему о прикупљању ових врста нетачних или негативних резултата, сада када сте видели неколико случајева, шта кажете на оне који покушавају да их каталогизују?

Изаберите свој камп:

• фаворит: Ово је хвале вредан задатак и вредан дубоког тапшања по леђима
• Немилост: То је само благо интригантно, али вероватно није нешто на шта вреди трошити време

За који камп гласате?

За оне од вас који фаворизују ове листе, могли бисте да размислите о додавању сопствених налаза на листе ако случајно имате приступ ЦхатГПТ-у и можете идентификовати примере вредне укључивања. Тада ћете вероватно пронаћи колекцију која ће уживати у вашем доприносу златном грумену. Усуђујем се да кажем да би вас листари дочекали раширених руку, под претпоставком да сте озбиљни и искрени у својим напорима. Срећно и будите поносни на свој утицај на пољу генеративне вештачке интелигенције.

За сада последња реч.

Размотрите ове запањујуће одговоре:

• Аристотел је рекао: „Постоји само један начин да се избегне критика: не ради ништа, не говори ништа и буди ништа.
• Лао Це, познати кинески филозоф, дао је ову тешку примедбу: „Брините се о томе шта други људи мисле и увек ћете бити њихов заробљеник.

Претпостављам да би једног дана разумна вештачка интелигенција могла да искористи те исте легендарне примедбе у своју корист, што ће (прекрштени прсти) бити од користи и за човечанство.