Генеративни АИ ЦхатГПТ може узнемирујуће прогутати ваше приватне и поверљиве податке, упозорава на етику вештачке интелигенције и закон о вештачкој интелигенцији

Сада видите своје податке, сада не.

У међувремену, ваши драгоцени подаци су такорећи постали део колектива.

Мислим на аспект који би могао бити прилично изненађујући за оне од вас који жељно и озбиљно користе најновије у области вештачке интелигенције (АИ). Подаци које уносите у АИ апликацију потенцијално уопште нису у потпуности приватни само за вас и за вас. Могуће је да ће произвођач вештачке интелигенције користити ваше податке да би вероватно покушао да побољша своје услуге вештачке интелигенције или да ће их они и/или чак њихови партнери користити у различите сврхе.

Сада сте унапред упозорени.

Ова предаја ваших података се дешава на најбезазленији начин и потенцијално хиљадама или милионима људи. Како то? Постоји врста вештачке интелигенције позната као генеративна АИ која је недавно изазвала велике наслове и велику пажњу јавности. Најзначајнија од постојећих генеративних АИ апликација је она која се зове ЦхатГПТ коју је осмислила фирма ОпенАИ.

Наводно постоји око милион регистрованих корисника за ЦхатГПТ. Чини се да многи од тих корисника уживају у испробавању ове најтоплије и најновије генеративне АИ апликације. Процес је изузетно једноставан. Унесите неки текст као упит, и воила, апликација ЦхатГПТ генерише текстуални излаз који је обично у облику есеја. Неки ово називају текстом у текст, мада ја више волим да га означавам као текст у есеј, јер ова глаголска реч има више свакодневног смисла.

У почетку ће корисник почетник вероватно унети нешто забавно и безбрижно. Причајте ми о животу и времену Џорџа Вашингтона, неко би могао да уђе као подсетник. ЦхатГПТ би тада направио есеј о нашем легендарном првом председнику. Есеј би био потпуно течан и било би вам тешко да уочите да га је произвела АИ апликација. Узбудљива ствар за видети како се дешава.

Шансе су да ће се, након што се неко време поиграти, део корисника почетника задовољити и потенцијално одлучити да престане да се игра са ЦхатГПТ-ом. Сада су превазишли свој ФОМО (страх од пропуштања), радећи то након експериментисања са АИ апликацијом о којој изгледа скоро сви брбљају. Деед доне.

Неки ће ипак почети да размишљају о другим и озбиљнијим начинима коришћења генеративне вештачке интелигенције.

Можда користите ЦхатГПТ да напишете тај допис за који вас је шеф харао да напишете. Све што треба да урадите је да пружите упит са тачкама које имате на уму, а следећа ствар за коју знате да је ЦхатГПТ генерисао цео меморандум који би учинио да ваш шеф буде поносан на вас. Копирате добијени есеј са ЦхатГПТ-а, налепите га у званични шаблон компаније у вашем пакету за обраду текста и пошаљете елегантан меморандум свом менаџеру. Вредиш милион долара. И користио си свој мозак да нађеш згодан алат да уради тежак посао уместо тебе. Потапшајте се по леђима.

То није све.

Да, има још.

Имајте на уму да генеративна вештачка интелигенција може да изврши мноштво других задатака везаних за писање.

На пример, претпоставимо да сте написали неку врсту приче за цењеног клијента и јако желите да се материјал прегледа пре него што изађе.

Лаганица.

Налепите текст своје нарације у ЦхатГПТ промпт, а затим наложите ЦхатГПТ да анализира текст који сте саставили. Резултирајући есеј би могао дубоко да се удуби у вашу формулацију и на ваше пријатно изненађење покушаће да наизглед испита значење онога што сте рекли (иди далеко даље од тога да се понашате као провера правописа или анализатор граматике). Апликација АИ би могла да открије грешке у логици ваше приче или да открије противречности за које нисте знали да су у вашем сопственом писању. Скоро као да сте унајмили лукавог људског уредника да баци око на ваш нацрт и пружи низ корисних сугестија и истакнутих забринутости (па, желим категорички да кажем да не покушавам да антропоморфизујем апликацију АИ, посебно да је људски уредник човек док је АИ апликација само рачунарски програм).

Хвала Богу што сте користили генеративну АИ апликацију да пажљиво прегледате своју драгоцену писану причу. Несумњиво бисте више волели да АИ пронађе те узнемирујуће писане проблеме, а не након што пошаље документ вашем цењеном клијенту. Замислите да сте саставили наратив за некога ко вас је унајмио да осмислите веома важан приказ. Да сте клијенту дали оригиналну верзију, пре прегледа апликације АИ, могли бисте доживети велику срамоту. Клијент би готово сигурно гајио озбиљне сумње у вези са вашим вештинама да обавите тражени посао.

Хајде да подигнемо улог.

Размотрите стварање правних докумената. То је очигледно посебно озбиљна ствар. Речи и начин на који су састављене могу представљати духовиту правну одбрану или суморну правну несрећу.

У свом текућем истраживању и консалтингу, редовно сарађујем са пуно адвоката који су веома заинтересовани за коришћење вештачке интелигенције у области права. Различити ЛегалТецх програми се повезују са АИ могућностима. Адвокат може да користи генеративну вештачку интелигенцију да састави нацрт уговора или друге правне документе. Поред тога, ако је адвокат сам направио почетни нацрт, може да пренесе текст у генеративну АИ апликацију као што је ЦхатГПТ да погледа и види које рупе или празнине могу бити откривене. За више информација о томе како се адвокати и правна област одлучују да користе АИ, погледајте моју дискусију на линк овде.

Ипак смо спремни за трљање по овом питању.

Адвокат узима нацрт уговора и копира текст у промпт за ЦхатГПТ. Апликација АИ производи рецензију за адвоката. Испоставило се да ЦхатГПТ проналази неколико проблема. Адвокат ревидира уговор. Такође би могли да затраже од ЦхатГПТ-а да им предложи преформулисање или понављање састављеног текста. Нову и бољу верзију уговора затим производи генеративна АИ апликација. Адвокат хвата излазни текст и убацује га у датотеку за обраду текста. Посланица иде њиховом клијенту. Мисија остварена.

Можете ли да погодите шта се такође управо догодило?

Иза кулиса и испод хаубе, уговор је можда био прогутан као риба у уста киту. Иако овај адвокат који користи вештачку интелигенцију то можда неће схватити, текст уговора, који је постављен као промпт у ЦхатГПТ, могао би потенцијално бити прогутан апликацијом АИ. Сада је то храна за упаривање шаблона и друге рачунске замршености апликације АИ. Ово се заузврат може користити на различите начине. Ако у нацрту постоје поверљиви подаци, и то је сада потенцијално унутар граница ЦхатГПТ-а. Ваш упит који је достављен апликацији АИ сада је наводно део колектива на овај или онај начин.

Штавише, израђени есеј се такође сматра делом колектива. Ако сте тражили од ЦхатГПТ-а да измени нацрт за вас и представи нову верзију уговора, ово се тумачи као излазни есеј. Резултати ЦхатГПТ-а су такође врста садржаја који може да се задржи или на други начин трансформише помоћу АИ апликације.

Јеботе, можда сте невино одали приватне или поверљиве информације. Није добро. Осим тога, не бисте ни били свесни да сте то урадили. Нису подигнуте заставе. Сирена није затрубила. Ниједна трепћућа светла се нису угасила да вас шокирају у стварност.

Могли бисмо да предвидимо да би неправници лако могли да направе такву грешку, али за искусног адвоката да учини исту грешку почетника је скоро незамисливо. Без обзира на то, вероватно постоје правни професионалци који тренутно праве ову исту потенцијалну грешку. Они ризикују да наруше значајан елемент привилегије адвокат-клијент и евентуално прекрше Модел правила професионалног понашања (МРПЦ) Америчке адвокатске коморе (АБА). Конкретно: „Адвокат неће открити информације које се односе на заступање клијента осим ако клијент не даје информисани пристанак, ако је обелодањивање имплицитно овлашћено да би се спровело заступање или је откривање дозвољено ставом (б)“ (цитирано од МРПЦ, а за које се чини да изузеци повезани са пододељком б не обухватају коришћење генеративне АИ апликације на безбедан начин).

Неки адвокати би могли тражити да оправдају свој преступ тврдећи да нису технички чаробњаци и да не би имали спремна средства да знају да би њихово уношење поверљивих информација у генеративну АИ апликацију на неки начин могло бити кршење. АБА је јасно ставила до знања да обавеза адвоката обухвата ажурирање АИ и технологије из правне перспективе: „Да би одржао потребно знање и вештину, адвокат треба да буде у току са променама у закону и његовој пракси, укључујући користи и ризике повезане са релевантном технологијом, ангажују се у континуираном учењу и образовању и испуњавају све захтеве континуираног правног образовања којима подлеже адвокат” (по МРПЦ).

Неколико одредби улази у овај изглед правне обавезе, укључујући одржавање поверљивих информација клијента (Правило 1.6), заштиту имовине клијента као што су подаци (Правило 1.15), правилну комуникацију са клијентом (Правило 1.4), добијање пристанка клијента на основу информација (Правило 1.6), и обезбеђивање компетентног заступања у име клијента (Правило 1.1). А ту је и мало позната, али веома запажена резолуција фокусирана на вештачку интелигенцију коју је донела АБА: „Да Америчка адвокатска комора позива судове и адвокате да се позабаве новим етичким и правним питањима у вези са употребом вештачке интелигенције („АИ“) у правној пракси укључујући: (1) пристрасност, објашњивост и транспарентност аутоматизованих одлука које доноси АИ; (2) етичка и корисна употреба АИ; и (3) контроле и надзора АИ и добављача који обезбеђују АИ.”

Речи мудрима за моје правне пријатеље и колеге.

Суштина ствари је у томе што скоро свако може да се нађе у гужви када користи генеративну вештачку интелигенцију. Не-адвокати то могу учинити због свог претпостављеног недостатка правне проницљивости. Адвокати такође могу то да ураде, можда заљубљени у вештачку интелигенцију или не удахну дубоко и размишљају о правним последицама које могу настати када се користи генеративна вештачка интелигенција.

Сви смо потенцијално у истом чамцу.

Такође треба да схватите да ЦхатГПТ није једина генеративна АИ апликација у блоку. Постоје и друге генеративне АИ апликације које можете користити. И они су вероватно изрезани из исте тканине, наиме да се улази које уносите као упити и излази које добијате као генерисани излазни есеји сматрају делом колектива и могу их користити АИ произвођач.

У данашњој колумни ћу разоткрити природу начина на који подаци које уносите и подаци које примате од генеративне АИ могу бити потенцијално угрожени у погледу приватности и поверљивости. Произвођачи вештачке интелигенције стављају на располагање своје захтеве за лиценцирање и било би мудро да прочитате те виталне одредбе пре него што почнете да активно користите АИ апликацију са било каквим привидом стварних података. Провешћу вас кроз пример таквог лиценцирања, радећи то за апликацију ЦхатГПТ АИ.

У све ово долази и мноштво разматрања етике АИ и права.

Имајте на уму да су у току напори да се етички принципи вештачке интелигенције унесу у развој и постављање АИ апликација. Све већи контингент забринутих и некадашњих етичара вештачке интелигенције покушава да осигура да напори на осмишљавању и усвајању вештачке интелигенције узимају у обзир гледиште AI za dobro и одвраћање AI za loše. Исто тако, постоје предложени нови закони о вештачкој интелигенцији који се користе као потенцијална решења да се покушаји вештачке интелигенције спрече да побесне због људских права и слично. За моје текуће и опсежно покривање етике вештачке интелигенције и права вештачке интелигенције, погледајте линк овде линк овде, само да поменемо само неке.

Постоје значајне етичке нијансе АИ и одредбе повезане са начином на који произвођачи вештачке интелигенције могу или треба да се баве подацима или информацијама које изгледају приватно или поверљиво њиховим корисницима. Вероватно знате и да гомила постојећих закона погађа суштину начина на који технолошки ентитети треба да рукују подацима. Такође су шансе да ће се новопредложени закони о вештачкој интелигенцији такође укрстити на ту исту територију. Погледајте на пример моје извештавање о АИ Повеља о правима и друге правне препирке које се воде око АИ, на линк овде.

Ево кључних закључака из ове дискусије:

• Будите веома, веома, веома опрезни у вези са подацима или информацијама које одлучите да унесете у своје упите када користите генеративну вештачку интелигенцију, и на сличан начин будите изузетно пажљиви и предвидите које врсте излазних есеја можете добити јер се и резултати такође могу апсорбовати.

Да ли то значи да не треба да користите генеративну вештачку интелигенцију?

Не, то уопште није оно што говорим.

Користите генеративну вештачку интелигенцију до миле воље. Суштина је да морате водити рачуна о томе како га користите. Сазнајте које су одредбе о лиценцирању повезане са употребом. Одлучите да ли можете да живите са тим одредбама. Ако постоје начини да обавестите произвођача вештачке интелигенције да желите да се позовете на одређене врсте додатне заштите или допуштења, обавезно то учините.

Такође ћу поменути још један аспект за који схватам да ће неке људе наљутити. Ево иде. Упркос свим одредбама о лиценцирању, такође морате претпоставити да постоји могућност да се ти захтеви можда неће у потпуности поштовати. Ствари могу кренути по злу. Ствари могу да склизну између пукотина. На крају, наравно, можда ћете имати правни случај против произвођача вештачке интелигенције због непоштовања њихових одредби, али то је нешто након што је коњ већ изашао из штале.

Потенцијално веома безбедан начин да наставите било би да поставите сопствену инстанцу на сопственим системима, било у облаку или у кући (и, под претпоставком да се придржавате одговарајућих мера предострожности за сајбер безбедност, које додуше неке не чине и оне су још горе искључени у сопственом облаку него да користе облак добављача софтвера). Ипак, мало мучан проблем је то што неколико генеративних АИ апликација великих размера то тренутно дозвољава. Сви они углавном раде на бази само у нашем облаку. Мало њих је ставило на располагање опцију да цела инстанца буде направљена само за вас. Предвидео сам да ћемо постепено видети да се ова опција појављује, иако ће у почетку бити прилично скупа и донекле компликована, погледајте моја предвиђања на линк овде.

Како иначе, посебно бистри и нарочито проницљиви људи, упадају у мочвару ерозије поверљивости података или информација?

Привлачност ових генеративних АИ апликација је прилично магнетна када почнете да је користите. Корак по корак, налазите се хипнотизирани и одлучујете да своје прсте стављате све даље и даље у генеративне воде АИ. Следеће што знате је да спремно предате власнички садржај који би требало да буде приватан и поверљив у генеративну АИ апликацију.

Одуприте се пориву и уздржите се од постепеног упадања у неугодну замку.

За пословне лидере и руководиоце највишег нивоа, исто упозорење се односи на вас и све људе у вашој компанији. Виши руководиоци су захваћени ентузијазмом и запрепашћењем коришћења генеративне вештачке интелигенције. Они заиста могу да забрљају и потенцијално унесу тајне информације највишег нивоа у АИ апликацију.

Поврх овога, можда имају широке лиге својих запослених који се такође играју са генеративном вештачком интелигенцијом. Многи од оних иначе пажљивог особља безумно и блажено уносе приватне и поверљиве информације компаније у ове АИ апликације. Према недавним новинским извештајима, Амазон је очигледно открио да неки запослени уносе различите власничке информације у ЦхатГПТ. Речено је да је интерно послато правно оријентисано упозорење како би били опрезни у коришћењу неодољиве АИ апликације.

Све у свему, мало ироније долази у све већи феномен да запослени хтели-нехтели уносе поверљиве податке у ЦхатГПТ и другу генеративну вештачку интелигенцију. Дозволите ми да детаљније објасним. Данашње модерне компаније обично имају строге политике сајбер безбедности које су мукотрпно осмислиле и примениле. Постоје бројне технолошке заштите. Нада је да се спречи случајна ослобађања кључних ствари. Непрекидно ударање бубња је да будете пажљиви када посећујете веб локације, да будете пажљиви када користите било коју неодобрену апликацију итд.

Уз то долазе генеративне АИ апликације као што је ЦхатГПТ. Вести о АИ апликацији пролазе кроз кров и добијају широку пажњу. Настаје помама. Људи у овим компанијама које имају све ове заштите од сајбер безбедности одлучују да ускоче на генеративну АИ апликацију. У почетку се доконо играју с тим. Затим почињу да уносе податке компаније. Шта, они су сада потенцијално разоткрили информације које није требало да буду откривене.

Сјајна нова играчка која магично заобилази милионе долара трошкова за заштиту сајбер безбедности и сталну обуку о томе шта не треба радити. Али, хеј, узбудљиво је користити генеративну вештачку интелигенцију и бити део „ин“ гомиле. То је оно што се рачуна, очигледно.

Верујем да сте разумели моје мишљење о томе да сам изразито опрезан.

Хајде да затим погледамо изблиза како се генеративна АИ технички бави текстом упита и објављених есеја. Такође ћемо истражити неке одредбе о лиценцирању, користећи ЦхатГПТ као пример. Имајте на уму да нећу покрити пуну палету тих елемената лиценцирања. Обавезно укључите свог правног саветника за све генеративне АИ апликације које одлучите да користите. Такође, лиценцирање се разликује од произвођача АИ до произвођача АИ, плус одређени произвођач АИ може одлучити да промени своје лиценцирање, тако да будите опрезни у погледу онога што најновија верзија лиценцирања предвиђа.

Имамо узбудљиво распакивање ове опојне теме.

Прво, требало би да се уверимо да смо сви на истој страни о томе од чега се састоји генеративна вештачка интелигенција, а такође и о чему је ЦхатГПТ. Када покријемо тај темељни аспект, можемо да извршимо убедљиву процену метафоре огледала повезане са овом врстом АИ.

Ако сте већ увелико упознати са генеративном вештачком интелигенцијом и ЦхатГПТ-ом, можда можете да прелетите следећи одељак и да наставите са одељком који следи. Верујем да ће сви остали наћи поучне важне детаље о овим стварима ако пажљиво прочитају одељак и буду у току.

Брзи увод о генеративној вештачкој интелигенцији и ЦхатГПТ-у

ЦхатГПТ је интерактивни систем оријентисан на разговоре оријентисан на вештачку интелигенцију опште намене, у суштини наизглед безопасан општи бот за ћаскање, али га људи активно и жељно користе на начине који многе хватају потпуно неспремне, као што ћу ускоро елаборирати. Ова апликација за вештачку интелигенцију користи технику и технологију у области вештачке интелигенције која се често назива Генеративна АИ. АИ генерише излазе као што је текст, што ЦхатГПТ ради. Друге генеративне АИ апликације производе слике као што су слике или уметничка дела, док друге генеришу аудио датотеке или видео записе.

У овој дискусији ћу се фокусирати на генеративне АИ апликације засноване на тексту, јер то ради ЦхатГПТ.

Генеративне АИ апликације су изузетно једноставне за коришћење.

Све што треба да урадите је да унесете упит и АИ апликација ће за вас генерисати есеј који покушава да одговори на ваш упит. Састављени текст ће изгледати као да је есеј писан људском руком и умом. Ако унесете промпт који каже „Причај ми о Абрахаму Линколну“, генеративна АИ ће вам пружити есеј о Линколну. Ово се обично класификује као генеративна АИ која ради текст у текст или неки радије то називају текст у есеј излаз. Као што је поменуто, постоје и други начини генеративне АИ, као што су текст-у-уметност и текст-у-видео.

Ваша прва помисао би могла бити да ова генеративна способност не изгледа тако велика ствар у смислу израде есеја. Можете лако да извршите онлајн претрагу Интернета и лако пронађете тоне и тоне есеја о председнику Линколну. Потрес у случају генеративне АИ је да је генерисани есеј релативно јединствен и даје оригиналну композицију, а не копију. Ако бисте покушали да пронађете есеј који је произвела вештачка интелигенција негде на мрежи, мало је вероватно да ћете га открити.

Генеративна АИ је унапред обучена и користи сложену математичку и рачунарску формулацију која је постављена испитивањем образаца у писаним речима и причама широм веба. Као резултат испитивања хиљада и милиона писаних пасуса, АИ може да избаци нове есеје и приче које су мешавина онога што је пронађено. Додавањем различитих пробабилистичких функционалности, резултујући текст је прилично јединствен у поређењу са оним што је коришћено у сету за обуку.

Због тога је настала галама око тога да ученици могу да варају када пишу есеје ван учионице. Наставник не може само да узме есеј за који лажни ученици тврде да је њихово писање и да тражи да сазна да ли је копиран са неког другог онлајн извора. Све у свему, неће постојати ниједан коначан постојећи есеј на мрежи који би одговарао есеју генерисаном вештачком интелигенцијом. Све у свему, наставник ће морати са невољношћу да прихвати да је ученик написао есеј као оригинално дело.

Постоји додатна забринутост око генеративне АИ.

Једна кључна мана је то што есеји које производи генеративна АИ апликација могу имати уграђене различите неистине, укључујући очигледно неистините чињенице, чињенице које су погрешно приказане и очигледне чињенице које су у потпуности измишљене. Ти измишљени аспекти се често називају обликом АИ халуцинације, фраза коју не волим, али на жалост изгледа да ионако постаје популарна (за моје детаљно објашњење зашто је ово лоша и неприкладна терминологија, погледајте моју репортажу на линк овде).

Желео бих да разјасним један важан аспект пре него што уђемо у густо ствари о овој теми.

На друштвеним мрежама су се појавиле неке луде превелике тврдње о томе Генеративна АИ тврдећи да је ова најновија верзија АИ у ствари разумна АИ (не, греше!). Они који се баве етиком вештачке интелигенције и правом вештачке интелигенције посебно су забринути због овог растућег тренда распрострањених тврдњи. Могли бисте љубазно рећи да неки људи преувеличавају шта данашња АИ заправо може да уради. Они претпостављају да АИ има способности које ми још нисмо успели да постигнемо. То је штета. Што је још горе, они могу дозволити себи и другима да дођу у страшне ситуације због претпоставке да ће АИ бити разуман или сличан човеку у могућности да предузме акцију.

Не антропоморфизујте АИ.

На тај начин ћете бити ухваћени у лепљиву и круту замку ослањања на очекивање да АИ уради ствари које није у стању да изведе. Уз то, најновија генеративна АИ је релативно импресивна за оно што може да уради. Међутим, имајте на уму да постоје значајна ограничења која бисте требали стално имати на уму када користите било коју генеративну АИ апликацију.

Ако сте заинтересовани за брзо ширење комешања око ЦхатГПТ-а и Генеративне АИ све речено, радио сам фокусирану серију у својој колумни која би вам могла бити информативна. Ево погледа у случају да вам се нека од ових тема допадне:

• 1) Предвиђања долазећег напретка генеративне АИ. Ако желите да знате шта ће се вероватно десити у вези са вештачком интелигенцијом током 2023. и касније, укључујући предстојећи напредак у генеративној вештачкој интелигенцији и ЦхатГПТ-у, желећете да прочитате моју свеобухватну листу предвиђања за 2023. на линк овде.
• 2) Генеративна АИ и савети за ментално здравље. Одлучио сам да прегледам како се генеративна АИ и ЦхатГПТ користе за савете о менталном здрављу, што је проблематичан тренд, према мојој фокусираној анализи на линк овде.
• 3) Основе генеративне АИ и ЦхатГПТ. Овај део истражује кључне елементе како генеративна вештачка интелигенција функционише и посебно се бави апликацијом ЦхатГПТ, укључујући анализу зујања и фанфара, на линк овде.
• 4) Напетост између наставника и ученика због генеративне АИ и ЦхатГПТ-а. Ево начина на које ће ученици лукаво користити генеративну вештачку интелигенцију и ЦхатГПТ. Поред тога, постоји неколико начина да се наставници изборе са овим плимним таласом. Видите линк овде.
• 5) Контекст и генеративна употреба вештачке интелигенције. Такође сам урадио сезонски шаљиви преглед о контексту у вези са Деда Мразом који укључује ЦхатГПТ и генеративну вештачку интелигенцију на линк овде.
• 6) Преваранти који користе генеративну вештачку интелигенцију. На злокобну напомену, неки преваранти су схватили како да користе генеративну вештачку интелигенцију и ЦхатГПТ за вршење грешака, укључујући генерисање е-порука за превару, па чак и производњу програмског кода за малвер, погледајте моју анализу на линк овде.
• 7) Грешке почетника користећи генеративну АИ. Многи људи и премашују и изненађујуће не схватају шта могу да ураде генеративна АИ и ЦхатГПТ, па сам посебно погледао недостатке које почетници вештачке интелигенције имају, погледајте дискусију на линк овде.
• 8) Суочавање са генеративним АИ захтевима и АИ халуцинацијама. Описујем врхунски приступ коришћењу АИ додатака за решавање различитих проблема повезаних са покушајем уноса одговарајућих упита у генеративну АИ, плус постоје додатни АИ додаци за откривање такозваних АИ халуцинираних излаза и лажи, као што су покривена на линк овде.
• 9) Разоткривање тврдњи Бонехеада о откривању генеративних есеја произведених АИ. Постоји погрешна златна грозница апликација АИ које проглашавају да могу да утврде да ли је било који есеј произведен од стране људи у односу на АИ генерисан. Све у свему, ово је обмањујуће и у неким случајевима, безобзирна и неодржива тврдња, погледајте моје извештавање на линк овде.
• 10) Играње улога путем генеративне АИ може представљати недостатке менталног здравља. Неки користе генеративну вештачку интелигенцију као што је ЦхатГПТ за играње улога, при чему АИ апликација реагује на човека као да постоји у свету фантазије или у другом измишљеном окружењу. Ово би могло имати реперкусије на ментално здравље, видите линк овде.
• 11) Разоткривање опсега излазних грешака и неистина. Различите прикупљене листе се састављају како би покушали да прикажу природу грешака и неистина које је направио ЦхатГПТ. Неки верују да је ово неопходно, док други кажу да је вежба узалудна, погледајте моју анализу на линк овде.
• 12) Школе које забрањују генеративни АИ ЦхатГПТ недостају. Можда знате да су различите школе као што је Одељење за образовање Њујорка (НИЦ) прогласиле забрану коришћења ЦхатГПТ-а на својој мрежи и повезаним уређајима. Иако ово може изгледати као корисна мера предострожности, неће померити иглу и нажалост потпуно промаши чамац, погледајте моје извештавање на линк овде.
• 13) Генеративни АИ ЦхатГПТ ће бити свуда због предстојећег АПИ-ја. Предстоји важан заокрет у вези са коришћењем ЦхатГПТ-а, наиме да ће путем коришћења АПИ портала у овој конкретној АИ апликацији, други софтверски програми моћи да призову и користе ЦхатГПТ. Ово ће драматично проширити употребу генеративне АИ и имати значајне последице, погледајте моју разраду на линк овде.
• 14) Начини на које се ЦхатГПТ може распасти или истопити. Неколико потенцијално узнемирујућих проблема налази се испред ЦхатГПТ-а у смислу поткопавања до сада огромних похвала које је добио. Ова анализа помно испитује осам могућих проблема који би могли довести до тога да ЦхатГПТ изгуби своју снагу, па чак и да заврши у кућици за псе, види линк овде.

Можда ће вам бити занимљиво да је ЦхатГПТ заснован на верзији претходне АИ апликације познате као ГПТ-3. ЦхатГПТ се сматра мало следећим кораком, који се назива ГПТ-3.5. Очекује се да ће ГПТ-4 вероватно бити објављен на пролеће 2023. Претпоставља се да ће ГПТ-4 бити импресиван корак напред у смислу могућности да производи наизглед још течније есеје, дубље и страхопоштовање -инспиративно чудо у погледу композиција које може произвести.

Можете очекивати да ћете видети нову рунду израженог чуђења када дође пролеће и када буде објављена најновија генеративна вештачка интелигенција.

Помињем ово јер треба имати на уму још један угао, који се састоји од потенцијалне Ахилове пете за ове боље и веће генеративне АИ апликације. Ако било који добављач вештачке интелигенције стави на располагање генеративну АИ апликацију која пенасто избацује прљавштину, то би могло да уништи наде тих произвођача вештачке интелигенције. Друштвено преливање може проузроковати да сва генеративна АИ добију озбиљне црне очи. Људи ће се несумњиво прилично узнемирити због погрешних резултата, који су се већ дешавали много пута и довели до бурних друштвених осуда према АИ.

За сада једно последње упозорење.

Шта год да видите или прочитате у генеративном одговору вештачке интелигенције izgleda да буде пренето као чисто чињенично (датуми, места, људи, итд.), будите скептични и будите спремни да још једном проверите шта видите.

Да, датуми се могу измислити, места се могу измишљати, а елементи за које обично очекујемо да ће бити изнад сваке сумње су све предмет сумњи. Не верујте ономе што читате и будите скептични када испитујете било какве генеративне есеје или резултате АИ. Ако вам генеративна АИ апликација каже да је Абрахам Линколн летео широм земље у свом приватном авиону, несумњиво бисте знали да је ово маларке. Нажалост, неки људи можда не схватају да млазњаци нису постојали у његово време, или можда знају, али не примећују да есеј износи ову дрску и нечувено лажну тврдњу.

Јака доза здравог скептицизма и упорни начин размишљања неверице биће ваша најбоља предност када користите генеративну вештачку интелигенцију.

Спремни смо да пређемо у следећу фазу овог разјашњења.

Знајући шта ће се дођавола догодити са тим текстом

Сада када смо успоставили основе, можемо заронити у разматрање података и информација када користимо генеративну АИ.

Прво, хајде да укратко размотримо шта се дешава када унесете неки текст у упит за ЦхатГПТ. Не знамо са сигурношћу шта се дешава унутар ЦхатГПТ-а пошто се програм сматра власничким. Неки су истакли да то подрива осећај транспарентности у вези са апликацијом АИ. Помало гадна примедба је да је за компанију која се зове ОпенАИ, њихова АИ заправо затворена за јавни приступ и није доступна као отворени код.

Хајде да разговарамо о токенизацији.

Када унесете обичан текст у промпт и притиснете повратак, вероватно постоји конверзија која се одмах дешава. Текст се претвара у формат који се састоји од токена. Токени су делови речи. На пример, реч „хамбургер“ би обично била подељена на три лексема који се састоје од дела „шунка“, „бур“ и „гер“. Опште правило је да токени обично представљају око четири знака или се сматрају приближно 75% конвенционалне енглеске речи.

Сваки токен се затим преформулише као број. Различите интерне табеле одређују који токен је додељен ком одређеном броју. Разумевање овога је да је текст који сте унели сада у потпуности скуп бројева. Ти бројеви се користе за рачунску анализу упита. Штавише, мрежа за подударање шаблона коју сам раније поменуо је такође заснована на токенизованим вредностима. На крају, приликом састављања или генерисања излазног есеја, ови нумерички жетони се прво користе, а затим се пре него што се прикажу, токени се поново претварају у скупове слова и речи.

Размислите о томе на тренутак.

Када кажем људима да тако функционише механика обраде, често се запрепасти. Претпоставили су да генеративна АИ апликација као што је ЦхатГПТ мора да користи потпуно интегративне речи. Логично претпостављамо да речи делују као камен темељац за статистичко идентификовање односа у писаним наративима и композицијама. Испоставило се да обрада заправо тежи да користи токене. Можда ово доприноси чуђењу како се чини да рачунарски процес обавља прилично убедљив посао опонашања људског језика.

Провео сам вас кроз тај процес због једне уобичајене заблуде која се чини да се шири. Чини се да неки људи верују да зато што се ваш текст упита конвертује у нумеричке токене, ви сте сигурни да унутрашњост апликације АИ некако више нема ваш првобитно унети текст. Према томе, тврди се, чак и ако сте унели поверљиве информације у свој упит, немате бриге јер је све то наизглед токенизовано.

Тај појам је заблуда. Управо сам истакао да се нумерички токени могу лако вратити у текстуални формат слова и речи. Исто се може урадити са конвертованим промптом који је токенизован. Не постоји ништа магично заштитно у томе што сте били токенизовани. Имајући то у виду, након конверзије у токене, ако постоји додатни процес који одлучује да избаци жетоне, помера их около и на други начин скреже или сече ствари, у том случају заиста постоји могућност да неки делови оригинала промпт-а више нису нетакнути (и под претпоставком да оригинална копија није на други начин задржана или ускладиштена негде интерно).

Следеће бих желео да погледам различита обавештења и одредбе о лиценцирању ЦхатГПТ-а.

Када се пријавите на ЦхатГПТ, приказује се низ упозорења и информативних коментара.

Ево их:

• „Може повремено да генерише нетачне информације.“
• „Може повремено произвести штетна упутства или пристрасан садржај.“
• „Обучени да одбијају неприкладне захтеве.“
• „Наш циљ је да добијемо спољне повратне информације како бисмо побољшали наше системе и учинили их безбеднијим.
• „Иако имамо заштитне мере, систем може повремено да генерише нетачне или обмањујуће информације и производи увредљив или пристрасан садржај. Нема за циљ давање савета.”
• „Наши АИ тренери могу да прегледају разговоре како би побољшали наше системе.“
• „Молим вас, немојте делити никакве осетљиве информације у својим разговорима.“
• „Овај систем је оптимизован за дијалог. Обавестите нас да ли је одређени одговор био добар или бескорисан."
• „Ограничено знање о свету и догађајима после 2021.

Два од наведених упозорења посебно су релевантна за ову расправу. Погледајте шесту тачку и седму означену тачку.

Хајде да распакујемо та два:

„Наши АИ тренери могу да прегледају разговоре како би побољшали наше системе.“

Ова шеста тачка набрајана објашњава да ЦхатГПТ може да прегледа текстуалне разговоре када се користи ЦхатГПТ преко својих „АИ тренера“, што се ради како би се побољшали њихови системи. Овим желимо да вас обавестимо да за све ваше унете текстуалне упите и одговарајуће објављене есеје, који су сви део „разговора“ који водите са ЦхатГПТ-ом, њихови људи могу у потпуности да виде. Понуђено образложење је да се ово ради како би се побољшала АИ апликација, а такође нам је речено да је то врста радног задатка који обављају њихови АИ тренери. Можда и јесте, али резултат је да су вас упозорили да могу да погледају ваш текст. Тачка, тачка.

Ако би урадили нешто друго са вашим текстом, вероватно бисте потражили правни савет о томе да ли су озбиљно гравитирали изван предложених граница пуког прегледа текста у сврху побољшања система (под претпоставком да сте успели да откријете да су то урадили, који од само по себи изгледа мало вероватно). У сваком случају, можете замислити правне препирке у покушајима да их прикаче на ово, и њихове покушаје да се извуку из хапшења јер су некако прекршили границе свог одрицања одговорности.

„Молим вас, немојте делити никакве осетљиве информације у својим разговорима.“

Седма тачка означава да у својим разговорима не смете да делите никакве осетљиве информације. То изгледа релативно једноставно. Претпостављам да бисте се могли препирати о томе од чега се састоји дефиниција осетљивих информација. Такође, означена тачка вам не говори зашто не би требало да делите никакве осетљиве информације. Ако једног дана будете морали да покушате и у страшном зноју објасните зашто сте глупо унели поверљиве податке, можете покушати са подигнутом тврдњом да је упозорење било неспецифично, дакле, нисте схватили значај. Задржи дах на томе.

Све у свему, усуђујем се да кажем да већина људи које сам видео да користе ЦхатГПТ обично не читају тачке предострожности са набрајањем или само климну главом као да је то уобичајено бесмислице које видите све време. Чини се да мало ко узима упозорења строго к срцу. Да ли је ово грешка продавца што није учинио мере предострожности израженијима? Или треба да претпоставимо да би корисници требало да буду одговорни и да су пажљиво прочитали, разумели и после тога разборито поступали на основу упозорења?

Неки чак тврде да би АИ апликација требало да вас више пута упозорава. Сваки пут када унесете промпт, софтвер би требало да искочи упозорење и да вас пита да ли желите да притиснете повратак. Изнова и изнова. Иако ово може изгледати као корисна мера предострожности, додуше, то би иритирало кориснике. Укључен је трновит компромис.

У реду, то су очигледна упозорења која су представљена свим корисницима да их лако виде.

Корисници који би могли бити радозналији, могли би се одлучити да следе неке од детаљних услова лиценцирања који су такође постављени на мрежи. Сумњам да многи то раде. Мој предосјећај је да мало ко озбиљно гледа на тачке означене набрајањем приликом пријављивања, а још мање их са великом маргином онда погледа детаље лиценцирања. Опет, сви смо помало отупели за такве ствари ових дана. Не оправдавам понашање, само напомињем зашто се то дешава.

Испитаћу неколико извода из објављених услова лиценцирања.

Прво, ево дефиниције шта они сматрају „садржајем“ повезаним са употребом ЦхатГПТ-а:

• „Ваш садржај. Можете да дате улаз за Услуге („Инпут“) и да примате излаз који генеришу и враћају Услуге на основу Инпута („Излаз“). Улаз и излаз су заједно „Садржај“. Међу странама иу мери у којој је то дозвољено важећим законом, ви поседујете сав Инпут, и под условом да се придржавате ових Услова, ОпенАИ вам овим додељује сва своја права, власништво и интерес у и на Оутпут. ОпенАИ може да користи Садржај по потреби за пружање и одржавање Услуга, поштовање важећих закона и спровођење наших смерница. Ви сте одговорни за Садржај, укључујући и то да се уверите да не крши ниједан важећи закон или ове Услове.”

Ако пажљиво испитате ту дефиницију, приметићете да ОпенАИ изјављује да може да користи садржај како сматра неопходним за одржавање својих услуга, укључујући поштовање важећих закона и спровођење својих политика. Ово је згодна за њих. У наредној једној од мојих колумни, расправљаћу о другој, али сродној теми, посебно о правима интелектуалне својине (ИП) која имате у вези са унетим текстуалним упитима и објављеним есејима (на ово указујем од дефиниције Садржај се односи на ту тему).

У даљем делу термина, означеном као одељак ц, они помињу овај аспект: „Једна од главних предности модела машинског учења је да се они могу побољшати током времена. Да бисте помогли ОпенАИ да обезбеди и одржава Услуге, сагласни сте и дајете упутства да можемо да користимо Садржај за развој и побољшање Услуга.” Ово је слично раније дискутованом опрезу у једном реду који се појављује када се пријавите на ЦхатГПТ.

Посебан документ који је повезан са овим пружа неке додатне аспекте о овим важним питањима:

• „Као део овог континуираног побољшања, када користите ОпенАИ моделе преко нашег АПИ-ја, можемо да користимо податке које нам доставите да побољшамо наше моделе. Ово не само да помаже нашим моделима да постану тачнији и бољи у решавању вашег специфичног проблема, већ такође помаже да се побољшају њихове опште могућности и безбедност. Знамо да су приватност и безбедност података критични за наше клијенте. Веома водимо рачуна о томе да користимо одговарајуће техничке и процесне контроле да бисмо заштитили ваше податке. Уклањамо све личне информације из података које намеравамо да користимо за побољшање перформанси модела. Такође користимо само мали узорак података по кориснику за наше напоре да побољшамо перформансе модела. На пример, за један задатак, максимални број АПИ захтева које узоркујемо по клијенту је ограничен на 200 сваких 6 месеци“ (извод из документа под насловом „Како се ваши подаци користе за побољшање перформанси модела“).

Имајте на уму да одредба указује на то да се одредба примењује на коришћење АПИ-ја као средство за повезивање и коришћење ОпенАИ модела све речено. Помало је нејасно да ли се ово подједнако односи и на крајње кориснике који директно користе ЦхатГПТ.

У још једном другом документу, који садржи њихову листу различитих честих питања, они пружају низ питања и одговора, од којих се два чине посебно релевантним за ову дискусију:

• „(5) Ко може да види моје разговоре? Као део наше посвећености безбедној и одговорној вештачкој интелигенцији, прегледамо разговоре како бисмо побољшали наше системе и осигурали да је садржај у складу са нашим смерницама и безбедносним захтевима.”
• „(8) Можете ли да избришете одређене упите? Не, нисмо у могућности да избришемо одређене упите из ваше историје. Немојте делити никакве осетљиве информације у својим разговорима.”

Постоји додатни документ који покрива њихову политику приватности. У њему се каже следеће: „Прикупљамо информације које саме или у комбинацији са другим информацијама у нашем поседу могу да се користе за вашу идентификацију („Личне информације“)“, а затим наставља да објашњава да они могу да користе податке из евиденције, податке о коришћењу, информације о комуникацији, информације о уређају, колачићи, аналитика и друге потенцијално прикупљене информације о вама. Обавезно прочитајте ситно писмо.

Мислим да то прилично пружа обилазак неких разматрања на који начин се ваши подаци могу користити. Као што сам поменуо на почетку, нећу мукотрпно прелазити кроз све одредбе о лиценцирању.

Надамо се да ће вас ово довести у стање ума о овим стварима и да ће вам остати на уму.

Zakljucak

Већ сам то рекао и поновићу, немојте уносити поверљиве или приватне податке у ове генеративне АИ апликације.

Размотрите неколико згодних савета или опција о овом савету мудраца:

• Размислите пре употребе генеративне вештачке интелигенције
• Уклоните ствари унапред
• Маскирајте или лажирајте свој унос
• Подесите сопствену инстанцу
• други

Следеће ћу навести од чега се сваки од њих састоји. Постављање ваше сопствене инстанце је раније било покривено овде. Употреба „остало“ на мојој листи је последица могућности других начина да се изборим са спречавањем укључивања поверљивих података, о чему ћу даље говорити у будућој колумни.

Хајде да испитамо ове:

• Размислите пре употребе генеративне вештачке интелигенције. Један приступ укључује потпуно избегавање употребе генеративне вештачке интелигенције. Или барем двапут размислите пре него што то учините. Претпостављам да је најбезбеднији начин да се не користе ове АИ апликације. Али ово такође изгледа прилично озбиљно и скоро претерано.
• Уклоните ствари унапред. Други приступ се састоји од уклањања поверљивих или приватних информација из свега што унесете као промпт. У том смислу, ако не уђете у њега, нема шансе да се унесе у Борг. Лоша страна је у томе што можда уклањање поверљивог дела на неки начин смањује или поткопава оно што покушавате да натерате генеративну вештачку интелигенцију да уради за вас.
• Маскирајте или лажирајте своје уносе. Можете да измените предложени текст тако што ћете променити информације тако да све што је изгледало поверљиво или приватно сада буде другачије приказано. На пример, уместо уговора у коме се помињу Видгет Цомпани и Џон Смит, мењате текст да се односи на Специоус Цомпани и Јане Цапоне. Овде је проблем да ли ћете обавити довољно исцрпан посао тако да сви поверљиви и приватни аспекти буду у потпуности измењени или лажни. Било би лако пропустити неке од замућења и оставити ствари које не би требало да буду ту.

Ево једног занимљивог додатног заокрета који би могао додатно да проникне у ову тему. Ако можете у потпуности да се уверите да ниједан од ваших упитника за унос не садржи поверљиве информације, да ли то значи да не морате да бринете о есејима који такође садрже било коју од ваших поверљивих информација?

Ово би изгледало аксиоматски тачно. Нема поверљивог уноса, нема поверљивог излаза.

Ево твог заокрета.

Генеративна АИ је често подешена да се рачунарски поново обучи из текстуалних упита који се пружају. Слично томе, генеративна АИ се често осмишљава да би се рачунарски преобучио из добијених есеја. Сва ова преквалификација има за циљ побољшање способности генеративне АИ.

У једној од мојих других колумни описао сам следећи експеримент који сам предузео. Адвокат је покушавао да открије ново средство за решавање правног питања. Након исцрпног прегледа правне литературе, чинило се да су пронађени сви углови који су већ испливали. Користећи генеративну вештачку интелигенцију, добили смо АИ апликацију да произведе новину правног приступа који наизглед раније није био идентификован. Веровало се да још нико није слетео на овај правни положај. Легални грумен злата, такорећи. Ово би могла бити стратешки вредна конкурентна правна бонанца која би се у правом тренутку могла искористити и искористити.

Да ли тај произведени есеј представља облик поверљивих информација, тако да га је генерисала вештачка интелигенција за ову конкретну особу и садржи нешто посебно и наизглед јединствено?

Аха, ово нас води до друге повезане и испреплетене теме о власништву и правима интелектуалне својине у вези са генеративном вештачком интелигенцијом. Останите са нама да видите како ће ово испасти.

За сада последња напомена.

Софокле је дао ову мудрост: „Не чини ништа тајно; јер Време све види и чује, и све открива.” Претпостављам да бисте могли да модернизујете формулацију и тврдите да су генеративна АИ и они који осмишљавају и одржавају АИ такође склони да виде.

То је скромно симболичан савет вредан памћења.