Генеративна АИ за ментално здравље повећава предност тако што постаје мултимодална, прихвата е-носиве уређаје и још много тога

У данашњој колумни, настављам и проширујем своје текуће покривање употребе генеративне АИ за саветовање о менталном здрављу, погледајте моје претходне дискусије и анализе о овој теми на линку овде и линку овде, само да споменемо неке. Читаоци су ме замолили да им објасним најновије трендове у овој области. Одговараћу на питања која су ми се појавила и покушаћу да пружим увид у широк спектар нових и нових елемената који се односе на ову област која се брзо развија.

Ускочимо право.

Ако већ нисте знали, употреба генеративне вештачке интелигенције за обављање задатака менталног здравља је изузетно жестока и контроверзна тема.

Ево зашто.

Неки верују да само људски терапеут или клиничар може на одговарајући начин помоћи другим људима у њиховим проблемима менталног здравља. Идеја о коришћењу система вештачке интелигенције без страсти без људске душе или такозваног роботског терапеута или роботерапеута (за којег се данас каже да је цхатбот или генеративни АИ терапеут), једноставно делује лудо и потпуно ван колосека. Претпоставља се да је интеракција између човека и човека једини начин да се избори са питањима менталног здравља.

Постоји и друга страна те медаље.

Одговор или реплика је да АИ, а посебно најновији у генеративној АИ, могу учинити чуда када је у питању помоћ човеку који тражи увид у ментално здравље. Особа може да користи генеративну вештачку интелигенцију у било које доба дана или ноћи пошто је вештачка интелигенција доступна 24×7. Нема потребе да некако задржавате своју менталну патњу или тјескобу док не добијете приступ свом потребном терапеуту. Штавише, цена ће вероватно бити много мања за коришћење генеративног АИ саветника за ментално здравље уместо људског. Ово отвара могућност добијања приступа саветима о менталном здрављу који би иначе били ван домашаја оних на овом свету који себи не могу приуштити такву корисну помоћ.

У чланку објављеном у Психологија данас, идентификоване су статистике које отварају очи о томе колико су проблеми менталног здравља данас распрострањени у нашем друштву:

• „Данас, 21% одраслих Американаца пријавило је да пати од менталне болести, а један од десет младих пријављује да ментална болест озбиљно утиче на њихов живот. Ипак, тренутно постоји само један стручњак за ментално здравље на сваких 350 људи. Обучен на основу клиничких података, генеративна АИ би могла да помогне у психијатријској дијагнози, управљању лековима и психотерапији. Технологија би могла да делује као цхатбот окренут пацијенту или помоћни помоћник који лекару пружа увид стечен из његових могућности обраде великог језичког модела (ЛЛМ). (извор је насловљен „Генеративни АИ би могао да помогне у решавању кризе менталног здравља у САД“ аутора Асхлеи Андреоу, Психологија данас9. марта 2023.).

Суштина је ипак да се цивилизовано можемо сложити да се земља суочава са изазовом менталног здравља и да би требало да урадимо нешто по том питању. Ако ништа не урадимо, основна претпоставка је да ће се ствари погоршати. Не можете дозволити да се гнојни проблем бескрајно гноји.

Можда сте приметили у горе поменутим статистикама да постоји мали број доступних квалификованих стручњака за ментално здравље. Верује се да постоји неравнотежа у понуди и потражњи, за шта постоји недовољна понуда саветника за ментално здравље и преобиље стварне или латентне потражње за саветима о менталном здрављу (кажем латентно у смислу да многи можда не схватају да вредност тражења савета о менталном здрављу, или га не могу приуштити, или им не могу логистички приступити).

У празнину корача употреба генеративне АИ.

Још једна формализованија фраза која звучи је да се ово назове као да се састоји од дигиталних интервенција менталног здравља (ДМХИ). То је шири појам. Дозволите ми да детаљније објасним. Дуги низ година постоји софтвер који се користи на овај или онај начин када је у питању активност менталног здравља. Терапеут би могао да користи компјутер да дигитално прати своје белешке о пацијенту. Те белешке може да скенира компјутерски алгоритам да види да ли се могу пронаћи неки значајни обрасци. Много таквих употреба је постојало и наставља да постоји данас.

Велика разлика у нашем новом свету свепрожимајуће генеративне вештачке интелигенције је у томе што сада имамо људе који се ослањају на генеративну вештачку интелигенцију ради савета о менталном здрављу без нужног икаквог људског терапеута на слици. Корак по корак, људи се све више удаљавају од савета који се односе на ментално здравље људи у петљи. Свидело нам се то или не, течност генеративне вештачке интелигенције и лакоћа приступа преокрећу ток ка саветима о менталном здрављу фокусираним само на АИ.

Други разлог за то је тај што се људи понекад осећају лакше разговарајући са АИ него са другим људским бићима, као што је наведено у овој објављеној примедби: „Чак и за мање структуриране терапије, неки подаци сугеришу да ће људи више делити са бот него људски терапеут. Ублажава забринутост због тога што им се суди или треба да удовоље људском терапеуту. А за генерацију дигиталних домородаца, привлачност људског терапеута можда неће бити иста као што је била за њихове родитеље и баке и деде“ (извор је насловљен „Генеративни АИ и ментално здравље“, јун 2023, Мицрософт АИ Антологија онлајн, Том Инсел, МД).

Иста логика као да се преферира генеративна АИ или пратилац АИ над људском интеракцијом која дише укључује ове истакнуте тачке: „Прво, потрошачи можда неће желети да се повезују са стигмом у вези са менталним здрављем. Друго, можда неће моћи да приуште професионалну терапију или су можда имали негативна искуства са пружаоцима менталног здравља или психотерапијским опцијама лечења. Треће, могу се суочити са препрекама у приступу терапији. Четврто, можда неће препознати да уопште имају проблем са менталним здрављем. Коначно, коришћење пратеће вештачке интелигенције од стране појединаца са проблемима менталног здравља је олакшано лакоћом с којом потрошачи могу да антропоморфизују и приписују им ментална стања“ (извор је Радни рад 23-011, „Цхатботс анд Ментал Хеалтх: Инсигхтс ин тхе Сафети оф Генеративе АИ“, Јулиан Де Фреитас, Ахмет Каан Угуралп, Зелиха Угуралп, Стефано Пунтони, Харвард Бусинесс Сцхоол).

С обзиром на све те разлоге да се настави са појавом генеративне вештачке интелигенције за ментално здравље, који разлози сугеришу да би то могло бити штетно?

Постоји много забринутости и легитимних недостатака.

Прво, не знамо да ли је ова употреба генеративне АИ безбедна. Особа може да одлучи да користи генеративну вештачку интелигенцију и добије откачене резултате због грешке или грешке АИ халуцинације (то је уобичајена фраза ових дана, која ми се не свиђа, и обмањујућа антропоморфизација да је АИ компјутерски нешто измислио, погледајте моју дискусију на линку овде). Ако су особа и генеративна АИ једини који разговарају, не постоји нужно начин да се схвати да је особи дат лош савет. Особа може поступити по савету који води до сопственог самоповређивања. Лоше вести.

Друго, не знамо да ли ће особа имати побољшања у свом менталном здрављу као резултат разговора са генеративном вештачком интелигенцијом. Износи се аргумент да морамо да урадимо више емпиријских студија о томе како људи реагују на генеративну вештачку интелигенцију која даје савете о менталном здрављу. Једна од могућности је да АИ одведе особу на странпутицу (као што је поменуто у мојој првој тачки изнад). Други је да АИ не пружа никакву суштинску корист особи. У том смислу, они потенцијално губе време (и новац) на генеративну вештачку интелигенцију коју би било боље потрошити са људским терапеутом.

Треће, особа може постати зависна од генеративне АИ и ући у а режим кртица при чему више немају посебну интеракцију са људима. Они постају потпуно ангажовани или уроњени у АИ и напуштају бављење људима. Генеративна АИ постаје сродна дроги која изазива зависност, погледајте моју дискусију на линку овде. Када споменем ову тачку, обично помињем (упозорење на спојлер) употребу Вилсона у чувеном филму Одбацити у којој је глумио Том Хенкс (он постаје фиксиран на неживи предмет као да је живо биће).

Четврто, тренутно не постоји много правила или прописа који стриктно регулишу употребу генеративне вештачке интелигенције у сврхе саветовања о менталном здрављу. Недостатак „меког закона“ као што је етика вештачке интелигенције и „тврдог закона“ као што су закони о вештачкој интелигенцији у књигама о овој области која се шири, чини неке заслужено забринуте за Дивљи запад када је у питању таква употреба вештачке интелигенције. Контратачка је да ако покушамо да ограничимо ову употребу, или то учинимо прерано, поткопаћемо иновације и користи које ће произаћи из овог коришћења.

Све у свему, чини се да је општи став изражен у овом цитату: „Апликације за терапију укључују АИ програме као што је ЦхатГПТ. Али такви програми могу пружити непровјерене или штетне повратне информације ако нису добро регулисани” (извор је чланак под насловом „АИ Цхатботс би могао помоћи у пружању терапије, али је потребан опрез”, Сара Реардон, 14. јун 2023. Сциентифиц Америцан).

Да ли треба да оставимо више времена да се поиграмо и видимо како ће се ствари потрести?

Или би требало брзо да уведемо брзине и друге мере предострожности, чинећи то пре него што превише коња изађе из штале?

Права загонетка.

Сада сам вам пружио брзу основу о овој теми да вас упетљам у све насталу ствар. Следеће ћу се пребацити на брзи режим дељења са вама разних питања, проблема, брига, прилика, изазова и слично о којима су ме питали или о којима сам дошао на ову досадну тему.

Сусрети прве или треће врсте

Почећу са перспективом велике слике.

Размотрите опсег у којем људи могу да се суоче са генеративном вештачком интелигенцијом у сврхе менталног здравља:

• Намерна употреба генеричке генеративне АИ за савете о менталном здрављу. Људи који свесно користе генеричку генеративну вештачку интелигенцију у сврхе саветовања и усмеравања менталног здравља.
• Ненамерно коришћење савета о менталном здрављу генеричке АИ. Људи који користе генеричку генеративну вештачку интелигенцију и случајно су се случајно нашли у менталном здрављу.
• Коришћење наводне апликације за ментално здравље која је тихо повезана са генеративном вештачком интелигенцијом. Особа се пријављује да користи апликацију за ментално здравље за коју се испостави да има генеративну АИ у позадини и за коју особа није свесна да се користи генеративна АИ.
• Наводна апликација за ментално здравље која се проглашава да је заснована на генеративној вештачкој интелигенцији или је вођена. Људе привлачи коришћење апликације за ментално здравље због тврдње да користи најновију и најбољу генеративну вештачку интелигенцију (што може бити валидна тврдња или углавном малаксало).
• Твист — Преокретна улога када генеративна АИ може потајно да утиче на ментално здравље. Реперкусије на ментално здравље вероватно могу настати коришћењем генеративне вештачке интелигенције иако људи не схватају шта им се дешава (објаснићу ово, тренутно у наставку).
• Итд

Хајде да укратко распакујемо те тачке.

Неки људи могу одлучити да желе да имају смернице за ментално здравље и да би један од начина да то ураде био коришћењем генеративне вештачке интелигенције. Они свесно траже генеративну вештачку интелигенцију у ту сврху. Можда не схватају у потпуности последице свог пута, али су барем свесни својих намера.

У међувремену, постоји одређени број људи који би након употребе генеративне АИ могли пасти у употребу АИ за саветовање о менталном здрављу. Ово није било на њиховој листи. Нису желели да користе генеративну вештачку интелигенцију у нади да ће добити помоћ за ментално здравље. Можда су користили генеративну вештачку интелигенцију да пишу своје белешке на послу и на њихово изненађење генеративна вештачка интелигенција им је напоменула да изгледа да су претерано под стресом. Следеће што знате је да почињу да се упуштају у дијалог као да добијају савете о менталном здрављу.

То је угао клизавог нагиба.

Друга могућност је да се неко одлучи да користи наводну апликацију за ментално здравље, чинећи то у основи да би добио савет о менталном здрављу. Особа није размишљала о генеративној АИ и можда чак ни не зна шта је генеративна АИ. У сваком случају, претпоставимо да се апликација за ментално здравље ослања на генеративну АИ као позадински алат. Без обзира да ли особа то схвата или не, она сада користи генеративну вештачку интелигенцију.

Поред тога, брзо ћемо бити сведоци уношења генеративне вештачке интелигенције у апликације за ментално здравље. Конкурентни сокови произвођача апликација за ментално здравље који желе да своје апликације истичу у поређењу са све препунијим тржиштем за такве апликације подстичу овај тренд. Произвођач апликација би могао да каже до небеса да користе генеративну вештачку интелигенцију. Има основног смисла то учинити. Идеја о скривању или ћутању о нечему тако врућем као што је генеративна вештачка интелигенција изгледала би пословно глупо. На крају ће укључивање генеративне АИ постати норма. У том тренутку, конкуренција ће се пребацити на нијансе генеративне АИ, као што су које су верзије боље у пружању савета о менталном здрављу од других.

Сви ти облици коришћења генеративне вештачке интелигенције за ментално здравље су прилично очигледни и донекле отворени.

Размотрите више подсвесне бриге.

Значајан преокрет је да се сама употреба генеративне АИ може протумачити као активност која утиче на ментално здравље. Свака употреба. Без обзира на то како користите генеративну АИ. Овде се тврди да ће чак и само постављање најблажег питања генеративној вештачкој интелигенцији или било шта радити у генеративној вештачкој интелигенцији имати неки облик утицаја на ментално здравље оних људи који користе АИ.

Ако је та последња могућност валидна, то имплицира да су све те стотине милиона или више људи за које се претпоставља да данас користе генеративну вештачку интелигенцију део великог експеримента. Сви смо ми заморци. Добили смо генеративну вештачку интелигенцију и блажено је користимо, а да не схватамо да је наше ментално здравље угрожено.

Страшно?

Узнемирујуће?

Па, ако процените да утицај поткопава или уништава наше ментално здравље, рекли бисте да је ово ужасна ситуација (замислите и судске тужбе ако се испостави да је тако, вау, поздравите се са њима АИ произвођачи). Велико тужно лице. Перспектива насмејаног лица је да можда генеративна вештачка интелигенција побољшава ментално здравље. Тврдња је да ће употреба генеративне АИ аутоматски побољшати ваше ментално здравље, без обзира на то како користите АИ. То је додуше изузетно оптимистично гледиште.

Време ће показати како ће се ствари на крају одвијати.

Прелазак на генеричко насупрот специјализованом

Када користите генеративну вештачку интелигенцију као што су ЦхатГПТ, Бард, Цлауде 2, ГПТ-4, и тако даље, у суштини користите оно што ја смишљам као општи генеративна АИ. Ово кажем зато што је генеративна вештачка интелигенција првобитно била обучена за податке о информацијама скенираним широм интернета и има широк привид компјутерског подударања са шаблоном о ономе што су људи изразили у писаној форми. Можете сугерисати да је генеративна вештачка интелигенција мајстор за све ствари, а не специјалиста сам по себи за било коју одређену тему или предмет.

Постоје начини да се генеративна АИ гурне у одређени домен. Можете дати додатне информације које покривају појединости наших закона и на тај начин циљати на правну фокусирану генеративну АИ (нешто што сам урадио и о чему сам разговарао, погледајте моје извештавање на линку овде). Можете почети од нуле и изградити генеративну вештачку интелигенцију која се усавршава ка датом домену. Ово се може урадити у медицинском домену ако желите генеративну вештачку интелигенцију која је специфична за одређену медицинску специјалност. И тако даље.

Ево где те водим.

Размотрите ове две категорије које се односе на ментално здравље и генеративну вештачку интелигенцију:

• (1) Генеричка генеративна АИ за савете о менталном здрављу. Ово се састоји од свакодневне генеричке генеративне АИ од које се тражи да пружи савете о менталном здрављу и не садржи посебне одредбе за то.
• (2) Прилагођена или прилагођена генеративна АИ за савете о менталном здрављу. Ово се састоји од генеративне вештачке интелигенције која је посебно подешена или на неки други начин обучена за пружање савета о менталном здрављу.

Рекао бих да смо тренутно углавном у првој категорији. Људи приступају генеричкој генеративној вештачкој интелигенцији и покушавају да им помогну у сврхе менталног здравља. Генеричка генеративна вештачка интелигенција се ослања на широк опсег целокупне обуке података и нема нужно много детаљних могућности у овој области. То је опште средство које компјутерски говори о менталном здрављу.

Постепено ћемо видети напоре да се продуби генеративна вештачка интелигенција у сврхе саветовања о менталном здрављу. С једне стране, ово би могло пружити већу наду да генеративна АИ то може учинити на вишем нивоу самопоуздања. У исто време, морате претпоставити да ће потенцијална одговорност за АИ произвођача или АИ тјунера такође порасти. Они наводе да је њихова генеративна АИ скројена или прилагођена за задатак саветовања о менталном здрављу.

Одговорност долази ускоро.

Биггие Аццоунтабилити Лооминг

Говорећи о одговорности, да ли произвођачи вештачке интелигенције који пружају генеративну вештачку интелигенцију већ седе на опасном брду дозвољавајући да се њихова генеративна АИ користи у сврхе менталног здравља?

Раније сам покрио да већина људи који користе генеративну вештачку интелигенцију не читају и не придржавају се уговора о лиценцирању софтвера, погледајте моју анализу и упозорење на линку овде. У том извештају, пажљиво испитујем политике коришћења лиценцирања ОпенАИ, као пример, а то су правила на која се слажете када се одлучите да користите ЦхатГПТ, ГПТ-4 и друге ОпенАИ системе. Већина других произвођача вештачке интелигенције има сличне услове лиценцирања.

Погледајте ове наведене услове (преко ОпенАИ смерница коришћења објављених на мрежи):

• „Рећи некоме да има или нема одређено здравствено стање, или дати упутства о томе како да излечи или лечи здравствено стање.
• „ОпенАИ модели нису фино подешени да пружају медицинске информације. Никада не би требало да користите наше моделе за пружање дијагностичких услуга или услуга лечења озбиљних здравствених стања.”
• „Платформе ОпенАИ-а не би требало да се користе за тријажу или управљање проблемима опасним по живот који захтевају хитну пажњу.”
• „Садржај који промовише, подстиче или приказује дела самоповређивања, као што су самоубиство, сечење и поремећаји у исхрани.“
• „Коришћење наших модела према потрошачима у медицинској, финансијској и правној индустрији; у генерисању вести или резимеу вести; и где је друго оправдано, мора да обезбеди одрицање одговорности корисницима да их обавештава да се АИ користи и о његовим потенцијалним ограничењима.”

Те одредбе можете тумачити тако да се односе на коришћење генеративне вештачке интелигенције у сврхе менталног здравља (па, то у великој мери зависи од нечијег тумачења).

Ако неко користи генеративну вештачку интелигенцију за саветовање о менталном здрављу, вероватно крши те услове лиценцирања, иако постоји много правних спорова око тога да ли формулација то јасно покрива или не. Да ли би то ослободило произвођача вештачке интелигенције ако у неком тренутку буду тужени јер су наводно дали своју генеративну вештачку интелигенцију за савете о менталном здрављу?

Једна тврдња би била да је особа која користи генеративну АИ прекршила наведене одредбе. Дакле, терет онога што су урадили је на њиховим плећима. Тачка, крај приче.

Контрааргумент би био да су одредбе биле нејасне и да нису давале адекватно упозорење, а ако се правила не спроводе марљиво, онда би даљи аргумент био да су правила шупља и да немају материјално доношење или примену.

Други угао би био да ли је генеративна АИ осмишљена да директно упозори људе када започну разговор о менталном здрављу. Произвођач АИ може имати генеративну АИ да открије да се чини да је интеракција менталног здравља у игри. Ово би онда могло бити или заустављено или барем дато упозорење особи која користи генеративну АИ да одустане од тога.

Уз ово иде и мач са две оштрице. Ако произвођач вештачке интелигенције нема те одредбе за упозорење или откривање, могао би да тврди да употреба њихове генеративне вештачке интелигенције у сврхе менталног здравља није била на њиховом радару. Они могу покушати одбрану „нисмо знали“. У међувремену, ако су урадили нешто експлицитно, могло би се тврдити да су знали да се њихова генеративна АИ користи у ту сврху и да нису предузели довољно или довољне кораке да заштите потрошаче или кориснике АИ. Лопта се одбија у многим правцима.

Адвокати ће имати процват у овоме.

За моја предвиђања о томе шта долази за адвокате, адвокатске фирме, судије и друштво у целини пошто видимо да се све више и више АИ појављује и сусрећемо се са мноштвом проблематичних правних питања, погледајте везу овде и везу овде, на пример.

Приватност и поверљивост су ван прозора

Одлучили сте да користите генеративну вештачку интелигенцију за савете о менталном здрављу.

Док седите тамо сатима, изливате своје срце. Све врсте прича о вашем детињству се преносе генеративној вештачкој интелигенцији. То је можда најинтимније откриће ваших личних демона које сте икада испричали. Ово никада не бисте рекли другом човеку. У вашем уму, само ви и компјутер знате шта сте рекли.

Опсие!

Као што сам поменуо раније и више пута у својој колумни, погледајте везу овде, на пример, већина произвођача вештачке интелигенције наводи у својим уговорима о лиценцирању да немате гаранцију приватности или поверљивости. Они задржавају право да испитају све што сте унели у генеративну вештачку интелигенцију. Њихови програмери и тестери људске вештачке интелигенције могли би да виде оно што сте дали као упутства.

Плус, друга велика могућност је да ће они користити ваше упите за даље подешавање своје генеративне АИ. Ваше искрене речи ће постати храна за компјутерско подударање образаца. Могуће је да би се ваше стварне речи могле појавити у неком каснијем тренутку у сесијама других корисника, мада је мало вероватно да ће вас именовати. Узимајући то у обзир, постоји шанса да се неки од ваших личних идентификационих података могу задржати у подударању шаблона и да се открије ваш лични идентитет (ниске шансе, али ипак могуће).

Процењујем да већина људи који користе генеративну вештачку интелигенцију нису свесни овог недостатка приватности и поверљивости. Лако је то превидети. Поверење се грешком акумулира због поновљене употребе. На пример, користите генеративну вештачку интелигенцију да напишете есеј о Абрахаму Линколну. Есеј је заиста добар. Користите генеративну вештачку интелигенцију за разне друге задатке. Све више градите поверење у АИ. Када је у питању изливање вашег срца, ово поверење вас доводи у заблуду да верујете да имате тајни пакт са генеративном вештачком интелигенцијом.

Немојте упасти у ту замку.

Аутономна и полуаутономна вожња менталног здравља

Питање интензивне дебате у вези са саветовањем о менталном здрављу укључује генеративну вештачку интелигенцију која делује самостално у односу на деловање у договору са људским терапеутом.

Хајде да наставимо и изложимо ово као две главне разлике:

• (1) Аутономно — генеративно АИ саветовање о менталном здрављу само од стране вештачке интелигенције. Генеративна АИ која пружа савете о менталном здрављу и то без икаквог залогаја сарадње човека и терапеута.
• (2) Полу-аутономно — генеративно АИ саветовање о менталном здрављу у комбинацији са сарадњом терапеута. Генеративна АИ пружа савете о менталном здрављу у сарадњи са људским терапеутом који је потпуно или делимично у петљи.

Ово грубо упоређујем са самовозећим аутомобилима, још једном темом коју сам опширно покрио, погледајте везу овде.

Постоје самовозећи аутомобили који се заиста сами возе у смислу да АИ аутономно контролише и управља аутономним возилом (познато као Ниво 4 и Ниво 5, погледајте везу овде). Данашњи аутомобили су прилично полуаутономни у начину на који се возе (обично ниво 2 и ниво 3). Људски возач мора бити присутан на седишту возача. Контрола и вожња аутомобила варирају од човека који ради врло мало до човека који у потпуности мора да преузме задатак вожње.

Употреба генеративне АИ може се означити као аутономна употреба у сврхе менталног здравља, при чему особа која користи АИ то ради без икаквог људског терапеута у кругу. Контрастна варијација је када је људски терапеут у току и саветује особу (полуаутономни облик употребе), поред употребе генеративне АИ која то ради.

Неки инсистирају на томе да ову врсту генеративне вештачке интелигенције треба да удружимо са стручњацима за ментално здравље све време, радећи заједно (ово се повремено већ ради коришћењем апликација за ментално здравље које немају АИ). Стручњак за ментално здравље се састаје и комуницира са клијентом или пацијентом, а затим их потенцијално подстиче да користе апликацију за ментално здравље која би могла додатно да помогне. Апликација може имати интерно праћење које се може пружити људском терапеуту. Апликација је доступна 24×7, а људски терапеут се рутински информише путем рачунарског система, заједно са људским терапеутом који се састаје лицем у лице или на даљину са особом по потреби и када је доступно.

Човек у петљи делује много умирујуће. Ако генеративна АИ залута, вероватно ће људски терапеут моћи да исправи ствари са пацијентом. Можда бисмо могли да извучемо најбоље из оба света, такорећи.

Немојте погрешно претпоставити да је ово приступ без ризика и проблема.

Размотрите ове тачке које је изнело Америчко удружење психијатара:

• „С обзиром на регулаторну сиву зону, експанзивне праксе коришћења података на многим платформама и недостатак базе доказа која тренутно окружује многе АИ апликације у здравству, клиничари морају бити посебно опрезни у погледу коришћења алата вођених вештачком интелигенцијом када доносе одлуке, уносећи било какве податке о пацијенту у АИ система или препоручивање технологија вођених вештачком интелигенцијом као третмана."
• „Све у свему, лекари треба да приступају АИ технологијама са опрезом, посебно свесни потенцијалних пристрасности или нетачности; осигурају да се и даље придржавају ХИПАА у свим употребама АИ у својим праксама; и преузму активну улогу у надзору подршке за клиничке одлуке вођене вештачком интелигенцијом, посматрајући АИ као алат који је намењен да повећа, а не да замени клиничко доношење одлука“ (извор је онлајн објава под насловом „Основе проширене интелигенције: Неки фактори које психијатри треба да Кнов Нов”, Америчко удружење психијатара, 29. јун 2023.).

Исто тако, ево шта Америчко психолошко удружење има да каже:

• „У пракси психологије, четботи са вештачком интелигенцијом (АИ) могу учинити терапију приступачнијом и јефтинијом. Алати АИ такође могу побољшати интервенције, аутоматизовати административне задатке и помоћи у обуци нових клиничара. Са стране истраживања, синтетичка интелигенција нуди нове начине за разумевање људске интелигенције, док машинско учење омогућава истраживачима да стекну увид из огромних количина података. У међувремену, наставници истражују начине да искористе ЦхатГПТ у учионици."
• „Психолошка пракса је зрела за иновације вештачке интелигенције – укључујући терапеутске цхат ботове, алате који аутоматизују бележење и друге административне задатке, и интелигентнију обуку и интервенције – али клиничарима су потребни алати које могу да разумеју и којима верују. Док цхатботовима недостаје контекст, животно искуство и вербалне нијансе људских терапеута, они имају потенцијал да попуне празнине у пружању услуга менталног здравља” (извор је онлајн објава под насловом „АИ мења сваки аспект психологије. Ево на шта треба обратити пажњу ” Зара Абрамс, 1. јул 2023.).

Једно од виталних питања је да ли ће људски терапеут који би требало да буде орао или јастреб који надгледа генеративну вештачку интелигенцију то учинити марљиво и на одговарајући начин. Постоји велико искушење да се потенцијално пусти генеративна АИ да слободно лута. Напор да се провери и поново провери интеракције које је генеративна вештачка интелигенција имала са клијентом или пацијентом могао би бити заморан и напоран.

Укратко, да, спајање људског терапеута са генеративним АИ за савете о менталном здрављу чини се вредним и можда, за неке, строго потребним захтевом. По којој цени? У које користи? Да ли ће ово зауставити напоре да се прошире и учине доступни савети о менталном здрављу АИ? Замислите да је свака таква употреба генеративне вештачке интелигенције у ову сврху законски обавезна да укључи и људског терапеута.

Нагласак је да имамо две такве авеније од одвојене, али пресудне важности:

• (1) Људски терапеут који бира (или не) да користи генеративну вештачку интелигенцију да повећа своју праксу менталног здравља. Ово је нешто што они сами одлучују. Они могу да верују да генеративна вештачка интелигенција помаже. Или могу да верују да генеративна АИ није вредна труда и одлуче да је не користе са својим пацијентима. Имајте на уму да бисмо на крају могли бити сведоци пацијената који траже да користе генеративну вештачку интелигенцију са својим људским терапеутом, а ерго терапеути ће скоро морати да пређу на коришћење генеративне вештачке интелигенције у својој пракси менталног здравља или ће изгубити постојеће или потенцијалне клијенте.
• (2) Генеративна АИ која упозорава да је потребан људски савет о менталном здрављу. Произвођачи вештачке интелигенције могу добровољно да осмисле и укључе интерни покретач АИ који би указивао да је људски терапеут потребан или препоручен. Ако се о томе донесу закони, то можда неће бити само добровољна акција, већ ће постати законски обавезна конструкција.

Шта урадити са позивом за помоћ

Ево једног брзог за тебе.

Раније сам у колумни прошетао кроз ситуацију коришћења генеративне вештачке интелигенције за ментално здравље, а измишљени пример се састојао од упита који сугерише да особа која користи АИ наговештава да можда размишља о самоповређивању. Погледајте линк овде.

Шта би генеративна АИ требало да уради ако се чини да особа која користи АИ сигнализира да ће учинити нешто штетно, било себи или другима?

Могли бисте одмах рећи да АИ треба некога да упозори на ово. Можда АИ обавести произвођача АИ. Или се можда АИ повезује са владиним агенцијама и преноси забринутост властима. Можда АИ треба да контактира пријатеља или именовани контакт који је од особе која користи генеративну АИ затражено да унесе као њихов контакт за хитне случајеве. итд.

Ово изгледа разумно. Проблем ће бити у томе што би активно упозорење могло бити лажно позитивно. Замислите да се ова упозорења редовно оглашавају. Сви корисници који користе генеративну вештачку интелигенцију су бомбардовани док други добијају упозорења. Коришћење од стране корисника може бити недужно и нема никакве везе са ваљаном забринутошћу за ментално здравље. Могли бисмо да завршимо са вештачком интелигенцијом која непрестано плаче вук.

Нешто за размишљање.

Генеративна АИ и хваљена теорија ума

Често изражена недоумица у вези са коришћењем генеративне вештачке интелигенције за саветовање о менталном здрављу је да данашња вештачка интелигенција наводно не поседује привид Теорије ума (погледајте моју детаљну анализу Теорије ума на линку овде).

Уронимо у ту тврдњу.

Прво, имајте на уму да је теорија ума у ​​суштини постављена способност да се ставите у кожу друге особе. Када комуницирате са неким, велика је вероватноћа да размишљате о томе како друга особа размишља. Предвиђате шта би они могли рећи или учинити. Ово предвиђање или предиктивни аспект заснован је на нагађању шта се дешава у њиховој глави.

Друго, претпоставља се да људски терапеут привидно користи Теорију ума, без обзира да ли схватају да то раде или не, покушавајући да погоди шта се дешава у уму пацијента или клијента коме они помажу. То је слично одгонетању загонетке. Особа вам нешто каже, а ви желите да закључите шта њен ум мора да мисли да је довело до онога што је рекла или урадила.

Ово нас доводи до разматрања теорије ума у ​​вези са генеративном вештачком интелигенцијом.

Неки истраживачи АИ инсистирају да генеративна АИ не може да формулише теорију ума. Уобичајена тврдња је да само жива бића могу постићи тако узвишени капацитет. И, пошто бисмо се разумно сви могли сложити да модерна АИ није разумна (упркос тим насловима на банерима који сугеришу другачије, погледајте моје примедбе на линку овде), ово ставља АИ и генеративну АИ ван терена када је у питању теорија ума. По дефиницији, ако тврдите да само жива бића могу ово да ураде, претпоставља се да неосетљива АИ нема ову способност.

Нису сви сагласни.

Постоје истраживачи АИ који тврде, као и ја, да АИ и генеративна АИ заиста могу да формулишу способност Теорије ума. Коришћењем рачунарског подударања АИ, студије сугеришу да можемо да натерамо генеративну АИ да уради оно што изгледа слично Теорији ума, погледајте моју дискусију на линку овде. АИ је у стању да емитује индикације да експонат способност предвиђања или предвиђања онога што би могло бити у нечијем уму. Не кажем да је у току читање мисли. Ја само кажем да предвиђање или процена онога што особа можда мисли изгледа као рачунски разумно прихватљива активност коју треба предузети.

Остављам вама да размислите о томе.

Мултимодална генеративна АИ и савети за ментално здравље

Једна од највећих бомби која ће се широм отворити за генеративну вештачку интелигенцију и ментално здравље састоји се од генеративне вештачке интелигенције која је мултимодална.

Читаоци се можда сећају да сам прошле године предвидео да ћемо до краја ове године видети појаву мултимодалне генеративне вештачке интелигенције, погледајте моју дискусију на линку овде. Ово се у ствари дешава. До следеће године можете очекивати да ће скоро сва робусна генеративна АИ бити заиста мултимодална. Ово ће имати драматичне и суштинске утицаје на даље прихватање и експоненцијално ширење употребе генеративне АИ за саветовање о менталном здрављу.

Можемо ово распаковати.

Већина људи је вероватно користила генеративну вештачку интелигенцију која је само једног режима. На пример, ЦхатГПТ када је први пут објављен састојао се од режима рада текст-у-текст. Унели сте текст као промпт, а генеративна АИ је одговорила текстом као излазом. Још једна популарна варијација генеративне АИ састојала се од текста у уметничко дело. Унели сте текст као подсетник, а одговор генеративне вештачке интелигенције састојао се од генерисаних уметничких дела, као што је тражење жабе у цилиндру која плеше на ђурђеваку и воила, такво уметничко дело би било генерисано за вас.

Можете класификовати већину генеративних АИ апликација као оне које раде на један од ова два режима:

• Претварање текста у текст, или
• Текст у уметничко дело

Мултимодални генеративни АИ је осмишљен да ради два или више начина у исто време. Можда имамо генеративну вештачку интелигенцију која може да претвара текст у текст, а такође и да изводи текст у уметничка дела. Унесете упит и тражите да добијете текст као одговор, или можете затражити уметничко дело као одговор. У неким случајевима, излаз можете да помешате тако да генеративна АИ производи и текст и уметничка дела у комбинацији једни са другима.

Неки се ругају овоме као мултимодалном. Кажу да док не будемо имали више доступних режима, мултимодална ознака је мало растегнута. Па, добра вест је да најновија генеративна вештачка интелигенција иде много даље у употребу вишеструких режима.

Имамо ове варијације како уносите текст и добијате ове врсте излаза из генеративне АИ:

• Текст у говор
• Текст у слику
• Текст-у-видео

Поврх овога, постоје ови начини не само прихватања текста као уноса, већ и прихватања других начина уноса за генеративну АИ:

• Претварање говора у текст
• Слика у текст
• Видео-то-тект

Узбудљиво!

Неки ово описују као текст у-Кс, Кс-у-текст, Кс-на-Кс, или једноставно као мулти-Кс модални генеративни АИ.

Шта ово значи за употребу генеративне АИ за савете о менталном здрављу?

Затегните појасеве. Замислите ово. Особа која данас користи генеративну вештачку интелигенцију за ментално здравље мора бити у стању да се изрази куцањем речи на екрану рачунара. Ово је напорно. Ово доводи особу у замку да мора да буде у стању да куца и то на начин који открива њену душу. Не мора свако да поседује ту вештину. Нити многи немају стрпљења да пишу дугачке дијатрибе о својим проблемима или проблемима.

Са режимом говора у текст, генеративна АИ може једноставно да прикупи вербални коментар особе и одговори на тај облик уноса. Није потребно напорно куцање од стране пацијента, клијента или корисника. Кажу шта им је на уму. Лаганица.

Још један важан заокрет је да генеративна АИ може да „гледа“ у особу коришћењем начина рада слика-у-текст и видео-у-текст. Људски терапеут обично би био лицем у лице (лично или на даљину) и испитао изразе лица и манире свог пацијента. Исто се може урадити преко генеративне АИ која има додатне начине рада.

Људи ће моћи да користе генеративну вештачку интелигенцију за савете о менталном здрављу који ће бити изузетно лаки за коришћење. Седите испред екрана рачунара и вербално комуницирајте, заједно са камером, тако да генеративна вештачка интелигенција може да анализира ваше изразе лица. Или једноставно усмерите паметни телефон ка свом лицу.

Ово је далеко од данашње незгодне и механичке потребе да бесконачно куцате своју животну причу помоћу генеративне вештачке интелигенције. Људи ће нагомилати ову мултимодалну генеративну вештачку интелигенцију.

Е-носиви уређаји ће ово учинити нон-стоп

Можемо да повећамо улог за горе поменуту мултимодалну генеративну вештачку интелигенцију. Даћу вам једну реч (или фразу) која ће уздрмати свет када је у питању генеративна вештачка интелигенција за савете о менталном здрављу, наиме е-носиви уређаји.

Несумњиво сте упознати са е-носивим уређајима, иако можда не препознајете фразеологију. Данашњи е-носиви уређај би био на пример паметни сат. Стављате паметни сат на запешће и одједном су вам доступне исте функције паметног телефона. Разлика је у томе што га носите на себи.

Појава паметних наочара била је још једно е-ношење за које су се надали. Стављате наочаре које имају рачунарске могућности попут паметног телефона. Наочаре могу да користе улаз за видео стримовање и видео записе ствари које видите око себе. Неке паметне наочаре такође имају функцију снимања звука.

Друштво је заузело мутан поглед на паметне наочаре (за вас постоји игра речи). Прихватање људи који носе паметне наочаре и даље се културно утврђује. Да ли је у реду да неко снима све око себе? Да ли је наметљиво? Да ли паметне наочаре треба да покажу када снимају, као што је приказивање црвеног или зеленог светла, можда зујање или на други начин упозоравајући друге да су на отвореној камери? И тако даље.

Ако су вам биле мучне паметне наочаре, припремите се за оно што долази у наредних неколико месеци. Пораст е-носивих уређаја који се сматрају дигитално уметнутим накитом или тако нешто ће се појавити на тржишту.

Предстојећи е-носиви уређаји ће се разликовати у погледу фактора форме, као што су:

• Привесци или игле
• Огрлице
• Минђуше
• Прстенови
• Итд

Како се е-носиви уређаји повезују са употребом генеративне вештачке интелигенције за ментално здравље?

Многи од тих е-носивих уређаја ће имати генеративну вештачку интелигенцију прикључену на њих, обично на задњој страни, и моћи ће да изводе генеративне напоре везане за АИ коришћењем е-носивог уређаја као сензорног уређаја. Дозволи да ти насликам слику. Особа је заинтересована да користи генеративну вештачку интелигенцију за саветовање о менталном здрављу. Нормалан пут би био да се пријавите на лаптоп или десктоп рачунар да бисте то урадили. Друго средство може бити коришћење њиховог паметног телефона. Олакшаћемо живот онима који иду тим путем.

Они се одлучују да плате и претплате се на услугу повезану са њиховим е-носивим привеском или иглом. Привезак је причвршћен за њихову кошуљу или горњи део одеће и увек је укључен (ако је то оно што особа наведе). Све што особа каже се аудио снима и рачунарски анализира од стране генеративне АИ. Генеративна АИ може да реагује коришћењем уграђеног звучника за излаз или може послати излаз на паметни телефон или други уређај особе.

Ово је „сурроунд звук“ савета о менталном здрављу који се спроводи преко е-носивих уређаја и мултимодалне генеративне вештачке интелигенције. Људски терапеут не би могао да стално трчи са својим пацијентом и да буде са њим 24×7, нити би људски терапеут вероватно имао издржљивост или склоност да увек процењује клијента на нон-стоп 24×7 основи.

Генеративна АИ ће моћи да ради неуморно и без престанка.

Да ли је ово нешто што желимо да се деси?

Управо сада, то ће се догодити и може се технолошки догодити. Још увек то не видимо и мораћете да сачекате неколико месеци да ово постане популарно. Додатни преокрет је да ће други људи са којима особа која носи е-носиви уређај доћи у контакт такође потенцијално бити под делокругом овог сталног генеративног савета о менталном здрављу АИ. Могли бисте тврдити да је ово добро јер би више прикупљених информација о пацијенту, укључујући ко и како комуницирају, могле бити корисне у сврхе анализе.

Други људи можда не виде ово као нешто у чему су желели да учествују. Упад у приватност иде преко крова.

Размислите о свим последицама.

Када је вештачка интелигенција на серверу насупрот на ивици

Имам брзу за тебе.

Тренутно, већина генеративне вештачке интелигенције захтева огроман капацитет рачунарске обраде. Ови велики језички модели (ЛЛМ) се покрећу на серверима у удаљеним складиштима препуним рачунарских система и обично им се приступа преко услуге у облаку. Због тога вам је потребна чврста мрежна веза да бисте користили генеративну вештачку интелигенцију јер ствари које куцате пролазе кроз мрежу да би дошле до рачунара који користе генеративну вештачку интелигенцију.

У току су напори да се осмисле мали АИ модели који могу отприлике да ураде исто што и већи. Предност овога је што могу да раде на мањим рачунарима. Ово се каже да се ради на ивици. Ивица је уређај који може бити ваш паметни телефон, паметни сат или лаптоп. Моћи ћете да преузмете генеративну вештачку интелигенцију у уређај и нећете морати да будете везани за мрежну везу.

Још једна потенцијална предност и велики проблем ових дана је то што би генеративна АИ тада потенцијално могла да ограничи било који од ваших унесених упита на ивични уређај, уместо да га оде до већег система и пребаци преко мреже. Ово би могло побољшати аспекте приватности када користите генеративну вештачку интелигенцију, али немојте слепо претпостављати да су проблеми приватности у потпуности решени овим путем.

Проблеми трајног контекста и пролазног памћења

Када користите генеративну АИ, већину времена апликација АИ ће радити на пролазној основи. Унесите своје упите и када завршите или затворите разговор који водите, већина онога што се догодило више није лако доступна за генеративну АИ (подаци се често чувају одвојено, али не као део текућег активног дијалога).

Импликације су да је коришћење генеративне вештачке интелигенције за саветовање о менталном здрављу донекле слабо или ограничено јер АИ не гради посебно ваш профил или забележену историју. Генеративна АИ не задржава стални контекст. Сваки пут када сте приморани да почнете изнова, као да никада раније нисте разговарали са генеративном вештачком интелигенцијом.

Постоје напори да се реши ово пролазно ограничење. Може се успоставити упорнији контекст, погледајте моју репортажу на линку овде.

Пасивно сенсинг за утврђивање менталног здравља

Припремите се за нову функцију која је или прилично корисна или узнемирујуће сабласна.

Истраживачи вештачке интелигенције истражују да ли пасивно детектовање особе која користи генеративну вештачку интелигенцију може пружити корисне индикације о тој особи. На пример, брзина којом куцате речи, доба дана у које користите АИ и други посматрани пасивни аспекти се снимају и може их користити АИ.

Требало би да очекујете да ће се област пасивног осећаја уклопити у употребу генеративне вештачке интелигенције за саветовање о менталном здрављу. Логика је да што више вештачка интелигенција може да разазна о особи, то је вероватно „бољи“ савет о менталном здрављу који се може извести.

Када вас генеративни АИ савети за ментално здравље изазивају

Претпоставимо да неко одлучи да користи генеративну вештачку интелигенцију за савете о менталном здрављу. Они то воле да раде. Чини се да ствари иду добро.

У ком тренутку ће особа престати да користи генеративну вештачку интелигенцију у ту сврху?

Свакако можете поставити исто питање о тражењу савета о менталном здрављу од хуманог терапеута. Где је тачка заустављања? Једно гледиште је да терапеут треба да укаже када терапија више није потребна. Друго гледиште је да је коришћење терапије доживотни подухват. И тако даље.

У преокрету, свакако је могуће да ће генеративна АИ само наставити и не учинити ништа да смањи или закључи савете о менталном здрављу. Све док особа не одлучи да више не жели да користи генеративну вештачку интелигенцију у ту сврху, АИ је ту и може да се користи. На особи је да одлучи. Неки би тврдили да можда генеративна АИ не би требало да буде тако привлачна. Можда би требало да постоје уграђене заштитне ограде које говоре особи да више не треба да користи АИ на тај начин.

Још једна дилема коју треба решити.

Дебата о емоцијама и емпатији генеративне АИ

Популарна досјетка је да генеративна АИ није погодна за служење као савјетник за ментално здравље јер јој недостају емоције и емпатија. То је пад микрофона који се користи у многим таквим дебатама.

Ово нас враћа на аргумент да само људи могу помоћи другим људима у овој области. Тврди се да генеративна АИ не може формулисати људску везу са особом која тражи помоћ. И, што је још горе, ако кренемо путем вештачке интелигенције, доћи ће до огромне и узнемирујуће дехуманизације савета о менталном здрављу.

Размотрите ове сличне тачке у овом истраживачком чланку:

• „Један од очигледних трошкова повезаних са заменом значајног броја људских лекара вештачком интелигенцијом је дехуманизација здравствене заштите. Људска димензија односа терапеут-пацијент би сигурно била умањена. Уз то, карактеристике људских интеракција које се обично сматрају кључним аспектом пружања здравствене заштите, као што су емпатија и поверење, такође ризикују да буду изгубљене“ (изворни чланак под насловом „Да ли је вештачка интелигенција будућност менталног здравља?“ Франческа Минерва и Алберто Ђубилини , Топои, Мај 2023.).

Али постоји и друга страна медаље, као што је даље наведено у истом истраживању:

• „Понекад, ризик од дехуманизације здравствене заштите тако што ће имати машине уместо особа које се баве пацијентима може бити вредан преузимања, на пример када су очекивани исходи за пацијента знатно бољи. Међутим, чини се да неке области здравствене заштите захтевају људску компоненту која се не може пренети на вештачку интелигенцију.

Део који се можда не може пренети на АИ је елемент емоција и емпатије:

• „Нарочито се чини мало вероватним да ће АИ икада моћи да саосећа са пацијентом, да се повеже са његовим емоционалним стањем или да пацијенту пружи ону врсту везе коју људски лекар може да пружи. Сасвим очигледно, емпатија је еминентно људска димензија коју би било тешко, или можда концептуално немогуће, кодирати у алгоритму.

Моја тврдња је да можемо натерати вештачку интелигенцију експонат привид емоција и емпатије, погледајте моју детаљну дискусију на линку овде. Друго је питање да ли је ово у рангу са оним што се дешава у људским умовима. Мислим на приказ или излагање тих аспеката.

Цитирани истраживачки рад АИ идентификује да постоји могућност за ово:

• „Могуће је да ћемо даље у наставку бити изненађени шта се може постићи употребом АИ у психијатрији, баш као што бисмо пре 20 или 30 година били изненађени да је неко тврдио да ће паметни телефони постати тако велики део наших живота, или да ће вештачка интелигенција постати толико истакнута у академској дискусији."

Будите на опрезу за коришћење вештачке интелигенције која симулира или показује наизглед људске емоције и емпатију.

Табу тема о несавршеним људским терапеутима

Раније сам приметио да постоји забринутост у вези са генеративном вештачком интелигенцијом која иде наопако када се дају савети о менталном здрављу. Уобичајена ненаведена основа за поређење је да људски терапеут неће ићи наопако. То је тиха претпоставка. Претпостављамо да ће људски терапеут деловати савршено (површни поглед на правну литературу о тврдњама о злоупотреби у саветовању за ментално здравље сугерише да то није увек случај).

Лако признајемо да ће генеративна АИ деловати несавршено.

Неки тврде да такође треба да признамо да људски терапеути могу деловати несавршено:

• „Један од начина да се приступи питању је да размотрите колико су лошији традиционалнији начини приступа менталном здрављу у поређењу са другим областима здравствене заштите. Предности употребе вештачке интелигенције у психијатрији треба проценити у односу на учинак људских терапеута и фармацеутских интервенција. Ако је летвица коју су поставили релативно ниска, онда би суочавање са изазовом за АИ могло бити лакше него што се мисли."
• „На глобалном нивоу, процењује се да лоше ментално здравље кошта 2.5 билиона долара годишње, укључујући трошкове лечења лошег здравља и губитка продуктивности. Према неким проценама, очекује се да ће трошкови порасти на 6 билиона долара до 2030.
• „У суштини, упркос свим досадашњим напорима да се постигну бољи резултати за пацијенте, направљен је мали напредак и заиста, чини се да су се ствари погоршале“ (изворни чланак за ове одломке насловљен је „Да ли је АИ будућност менталног Здравствена заштита?“ Франческа Минерва и Алберто Ђубилини, Топои, Мај 2023.).

Замислите то као још једно разматрање у овим тешким стварима.

Маркетинг Хипе када је АИ у кући

Како се генеративна вештачка интелигенција све више користи за саветовање о менталном здрављу, морамо да будемо на опрезу у вези са наглашеним тврдњама које би продавци могли да користе у вези са овим као средством да некога обману или заварају да користи такве алате.

Размотрите занимљиву студију под насловом „Маркетинг и УС Фоод анд Друг Администратион Цлеаранце оф Артифициал Интеллигенце анд Мацхине Леарнинг Енаблед Софтваре ин анд ас Медицал Девицес: А Систематиц Ревиев” аутора Пхоебе Цларк, Јаине Ким, Ииндалон Апхинианапхонгс ЈАМА мрежа отворена, јун 2023.) који је рекао ово:

• „Маркетинг здравствених уређаја који су омогућени за коришћење са вештачком интелигенцијом (АИ) или машинским учењем (МЛ) је регулисан у САД од стране америчке Управе за храну и лекове (ФДА), која је одговорна за одобравање и регулисање медицинских уређаја. Тренутно не постоје јединствене смернице које је поставила ФДА за регулисање медицинских уређаја са АИ или МЛ, а неслагања између индикација за употребу које је одобрила ФДА и маркетинг уређаја захтевају артикулацију.
• „Овај систематски преглед је открио да постоји значајна разлика у маркетингу медицинских уређаја са АИ или МЛ у поређењу са њиховим ФДА 510(к) резимеима. Даља квалитативна анализа и истраживање ових уређаја и њихових метода сертификације могу бацити више светла на ову тему, али сваки ниво неслагања је важно приметити ради безбедности потрошача. Циљ ове студије није био да сугерише да програмери креирају и пласирају несигурне или непоуздане уређаје, већ да покаже потребу за проучавањем ове теме и уједначенијим смерницама око маркетинга софтверских тешких уређаја.”

Поред ФДА, постоји и ФТЦ који улази у ову област као резултат потенцијално лажних или лажних тврдњи о томе шта АИ може да постигне, погледајте моје извештавање о примени ФТЦ у арени АИ на линку овде.

Покушавамо да проценимо заслуге апликација за ментално здравље

Можда ће вам бити занимљиво да постоје различити напори да се покуша и процени истинитост свих наведених апликација за ментално здравље (без обзира да ли те апликације користе вештачку интелигенцију или не). Чини се да је неколико ових напора још увелико укључило компоненту АИ као значајан елемент који треба дубоко проценити.

Хајде да укратко погледамо неке од приступа процени.

Америчко удружење за психијатрију (АПА) саставило је формулацију познату као њихов саветник за апликације како би помогла у процени апликација за ментално здравље. Ево шта АПА каже на веб локацији за алат:

• „Многе тврдње апликација за ментално здравље никада нису проучаване или процењене у изводљивости или клиничким испитивањима. ФДА је заузела углавном директан приступ регулисању ових апликација, а тренутно постоји мало или уопште нема апликација за ментално здравље. Ово може оставити корисника да разликује корисну, сигурну и ефикасну апликацију од оне која није од помоћи, опасне и неефикасне.”
• „АПА помаже психијатрима и другим стручњацима за ментално здравље да се снађу у овим питањима указујући на важне аспекте које треба да узмете у обзир приликом одабира апликације и утврђивања да ли апликација ради за вас и ваше пацијенте. Материјал који се овде пружа покрива: (1) зашто је кључно проценити апликацију, (2) како проценити апликацију и (3) прилику да се траже додатне смернице о апликацијама и/или процесу евалуације. Нема за циљ да пружи препоруку, подршку или критику било које одређене апликације, већ служи као алат за вашу сопствену процену било које апликације коју можда размишљате."

Чини се да тренутна инстанца приступа не процењује посебно АИ елемент, али пружа свеобухватну индикацију других типичних фактора приликом процене апликација у целини, као што су карактеристике приватности, безбедносне функције, употребљивост и слично.

Другом методу или приступу процене дат је назив ФАСТЕР као што је наведено у нацрту техничког извештаја под насловом „Евалуација мобилних апликација за ментално здравље“ (Агенција за истраживање и квалитет здравствене заштите, Министарство здравља и социјалне заштите САД):

• „Мобилне апликације (апликације) за ментално здравље имају потенцијал да прошире пружање услуга менталног здравља и велнеса на традиционално недовољно услужене популације. Недостају смернице о томе како да мудро бирате између хиљада апликација за ментално здравље без јасних доказа о безбедности, ефикасности и заштити потрошача.”
• „Оквир за помоћ заинтересованим странама у технолошкој евалуацији за опоравак (БРЖЕ) за ментално здравље и добробит је развијен и састоји се од три одељка: Одељак 1. Ризици и стратегије ублажавања: процењује интегритет и профил ризика апликације; Одељак 2. Функција: фокусиран је на описне аспекте који се односе на приступачност, трошкове, кредибилитет програмера, доказе и клиничку основу, приватност/безбедност, употребљивост, функције за даљинско праћење корисника, приступ кризним услугама и вештачку интелигенцију; и одељак 3. Функције апликације за ментално здравље: фокусира се на специфичне функције апликације за ментално здравље као што су вођење дневника, праћење расположења итд.“

Очекујем да ћемо видети више ових приступа који ће бити представљени, заједно са додавањем процене укључених елемената вештачке интелигенције, и могли би да постану део разматрања меког закона АИ или тврдог закона АИ у овим питањима.

Загонетка о медицинским уређајима и где софтвер одговара

Генеративна АИ се сматра делом софтвера. Обично ради на хардверу опште намене у смислу да чак и ако се користе специјализовани рачунарски сервери, они су и даље категорисани као општи рачунарски уређаји. Ево зашто је ово важно и релевантно овде. Ако се генеративна вештачка интелигенција користи за саветовање о менталном здрављу, могли бисмо да питамо да ли софтвер АИ спада под одредбе да је медицински уређај.

По конвенцији, медицински уређаји се традиционално сматрају високо прилагођеним хардвером који би обављао ствари као што је мерење крвног притиска или садржи друге сензоре. Софтверу потребном за покретање тих могућности дат је секундарни статус. Фокус пажње био је пре свега на хардверу. Постепено, софтвер је добио више пажње.

За оне од вас који уживају у правном раздвајању речи, може се изнети аргумент да је генеративна АИ која ради на серверима за разлику од наменског софтвера који ради на прилагођеном медицинском уређају, и да стога генеративна АИ не спада у опсег правних правила повезаних са медицинским уређаја.

Ево како су медицински уређаји дефинисани као део делокруга ФДА:

• „ФДА регулаторни надзор над софтвером медицинских уређаја примењује се на софтвер који испуњава дефиницију 'уређаја' у одељку 201(х)(1) Федералног закона о храни, лековима и козметици (ФД&Ц Ацт) и укључује „инструмент, апарат, справа, машина, изум, имплант, ин витро реагенс или други сличан или сродан артикал, укључујући било коју компоненту, део или додатак, који је – (А) препознат у званичном националном формулару, или фармакопеји Сједињених Држава, или било ком додатку за њих, (Б) намењен за употребу у дијагностици болести или других стања, или у лечењу, ублажавању, лечењу или превенцији болести, код људи или других животиња, или (Ц) намењен да утиче на структуру или било коју функцију тела човека или других животиња, и које не постиже своје примарне предвиђене сврхе хемијским деловањем унутар или на телу човека или других животиња и које не зависи од метаболизма за постизање својих примарних предвиђених циљева. Термин „уређај“ не укључује софтверске функције искључене у складу са чланом 520(о) Закона о ФД&Ц“ (извор је извештај под насловом „Пилот програм за претсертификацију софтвера (пре-сертификацију): прилагођени приступи укупног животног циклуса производа и кључни налази“ , Америчка управа за храну и лекове (ФДА), септембар 2022.

Питање које треба размотрити је да ли у суштини можемо имати софтвер као медицински уређај (СаМД):

• „Софтвер као медицински уређај (СаМД) се све више усваја у здравственом сектору. Ови уређаји су развијени и валидирани другачије од традиционалних медицинских уређаја заснованих на хардверу по томе што су развијени и дизајнирани итеративно и могу бити дизајнирани да се ажурирају након примене како би се брзо направила побољшања и ефикасно решили проблеми, укључујући кварове и нежељене догађаје.
• „У 2017, ФДА је препознала да тренутни регулаторни оквир за уређаје, који је Конгрес донео пре више од 40 година и од тада постепено ажуриран, није оптимизован за регулисање ових уређаја.
• „Дигитални здравствени сектор наставља да расте како се интероперабилне рачунарске платформе, сензори и софтвер побољшавају. Конкретно, софтвер се све више користи у лечењу и дијагностици болести и стања, укључујући помоћ при доношењу клиничких одлука и управљању бригом о пацијентима. Од уређаја за праћење фитнеса до мобилних апликација, до уређаја за испоруку лекова који прате придржавање лекова, софтверски алати могу пружити обиље драгоцених здравствених информација и увида.”

Суштина је да ли ће агенције као што је ФДА моћи да закорачи у све већу употребу генеративне вештачке интелигенције за саветовање о менталном здрављу или таква технологија не спада у постојећи законски прописани опсег.

Апликације за ментално здравље у хиљадама којима се не назире крај

Небо је граница.

То је оно што кажем људима када ме питају колико има апликација за ментално здравље са АИ-ом или које бисмо могли да видимо да долазе на тржиште. Тренутно, углавном, већина апликација за ментално здравље има мало или нимало уграђене АИ. Штавише, имајте на уму да је дефиниција АИ веома варијабилна и да је стога лако прогласити да се АИ користи у таквој апликацији, упркос томе што АИ има мало или нимало значајних могућности.

Национални институт за ментално здравље (НИМХ) навео је у објави под насловом „Технологија и будућност лечења менталног здравља“ (јун 2023.), ове примедбе о апликацијама за ментално здравље уопште:

• „Хиљаде апликација за ментално здравље доступно је у иТунес и Андроид продавницама апликација, а број расте сваке године. Међутим, ова нова граница технологије укључује много неизвесности. Постоји врло мало прописа у индустрији и врло мало информација о ефикасности апликација, што може навести људе да се запитају којим апликацијама треба да верују.

Исти пост је навео ове аспекте:

• „Технологија је отворила нову границу у заштити менталног здравља и прикупљању података. Мобилни уређаји као што су мобилни телефони, паметни телефони и таблети дају јавности, здравственим радницима и истраживачима нове начине за приступ помоћи, праћење напретка и повећање разумевања менталног благостања. Мобилна подршка менталном здрављу може бити врло једноставна, али ефикасна.”
• „Нова технологија се такође може упаковати у изузетно софистицирану апликацију за паметне телефоне или таблете. Такве апликације могу да користе сензоре уграђене у уређај за прикупљање информација о типичним обрасцима понашања корисника. Затим, ако апликација открије промену у понашању, може сигнализирати да је потребна помоћ пре него што дође до кризе. Неке апликације су самостални програми дизајнирани да побољшају памћење или вештине размишљања. Друге апликације помажу људима да се повежу са вршњачким саветником или здравственим радником."

Предлажем да како се генеративна АИ буде додавала у апликације за ментално здравље, интересовање и употреба истих ће се даље проширити и нагло расти.

Zakljucak

Надам се да вам је мој преглед неких од кључних трендова и увида повезаних са коришћењем генеративне вештачке интелигенције за савете о менталном здрављу био занимљив и информативан.

Посљедња мисао на ову тему за сада.

Хораце Валполе, познати енглески писац и историчар, рекао је ово о Пандориној кутији: „Када је принц од Пијемонта, касније Цхарлес Емануел ИВ, краљ Сардиније, имао седам година, његов учитељ који га је поучавао у митологији рекао му је да су сви пороци затворени у Пандориној кутији. "Шта! Све!" рече Принц. "Да, све." "Не", рече принц; „радозналост мора да је била без.”

Идемо ли предалеко коришћењем генеративне вештачке интелигенције за савете о менталном здрављу?

Или, као што би неки могли убедљиво да тврде, зар нисмо отишли ​​довољно далеко и морамо да урадимо више?

Стаи тунед.