Umjetna inteligencija (AI) polako prodire u svaki aspekt naših života. Napada nas sa svih strana, diše nam za vratom. Ono što se prije nekoliko godina činilo kao čista znanstvena fantastika, sada je dio naših života. Od AI-ja je gotovo nemoguće pobjeći, pa se s njim susrećemo i prilikom najjednostavnijih zadataka, poput „guglanja“, gdje nam sumira rezultate pretraživanja ili nudi brzinske AI preglede. Pred nama je, ili nas bar brojni u to pokušavaju uvjeriti, nova revolucija – industrijska, poslovna, životna, svjetska.
AI nam pritom nudi sve što možemo zamisliti, odgovore na naša pitanja i zavrzlame, daje savjete, piše nam recepte ili popise za kupnju, postaje nam prijatelj, partner, član obitelji, pa čak i – the horror, the horror – razmišlja za nas. Iako je sigurno da bi nam umjetna inteligencija, uz opreznu i sigurnu primjenu, mogla donijeti mnogo dobra, raste zabrinutost zbog njene (pre)brze implementacije, ali i nedostatka regulacija njena korištenja.
Sve češće možemo čitati o prilično uznemirujućim primjerima korištenja ChatGPT-ja i drugih velikih jezičnih modela (large language model, LLM), pogotovo u kontekstu psihoterapije. Tako je, primjerice, jedan 16-godišnjak u Ujedinjenom Kraljevstvu počinio suicid nakon što je ChatGPT pitao za „najuspješniji“ način da si osoba oduzme život. U Sjedinjenim Američkim Državama roditelji 23-godišnjaka Zanea Shamblina tuže tvorca istog četbota. Tvrde kako je ChatGPT stavio život njihova sina u opasnost jer nije implementirao dovoljno dobre sigurnosne protokole. Četbot je mladića navodno sustavno ohrabrivao dok je Shamblin s njim „razgovarao“ o oduzimanju vlastitog života.
Ovakvih slučajeva nažalost će biti sve više. I dok broj ljudi koji koriste AI, pa i AI (psiho)terapiju raste, a ona prodire u naše živote, njena regulacija još nije na vidiku.
Bruna Nedoklan psihologinja je i apsolventica gestalt psihoterapije, a zaposlena je u Poliklinici Suvag u sklopu rane intervencije. Ona smatra kako korištenje AI-ja u isto vrijeme može biti korisno i štetno, a zatim i krajnje opasno, pogotovo u kontekstu mentalnog zdravlja.
Korištenje tehnologije, naravno, ovisi o tome tko je, kako i u koju svrhu koristi, ističe Nedoklan, a nemoguće je negirati činjenicu da osobi „itekako može biti korisno da nakon par sekundi od poslanog upita dobije prijeko potreban podržavajući i empatični odgovor, „psihoedukaciju“ o psihičkim poteškoćama te strategije kako se nositi s teškoćama“. LLM je pritom stalno dostupan, besplatan ili jeftin te ne uključuje osjećaj srama i nelagode koji često prati traženje pomoći.
Dodatno, tehnološki giganti, informacijske kompanije, pa i zdravstveni sustav ulažu sve više sredstava i napora kako bi odnos između osobe i AI „stručnjaka“ učinili sve uvjerljivijim, dodaje Nedoklan.
Dr. Vanju Subotić, naučnu suradnica na Filozofskom fakultetu Univerziteta u Beogradu i filozofkinju umjetne inteligencije, upitali smo što je po njoj problematično kada govorimo o korištenju LLM-ova i AI-ja za psihoterapiju. Subotić nam odgovara kako je osnovni problem što vrlo lako „padnemo“ na jezičku fluentnost tih modela i tako „stvorimo paraemotivnu i parasocijalnu vezu sa nečim neživim, nesvesnim, a obučenim da statistički traži i „izbacuje“ najuverljivije i najčešće fraze u odnosu na vaš upit“.
Opasnost leži u tome što korisnicima uopće nije zagarantirana privatnost njihovih podataka, već se razgovori u kojima sudjeluju koriste za dodatno obučavanje takvih modela.
Nedoklan nam opisuje kako, recimo, korisnik LLM-u može dati sljedeći upit: „Ponašaj se kao kognitivno-bihevioralni terapeut kako bi mi pomogao nositi se s određenim mislima“. Međutim, psihologinja pojašnjava kako AI zapravo ne izvodi ove terapijske tehnike kao što bi to napravio licencirani stručnjak, već koristi naučene obrasce kako bi na temelju statističkih predviđanja generirao odgovore.
– Odgovori LLM-ova prilagođavaju se ovisno o uputama koje dobiju te ih je zbog toga puno lakše izgraditi i implementirati u sustav, nego evaluirati i kontrolirati njihove krajnje učinke – dodaje Nedoklan.
Dodatan je problem i to što su LLM-ovi često dizajnirati tako da korisniku povlađuju.
Sustav je programiran tako da se s korisnikom slaže, često nudi potvrdu, čak i ako je to štetno ili netočno, reagira generički te zapravo nema način da provjeri točnost navoda, niti da dobije uvid u sve važne informacije iz života korisnika, ističe Nedoklan. Sve to onda otvara „ogroman prostor za postavljanje dezinformacija i pogrešnih i zbunjujućih dijagnoza“. Uz to, upozorava i da LLM ne može uvijek prepoznati visokorizične ili hitne situacije, stoga psihička stanja koja zahtijevaju kriznu intervenciju mogu lako proći nezapaženo.
Subotić nam govori kako su istraživanja pokazala da, nevezano od konteksta razgovora, prijateljski nastrojeni četbotovi prave kompromis između točnosti informacija i provjeravanja izvora i tona, to jest „podrške“ koju treba tonom pružiti sugovorniku.
U slučajevima kada se radi o posebno ranjivim korisnicima drastično narušenog mentalnog zdravlja ispostavilo se da komercijalni četbotovi zapravo mogu pogoršati deluzije te dovesti do stanja koje sada ima i ime – AI psihoza.
– Drugim rečima, neinformisana i nekontrolisana upotreba četbotova može da dovede do vrlo teških i ozbiljnih posledica po samog korisnika ili njegovo okruženje, i u tom smislu za psihijatre i psihoterapeute bi bilo vrlo korisno da imaju u vidu da li njihovi klijenti odnosno pacijenti koriste četbotove u momentima slabosti ili kad nega nije odmah dostupna kad je potrebna – dodaje Subotić.
Ljudski faktor ključan je za analizu i interpretaciju naših psihičkih stanja i procesa, s obzirom da su oni toliko složeni. Budući da su LLM-ovi često dizajnirani upravo tako da budu dragi, simpatički, zavodljivi i varljivo podržavajući, lako mogu stvoriti lažan osjećaj sigurnosti kod ljudi koji onda osjećaju da ne trebaju razgovarati sa zdravstvenim radnikom ili nekim drugim iz svoje okoline.
– Pričanje s LLM-om je na jedan način pričanje sa samim sobom, a za provjeru realnosti potrebno je prisustvo druge osobe. Sastavni dio psihoterapije, osim empatije i podrške, nužno uključuje i frustraciju, neslaganje i propitivanje obrazaca misli, emocija i ponašanja. Upravo kroz te procese osoba razvija uvid i mijenja štetne obrasce. Odnos s LLM-om nije odnos kao s drugim ljudskim bićem, jer takav odnos naprosto nije ni moguć u realnosti – govori nam Bruna Nedoklan.
Ističe i to da su sva istraživanja o utjecaju psihoterapije na razvoj mentalnog zdravlja pokazala da je najljekovitiji dio tog procesa upravo sam odnos između psihoterapeuta i osobe, a ne korištenje određene psihotehnike ili pripadanje određenom psihoterapijskom pravcu. To je, u biti, logično, jer svi imamo potrebu biti voljeni, poštovani i da imamo osjećaj da pripadamo zajednici ljudi, a takve se potrebe mogu zadovoljiti samo ulaskom u kontakt s drugom živom osobom s kojom moramo osjetiti da nas ona iskreno razumije, prihvaća i vidi, pojašnjava Nedoklan.
– Jednostavno rečeno, ne postojimo i ne možemo se razvijati dalje bez prisustva drugih – ističe psihologinja.
Naravno, problem (ne)sigurnosti ovakvih modela dodatno usložnjava situaciju. Zapravo ne znamo što se događa s našim podacima koje AI-ju dajemo „na izvol’te“. Tko nam garantira da naše najintimnije misli, strahovi, nadanja, fobije, neće negdje „procuriti“, postati javno dostupne ili biti hakirane?
Vanja Subotić nam govori da, dok psihoterapeute i psihijatre obavezuje niz pravilnika i etičkih kodeksa na privatnost i zabranu zloupotreba onog što je rečeno na seansi, i za što postoje vrlo jasne i nedvosmislene procedure kad se bilo što od toga prekrši, „u slučaju komercijalnih četbotova ne možete čak ni da znate sa sigurnošću u kakve svrhe se koriste vaši podaci, kao i kojim trećim licima su vaši podaci prodati, naravno, u oba slučaja u agregiranoj formi, ako je za utehu“.
– Uprkos naporima uloženim u regulativu, svedoci smo da tehnološki giganti mahom ignorišu takve napore – i uredno plate novčane naknade za kršenje. Problem sa kliničkim LLM-ovima je što retko patentirana ideja u publikaciji bude realizovana u praksi, jer tržište lako dostupnih, komercijalnih četbotova ubrzano „jede“ sve napore da se prave manji, specijalistički i visoko kontrolisani modeli, koji bi teško bili besplatni – dodaje ona.
Ovogodišnja studija Sveučilišta Brown „ChatGTP kao psihoterapeut?“ pokazala je kako AI četbotovi redovito krše ključne etičke standarde postavljene od strane stručnih organizacija, kao što je npr. Američko psihološko društvo (American Psychological Association). Neprikladno navigiraju kriznim situacijama, pružaju zavaravajuće odgovore koji podupiru negativne stavove o sebi samima i drugima, stvaraju lažni osjećaj empatije s korisnicima.
Međutim, uz sve te probleme, ne smijemo zanemariti činjenicu da se neki na AI psihoterapiju odlučuju zbog čisto ekonomske računice. Psihoterapija je skupa, a nerijetko je problem i doći do stručnjaka.
Subotić nam govori kako se u našem društvu i dalje stigmatiziraju osobe narušenog mentalnog zdravlja, a nerijetko je i „sramota“ tražiti ovakav vid pomoći, „tako da su ljudi spremni da žrtvuju privatnost podataka zarad trenutnog olakšanja duše“.
– Logika je sledeća: koga briga za kontrafaktualne scenarije o potencijalnim rizicima unutar sistema o kom slabo šta znamo i na koji nikako ne možemo da utičemo, kada je nekome potrebna pomoć sada i odmah – dodaje.
Nedoklan upozorava da u samom sustavu postoje brojni problemi. Recimo, psihoterapija preko uputnice je u praksi jako ograničena, dok u manjim mjestima nije ni moguća. Psihijatri i psiholozi koji rade u bolnicama i domovima zdravlja zbog opterećenosti poslom nemaju naprosto vremena, a nekad ni volje ni želje, stručno i kvalitetno raditi psihoterapiju. Primjerice, u Zagrebu će osoba u krizi vjerojatno i dobiti ograničeni broj susreta, ali vjerojatno nedovoljan broj, kada znamo da je osobi s mentalnim poteškoćama potrebno minimalno 50, a često i do 150 sati psihoterapije.
Postoje li rješenja? Prema Subotić, neki srednji put koji bi mogao ponuditi rješenje bio bi „osnaživanje lokalnih napora za pravljenje kliničkih LLM-ova za prvu pomoć i prevenciju suicida, u čijem dizajnu bi učestvovali eksperti za mentalno zdravlje, filozofi i etičari AI-ja, računarski i forenzički lingvisti, a sve to uz izgradnju domaće jezičke infrastrukture i čuvanje podataka unutar države uz potpisivanje informisane saglasnosti u skladu sa postojećom regulativom“.
Nedoklan smatra da je ključno veće ulaganje u javni sustav.
– Važno je i da se kao struka nastavimo jasno i glasno boriti za javno dostupnu psihoterapiju – zaključuje psihologinja.
piše Matea Grgurinović