Sve \u010de\u0161\u0107e mo\u017eemo \u010ditati o prili\u010dno uznemiruju\u0107im primjerima kori\u0161tenja ChatGPT-ja i drugih velikih jezi\u010dnih modela (large language model<\/em>, LLM), pogotovo u kontekstu psihoterapije. Tako je, primjerice, jedan 16-godi\u0161njak u Ujedinjenom Kraljevstvu po\u010dinio suicid nakon \u0161to je ChatGPT pitao za “najuspje\u0161niji” na\u010din da si osoba oduzme \u017eivot. U Sjedinjenim Ameri\u010dkim Dr\u017eavama roditelji 23-godi\u0161njaka Zanea Shamblina<\/strong> tu\u017ee tvorca istog \u010detbota. Tvrde kako je ChatGPT stavio \u017eivot njihova sina u opasnost jer nije implementirao dovoljno dobre sigurnosne protokole. \u010cetbot je mladi\u0107a navodno sustavno ohrabrivao dok je Shamblin s njim “razgovarao” o oduzimanju vlastitog \u017eivota.<\/p>\n Ovakvih slu\u010dajeva na\u017ealost \u0107e biti sve vi\u0161e. I dok broj ljudi koji koriste AI, pa i AI (psiho)terapiju raste, a ona prodire u na\u0161e \u017eivote, njena regulacija jo\u0161 nije na vidiku.<\/p>\n Bruna Nedoklan<\/strong> psihologinja je i apsolventica gestalt psihoterapije, a zaposlena je u Poliklinici Suvag u sklopu rane intervencije. Ona smatra kako kori\u0161tenje AI-ja u isto vrijeme mo\u017ee biti korisno i \u0161tetno, a zatim i krajnje opasno, pogotovo u kontekstu mentalnog zdravlja.<\/p>\n Kori\u0161tenje tehnologije, naravno, ovisi o tome tko je, kako i u koju svrhu koristi, isti\u010de Nedoklan, a nemogu\u0107e je negirati \u010dinjenicu da osobi “itekako mo\u017ee biti korisno da nakon par sekundi od poslanog upita dobije prijeko potreban podr\u017eavaju\u0107i i empati\u010dni odgovor, “psihoedukaciju” o psihi\u010dkim pote\u0161ko\u0107ama te strategije kako se nositi s te\u0161ko\u0107ama”. LLM je pritom stalno dostupan, besplatan ili jeftin te ne uklju\u010duje osje\u0107aj srama i nelagode koji \u010desto prati tra\u017eenje pomo\u0107i.<\/p>\n Dodatno, tehnolo\u0161ki giganti, informacijske kompanije, pa i zdravstveni sustav ula\u017eu sve vi\u0161e sredstava i napora kako bi odnos izme\u0111u osobe i AI “stru\u010dnjaka” u\u010dinili sve uvjerljivijim, dodaje Nedoklan.<\/p>\n Dr. Vanju Suboti\u0107<\/strong>, nau\u010dnu suradnica na Filozofskom fakultetu Univerziteta u Beogradu i filozofkinju umjetne inteligencije, upitali smo \u0161to je po njoj problemati\u010dno kada govorimo o kori\u0161tenju LLM-ova i AI-ja za psihoterapiju. Suboti\u0107 nam odgovara kako je osnovni problem \u0161to vrlo lako “padnemo” na jezi\u010dku fluentnost tih modela i tako “stvorimo paraemotivnu i parasocijalnu vezu sa ne\u010dim ne\u017eivim, nesvesnim, a obu\u010denim da statisti\u010dki tra\u017ei i “izbacuje” najuverljivije i naj\u010de\u0161\u0107e fraze u odnosu na va\u0161 upit”.<\/p>\n Opasnost le\u017ei u tome \u0161to korisnicima uop\u0107e nije zagarantirana privatnost njihovih podataka, ve\u0107 se razgovori u kojima sudjeluju koriste za dodatno obu\u010davanje takvih modela.<\/p>\n Nedoklan nam opisuje kako, recimo, korisnik LLM-u mo\u017ee dati sljede\u0107i upit: “Pona\u0161aj se kao kognitivno-bihevioralni terapeut kako bi mi pomogao nositi se s odre\u0111enim mislima”. Me\u0111utim, psihologinja poja\u0161njava kako AI zapravo ne izvodi ove terapijske tehnike kao \u0161to bi to napravio licencirani stru\u010dnjak, ve\u0107 koristi nau\u010dene obrasce kako bi na temelju statisti\u010dkih predvi\u0111anja generirao odgovore.<\/p>\n – Odgovori LLM-ova prilago\u0111avaju se ovisno o uputama koje dobiju te ih je zbog toga puno lak\u0161e izgraditi i implementirati u sustav, nego evaluirati i kontrolirati njihove krajnje u\u010dinke \u2013 dodaje Nedoklan.<\/p>\n Dodatan je problem i to \u0161to su LLM-ovi \u010desto dizajnirati tako da korisniku povla\u0111uju.<\/p>\n Sustav je programiran tako da se s korisnikom sla\u017ee, \u010desto nudi potvrdu, \u010dak i ako je to \u0161tetno ili neto\u010dno, reagira generi\u010dki te zapravo nema na\u010din da provjeri to\u010dnost navoda, niti da dobije uvid u sve va\u017ene informacije iz \u017eivota korisnika, isti\u010de Nedoklan. Sve to onda otvara “ogroman prostor za postavljanje dezinformacija i pogre\u0161nih i zbunjuju\u0107ih dijagnoza”. Uz to, upozorava i da LLM ne mo\u017ee uvijek prepoznati visokorizi\u010dne ili hitne situacije, stoga psihi\u010dka stanja koja zahtijevaju kriznu intervenciju mogu lako pro\u0107i nezapa\u017eeno.<\/p>\n Suboti\u0107 nam govori kako su istra\u017eivanja pokazala da, nevezano od konteksta razgovora, prijateljski nastrojeni \u010detbotovi prave kompromis izme\u0111u to\u010dnosti informacija i provjeravanja izvora i tona, to jest “podr\u0161ke” koju treba tonom pru\u017eiti sugovorniku.<\/p>\n U slu\u010dajevima kada se radi o posebno ranjivim korisnicima drasti\u010dno naru\u0161enog mentalnog zdravlja ispostavilo se da komercijalni \u010detbotovi zapravo mogu pogor\u0161ati deluzije te dovesti do stanja koje sada ima i ime \u2013 AI psihoza.<\/p>\n – Drugim re\u010dima, neinformisana i nekontrolisana upotreba \u010detbotova mo\u017ee da dovede do vrlo te\u0161kih i ozbiljnih posledica po samog korisnika ili njegovo okru\u017eenje, i u tom smislu za psihijatre i psihoterapeute bi bilo vrlo korisno da imaju u vidu da li njihovi klijenti odnosno pacijenti koriste \u010detbotove u momentima slabosti ili kad nega nije odmah dostupna kad je potrebna \u2013 dodaje Suboti\u0107.<\/p>\n Ljudski faktor klju\u010dan je za analizu i interpretaciju na\u0161ih psihi\u010dkih stanja i procesa, s obzirom da su oni toliko slo\u017eeni. Budu\u0107i da su LLM-ovi \u010desto dizajnirani upravo tako da budu dragi, simpati\u010dki, zavodljivi i varljivo podr\u017eavaju\u0107i, lako mogu stvoriti la\u017ean osje\u0107aj sigurnosti kod ljudi koji onda osje\u0107aju da ne trebaju razgovarati sa zdravstvenim radnikom ili nekim drugim iz svoje okoline.<\/p>\n – Pri\u010danje s LLM-om je na jedan na\u010din pri\u010danje sa samim sobom, a za provjeru realnosti potrebno je prisustvo druge osobe. Sastavni dio psihoterapije, osim empatije i podr\u0161ke, nu\u017eno uklju\u010duje i frustraciju, neslaganje i propitivanje obrazaca misli, emocija i pona\u0161anja. Upravo kroz te procese osoba razvija uvid i mijenja \u0161tetne obrasce. Odnos s LLM-om nije odnos kao s drugim ljudskim bi\u0107em, jer takav odnos naprosto nije ni mogu\u0107 u realnosti \u2013 govori nam Bruna Nedoklan.<\/p>\n Isti\u010de i to da su sva istra\u017eivanja o utjecaju psihoterapije na razvoj mentalnog zdravlja pokazala da je najljekovitiji dio tog procesa upravo sam odnos izme\u0111u psihoterapeuta i osobe, a ne kori\u0161tenje odre\u0111ene psihotehnike ili pripadanje odre\u0111enom psihoterapijskom pravcu. To je, u biti, logi\u010dno, jer svi imamo potrebu biti voljeni, po\u0161tovani i da imamo osje\u0107aj da pripadamo zajednici ljudi, a takve se potrebe mogu zadovoljiti samo ulaskom u kontakt s drugom \u017eivom osobom s kojom moramo osjetiti da nas ona iskreno razumije, prihva\u0107a i vidi, poja\u0161njava Nedoklan.<\/p>\n – Jednostavno re\u010deno, ne postojimo i ne mo\u017eemo se razvijati dalje bez prisustva drugih \u2013 isti\u010de psihologinja.<\/p>\n Naravno, problem (ne)sigurnosti ovakvih modela dodatno uslo\u017enjava situaciju. Zapravo ne znamo \u0161to se doga\u0111a s na\u0161im podacima koje AI-ju dajemo “na izvol\u2019te”. Tko nam garantira da na\u0161e najintimnije misli, strahovi, nadanja, fobije, ne\u0107e negdje “procuriti”, postati javno dostupne ili biti hakirane?<\/p>\n Vanja Suboti\u0107 nam govori da, dok psihoterapeute i psihijatre obavezuje niz pravilnika i eti\u010dkih kodeksa na privatnost i zabranu zloupotreba onog \u0161to je re\u010deno na seansi, i za \u0161to postoje vrlo jasne i nedvosmislene procedure kad se bilo \u0161to od toga prekr\u0161i, “u slu\u010daju komercijalnih \u010detbotova ne mo\u017eete \u010dak ni da znate sa sigurno\u0161\u0107u u kakve svrhe se koriste va\u0161i podaci, kao i kojim tre\u0107im licima su va\u0161i podaci prodati, naravno, u oba slu\u010daja u agregiranoj formi, ako je za utehu”.<\/p>\n – Uprkos naporima ulo\u017eenim u regulativu, svedoci smo da tehnolo\u0161ki giganti mahom ignori\u0161u takve napore – i uredno plate nov\u010dane naknade za kr\u0161enje. Problem sa klini\u010dkim LLM-ovima je \u0161to retko patentirana ideja u publikaciji bude realizovana u praksi, jer tr\u017ei\u0161te lako dostupnih, komercijalnih \u010detbotova ubrzano “jede” sve napore da se prave manji, specijalisti\u010dki i visoko kontrolisani modeli, koji bi te\u0161ko bili besplatni \u2013 dodaje ona.<\/p>\n Ovogodi\u0161nja studija Sveu\u010dili\u0161ta Brown “ChatGTP kao psihoterapeut?” pokazala je kako AI \u010detbotovi redovito kr\u0161e klju\u010dne eti\u010dke standarde postavljene od strane stru\u010dnih organizacija, kao \u0161to je npr. Ameri\u010dko psiholo\u0161ko dru\u0161tvo (American Psychological Association). Neprikladno navigiraju kriznim situacijama, pru\u017eaju zavaravaju\u0107e odgovore koji podupiru negativne stavove o sebi samima i drugima, stvaraju la\u017eni osje\u0107aj empatije s korisnicima.<\/p>\n Me\u0111utim, uz sve te probleme, ne smijemo zanemariti \u010dinjenicu da se neki na AI psihoterapiju odlu\u010duju zbog \u010disto ekonomske ra\u010dunice. Psihoterapija je skupa, a nerijetko je problem i do\u0107i do stru\u010dnjaka.<\/p>\n Suboti\u0107 nam govori kako se u na\u0161em dru\u0161tvu i dalje stigmatiziraju osobe naru\u0161enog mentalnog zdravlja, a nerijetko je i “sramota” tra\u017eiti ovakav vid pomo\u0107i, “tako da su ljudi spremni da \u017ertvuju privatnost podataka zarad trenutnog olak\u0161anja du\u0161e”.<\/p>\n – Logika je slede\u0107a: koga briga za kontrafaktualne scenarije o potencijalnim rizicima unutar sistema o kom slabo \u0161ta znamo i na koji nikako ne mo\u017eemo da uti\u010demo, kada je nekome potrebna pomo\u0107 sada i odmah \u2013 dodaje.<\/p>\n Nedoklan upozorava da u samom sustavu postoje brojni problemi. Recimo, psihoterapija preko uputnice je u praksi jako ograni\u010dena, dok u manjim mjestima nije ni mogu\u0107a. Psihijatri i psiholozi koji rade u bolnicama i domovima zdravlja zbog optere\u0107enosti poslom nemaju naprosto vremena, a nekad ni volje ni \u017eelje, stru\u010dno i kvalitetno raditi psihoterapiju. Primjerice, u Zagrebu \u0107e osoba u krizi vjerojatno i dobiti ograni\u010deni broj susreta, ali vjerojatno nedovoljan broj, kada znamo da je osobi s mentalnim pote\u0161ko\u0107ama potrebno minimalno 50, a \u010desto i do 150 sati psihoterapije.<\/p>\n Postoje li rje\u0161enja? Prema Suboti\u0107, neki srednji put koji bi mogao ponuditi rje\u0161enje bio bi “osna\u017eivanje lokalnih napora za pravljenje klini\u010dkih LLM-ova za prvu pomo\u0107 i prevenciju suicida, u \u010dijem dizajnu bi u\u010destvovali eksperti za mentalno zdravlje, filozofi i eti\u010dari AI-ja, ra\u010dunarski i forenzi\u010dki lingvisti, a sve to uz izgradnju doma\u0107e jezi\u010dke infrastrukture i \u010duvanje podataka unutar dr\u017eave uz potpisivanje informisane saglasnosti u skladu sa postoje\u0107om regulativom”.<\/p>\n Nedoklan smatra da je klju\u010dno ve\u0107e ulaganje u javni sustav.<\/p>\n – Va\u017eno je i da se kao struka nastavimo jasno i glasno boriti za javno dostupnu psihoterapiju \u2013 zaklju\u010duje psihologinja.<\/p>\n pi\u0161e Matea Grgurinovi\u0107<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Jedan 16-godi\u0161njak u Ujedinjenom Kraljevstvu po\u010dinio je suicid nakon \u0161to je pitao ChatGPT za “najuspje\u0161niji” na\u010din. Komercijalni \u010detbotovi zapravo mogu pogor\u0161ati deluzije te dovesti do stanja koje sada ima i ime \u2013 AI psihoza. Va\u017eno je da se borimo za javno dostupnu psihoterapiju, poru\u010duje psihologinja Bruna Nedoklan<\/p>\n","protected":false},"featured_media":8814,"template":"","tags":[130],"atribut":[],"class_list":["post-8815","nada","type-nada","status-publish","has-post-thumbnail","hentry","tag-tema"],"acf":[],"yoast_head":"\n![\"\"](\"https:\/\/sdf.hr\/wp-content\/uploads\/2026\/05\/Ljudski-kontakt_Elmar-Gubisch-IMAGO-scaled.jpg\")