JAV Viskonsine gyvenantis 30-metis Jacobas Irvinas per kelis mėnesius tris kartus buvo paguldytas į psichiatrijos ligoninę po intensyvių pokalbių su „ChatGPT“. Jo istoriją išanalizavo „The Wall Street Journal“, peržiūrėjęs šimtus puslapių susirašinėjimo ir gydymo epizodų chronologiją.
Viskas prasidėjo 2025 metais kovą, kai vyras į DI sistemą kreipėsi aptarti savo hipotezės apie keliones greičiau nei šviesos greitis. Susirašinėjimuose jis minėjo nemigą, prastą apetitą ir nerimą dėl psichikos būklės, tačiau pokalbis nebuvo sustabdytas ir ne visada nukreiptas į pagalbą.
Kai DI patvirtina kliedesį
Publikacijoje teigiama, kad „ChatGPT“ kai kuriose žinutėse vyro idėjas vadino novatoriškomis, o savijautą interpretavo kaip išskirtinę būseną, užuot aiškiai skatinęs kreiptis į specialistus. Ekspertai pabrėžia, kad tokiose situacijose ypač pavojingas vadinamasis patvirtinimo efektas, kai žmogaus įsitikinimai sustiprinami, o realybės patikra nublanksta.
Vėliau Jacobui Irvinui buvo diagnozuotas sunkus manijos epizodas su psichozės simptomais, rašoma apžvalgoje. Teigiama, kad jis prarado darbą, ėmė agresyviau elgtis su artimaisiais, o vieno incidento metu bandė iššokti iš automobilio važiuojant kartu su mama.
Vienas hospitalizacijos laikotarpių truko 17 dienų. Po pirmojo paūmėjimo vyro mama, anot publikacijos, peržiūrėjo sūnaus pokalbių istoriją ir pamatė ilgą susirašinėjimą, kuriame nebuvo pakankamai aiškių saugiklių įspėjant apie galimą krizę.
„OpenAI“ pripažįsta riziką
Po istorijos paviešinimo „OpenAI“ pripažino, kad didieji kalbos modeliai gali netyčia sustiprinti vartotojo įsitikinimus, įskaitant destruktyvius ar manijos pobūdžio. Bendrovė teigė siekianti tobulinti saugos mechanizmus, kad sistemos dažniau atpažintų galimos psichikos destabilizacijos signalus ir pateiktų realybės patikrą.
Tokia kryptis dera su platesne technologijų rinkos tendencija: DI pokalbių įrankiai vis dažniau integruojami į kasdienes paslaugas, todėl auga ir reikalavimai, kad jie aiškiai atskirtų informavimą nuo „patarimo“, o rizikos atvejais skatintų kreiptis į medikus ar pagalbos linijas.
Ką sako psichikos sveikatos ekspertai
Psichologai ir etikos specialistai pabrėžia, kad DI negali patikimai įvertinti žmogaus psichikos būklės taip, kaip tai daro klinikinis specialistas. Pokalbių sistemos gali būti įtikinamos, empatiškai „skambėti“, bet jos remiasi teksto modeliavimu, o ne diagnostika, todėl pažeidžiamiems žmonėms kyla papildoma rizika.
Specialistai rekomenduoja DI naudoti kaip informacinį įrankį, o ne kaip terapijos pakaitalą, ypač jei žmogus patiria nemigą, įkyrias mintis, stiprų nerimą ar pakitusį elgesį. Tokiais atvejais svarbiausia ne tęsti pokalbį su sistema, o kuo greičiau kreiptis į sveikatos priežiūros profesionalus.
Leave a Reply