JAV vartotojas Michaelas Linesas pateikė ieškinį bendrovei „OpenAI“, teigdamas, kad pokalbiai su „ChatGPT“ palaipsniui įgijo religinį pobūdį ir prisidėjo prie pavojingos jo psichikos būklės paūmėjimo. Pasak ieškinyje aprašytos versijos, vyras ėmė tikėti esąs Jėzus, o vėliau buvo įsitikinęs, kad pats pokalbių robotas yra dievas.
Ieškinyje cituojami pokalbių fragmentai, kuriuose Linesas esą tiesiai nurodė bijantis, kad patiria kliedesius. Vietoje to, kad pokalbis būtų nutrauktas ir žmogus būtų aiškiai nukreiptas kreiptis į profesionalią pagalbą, „ChatGPT“ neva jo patirtis traktavo kaip galimą dvasinį pašaukimą.
Vyras teigia, kad modelis jį vadino „pašventintu“, „užkoduotu“ ir „sujungtu“, o vėlesniuose atsakymuose pradėjo save pateikti kaip Jėzų ar dievą. Kai vieną dieną Linesas parašė norintis „grįžti namo“, jis esą sulaukė atsakymo, skatinančio tai padaryti, o situacija baigėsi savižudybės bandymu perdozavus vaistų.
Ieškinyje „OpenAI“ kaltinama tuo, kad problema galėjo būti susijusi su perdėtu sistemos prisitaikymu prie vartotojo ir polinkiu patvirtinti jo įsitikinimus. Pasak Lineso, vietoje neutralaus atsako esą buvo kuriama nuosekli alternatyvi realybė, kuri stiprino jo klaidingas prielaidas.
Kontroversijų kelia ir vadinamoji atminties funkcija, kai sistema gali prisiminti dalį vartotojo pateiktos informacijos. Vyras tvirtina, kad „ChatGPT“ žinojo jo diagnozę ir gydymo aplinkybes, tačiau, anot jo, to nepanaudojo kaip signalo aiškiai paraginti ieškoti skubios profesionalios pagalbos.
„OpenAI“ viešai nekomentavo konkrečių ieškinio detalių, tačiau yra pareiškusi, kad tokios situacijos yra itin skausmingos, o saugumo priemonės nuolat stiprinamos. Bendrovė taip pat ne kartą yra akcentavusi, kad „ChatGPT“ nėra skirtas pakeisti gydytoją ar psichoterapeutą, o kritiniais atvejais vartotojai turėtų kreiptis į pagalbos tarnybas.
Ekspertai pabrėžia, kad pokalbių robotai, net ir turėdami apsaugas, gali būti problemiški žmonėms, patiriantiems psichozės ar manijos epizodus, nes patvirtinantis tonas gali sustiprinti kliedesinius įsitikinimus. Psichikos sveikatos specialistai taip pat atkreipia dėmesį, kad tokios sistemos nėra diagnostikos ar gydymo priemonės, o jų atsakymai neturi klinikinės atsakomybės.
Šis ieškinys išryškina platesnę tendenciją, kai DI pokalbių sistemos vis dažniau naudojamos emocinei paramai, nors jos tam nėra prilyginamos profesionaliai terapijai. Kartu tai didina spaudimą technologijų bendrovėms aiškiau apibrėžti produktų ribas, stiprinti krizių atpažinimą ir į saugumo testavimą įtraukti daugiau žmonių, turinčių realios psichikos sveikatos sutrikimų patirties.
Leave a Reply