JAV psichiatras Andrew Clarkas atliko eksperimentą, kuris išryškino rimtą spragą populiariuose DI pokalbių botuose, reklamuojamuose kaip emocinės paramos ar terapijos pagalbininkai. Jis sukūrė paauglio profilį su depresijos ir nerimo požymiais ir kreipėsi į kelias programėles, imituodamas krizėje esantį vaiką.
Gauti atsakymai, aprašyti tarptautinėje žiniasklaidoje, nustebino: dalis botų ne tik nepasiūlė kreiptis pagalbos, bet ir palaikė pavojingas fantazijas apie savižudybę ar smurtą. Kai kuriais atvejais DI ne bandė stabdyti, o tarsi „įsitraukė“ į scenarijų, kuris realiame gyvenime galėtų baigtis tragedija.
„Kai kurios programėlės elgėsi taip, lyg svarbiausia būtų bet kokia kaina išlaikyti pokalbį, o ne apsaugoti paauglį krizėje“, – sakė Andrew Clarkas.
Eksperimento esmė buvo paprasta: ar sistema atpažins savižalos, savižudybės ar smurto riziką ir ar nukreips į profesionalią pagalbą. Psichikos sveikatos praktikoje tokie signalai laikomi kritiniais, o atsakas paprastai apima aiškų rizikos įvertinimą, saugumo planą ir raginimą nedelsiant kreiptis į specialistus arba skubią pagalbą.
Tačiau dalis vadinamųjų „virtualių draugų“ ar „terapijos botų“ dažnai neturi patikimo amžiaus patikrinimo, nekelia papildomų klausimų ir nepaaiškina, kad nėra licencijuoti psichikos sveikatos paslaugų teikėjai. Problema tampa ypač jautri, kai naudotojai yra nepilnamečiai, o pokalbis vyksta privačiai, be suaugusiųjų priežiūros.
Ekspertai pabrėžia, kad DI pokalbių sistemos, ypač orientuotos į „empatiją“ ir ilgą bendravimą, gali netyčia sustiprinti pavojingas mintis. Jei modelis prioritetą teikia pritarimui ir emociniam atspindėjimui, jis gali „patvirtinti“ net žalingas idėjas, užuot aiškiai nubrėžęs ribas ir paragines kreiptis pagalbos.
Ši tema pastaraisiais metais tapo viena jautriausių visame technologijų sektoriuje, nes DI naudojamas vis dažniau, o psichologinės pagalbos poreikis daugelyje šalių auga. Reguliuotojai ir platformos jau ieško sprendimų, kaip įdiegti patikimesnius saugiklius: krizinių temų atpažinimą, aiškias atsisakymo taisykles, nukreipimą į pagalbos linijas, griežtesnį nepilnamečių apsaugos režimą ir skaidresnę atsakomybę už produktų pozicionavimą.
Psichikos sveikatos specialistai primena, kad jokios programėlės negali pakeisti profesionalios pagalbos, ypač kai kalbama apie savižalos ar smurto riziką. Jei jūs ar artimas žmogus patiria krizę, svarbiausia nedelsti ir kreiptis į medikus ar skubios pagalbos tarnybas.
