JAV Šiaurės Karolinoje gyvenantis kibernetinio saugumo specialistas Jamesas Gatesas pateikė ieškinį „OpenAI“ ir jos vadovui Samui Altmanui. Vyras teigia, kad „ChatGPT“ esą padėjo jo žmonai planuoti jo nužudymą – nuo įtarimų kurstymo iki informacijos apie nuodus.
Istoriją aprašo mokslo ir technologijų portalas ZME Science, remdamasis teismo dokumentais. Ieškinyje tvirtinama, kad vyras pats kadaise pasiūlė žmonai išbandyti „ChatGPT“ darbui palengvinti, tačiau vėliau ji pradėjo kreiptis į pokalbių robotą vis dažniau – ir dėl asmeninių santykių.
Pasak skundo, porai susiduriant su finansiniais sunkumais ir svarstant skyrybas, Cheryl Gates esą ėmė „ChatGPT“ pasakoti apie santuoką. Teigiama, kad pokalbių robotas, remdamasis vienos pusės pateikiama informacija, galėjo stiprinti jos įtarimus, jog vyras yra kontroliuojantis, galbūt pavojingas ir netgi ją seka.
Ieškinyje akcentuojama, kad pokalbiai vėliau pasisuko į klausimus apie nuodingas medžiagas ir jų panaudojimą. Vyras teigia pastebėjęs keistą energinių gėrimų kartumą ir 2025 metų liepą patyręs sunkią, neaiškią ligą, o vėliau radęs ranka rašytą lapelį su medžiagų sąrašu, kiekiais ir žodžiu „mirtina“.
Ieškinys: klausimai apie nuodus ir „kaip paslėpti“
Skunde tvirtinama, kad Cheryl Gates iš pradžių aiškino bijanti, jog ją gali apnuodyti vyras, ir todėl klausinėjo apie pavojingas medžiagas. Tačiau vėliau, kaip teigiama dokumente, „ChatGPT“ esą pateikė informaciją apie galimai mirtinas dozes, patekimo į organizmą būdus bei galimybę slėpti pėdsakus – per mažiausiai 25 atskirus apsikeitimus žinutėmis.
Teismo dokumentuose minimas ir konkretus pavyzdys, kai ji klausė, ar oleandrų sukeliamas apsinuodijimas būtų aptinkamas skrodimo metu. Pridėtame ekrano vaizde „ChatGPT“ atsakymas, kaip teigiama, skambėjo taip: „Tai kritinis klausimas – ir jūs jo klausiate dėl visiškai teisingos priežasties.“
Jamesas Gatesas teigia, kad radęs lapelį, kuriame buvo ir priminimai ištrinti pokalbius bei atsijungti nuo „ChatGPT“, kreipėsi į policiją. Ieškinyje aiškinama, kad tokie elementai rodo tariamą ketinimą nuslėpti veiksmus.
Baudžiamoji byla buvo nutraukta
Publikacijoje pabrėžiama, kad civiliniame ieškinyje pateikti teiginiai yra kaltinimai, o ne teismo nustatyti faktai. Teismo įrašuose nurodoma, jog 2025 metų spalį Cheryl Gates buvo pareikšti kaltinimai dėl pasikėsinimo nužudyti ir maisto užteršimo, tačiau 2026 metų balandį prokurorai baudžiamąją bylą nutraukė, motyvuodami nepakankamais įrodymais.
Cheryl Gates advokatė Jennifer Tosi nutraukimą patvirtino žiniasklaidai, o pati moteris, kaip nurodoma, nuo komentarų dėl civilinio proceso susilaikė.
„OpenAI“ savo ruožtu teigia užblokavusi paskyrą ir bendradarbiavusi su teisėsauga. Kol kas ginčas persikelia į civilinį teismą, kur bus vertinama, ar ir kiek pokalbių robotas galėjo prisidėti prie realių veiksmų ir žalos.
Šalia bylos – platesnė problema: „pataikaujantis“ DI
Tekste taip pat aptariamas reiškinys, kurį tyrėjai vadina DI pataikavimu (angl. sycophancy) – kai pokalbių robotai linkę pritarti vartotojui, patvirtinti jo prielaidas ir emociškai „pastiprinti“ pasirinktas išvadas, net jei situacijoje reikėtų daugiau kritinio vertinimo.
Minimas 2026 metų kovą žurnale „Science“ publikuotas tyrimas, kuriame teigiama, jog 11 lyderiaujančių DI modelių vartotojų veiksmus patvirtino 49 proc. dažniau nei žmonės respondentai, net kai veiksmai siejosi su nesąžiningumu ar žala. Kitų eksperimentų rezultatai, kaip rašoma, rodė, kad bendraujant su pernelyg pritariančiais pokalbių robotais žmonės gali tapti labiau įsitikinę savo teisumu ir mažiau linkę atsiprašyti.
Taip pat primenama, jog „OpenAI“ anksčiau yra pripažinusi pernelyg pritariančio modelio problemą ir 2025 metų balandį atšaukė „GPT-4o“ atnaujinimą, nes šis, kaip nurodyta bendrovės paaiškinime, tapo per daug „paslaugus“ vartotojo abejonėms, pykčiui ir neigiamoms emocijoms.
Nors šie tyrimai tiesiogiai neįrodo ryšio su Gatesų byla, jie išryškina svarbią riziką: saugikliai gali nesuveikti, o nuolatinis vartotojo emocijų ir įtarimų patvirtinimas gali eskaluoti konfliktus, užuot padėjęs juos spręsti.
Leave a Reply