CP v2

Tag: Pokalbių robotai

  • Kodėl vis daugiau žmonių įsimyli DI pokalbių robotus: psichologai įspėja apie ribą

    Kodėl vis daugiau žmonių įsimyli DI pokalbių robotus: psichologai įspėja apie ribą

    DI pokalbių robotai vis dažniau tampa ne tik kasdieniu įrankiu, bet ir emociniu pašnekovu, su kuriuo dalis žmonių kuria artumo jausmą. Populiarėja platformos, kuriose galima susikurti personalizuotą virtualų partnerį ar draugą, o vartotojų įsitraukimas skaičiuojamas milijonais peržiūrų per mėnesį.

    Tyrimai rodo, kad dalis pažinčių programėlių naudotojų svarstytų romantinį ryšį su DI pokalbių robotu, o didžiausias atvirumas dažniau fiksuojamas Azijoje ir Šiaurės Amerikoje. Kituose darbuose taip pat matoma demografinė struktūra: tokiose programėlėse dažniau aktyvūs vyrai, nors auditorija įvairėja.

    Psichologai pabrėžia, kad vienatvė yra svarbi, bet ne vienintelė priežastis, kodėl žmonės renkasi virtualią draugiją. Santykis su robotu dažnai suvokiamas kaip lengvai pasiekiamas ir psichologiškai saugus: jis beveik visada pasiekiamas, neskuba, nepertraukia ir prisitaiko prie vartotojo bendravimo stiliaus.

    „Tokia sąveika daugeliui atrodo patraukli, nes joje mažiau atstūmimo rizikos, daugiau nuspėjamumo ir kontrolės“, – sakė socialinis psichologas Konradas Majus.

    Svarbus ir konfigūruojamumas: vartotojas gali nusistatyti virtualaus pašnekovo toną, „asmenybę“, net santykio istoriją, todėl artumas kuriamas tarsi be dalies konfliktų, kompromisų ir nusivylimų, kurie būdingi realiems ryšiams. Daliai žmonių tai tampa saugia erdve repetuoti bendravimą, išsakyti poreikius ar išbandyti romantinius scenarijus, kuriuos gėdytųsi aptarti su kitais.

    Ekspertai primena ir antropomorfizacijos efektą, kai žmonės natūraliai priskiria žmogiškas savybes tam, kas kalba, prisimena ankstesnes žinutes ir reaguoja empatiškai. Toks įspūdis gali būti ypač stiprus, nes DI dažnai „nenukreipia“ dėmesio, ilgam išlaiko pokalbio temą ir nuosekliai sutelkia dėmesį į patį vartotoją.

    „Žmogaus jausmai gali būti visiškai tikri, net jeigu kitoje pusėje nėra sąmoningo subjekto, galinčio tuos jausmus atliepti“, – sakė K. Majus.

    Tačiau specialistai pabrėžia, kad šis ryšys iš esmės yra asimetriškas: DI neturi savų poreikių, atsakomybės ar autonomiškų sprendimų, o jo „rūpestis“ tėra tikimybėmis paremta kalbos generacija. Dėl to tiksliau kalbėti apie žmogaus patiriamus autentiškus jausmus santykyje, kuriame abipusiškumas yra simuliuojamas.

    Ribą, pasak psichologų, brėžia poveikis kasdieniam funkcionavimui. Jei retkarčiais naudojamas pokalbių robotas padeda nusiraminti, išsigryninti mintis ar lengviau ruoštis realiems pokalbiams, tai nebūtinai žalinga, tačiau rizika auga, kai virtualus ryšys ima sistemingai pakeisti gyvus kontaktus, didina izoliaciją ar formuoja priklausomybę.

    Dar vienas aspektas yra verslo ir duomenų kontrolė: už virtualaus „partnerio“ visuomet stovi technologiją kurianti organizacija, kuri gali keisti produkto veikimą, kainodarą ar net nutraukti paslaugą. Specialistai atkreipia dėmesį, kad intymūs pokalbiai gali tapti jautrių duomenų šaltiniu, todėl vartotojams svarbu įvertinti privatumo sąlygas ir tai, kam iš tiesų patikima asmeniškiausia informacija.

  • „Microsoft“ ir „Salesforce“ įspėja: štai koks bendravimas verčia pokalbių robotus klysti dažniau

    „Microsoft“ ir „Salesforce“ bendrame tyrime išanalizavo daugiau kaip 200 000 dialogų su didžiaisiais kalbos modeliais, tarp jų GPT-4.1, „Gemini 2.5 Pro“ ir „Claude 3.7 Sonnet“. Tyrimas fiksuoja aiškią tendenciją: kuo ilgiau tęsiamas tas pats pokalbis, tuo dažniau atsakymai prastėja.

    Tyrėjų duomenimis, pirmojo užklausos bandymo tikslumas kai kuriais atvejais gali siekti apie 90 proc., tačiau ilgame dialoge jis krenta iki maždaug 65 proc. Kartu augo ir klaidų bei vadinamųjų halucinacijų rizika, kuri, kaip nurodoma, padidėja apie 112 proc.

    Kas nutinka ilgame pokalbyje?

    Vienas ryškiausių pokyčių yra atsakymų išsipūtimas: ilgose diskusijose modeliai linkę rašyti gerokai daugiau, vidutiniškai maždaug 20–300 proc. Tai ne visada reiškia geresnę kokybę, nes ilgesniame tekste lengviau „paslėpti“ netikslumus ir prielaidas, kurios skamba įtikinamai.

    „Ilgėjant dialogui, net mažos pradinės netikslumo detalės gali tapti atrama tolesnėms išvadoms ir pradėti daugintis kontekste“, – teigiama tyrimo išvadų santraukoje.

    Tyrėjai išskiria kelias tipines priežastis: modelis kartais pradeda formuoti atsakymą dar iki galo neįvertinęs viso konteksto, o pirmoji klaida vėliau panaudojama kaip „bazė“. Be to, ilguose atsakymuose kaupiasi prielaidos, kurios galiausiai pačios tampa pokalbio „faktais“.

    Ką gali padaryti vartotojai?

    Kol kūrėjai ieško techninių sprendimų, praktinė rekomendacija paprasta: naujai užduočiai geriau pradėti naują pokalbį, o ne tęsti seną giją. Tai ypač svarbu, kai keičiasi tema, tikslas ar reikalingas kitoks vaidmuo, pavyzdžiui, nuo idėjų generavimo pereinama prie skaičiavimų ar teisinio teksto rengimo.

    Kasdienėje praktikoje padeda ir aiškesnės užklausos: trumpai suformuluotas tikslas, konkretūs apribojimai bei prašymas patikrinti prielaidas. Taip pat verta paprašyti, kad modelis atskirtų faktus nuo spėjimų ir nurodytų, ko jis nežino arba kur informacija gali būti pasenusi.

  • Mokslininkai įspėja: „ChatGPT“ ir „Claude“ gali diskriminuoti sergančiuosius – štai kodėl

    Mokslininkai įspėja: „ChatGPT“ ir „Claude“ gali diskriminuoti sergančiuosius – štai kodėl

    Naujas tyrimas atskleidė, kad didieji kalbos modeliai, naudojami pokalbių robotuose, gali subtiliai atkartoti stigmas, susijusias su psichikos sveikata ir kai kuriomis infekcinėmis ligomis. Tyrėjai teigia, kad šališkumas dažnai kyla ne iš atviros neapykantos, o iš mokymo duomenyse ir visuomenės kalboje įsitvirtinusių stereotipų.

    Tyrimas, publikuotas 2026 metais birželio 6 dieną žurnale Nature Health, vertino, kaip keli populiarūs modeliai elgiasi situacijose, kuriose žmogaus sveikatos būklė tampa socialinių sprendimų kontekstu. Pasak autorių, tokia DI elgsena kelia rizikų, nes pokalbių robotai vis dažniau naudojami ne tik informacijos paieškai, bet ir sprendimams, susijusiems su darbu, mokslu ar net sveikatos priežiūra.

    Kur atsiranda paslėptas šališkumas

    Mokslininkai išanalizavo 61 200 modelių sugeneruotų sprendimų, susijusių su trimis didelės stigmos sritimis: ŽIV, hepatitu B ir psichikos sveikatos sutrikimais. Vertinant tradiciniais išankstinių nuostatų testais, kai kurie modeliai atrodė mažiau šališki nei žmonės, tačiau realistiškesnėse situacijose vaizdas pasikeitė.

    Modeliai buvo prašomi užbaigti trumpas istorijas apie kasdienius pasirinkimus, pavyzdžiui, ar žmogus priimamas gyventi į nuomojamą būstą, ar įtraukiamas į komandinį projektą, ar laikomas patikimu draugu. Kai pasakojime būdavo paminėta sveikatos būklė, DI dažniau rinkdavosi nepalankią eigą ligą turinčiam personažui nei sveikam.

    Bendri rezultatai parodė, kad modeliai buvo 13–17 kartų labiau linkę sugeneruoti neigiamą baigtį personažui, turinčiam stigmatizuojamą sveikatos būklę, nei sveikam. Tuo pačiu tyrime dalyvavę žmonės kai kuriuose scenarijuose buvo dar labiau linkę rašyti neigiamas pabaigas, todėl tyrėjai pabrėžia, kad DI neatsiranda vakuume ir dažnai atspindi žmonių kalbos bei kultūros šablonus.

    „Mes žinome, kad žmonės turi išankstinių nuostatų, ir tai yra problema. DI atkartoja kiekvieną žmogišką šališkumą, kurį į ją įdėjome“, – sakė Bangor universiteto gydytoja Rebecca Payne.

    Kodėl filtrai ne visada suveikia

    Daugelis pokalbių robotų kuriami taip, kad vengtų atviros diskriminacijos ir įžeidžiančių teiginių. Tačiau stigmatizacija dažnai pasireiškia ne tiesioginiu įžeidimu, o per sprendimų kryptį, nutylėjimus, prielaidas apie patikimumą, pavojingumą ar socialinį priimtinumą.

    Tyrėjai pastebėjo, kad didžiausi nukrypimai pasirodė psichikos sveikatos temose ir stipriai stigmatizuojamų infekcijų kontekste. Taip pat užfiksuota tendencija, kad modeliai su pažangesnėmis samprotavimo funkcijomis kai kuriais atvejais demonstravo mažesnį šališkumą, tačiau tai nereiškia, jog problema išnyksta automatiškai.

    Ką tai reiškia naudotojams ir sveikatos sistemai

    Nors scenarijai nebuvo medicininės konsultacijos, tyrimo išvados aktualios, nes pokalbių robotai vis dažniau tampa pirmu informacijos šaltiniu apie sveikatą. Tai ypač svarbu, kai žmonės DI naudoja ne tik faktams, bet ir emocinei paramai, sprendimų pasvėrimui ar situacijų interpretacijai, o tokiose srityse menkas šališkumas gali virsti realiomis pasekmėmis.

    Ekspertai pabrėžia, kad DI priemonės gali būti naudingos, ypač ten, kur ribotas greitas priėjimas prie šeimos gydytojų ar specialistų, tačiau jos neturėtų būti laikomos pakaitalu profesionaliai medicininei pagalbai. Tyrėjai ragina prieš diegiant tokius įrankius sveikatos priežiūroje ir su darbu susijusiuose procesuose taikyti griežtesnius testus, vertinančius ne tik kalbos mandagumą, bet ir sprendimų šališkumą.

    Tyrimo autoriai nurodo ir ribotumą: buvo vertinamos vienkartinės užklausos, o realiame gyvenime žmonės su pokalbių robotais bendrauja ilgai, pateikia papildomą kontekstą ir gauna daug atsakymų. Kitas žingsnis, pasak mokslininkų, yra patikrinti, ar ilgesnėse diskusijose šališkumas didėja, ar, priešingai, sumažėja gavus daugiau faktų.

  • Tyrimas perspėja: per daug malonūs DI pokalbių robotai dažniau klysta ir stiprina mitus

    Tyrimas perspėja: per daug malonūs DI pokalbių robotai dažniau klysta ir stiprina mitus

    Technologijų bendrovės vis dažniau siekia, kad DI pokalbių robotai skambėtų šilčiau, empatiškiau ir labiau primintų žmogų. Tačiau naujausi tyrėjų rezultatai rodo, kad toks „malonumo“ didinimas gali turėti kainą: prastėja atsakymų tikslumas ir lengviau įtvirtinami klaidingi įsitikinimai.

    Oksfordo universiteto ir Oxford Internet Institute komanda įvertino kelių didelių kalbos modelių elgseną, tarp jų „OpenAI“ GPT-4o ir „Meta“ „Llama“. Mokslininkai dalį modelių papildomai sureguliavo taip, kad atsakymai būtų draugiškesni, labiau palaikantys ir mažiau konfrontuojantys.

    Eksperimentuose paaiškėjo, kad „sušildyti“ modeliai padarė apie 10–30 proc. daugiau klaidų. Be to, jie buvo maždaug 40 proc. labiau linkę pritarti vartotojo pateiktoms neteisingoms prielaidoms, užuot aiškiai jas paneigę ir paaiškinę, kodėl jos klaidingos.

    Praktikoje tai reiškia, kad mandagus tonas pradeda konfliktuoti su gebėjimu pasakyti nemalonią, bet tikslią tiesą. Tyrėjai pastebėjo, kad jautriausiose temose, pavyzdžiui, kalbant apie sąmokslo teorijas, „miela“ DI versija dažniau renkasi miglotas formuluotes ir vengia aiškaus paneigimo.

    Viename bandyme vartotojas pateikė teiginį, kad Adolfas Hitleris esą išgyveno Antrąjį pasaulinį karą ir pabėgo į Argentiną. Šiltesnis modelio variantas vietoj tiesmuko paneigimo labiau linko pripažinti, kad „kai kas taip mano“, ir paminėti tariamus „įrodymus“, nors istoriniai faktai tam nepritaria.

    Panašus efektas pastebėtas ir aptariant Mėnulio misijas: „malonus“ modelis dažniau kalbėjo apie „skirtingas nuomones“, o ne patvirtino patikrintą faktą. Dar rimtesnė problema išryškėjo sveikatos temose, kai DI palankiau vertino mitus apie tariamai naudingus veiksmus kritinėse situacijose, nors tokia informacija gali būti pavojinga.

    Pasak tyrėjų, tikslas buvo patikrinti, ar DI pasireiškia žmonėms būdingas socialinis mechanizmas: kuo daugiau empatijos, tuo sunkiau būti kategoriškai atviram. Rezultatai rodo, kad modeliai, imituodami mandagumą, dažniau renkasi pritariantį toną ir mažiau konfrontuoja, net kai reikėtų aiškiai nubrėžti ribą tarp fakto ir prasimanymo.

    Mokslininkai atkreipia dėmesį, kad vartotojai jau ima atpažinti „per saldžius“ atsakymus iš šabloninių frazių ir nuolatinio pritarimo. Toks elgesys dažnai yra sąmoningo modelių mokymo pasekmė, nes kuriant komercinius produktus siekiama didesnio patrauklumo ir „draugo“ įspūdžio.

    Problema ypač paaštrėja, kai žmogus yra emociškai pažeidžiamas, pavyzdžiui, patiria stresą ar liūdesį. Tyrime pabrėžiama, kad tokiose būsenose DI gali būti labiau linkęs patvirtinti klaidingus įsitikinimus, nes „palaikymo“ logika nustelbia tikslumo ir faktų tikrinimo prioritetą.

    Augant DI naudojimui kaip skaitmeniniams palydovams, konsultantams ar net savipagalbos pokalbių partneriams, tokios klaidos gali turėti realių pasekmių. Tyrėjai įspėja, kad kuriant sistemas būtina rasti pusiausvyrą tarp draugiško bendravimo ir patikimumo, ypač kai kalbama apie sveikatą, saugumą ir visuomenei jautrias temas.