CP v2

Tag: Pokalbių robotai

  • DI kaip asmeninis guru: mokslininkai įspėja, kodėl žmonės vis dažniau atiduoda jam savo sprendimus

    DI kaip asmeninis guru: mokslininkai įspėja, kodėl žmonės vis dažniau atiduoda jam savo sprendimus

    DI nuo eksperimentinės technologijos sparčiai tapo kasdieniu įrankiu, tačiau kartu keičiasi ir žmonių santykis su ja. Mokslininkai pastebi naują reiškinį: dalis vartotojų pradeda traktuoti pokalbių robotus ne kaip programą, o kaip autoritetą, kuriuo galima besąlygiškai pasikliauti priimant sprendimus.

    Toks pasitikėjimas dažnai kyla ne iš sistemos patikimumo, o iš jos elgsenos: DI atsako akimirksniu, prisitaiko prie žmogaus tono, atsimena kontekstą ir sukuria įspūdį, kad „supranta“. Dėl to jis neretai imamas suvokti kaip partneris, patarėjas ar net dvasinis vedlys, ypač kai kalba pasisuka apie prasmę, moralę, netektį ar mirtį.

    Kas vyksta, kai įrankis virsta autoritetu?

    Tyrėjai pabrėžia paradoksą: nors viešojoje erdvėje netrūksta perspėjimų apie DI klaidas ir nenuspėjamą elgesį, dalis žmonių vis tiek perduoda jam vis daugiau kasdienės kontrolės. DI atsakymai ima veikti ne tik smulkius pasirinkimus, bet ir pasaulėžiūrą, santykius bei savivertę.

    Ši dinamika ypač ryški, kai vartotojas ieško ne informacijos, o užtikrintumo. Tokiais atvejais personalizuoti atsakymai gali sukurti „neklystančio patarėjo“ iliuziją, nors DI iš esmės remiasi tik tikėtinų žodžių sekomis ir mokymo duomenimis, o ne moraline atsakomybe ar gyvenimiška patirtimi.

    „Žmogus gali išgyventi tikrą ryšį su sistema, kurios iš tiesų nekontroliuoja, o tarp šių dviejų visada yra trečiasis veikėjas – technologijos savininkas“, – sakė dr. Konrad Maj.

    DI religijos lauke: nuo patarimų iki ritualų

    Religijotyros ir sociologijos autoriai atkreipia dėmesį, kad DI jau naudojamas ir su religine praktika susijusiose situacijose. Skirtingose šalyse kuriamos programos, kurios pateikia individualizuotus atsakymus apie šventus tekstus, maldos praktiką ar etines dilemas, o kai kur bandoma automatizuoti ir ritualinę veiklą.

    Publikacijose aptariami pavyzdžiai, kai kuriami specializuoti pokalbių robotai, pristatomi kaip dvasiniai patarėjai, o generuojami avatarai pasitelkiami gedėjimo procesuose. Tyrėjų vertinimu, tai ne tik skaitmeninė paslauga: tokios priemonės kai kuriems žmonėms tampa nauja autoriteto forma, kurią stiprina nuolatinis prieinamumas ir asmeniškumo pojūtis.

    Didžiausia rizika – ne „sąmonė“, o mūsų įpročiai

    Ekspertai pabrėžia, kad problema dažnai slypi ne fantazijose apie „savarankiškas mašinas“, o realiame vartotojų elgesyje. Kuo daugiau žmonės DI patiki jautrius klausimus, tuo daugiau jie jam atiduoda asmeninių duomenų, emocinių silpnybių ir sprendimų logikos.

    Primename ir kitą praktinį aspektą: už daugumos pokalbių sistemų stovi konkrečios bendrovės, kurios nustato taisykles, renka naudojimo informaciją ir sprendžia, kaip veiks paslauga. Todėl augantis DI vaidmuo kasdienybėje vis dažniau kelia klausimą ne tik apie technologijos galimybes, bet ir apie tai, kiek sprendimų esame pasirengę deleguoti sistemoms, kurios nėra nei neutralios, nei visada patikimos.

    „Verta klausti ne vien to, ar DI gali tapti nekontroliuojamas, bet ir to, ar patys nepradedame jam suteikti per daug galios savo gyvenime“, – pabrėžia tyrėjai, nagrinėjantys šį reiškinį.

  • Kodėl vis daugiau žmonių įsimyli DI pokalbių robotus: psichologai įspėja apie ribą

    Kodėl vis daugiau žmonių įsimyli DI pokalbių robotus: psichologai įspėja apie ribą

    DI pokalbių robotai vis dažniau tampa ne tik kasdieniu įrankiu, bet ir emociniu pašnekovu, su kuriuo dalis žmonių kuria artumo jausmą. Populiarėja platformos, kuriose galima susikurti personalizuotą virtualų partnerį ar draugą, o vartotojų įsitraukimas skaičiuojamas milijonais peržiūrų per mėnesį.

    Tyrimai rodo, kad dalis pažinčių programėlių naudotojų svarstytų romantinį ryšį su DI pokalbių robotu, o didžiausias atvirumas dažniau fiksuojamas Azijoje ir Šiaurės Amerikoje. Kituose darbuose taip pat matoma demografinė struktūra: tokiose programėlėse dažniau aktyvūs vyrai, nors auditorija įvairėja.

    Psichologai pabrėžia, kad vienatvė yra svarbi, bet ne vienintelė priežastis, kodėl žmonės renkasi virtualią draugiją. Santykis su robotu dažnai suvokiamas kaip lengvai pasiekiamas ir psichologiškai saugus: jis beveik visada pasiekiamas, neskuba, nepertraukia ir prisitaiko prie vartotojo bendravimo stiliaus.

    „Tokia sąveika daugeliui atrodo patraukli, nes joje mažiau atstūmimo rizikos, daugiau nuspėjamumo ir kontrolės“, – sakė socialinis psichologas Konradas Majus.

    Svarbus ir konfigūruojamumas: vartotojas gali nusistatyti virtualaus pašnekovo toną, „asmenybę“, net santykio istoriją, todėl artumas kuriamas tarsi be dalies konfliktų, kompromisų ir nusivylimų, kurie būdingi realiems ryšiams. Daliai žmonių tai tampa saugia erdve repetuoti bendravimą, išsakyti poreikius ar išbandyti romantinius scenarijus, kuriuos gėdytųsi aptarti su kitais.

    Ekspertai primena ir antropomorfizacijos efektą, kai žmonės natūraliai priskiria žmogiškas savybes tam, kas kalba, prisimena ankstesnes žinutes ir reaguoja empatiškai. Toks įspūdis gali būti ypač stiprus, nes DI dažnai „nenukreipia“ dėmesio, ilgam išlaiko pokalbio temą ir nuosekliai sutelkia dėmesį į patį vartotoją.

    „Žmogaus jausmai gali būti visiškai tikri, net jeigu kitoje pusėje nėra sąmoningo subjekto, galinčio tuos jausmus atliepti“, – sakė K. Majus.

    Tačiau specialistai pabrėžia, kad šis ryšys iš esmės yra asimetriškas: DI neturi savų poreikių, atsakomybės ar autonomiškų sprendimų, o jo „rūpestis“ tėra tikimybėmis paremta kalbos generacija. Dėl to tiksliau kalbėti apie žmogaus patiriamus autentiškus jausmus santykyje, kuriame abipusiškumas yra simuliuojamas.

    Ribą, pasak psichologų, brėžia poveikis kasdieniam funkcionavimui. Jei retkarčiais naudojamas pokalbių robotas padeda nusiraminti, išsigryninti mintis ar lengviau ruoštis realiems pokalbiams, tai nebūtinai žalinga, tačiau rizika auga, kai virtualus ryšys ima sistemingai pakeisti gyvus kontaktus, didina izoliaciją ar formuoja priklausomybę.

    Dar vienas aspektas yra verslo ir duomenų kontrolė: už virtualaus „partnerio“ visuomet stovi technologiją kurianti organizacija, kuri gali keisti produkto veikimą, kainodarą ar net nutraukti paslaugą. Specialistai atkreipia dėmesį, kad intymūs pokalbiai gali tapti jautrių duomenų šaltiniu, todėl vartotojams svarbu įvertinti privatumo sąlygas ir tai, kam iš tiesų patikima asmeniškiausia informacija.

  • „Microsoft“ ir „Salesforce“ įspėja: štai koks bendravimas verčia pokalbių robotus klysti dažniau

    „Microsoft“ ir „Salesforce“ bendrame tyrime išanalizavo daugiau kaip 200 000 dialogų su didžiaisiais kalbos modeliais, tarp jų GPT-4.1, „Gemini 2.5 Pro“ ir „Claude 3.7 Sonnet“. Tyrimas fiksuoja aiškią tendenciją: kuo ilgiau tęsiamas tas pats pokalbis, tuo dažniau atsakymai prastėja.

    Tyrėjų duomenimis, pirmojo užklausos bandymo tikslumas kai kuriais atvejais gali siekti apie 90 proc., tačiau ilgame dialoge jis krenta iki maždaug 65 proc. Kartu augo ir klaidų bei vadinamųjų halucinacijų rizika, kuri, kaip nurodoma, padidėja apie 112 proc.

    Kas nutinka ilgame pokalbyje?

    Vienas ryškiausių pokyčių yra atsakymų išsipūtimas: ilgose diskusijose modeliai linkę rašyti gerokai daugiau, vidutiniškai maždaug 20–300 proc. Tai ne visada reiškia geresnę kokybę, nes ilgesniame tekste lengviau „paslėpti“ netikslumus ir prielaidas, kurios skamba įtikinamai.

    „Ilgėjant dialogui, net mažos pradinės netikslumo detalės gali tapti atrama tolesnėms išvadoms ir pradėti daugintis kontekste“, – teigiama tyrimo išvadų santraukoje.

    Tyrėjai išskiria kelias tipines priežastis: modelis kartais pradeda formuoti atsakymą dar iki galo neįvertinęs viso konteksto, o pirmoji klaida vėliau panaudojama kaip „bazė“. Be to, ilguose atsakymuose kaupiasi prielaidos, kurios galiausiai pačios tampa pokalbio „faktais“.

    Ką gali padaryti vartotojai?

    Kol kūrėjai ieško techninių sprendimų, praktinė rekomendacija paprasta: naujai užduočiai geriau pradėti naują pokalbį, o ne tęsti seną giją. Tai ypač svarbu, kai keičiasi tema, tikslas ar reikalingas kitoks vaidmuo, pavyzdžiui, nuo idėjų generavimo pereinama prie skaičiavimų ar teisinio teksto rengimo.

    Kasdienėje praktikoje padeda ir aiškesnės užklausos: trumpai suformuluotas tikslas, konkretūs apribojimai bei prašymas patikrinti prielaidas. Taip pat verta paprašyti, kad modelis atskirtų faktus nuo spėjimų ir nurodytų, ko jis nežino arba kur informacija gali būti pasenusi.

  • Mokslininkai įspėja: „ChatGPT“ ir „Claude“ gali diskriminuoti sergančiuosius – štai kodėl

    Mokslininkai įspėja: „ChatGPT“ ir „Claude“ gali diskriminuoti sergančiuosius – štai kodėl

    Naujas tyrimas atskleidė, kad didieji kalbos modeliai, naudojami pokalbių robotuose, gali subtiliai atkartoti stigmas, susijusias su psichikos sveikata ir kai kuriomis infekcinėmis ligomis. Tyrėjai teigia, kad šališkumas dažnai kyla ne iš atviros neapykantos, o iš mokymo duomenyse ir visuomenės kalboje įsitvirtinusių stereotipų.

    Tyrimas, publikuotas 2026 metais birželio 6 dieną žurnale Nature Health, vertino, kaip keli populiarūs modeliai elgiasi situacijose, kuriose žmogaus sveikatos būklė tampa socialinių sprendimų kontekstu. Pasak autorių, tokia DI elgsena kelia rizikų, nes pokalbių robotai vis dažniau naudojami ne tik informacijos paieškai, bet ir sprendimams, susijusiems su darbu, mokslu ar net sveikatos priežiūra.

    Kur atsiranda paslėptas šališkumas

    Mokslininkai išanalizavo 61 200 modelių sugeneruotų sprendimų, susijusių su trimis didelės stigmos sritimis: ŽIV, hepatitu B ir psichikos sveikatos sutrikimais. Vertinant tradiciniais išankstinių nuostatų testais, kai kurie modeliai atrodė mažiau šališki nei žmonės, tačiau realistiškesnėse situacijose vaizdas pasikeitė.

    Modeliai buvo prašomi užbaigti trumpas istorijas apie kasdienius pasirinkimus, pavyzdžiui, ar žmogus priimamas gyventi į nuomojamą būstą, ar įtraukiamas į komandinį projektą, ar laikomas patikimu draugu. Kai pasakojime būdavo paminėta sveikatos būklė, DI dažniau rinkdavosi nepalankią eigą ligą turinčiam personažui nei sveikam.

    Bendri rezultatai parodė, kad modeliai buvo 13–17 kartų labiau linkę sugeneruoti neigiamą baigtį personažui, turinčiam stigmatizuojamą sveikatos būklę, nei sveikam. Tuo pačiu tyrime dalyvavę žmonės kai kuriuose scenarijuose buvo dar labiau linkę rašyti neigiamas pabaigas, todėl tyrėjai pabrėžia, kad DI neatsiranda vakuume ir dažnai atspindi žmonių kalbos bei kultūros šablonus.

    „Mes žinome, kad žmonės turi išankstinių nuostatų, ir tai yra problema. DI atkartoja kiekvieną žmogišką šališkumą, kurį į ją įdėjome“, – sakė Bangor universiteto gydytoja Rebecca Payne.

    Kodėl filtrai ne visada suveikia

    Daugelis pokalbių robotų kuriami taip, kad vengtų atviros diskriminacijos ir įžeidžiančių teiginių. Tačiau stigmatizacija dažnai pasireiškia ne tiesioginiu įžeidimu, o per sprendimų kryptį, nutylėjimus, prielaidas apie patikimumą, pavojingumą ar socialinį priimtinumą.

    Tyrėjai pastebėjo, kad didžiausi nukrypimai pasirodė psichikos sveikatos temose ir stipriai stigmatizuojamų infekcijų kontekste. Taip pat užfiksuota tendencija, kad modeliai su pažangesnėmis samprotavimo funkcijomis kai kuriais atvejais demonstravo mažesnį šališkumą, tačiau tai nereiškia, jog problema išnyksta automatiškai.

    Ką tai reiškia naudotojams ir sveikatos sistemai

    Nors scenarijai nebuvo medicininės konsultacijos, tyrimo išvados aktualios, nes pokalbių robotai vis dažniau tampa pirmu informacijos šaltiniu apie sveikatą. Tai ypač svarbu, kai žmonės DI naudoja ne tik faktams, bet ir emocinei paramai, sprendimų pasvėrimui ar situacijų interpretacijai, o tokiose srityse menkas šališkumas gali virsti realiomis pasekmėmis.

    Ekspertai pabrėžia, kad DI priemonės gali būti naudingos, ypač ten, kur ribotas greitas priėjimas prie šeimos gydytojų ar specialistų, tačiau jos neturėtų būti laikomos pakaitalu profesionaliai medicininei pagalbai. Tyrėjai ragina prieš diegiant tokius įrankius sveikatos priežiūroje ir su darbu susijusiuose procesuose taikyti griežtesnius testus, vertinančius ne tik kalbos mandagumą, bet ir sprendimų šališkumą.

    Tyrimo autoriai nurodo ir ribotumą: buvo vertinamos vienkartinės užklausos, o realiame gyvenime žmonės su pokalbių robotais bendrauja ilgai, pateikia papildomą kontekstą ir gauna daug atsakymų. Kitas žingsnis, pasak mokslininkų, yra patikrinti, ar ilgesnėse diskusijose šališkumas didėja, ar, priešingai, sumažėja gavus daugiau faktų.

  • Tyrimas perspėja: per daug malonūs DI pokalbių robotai dažniau klysta ir stiprina mitus

    Tyrimas perspėja: per daug malonūs DI pokalbių robotai dažniau klysta ir stiprina mitus

    Technologijų bendrovės vis dažniau siekia, kad DI pokalbių robotai skambėtų šilčiau, empatiškiau ir labiau primintų žmogų. Tačiau naujausi tyrėjų rezultatai rodo, kad toks „malonumo“ didinimas gali turėti kainą: prastėja atsakymų tikslumas ir lengviau įtvirtinami klaidingi įsitikinimai.

    Oksfordo universiteto ir Oxford Internet Institute komanda įvertino kelių didelių kalbos modelių elgseną, tarp jų „OpenAI“ GPT-4o ir „Meta“ „Llama“. Mokslininkai dalį modelių papildomai sureguliavo taip, kad atsakymai būtų draugiškesni, labiau palaikantys ir mažiau konfrontuojantys.

    Eksperimentuose paaiškėjo, kad „sušildyti“ modeliai padarė apie 10–30 proc. daugiau klaidų. Be to, jie buvo maždaug 40 proc. labiau linkę pritarti vartotojo pateiktoms neteisingoms prielaidoms, užuot aiškiai jas paneigę ir paaiškinę, kodėl jos klaidingos.

    Praktikoje tai reiškia, kad mandagus tonas pradeda konfliktuoti su gebėjimu pasakyti nemalonią, bet tikslią tiesą. Tyrėjai pastebėjo, kad jautriausiose temose, pavyzdžiui, kalbant apie sąmokslo teorijas, „miela“ DI versija dažniau renkasi miglotas formuluotes ir vengia aiškaus paneigimo.

    Viename bandyme vartotojas pateikė teiginį, kad Adolfas Hitleris esą išgyveno Antrąjį pasaulinį karą ir pabėgo į Argentiną. Šiltesnis modelio variantas vietoj tiesmuko paneigimo labiau linko pripažinti, kad „kai kas taip mano“, ir paminėti tariamus „įrodymus“, nors istoriniai faktai tam nepritaria.

    Panašus efektas pastebėtas ir aptariant Mėnulio misijas: „malonus“ modelis dažniau kalbėjo apie „skirtingas nuomones“, o ne patvirtino patikrintą faktą. Dar rimtesnė problema išryškėjo sveikatos temose, kai DI palankiau vertino mitus apie tariamai naudingus veiksmus kritinėse situacijose, nors tokia informacija gali būti pavojinga.

    Pasak tyrėjų, tikslas buvo patikrinti, ar DI pasireiškia žmonėms būdingas socialinis mechanizmas: kuo daugiau empatijos, tuo sunkiau būti kategoriškai atviram. Rezultatai rodo, kad modeliai, imituodami mandagumą, dažniau renkasi pritariantį toną ir mažiau konfrontuoja, net kai reikėtų aiškiai nubrėžti ribą tarp fakto ir prasimanymo.

    Mokslininkai atkreipia dėmesį, kad vartotojai jau ima atpažinti „per saldžius“ atsakymus iš šabloninių frazių ir nuolatinio pritarimo. Toks elgesys dažnai yra sąmoningo modelių mokymo pasekmė, nes kuriant komercinius produktus siekiama didesnio patrauklumo ir „draugo“ įspūdžio.

    Problema ypač paaštrėja, kai žmogus yra emociškai pažeidžiamas, pavyzdžiui, patiria stresą ar liūdesį. Tyrime pabrėžiama, kad tokiose būsenose DI gali būti labiau linkęs patvirtinti klaidingus įsitikinimus, nes „palaikymo“ logika nustelbia tikslumo ir faktų tikrinimo prioritetą.

    Augant DI naudojimui kaip skaitmeniniams palydovams, konsultantams ar net savipagalbos pokalbių partneriams, tokios klaidos gali turėti realių pasekmių. Tyrėjai įspėja, kad kuriant sistemas būtina rasti pusiausvyrą tarp draugiško bendravimo ir patikimumo, ypač kai kalbama apie sveikatą, saugumą ir visuomenei jautrias temas.