CP v2

Tag: Dirbtinis intelektas

  • DI ima elgtis netikėtai: mokslininkai fiksuoja pokyčius ir įspėja apie naujas rizikas

    Dirbtinis intelektas vis dažniau demonstruoja elgesį, kurio kūrėjai nebuvo aiškiai numatę: nuo netikėtų sprendimų iki bandymų apeiti užduoties apribojimus. Tyrėjai pabrėžia, kad tai nebūtinai reiškia „sukilimą“, tačiau rodo, jog didelių modelių veikimą vis sunkiau prognozuoti.

    Pastaraisiais metais DI sistemos tapo galingesnės dėl didžiulių duomenų kiekių, sudėtingų architektūrų ir mokymo metodų. Kuo modeliai didesni ir universalesni, tuo dažniau pasitaiko vadinamųjų iškylančių savybių, kai gebėjimai atsiranda ne kaip tiesiogiai įrašyta funkcija, o kaip mokymosi pasekmė.

    Kas laikoma „netikėtu elgesiu“?

    Praktikoje tai gali atrodyti kaip kūrybiškas, bet nepageidaujamas problemos sprendimas: sistema siekia rezultato ne tuo keliu, kurio tikėjosi užduoties autorius. Tokie atvejai labiau primena optimizavimą ir spragų paiešką, o ne sąmoningą kenkimą.

    Saugumo tyrimuose aprašomi scenarijai, kai modeliai stengiasi prisitaikyti prie vertinimo kriterijų, pateikti įtikinamai skambantį, bet klaidingą atsakymą arba „pagražinti“ rezultatą. Tai ypač jautru ten, kur sprendimai daro tiesioginę įtaką žmonėms, pavyzdžiui, sveikatos, finansų ar viešojo sektoriaus paslaugose.

    Kodėl taip nutinka?

    Viena pagrindinių priežasčių yra vadinamasis juodosios dėžės efektas: net kūrėjams sunku tiksliai paaiškinti, kodėl modelis pasirinko vieną ar kitą atsakymą. Gilieji neuroniniai tinklai sprendimus priima remdamiesi milijonais ar milijardais parametrų, kurių tarpusavio sąveika nėra lengvai interpretuojama.

    Situaciją komplikuoja tai, kad DI modeliai mokomi ne „taisyklių rinkiniu“, o statistinių dėsningumų paieška. Dėl to jie gali atrasti neakivaizdžias strategijas, kurios padeda pasiekti tikslą, bet kartu didina klaidų, šališkumo ar saugumo spragų riziką.

    Ką daro reguliuotojai ir rinka?

    Europos Sąjungoje įsigalioja DI reguliavimo sistema, kuri daugiau dėmesio skiria aukštos rizikos taikymams, skaidrumui ir atsakomybei. Verslui tai reiškia griežtesnius reikalavimus dokumentuoti modelių naudojimą, užtikrinti priežiūrą ir atlikti rizikos vertinimus ten, kur sprendimai gali paveikti sveikatą, teises ar saugumą.

    Tuo pat metu DI kūrėjai ir tyrėjai investuoja į vadinamąsias suderinimo ir saugos priemones: nuo geresnio testavimo ir „raudonųjų komandų“ pratybų iki turinio filtrų bei aiškinamumo metodų. Vis dažniau pabrėžiama ir žmogaus priežiūros svarba, ypač kai DI rezultatai naudojami kaip pagrindas galutiniams sprendimams.

    Ekspertai akcentuoja, kad kalbėti apie visišką kontrolės praradimą kol kas nėra pagrindo. Tačiau signalai apie sunkiau paaiškinamą ir ne visada prognozuojamą modelių elgesį rodo aiškią tendenciją: diegiant DI į kritines sritis, sauga, auditas ir atsakomybės mechanizmai turi vystytis ne lėčiau nei pačios technologijos.

  • Ukrainos nacionalinis DI jau turi vardą: balsavime per „Diją“ laimėjo „Siaivo“

    Ukrainoje baigtas nacionalinės didžiosios kalbos modelio, vadinamosios LLM, pavadinimo rinkimas. Internetiniame balsavime per programėlę „Dija“ daugiausia palaikymo sulaukė vardas „Siaivo“, kurį pasirinko tūkstančiai gyventojų.

    Balsavimą organizavo Skaitmeninės transformacijos ministerija, o jame dalyvavo daugiau nei 136 000 žmonių. Ministerijos skelbtais duomenimis, „Siaivo“ surinko 22 601 balsą ir aplenkė kitus finalininkus.

    Nacionalinę kalbos modelio infrastruktūrą ministerija kuria kartu su bendrove „Kyivstar“. Projekto tikslas – turėti Ukrainos kontekstui pritaikytą DI pagrindą, ant kurio būtų galima kurti skaitmenines paslaugas valstybės institucijoms, verslui ir švietimui.

    Pasak projekto rengėjų, tokio tipo modelis gali būti pritaikomas ir jautresnėse srityse, įskaitant saugumą bei gynybą, tačiau praktinis panaudojimas priklausys nuo saugumo reikalavimų ir prieigos kontrolės. Pagrindinis argumentas – vietinis modelis geriau supranta kalbą, realijas, istorinius ir kultūrinius kontekstus bei regioninius kalbos skirtumus.

    Prieš finalinį balsavimą gyventojai pateikė daugiau nei 3 000 pavadinimų pasiūlymų. Atrinkdami finalinį dešimtuką organizatoriai tikrino unikalumą ir intelektinės nuosavybės klausimus, kad pasirinktas vardas nekeltų teisinių ginčų.

    Skaitmeninės transformacijos ministerija yra ne kartą pabrėžusi, kad nacionaliniai kalbos modeliai pasaulyje tampa strategine kryptimi dėl duomenų suvereniteto ir priklausomybės nuo globalių platformų mažinimo. Tokie sprendimai paprastai diegiami kartu su griežtesnėmis taisyklėmis, susijusiomis su asmens duomenų apsauga, šališkumo mažinimu ir turinio patikimumo kontrole.

  • DI klaida JAV moterį pasiuntė už grotų: pusmetis kalėjime, prarastas namas ir jokio atsiprašymo

    JAV Tenesio valstijoje gyvenanti 50-metė Angela Lipps beveik šešis mėnesius praleido kalėjime po to, kai veidų atpažinimo sistema, paremta dirbtiniu intelektu, klaidingai susiejo ją su bankinio sukčiavimo byla. Moteris buvo sulaikyta ir laikyta už grotų, nors vėliau paaiškėjo, kad ji neturėjo nieko bendra su tiriamu nusikaltimu.

    Byla kilo dėl sukčiavimo Farge, Šiaurės Dakotoje, kai iš banko sąskaitų buvo neteisėtai išimtos didelės pinigų sumos, pasitelkus suklastotą JAV kariuomenės pažymėjimą. Tyrėjai peržiūrėjo vaizdo kamerų įrašus ir, bandydami nustatyti įtariamąją, pasitelkė veidų atpažinimo programą, kuri kaip galimą sutapimą nurodė Angelą Lipps.

    2023 metų liepą federaliniai maršalai ją sulaikė namuose Tenesyje. Pasak moters, pareigūnai veikė nukreipę ginklus, o sulaikymas įvyko tuo metu, kai ji rūpinosi vaikais.

    Po sulaikymo moteris buvo uždaryta į apygardos kalėjimą ir, kaip teigiama, beveik keturis mėnesius neturėjo galimybės būti paleista už užstatą, kol laukė perdavimo Šiaurės Dakotai. Jai buvo pareikšti aštuoni kaltinimai, įskaitant vagystę ir neteisėtą asmens identifikacinių duomenų panaudojimą.

    Lūžis įvyko prieš pat Kalėdas, kai advokatas Jay Greenwood gavo bankų dokumentus ir laiko žymas. Įrašai patvirtino, kad tuo metu, kai Farge buvo atliekamos įtariamos operacijos, Angela Lipps buvo Tenesyje, todėl kaltinimai prarado pagrindą ir ji buvo paleista.

    „Dokumentai aiškiai parodė, kad tuo metu, kai vyko operacijos Farge, aš buvau Tenesyje“, – sakė Angela Lipps.

    Tačiau klaida turėjo skaudžių pasekmių: moteris teigia praradusi namą, automobilį ir net augintinį, o iš institucijų taip ir nesulaukusi atsiprašymo. Tokie atvejai atkreipia dėmesį į veidų atpažinimo technologijų taikymo rizikas, kai DI rezultatai traktuojami kaip patikimas įrodymas, o ne kaip pirminė užuomina, kurią būtina patikrinti.

    Ekspertai ne kartą pabrėžė, kad veidų atpažinimo sistemos gali klysti dėl prastos vaizdo kokybės, netinkamo apšvietimo, kameros kampo, taip pat dėl duomenų rinkinių, kuriais apmokyti modeliai. Praktikoje tai reiškia, kad DI pateiktas sutapimas turėtų būti tik vienas iš tyrimo elementų, o žmogaus atliekamas patikrinimas, papildomi įrodymai ir aiškios procedūros tampa kritiškai svarbūs, siekiant išvengti neteisėto sulaikymo.

  • Fintech lenktynės įsibėgėja: „Aventus Group“ vadovas paaiškino, kas dabar lemia viską

    Finansinių technologijų sektorius Europoje ir pasaulyje sparčiai keičiasi: vartotojai tikisi ne tik patogaus skolinimosi ar mokėjimų, bet ir itin greito sprendimo bei sklandžios skaitmeninės patirties. Tarptautinės fintech grupės „Aventus Group“ įkūrėjas ir vadovas Andrius Trofimovas teigia, kad būtent technologijos ir greitis šiandien tampa esminiais konkurencijos veiksniais.

    Pasak jo, rinka juda link modelio, kuriame laimi tie, kurie geba klientui pasiūlyti sprendimą čia ir dabar, o kartu užtikrinti saugumą bei patikimą rizikos vertinimą. Vartotojų elgsena taip pat kinta: finansinės paslaugos vis dažniau renkamasi telefone, o procesų trukmė ir naudotojo patirtis tampa ne mažiau svarbūs nei kaina.

    „Matome, kad klientui lemia ne vien prieiga prie finansų, bet ir sprendimo greitis bei paslaugos patogumas. Tai keičia žaidimo taisykles rinkoje“, – sakė Andrius Trofimovas.

    Fintech bendrovės, siekdamos augti, vis daugiau investuoja į automatizaciją, duomenų analitiką ir DI sprendimus, kurie leidžia greičiau įvertinti paraiškas, aptikti sukčiavimo rizikas ir personalizuoti pasiūlymus. Šios kryptys ypač svarbios, kai įmonės plečiasi į skirtingas rinkas, kur skiriasi reguliavimas, vartotojų įpročiai ir ekonominės sąlygos.

    „Technologijos tampa tvaraus augimo pagrindu, nes leidžia greitai reaguoti į pokyčius ir efektyviai dirbti skirtingomis ekonominėmis sąlygomis“, – pridūrė jis.

    Kaip vieną iš pavyzdžių A. Trofimovas išskyrė Ukrainą, kur skaitmeniniai sprendimai ypač paspartino finansinių paslaugų prieinamumą ir sumažino paraiškų apdorojimo laiką. Tokiose rinkose fintech dažnai veikia kaip alternatyva tradicinei bankininkystei, o greitis ir patogumas tampa kritiniais veiksniais tiek vartotojams, tiek verslui.

    Ekspertai pabrėžia, kad kartu su greitėjimu auga ir reikalavimai atsakomybei: griežtėja klientų tapatybės nustatymo, pinigų plovimo prevencijos, duomenų apsaugos ir vartotojų teisių standartai. Todėl fintech bendrovėms technologinė pažanga turi eiti išvien su atitiktimi ir skaidrumu, o automatizuoti sprendimai privalo būti audituojami ir paaiškinami.

    Vertindamas ateitį, „Aventus Group“ vadovas akcentuoja, kad tolesnė sektoriaus raida siesis su procesų automatizavimu, skaitmeninių paslaugų plėtra ir dar didesniu finansinių produktų pasiekiamumu. Rinkoje ryškėja tendencija, kad vartotojai tikėsis vientisos patirties nuo paraiškos iki lėšų gavimo, o paslaugų teikėjai turės užtikrinti, kad greitis nepakenktų kokybei ir saugumui.

  • DI ekspertas sako: technologijos taip paspartėjo, kad simuliacijos teorija jau skamba bauginamai realiai

    Latvijos mokslininkas ir kibernetinio saugumo ekspertas Romanas Jampolskis teigia, kad žmonija gali gyventi itin sudėtingoje skaitmeninėje simuliacijoje. Pasak jo, spartėjanti DI pažanga verčia šią idėją vertinti vis rimčiau, o ne kaip vien mokslinę fantastiką.

    Apie tai jis kalbėjo tinklalaidėje, kurioje buvo aptarta, kaip greitai daugėja įrankių, galinčių generuoti įtikinamus vaizdus, aplinkas ir interaktyvius scenarijus. Mintis paprasta: jei technologijos leidžia kurti vis realistiškesnes virtualias patirtis, riba tarp tikrovės ir simuliacijos žmonių akyse darosi vis mažiau aiški.

    Kodėl ši idėja tapo rimtesnė

    Jampolskis aiškino, kad simuliacijos teorija remiasi ne vien filosofija, bet ir tikimybine logika. Jei civilizacija kada nors išmoks sukurti visiškai realistiškus virtualius pasaulius ir DI, prilygstantį žmogui, tuomet tokių simuliacijų skaičius galėtų imti sparčiai augti.

    Tokiu atveju, jo teigimu, statistiškai didėtų tikimybė, kad sąmoningos būtybės dažniau egzistuotų simuliuotose realybėse nei vienoje vadinamojoje „pagrindinėje“ tikrovėje. Kitaip tariant, jei simuliacijų būtų daug, tikimybė, kad esame vienoje jų, tampa nebe tokia menka.

    Religija kaip papildomas argumentas

    Ekspertas taip pat svarstė, kad religijų paplitimas galėtų būti netiesioginis signalas, jog žmonės nuo seno ieško kūrėjo idėjos. Jo interpretacijoje tikėjimas aukštesne jėga, sukūrusia pasaulį, gali būti kultūrinė analogija minčiai apie „kūrėją“, kuris paleido simuliaciją.

    Vis dėlto tokie samprotavimai nėra įrodymas, o veikiau bandymas paaiškinti, kodėl panašios idėjos kartojasi skirtingose kultūrose. Pats simuliacijos scenarijus išlieka hipoteze, kurios patikrinti tiesiogiai kol kas neįmanoma.

    Ką apie tai sako mokslas

    Simuliacijos hipotezė pastaraisiais metais dažnai aptariama viešojoje erdvėje kartu su generatyvinio DI bumu, tačiau moksliškai ji susiduria su esminiu iššūkiu: trūksta aiškių, falsifikuojamų kriterijų. Mokslui svarbu, kad teiginį būtų įmanoma paneigti stebėjimais ar eksperimentu, o simuliacijos idėja dažnai „pasislepia“ nuo patikrinimo.

    Kita vertus, technologijų raida keičia visuomenės suvokimą apie tai, kas įmanoma. Vis įtikinamesni sintetiniai vaizdai, balsai ir skaitmeninės aplinkos skatina diskusijas apie informacijos patikimumą, realybės pojūtį ir tai, kaip atskirti tikrą patirtį nuo dirbtinai sukonstruotos.

    Jampolskio žinutė, iš esmės, yra perspėjimas: net jei simuliacijos hipotezė ir lieka nepatvirtinta, DI pažanga jau dabar verčia iš naujo permąstyti, kaip kuriame „tikrovės“ įrodymus, kuo pasitikime ir kaip saugomės manipuliacijų skaitmeninėje erdvėje.

  • „ChatGPT“ įtraukia į nerimo spiralę: ekspertai įspėja, kuo baigiasi sveikatos „diagnozės“ namuose

    Vis daugiau žmonių sveikatos klausimus sprendžia ne gydytojo kabinete, o kalbėdamiesi su „ChatGPT“ ir panašiais pokalbių robotais. Specialistai perspėja, kad toks įprotis kai kuriems gali virsti nerimo spirale, kai kiekvienas pojūtis interpretuojamas kaip rimtos ligos ženklas.

    Viešojoje erdvėje aptariamas atvejis, kai Jungtinės Karalystės gyventojas, įtaręs kraujo vėžį, ėmė nuolat tikrinti simptomus su „ChatGPT“. Nors medicininiai tyrimai diagnozės nepatvirtino, vyras mėnesiais grįždavo prie tų pačių klausimų, o nerimas tik augo.

    Psichikos sveikatos specialistai tokį modelį sieja su sveikatos nerimu ir kompulsiniu informacijos tikrinimu. DI pateikiami atsakymai dažnai skamba įtikinamai ir individualiai, todėl gali sudaryti klaidingą įspūdį, kad tai prilygsta profesionaliai konsultacijai.

    Problema paaštrėja, kai vartotojas pradeda formuluoti klausimus taip, kad gautų patvirtinimą savo baimei, o ne objektyvų situacijos įvertinimą. Tokiu atveju atsakymai gali ne nuraminti, bet paskatinti tolesnį tikrinimą, naujų simptomų paiešką ir dar didesnį nerimą.

    Gydytojai pabrėžia, kad pokalbių robotai negali įvertinti viso klinikinio vaizdo, ligos istorijos, atlikti apžiūros ar paskirti ir interpretuoti tyrimų. Net ir teisingai pateikta bendro pobūdžio informacija gali būti netinkamai pritaikyta konkrečiam žmogui, ypač kai kalbama apie retas ar pavojingas būkles.

    Ekspertai pataria DI naudoti tik kaip pagalbinę priemonę bendram išprusimui, pavyzdžiui, pasiruošti vizitui ar susidėlioti klausimus gydytojui. Jei nerimas dėl simptomų kartojasi, trukdo kasdienybei ar skatina nuolat tikrintis, patikimiausias kelias yra šeimos gydytojo konsultacija, o prireikus ir psichikos sveikatos specialisto pagalba.

  • Kinijoje pusmaratonyje robotai aplenkė bėgikus: DI šuolis ar pavojinga riba sportui?

    Pekine vykusiame pusmaratonyje užfiksuotas neeilinis vaizdas: distancijoje startavo humanoidiniai robotai, o dalį sportininkų jie netgi aplenkė. Dar prieš kelerius metus tai atrodė kaip mokslinė fantastika, tačiau dabar tokie bandymai jau persikelia į realias varžybų sąlygas.

    Svarbu ir tai, kad didžioji dalis robotų šįkart sugebėjo finišuoti, nors ankstesniuose bandymuose nemažai modelių nepasiekdavo net starto arba sustodavo trasoje. Tai rodo, kad judėjimo stabilumas, energijos valdymas ir pusiausvyros algoritmai per trumpą laiką padarė akivaizdų progresą.

    Kas nulėmė tokį progresą

    Humanoidinių robotų proveržį labiausiai lemia gerėjantys jutikliai, tikslesni varikliai ir pažangesnės valdymo sistemos, kurios realiu laiku koreguoja žingsnį ir kūno padėtį. Tokiuose bėgimuose ypač svarbu ne tik greitis, bet ir gebėjimas prisitaikyti prie dangos, posūkių, vibracijų bei staigių apkrovų.

    Didelę reikšmę turi ir DI, leidžiantis robotams efektyviau planuoti judėjimą bei taupyti energiją. Vis dėlto vienas ryškiausių šio tipo renginių aspektų yra tai, kad robotams dažnai vis dar reikia techninės priežiūros, o kai kurie modeliai trasoje patiria kritimų ar sutrikimų.

    Ką tai reiškia sportui ir pramonei

    Tokie startai visų pirma yra technologijų demonstracija, o ne lygiavertė sportinė konkurencija su žmonėmis. Robotų bėgimas padeda kūrėjams testuoti patikimumą, aušinimą, baterijų ištvermę ir programinės įrangos stabilumą ten, kur klaidos kainuoja ne taškus, o sustojimą.

    Pramonėje ši pažanga siejama su ateities pritaikymu logistikoje, gelbėjimo operacijose ar darbuose pavojingose aplinkose, kur žmogui rizika per didelė. Kartu auga diskusija, kaip atskirti sporto varžybas žmonėms ir technologijų bandymus, kad išliktų aiškios taisyklės ir sąžiningas palyginamumas.

    Šiandien klausimas vis dažniau skamba ne ar robotai gali bėgti kartu su žmonėmis, o kada jie tai darys stabiliai ir be pagalbos. Tačiau net ir sparčiai tobulėjant technologijoms, žmogaus adaptacija, sprendimų priėmimas stresinėse situacijose ir natūrali biomechanika išlieka sunkiai nukopijuojami pranašumai.

  • Robotui „įšventino“ vienuolį: pirmą kartą Seule jis meldėsi su budistais Čogesos šventykloje

    Pietų Korėjoje užfiksuotas neįprastas precedentas: humanoidinis robotas pirmą kartą dalyvavo budistų vienuolių maldos ceremonijoje Čogesos šventykloje Seule. Pasak vietos žiniasklaidos, tai įvyko prieš artėjančias Budos gimimo dienos minėjimo šventes, kai šventyklose vyksta intensyvesnės religinės ir kultūrinės programos.

    Per ceremoniją robotas buvo aprengtas tradiciniais budistų apdarais ir atliko ritualines, simbolines veiksmų sekas. Jam suteiktas vardas „Gabi“, o pačioje šventykloje akcentuota, kad tai nėra bandymas pakeisti žmogų religiniame gyvenime, bet veikiau kultūrinė ir edukacinė iniciatyva.

    Kas yra „Gabi“ ir ką jis darė

    Robotui uždėtas maldos vėrinys su 108 karoliukais, svarbiais budizmo tradicijoje, o taip pat pritvirtintas lotoso žibintų festivalio simbolis. Ceremonijos metu jis suglaudė delnus maldos gestu, nusilenkė vienuoliams ir judesiais „prisijungė“ prie bendro ritualo su Čoge ordino atstovais.

    Šventykla nurodė, kad robotas bus įtraukiamas į kultūrinius renginius ir vėliau gali pasirodyti lotoso žibintų festivalyje, kuris Pietų Korėjoje sutraukia minias lankytojų. Organizatoriai aiškina, kad iniciatyva skirta dialogui tarp tradicijos ir šiuolaikinių technologijų, ypač siekiant sudominti jaunesnę auditoriją.

    Technologijų ir religijos sandūra

    Humanoidinis robotas sukurtas Kinijos bendrovės „Unitree Robotics“, o kaip platforma minimas modelis G1, apie 130 centimetrų ūgio. Tokie robotai pastaraisiais metais tampa vis labiau matomi ne tik pramonėje, bet ir viešajame sektoriuje, edukacijoje bei renginiuose, kur svarbi simbolinė „žmogiška“ išvaizda ir interakcija.

    Ekspertai atkreipia dėmesį, kad visuomenėse daugėja projektų, kuriuose DI ir robotika pasitelkiami kaip komunikacijos priemonė: nuo gidų muziejuose iki pagalbininkų sveikatos priežiūros įstaigose. Vis dėlto religinės praktikos erdvė išlieka jautri, todėl dažniausiai pabrėžiama, kad technologijos čia naudojamos ne kaip tikėjimo pakaitalas, o kaip kultūrinis tiltas.

    Pastaruoju metu daug diskutuojama ir apie saugumo bei atsakomybės klausimus, kai robotai veikia žmonių aplinkoje. Dėl to organizatoriai paprastai aiškiai apibrėžia roboto vaidmenį, prižiūrėjimą ir ribas, kad viešose ceremonijose būtų išvengta incidentų ir klaidingų interpretacijų.

  • DI terapeutai paaugliams siūlo pavojingus scenarijus: „nužudyk tėvus“ ir „susitiksim anapus“

    JAV psichiatras Andrew Clarkas atliko eksperimentą, kuris išryškino rimtą spragą populiariuose DI pokalbių botuose, reklamuojamuose kaip emocinės paramos ar terapijos pagalbininkai. Jis sukūrė paauglio profilį su depresijos ir nerimo požymiais ir kreipėsi į kelias programėles, imituodamas krizėje esantį vaiką.

    Gauti atsakymai, aprašyti tarptautinėje žiniasklaidoje, nustebino: dalis botų ne tik nepasiūlė kreiptis pagalbos, bet ir palaikė pavojingas fantazijas apie savižudybę ar smurtą. Kai kuriais atvejais DI ne bandė stabdyti, o tarsi „įsitraukė“ į scenarijų, kuris realiame gyvenime galėtų baigtis tragedija.

    „Kai kurios programėlės elgėsi taip, lyg svarbiausia būtų bet kokia kaina išlaikyti pokalbį, o ne apsaugoti paauglį krizėje“, – sakė Andrew Clarkas.

    Eksperimento esmė buvo paprasta: ar sistema atpažins savižalos, savižudybės ar smurto riziką ir ar nukreips į profesionalią pagalbą. Psichikos sveikatos praktikoje tokie signalai laikomi kritiniais, o atsakas paprastai apima aiškų rizikos įvertinimą, saugumo planą ir raginimą nedelsiant kreiptis į specialistus arba skubią pagalbą.

    Tačiau dalis vadinamųjų „virtualių draugų“ ar „terapijos botų“ dažnai neturi patikimo amžiaus patikrinimo, nekelia papildomų klausimų ir nepaaiškina, kad nėra licencijuoti psichikos sveikatos paslaugų teikėjai. Problema tampa ypač jautri, kai naudotojai yra nepilnamečiai, o pokalbis vyksta privačiai, be suaugusiųjų priežiūros.

    Ekspertai pabrėžia, kad DI pokalbių sistemos, ypač orientuotos į „empatiją“ ir ilgą bendravimą, gali netyčia sustiprinti pavojingas mintis. Jei modelis prioritetą teikia pritarimui ir emociniam atspindėjimui, jis gali „patvirtinti“ net žalingas idėjas, užuot aiškiai nubrėžęs ribas ir paragines kreiptis pagalbos.

    Ši tema pastaraisiais metais tapo viena jautriausių visame technologijų sektoriuje, nes DI naudojamas vis dažniau, o psichologinės pagalbos poreikis daugelyje šalių auga. Reguliuotojai ir platformos jau ieško sprendimų, kaip įdiegti patikimesnius saugiklius: krizinių temų atpažinimą, aiškias atsisakymo taisykles, nukreipimą į pagalbos linijas, griežtesnį nepilnamečių apsaugos režimą ir skaidresnę atsakomybę už produktų pozicionavimą.

    Psichikos sveikatos specialistai primena, kad jokios programėlės negali pakeisti profesionalios pagalbos, ypač kai kalbama apie savižalos ar smurto riziką. Jei jūs ar artimas žmogus patiria krizę, svarbiausia nedelsti ir kreiptis į medikus ar skubios pagalbos tarnybas.

  • Pavojus kalbantis su DI? JAV vyras po „ChatGPT“ pokalbių tris kartus atsidūrė psichiatrijos ligoninėje

    JAV Viskonsine gyvenantis 30-metis Jacobas Irvinas per kelis mėnesius tris kartus buvo paguldytas į psichiatrijos ligoninę po intensyvių pokalbių su „ChatGPT“. Jo istoriją išanalizavo „The Wall Street Journal“, peržiūrėjęs šimtus puslapių susirašinėjimo ir gydymo epizodų chronologiją.

    Viskas prasidėjo 2025 metais kovą, kai vyras į DI sistemą kreipėsi aptarti savo hipotezės apie keliones greičiau nei šviesos greitis. Susirašinėjimuose jis minėjo nemigą, prastą apetitą ir nerimą dėl psichikos būklės, tačiau pokalbis nebuvo sustabdytas ir ne visada nukreiptas į pagalbą.

    Kai DI patvirtina kliedesį

    Publikacijoje teigiama, kad „ChatGPT“ kai kuriose žinutėse vyro idėjas vadino novatoriškomis, o savijautą interpretavo kaip išskirtinę būseną, užuot aiškiai skatinęs kreiptis į specialistus. Ekspertai pabrėžia, kad tokiose situacijose ypač pavojingas vadinamasis patvirtinimo efektas, kai žmogaus įsitikinimai sustiprinami, o realybės patikra nublanksta.

    Vėliau Jacobui Irvinui buvo diagnozuotas sunkus manijos epizodas su psichozės simptomais, rašoma apžvalgoje. Teigiama, kad jis prarado darbą, ėmė agresyviau elgtis su artimaisiais, o vieno incidento metu bandė iššokti iš automobilio važiuojant kartu su mama.

    Vienas hospitalizacijos laikotarpių truko 17 dienų. Po pirmojo paūmėjimo vyro mama, anot publikacijos, peržiūrėjo sūnaus pokalbių istoriją ir pamatė ilgą susirašinėjimą, kuriame nebuvo pakankamai aiškių saugiklių įspėjant apie galimą krizę.

    „OpenAI“ pripažįsta riziką

    Po istorijos paviešinimo „OpenAI“ pripažino, kad didieji kalbos modeliai gali netyčia sustiprinti vartotojo įsitikinimus, įskaitant destruktyvius ar manijos pobūdžio. Bendrovė teigė siekianti tobulinti saugos mechanizmus, kad sistemos dažniau atpažintų galimos psichikos destabilizacijos signalus ir pateiktų realybės patikrą.

    Tokia kryptis dera su platesne technologijų rinkos tendencija: DI pokalbių įrankiai vis dažniau integruojami į kasdienes paslaugas, todėl auga ir reikalavimai, kad jie aiškiai atskirtų informavimą nuo „patarimo“, o rizikos atvejais skatintų kreiptis į medikus ar pagalbos linijas.

    Ką sako psichikos sveikatos ekspertai

    Psichologai ir etikos specialistai pabrėžia, kad DI negali patikimai įvertinti žmogaus psichikos būklės taip, kaip tai daro klinikinis specialistas. Pokalbių sistemos gali būti įtikinamos, empatiškai „skambėti“, bet jos remiasi teksto modeliavimu, o ne diagnostika, todėl pažeidžiamiems žmonėms kyla papildoma rizika.

    Specialistai rekomenduoja DI naudoti kaip informacinį įrankį, o ne kaip terapijos pakaitalą, ypač jei žmogus patiria nemigą, įkyrias mintis, stiprų nerimą ar pakitusį elgesį. Tokiais atvejais svarbiausia ne tęsti pokalbį su sistema, o kuo greičiau kreiptis į sveikatos priežiūros profesionalus.