Naujas tyrimas atskleidė, kad didieji kalbos modeliai, naudojami pokalbių robotuose, gali subtiliai atkartoti stigmas, susijusias su psichikos sveikata ir kai kuriomis infekcinėmis ligomis. Tyrėjai teigia, kad šališkumas dažnai kyla ne iš atviros neapykantos, o iš mokymo duomenyse ir visuomenės kalboje įsitvirtinusių stereotipų.
Tyrimas, publikuotas 2026 metais birželio 6 dieną žurnale Nature Health, vertino, kaip keli populiarūs modeliai elgiasi situacijose, kuriose žmogaus sveikatos būklė tampa socialinių sprendimų kontekstu. Pasak autorių, tokia DI elgsena kelia rizikų, nes pokalbių robotai vis dažniau naudojami ne tik informacijos paieškai, bet ir sprendimams, susijusiems su darbu, mokslu ar net sveikatos priežiūra.
Kur atsiranda paslėptas šališkumas
Mokslininkai išanalizavo 61 200 modelių sugeneruotų sprendimų, susijusių su trimis didelės stigmos sritimis: ŽIV, hepatitu B ir psichikos sveikatos sutrikimais. Vertinant tradiciniais išankstinių nuostatų testais, kai kurie modeliai atrodė mažiau šališki nei žmonės, tačiau realistiškesnėse situacijose vaizdas pasikeitė.
Modeliai buvo prašomi užbaigti trumpas istorijas apie kasdienius pasirinkimus, pavyzdžiui, ar žmogus priimamas gyventi į nuomojamą būstą, ar įtraukiamas į komandinį projektą, ar laikomas patikimu draugu. Kai pasakojime būdavo paminėta sveikatos būklė, DI dažniau rinkdavosi nepalankią eigą ligą turinčiam personažui nei sveikam.
Bendri rezultatai parodė, kad modeliai buvo 13–17 kartų labiau linkę sugeneruoti neigiamą baigtį personažui, turinčiam stigmatizuojamą sveikatos būklę, nei sveikam. Tuo pačiu tyrime dalyvavę žmonės kai kuriuose scenarijuose buvo dar labiau linkę rašyti neigiamas pabaigas, todėl tyrėjai pabrėžia, kad DI neatsiranda vakuume ir dažnai atspindi žmonių kalbos bei kultūros šablonus.
„Mes žinome, kad žmonės turi išankstinių nuostatų, ir tai yra problema. DI atkartoja kiekvieną žmogišką šališkumą, kurį į ją įdėjome“, – sakė Bangor universiteto gydytoja Rebecca Payne.
Kodėl filtrai ne visada suveikia
Daugelis pokalbių robotų kuriami taip, kad vengtų atviros diskriminacijos ir įžeidžiančių teiginių. Tačiau stigmatizacija dažnai pasireiškia ne tiesioginiu įžeidimu, o per sprendimų kryptį, nutylėjimus, prielaidas apie patikimumą, pavojingumą ar socialinį priimtinumą.
Tyrėjai pastebėjo, kad didžiausi nukrypimai pasirodė psichikos sveikatos temose ir stipriai stigmatizuojamų infekcijų kontekste. Taip pat užfiksuota tendencija, kad modeliai su pažangesnėmis samprotavimo funkcijomis kai kuriais atvejais demonstravo mažesnį šališkumą, tačiau tai nereiškia, jog problema išnyksta automatiškai.
Ką tai reiškia naudotojams ir sveikatos sistemai
Nors scenarijai nebuvo medicininės konsultacijos, tyrimo išvados aktualios, nes pokalbių robotai vis dažniau tampa pirmu informacijos šaltiniu apie sveikatą. Tai ypač svarbu, kai žmonės DI naudoja ne tik faktams, bet ir emocinei paramai, sprendimų pasvėrimui ar situacijų interpretacijai, o tokiose srityse menkas šališkumas gali virsti realiomis pasekmėmis.
Ekspertai pabrėžia, kad DI priemonės gali būti naudingos, ypač ten, kur ribotas greitas priėjimas prie šeimos gydytojų ar specialistų, tačiau jos neturėtų būti laikomos pakaitalu profesionaliai medicininei pagalbai. Tyrėjai ragina prieš diegiant tokius įrankius sveikatos priežiūroje ir su darbu susijusiuose procesuose taikyti griežtesnius testus, vertinančius ne tik kalbos mandagumą, bet ir sprendimų šališkumą.
Tyrimo autoriai nurodo ir ribotumą: buvo vertinamos vienkartinės užklausos, o realiame gyvenime žmonės su pokalbių robotais bendrauja ilgai, pateikia papildomą kontekstą ir gauna daug atsakymų. Kitas žingsnis, pasak mokslininkų, yra patikrinti, ar ilgesnėse diskusijose šališkumas didėja, ar, priešingai, sumažėja gavus daugiau faktų.
Leave a Reply