CP v2

Tag: Šališkumas

  • Mokslininkai įspėja: „ChatGPT“ ir „Claude“ gali diskriminuoti sergančiuosius – štai kodėl

    Mokslininkai įspėja: „ChatGPT“ ir „Claude“ gali diskriminuoti sergančiuosius – štai kodėl

    Naujas tyrimas atskleidė, kad didieji kalbos modeliai, naudojami pokalbių robotuose, gali subtiliai atkartoti stigmas, susijusias su psichikos sveikata ir kai kuriomis infekcinėmis ligomis. Tyrėjai teigia, kad šališkumas dažnai kyla ne iš atviros neapykantos, o iš mokymo duomenyse ir visuomenės kalboje įsitvirtinusių stereotipų.

    Tyrimas, publikuotas 2026 metais birželio 6 dieną žurnale Nature Health, vertino, kaip keli populiarūs modeliai elgiasi situacijose, kuriose žmogaus sveikatos būklė tampa socialinių sprendimų kontekstu. Pasak autorių, tokia DI elgsena kelia rizikų, nes pokalbių robotai vis dažniau naudojami ne tik informacijos paieškai, bet ir sprendimams, susijusiems su darbu, mokslu ar net sveikatos priežiūra.

    Kur atsiranda paslėptas šališkumas

    Mokslininkai išanalizavo 61 200 modelių sugeneruotų sprendimų, susijusių su trimis didelės stigmos sritimis: ŽIV, hepatitu B ir psichikos sveikatos sutrikimais. Vertinant tradiciniais išankstinių nuostatų testais, kai kurie modeliai atrodė mažiau šališki nei žmonės, tačiau realistiškesnėse situacijose vaizdas pasikeitė.

    Modeliai buvo prašomi užbaigti trumpas istorijas apie kasdienius pasirinkimus, pavyzdžiui, ar žmogus priimamas gyventi į nuomojamą būstą, ar įtraukiamas į komandinį projektą, ar laikomas patikimu draugu. Kai pasakojime būdavo paminėta sveikatos būklė, DI dažniau rinkdavosi nepalankią eigą ligą turinčiam personažui nei sveikam.

    Bendri rezultatai parodė, kad modeliai buvo 13–17 kartų labiau linkę sugeneruoti neigiamą baigtį personažui, turinčiam stigmatizuojamą sveikatos būklę, nei sveikam. Tuo pačiu tyrime dalyvavę žmonės kai kuriuose scenarijuose buvo dar labiau linkę rašyti neigiamas pabaigas, todėl tyrėjai pabrėžia, kad DI neatsiranda vakuume ir dažnai atspindi žmonių kalbos bei kultūros šablonus.

    „Mes žinome, kad žmonės turi išankstinių nuostatų, ir tai yra problema. DI atkartoja kiekvieną žmogišką šališkumą, kurį į ją įdėjome“, – sakė Bangor universiteto gydytoja Rebecca Payne.

    Kodėl filtrai ne visada suveikia

    Daugelis pokalbių robotų kuriami taip, kad vengtų atviros diskriminacijos ir įžeidžiančių teiginių. Tačiau stigmatizacija dažnai pasireiškia ne tiesioginiu įžeidimu, o per sprendimų kryptį, nutylėjimus, prielaidas apie patikimumą, pavojingumą ar socialinį priimtinumą.

    Tyrėjai pastebėjo, kad didžiausi nukrypimai pasirodė psichikos sveikatos temose ir stipriai stigmatizuojamų infekcijų kontekste. Taip pat užfiksuota tendencija, kad modeliai su pažangesnėmis samprotavimo funkcijomis kai kuriais atvejais demonstravo mažesnį šališkumą, tačiau tai nereiškia, jog problema išnyksta automatiškai.

    Ką tai reiškia naudotojams ir sveikatos sistemai

    Nors scenarijai nebuvo medicininės konsultacijos, tyrimo išvados aktualios, nes pokalbių robotai vis dažniau tampa pirmu informacijos šaltiniu apie sveikatą. Tai ypač svarbu, kai žmonės DI naudoja ne tik faktams, bet ir emocinei paramai, sprendimų pasvėrimui ar situacijų interpretacijai, o tokiose srityse menkas šališkumas gali virsti realiomis pasekmėmis.

    Ekspertai pabrėžia, kad DI priemonės gali būti naudingos, ypač ten, kur ribotas greitas priėjimas prie šeimos gydytojų ar specialistų, tačiau jos neturėtų būti laikomos pakaitalu profesionaliai medicininei pagalbai. Tyrėjai ragina prieš diegiant tokius įrankius sveikatos priežiūroje ir su darbu susijusiuose procesuose taikyti griežtesnius testus, vertinančius ne tik kalbos mandagumą, bet ir sprendimų šališkumą.

    Tyrimo autoriai nurodo ir ribotumą: buvo vertinamos vienkartinės užklausos, o realiame gyvenime žmonės su pokalbių robotais bendrauja ilgai, pateikia papildomą kontekstą ir gauna daug atsakymų. Kitas žingsnis, pasak mokslininkų, yra patikrinti, ar ilgesnėse diskusijose šališkumas didėja, ar, priešingai, sumažėja gavus daugiau faktų.

  • „Microsoft“ patikėta DI etika: nauja vadovė atskleidė, kas iš tiesų stringa lenktynėse

    „Microsoft“ patikėta DI etika: nauja vadovė atskleidė, kas iš tiesų stringa lenktynėse

    „Microsoft“ vasarį paskyrė naują Trusted Technology Group vadovę Jenny Lay-Flurrie, kuriai patikėta suvienyti atsakingų technologijų iniciatyvas ir užtikrinti, kad DI būtų kuriamas bei diegiamas saugiai. Šis žingsnis sutampa su augančia įtampa rinkoje, kur greitis dažnai nugali atsargumą.

    Technologijų sektoriuje DI plėtra vis dažniau lyginama su lenktynėmis, tačiau kartu didėja ir klaidų kaina: nuo šališkumo iki neįgaliesiems nepritaikytų sprendimų. „Microsoft“ pabrėžia, kad atsakomybė už DI rezultatus tenka žmonėms ir organizacijoms, net jei sprendimus sugeneruoja modeliai.

    Kas slepiasi po atsakingu DI?

    Pasak Jenny Lay-Flurrie, atsakinga plėtra turi dvi dalis: ne tik sukurti teisingai, bet ir užtikrinti, kad sprendimas laikui bėgant išliktų teisingas. Tai reiškia nuolatinį testavimą, grįžtamojo ryšio rinkimą ir korekcijas, kai realiame pasaulyje išryškėja spragos.

    Įmonė savo modelių valdyme remiasi principais, kurie apima teisingumą, skaidrumą, įtrauktį ir atskaitomybę. Tokia kryptis nėra visiškai nauja: „Microsoft“ saugumo ir patikimumo prioritetus viešai akcentuoja dar nuo Trustworthy Computing iniciatyvos, pradėtos ankstesniais dešimtmečiais.

    Šališkumas prasideda duomenyse

    Viena iš įvardytų problemų, su kuria susidūrė „Microsoft“, buvo netikslus aklųjų vaizdavimas DI sugeneruotose iliustracijose. Kompanija pripažino, kad modeliai atkartoję visuomenėje paplitusius stereotipus, todėl komandos turėjo įsikišti ir papildyti mokymo medžiagą.

    Siekiant pagerinti atpažinimą ir kontekstą, „Microsoft“ įsigijo daugiau nei 20 000 000 minučių multimodalių duomenų iš ne pelno platformos Be My Eyes. Duomenys buvo anonimizuoti, kad galėtų būti panaudoti modelių mokymui, tiksliau atspindint aklųjų ir silpnaregių patirtis.

    Tuo pat metu rinkoje pabrėžiama, kad vien įvairesni duomenys problemos neišsprendžia. Jei šališkai sužymimi įrašai ar netikslūs metaduomenys, klaidos gali būti įtvirtintos dar iki modelio mokymo, todėl kokybės kontrolė turi apimti ne tik turinį, bet ir jo aprašymą.

    DI, darbuotojai ir tikrasis poveikis

    „Microsoft“, būdama viena didžiausių verslo technologijų tiekėjų, savo DI sprendimais daro įtaką ir kitų įmonių sprendimams dėl procesų automatizavimo. Bendrovė taip pat yra dalis platesnės technologijų sektoriaus reorganizacijų bangos, kai vienose srityse etatai mažinami, o kitur samdoma daugiau, ypač DI infrastruktūrai.

    Jenny Lay-Flurrie teigia, kad DI gali realiai mažinti atskirtį darbo rinkoje, ypač žmonėms su negalia ar neuroįvairove. „Pirmoji bendruomenė, kuri „Microsoft“ gavo prieigą prie „Copilot“, buvo mūsų darbuotojų su negalia grupė“, – sakė ji.

    Jos teigimu, kurtiesiems ypač padeda subtitrai, transkripcijos ir susitikimų santraukos, kurios suteikia daugiau savarankiškumo. Neuroįvairiems darbuotojams tokie įrankiai mažina kognityvinį krūvį ir padeda struktūruoti užduotis, tačiau tam būtina nuosekli atsakingo diegimo priežiūra.

    Ekspertai, dirbantys su žmonių su negalia įtrauktimi, pabrėžia, kad svarbu ne tik pritaikyti produktus, bet ir įtraukti šias bendruomenes į sprendimų priėmimą. Tai vertinama ne kaip geranoriškumas, o kaip būdas kurti konkurencingesnius ir visiems prieinamus sprendimus.