Floridos pastorius Scottas Wintersas JAV pateikė ieškinį „OpenAI“ ir jos vadovui Samui Altmanui, teigdamas, kad pokalbių robotas „ChatGPT“ jam pateikė klaidinančius patarimus dėl sveikatos. Pasak ieškinio, šie atsakymai esą atitolino kreipimąsi į gydytojus, o vėliau baigėsi gyvybei pavojinga plaučių embolija.
Byla iškelta Kalifornijoje, San Francisko valstijos teisme. Wintersas tvirtina, kad dėl pasikartojančio galvos svaigimo ir naujų simptomų jis kreipėsi į „ChatGPT“, o sistema vietoje aiškaus raginimo skubiai ieškoti medikų pagalbos esą pateikė nuraminančias rekomendacijas.
Ieškinyje nurodoma, kad modelis GPT-4o tariamai patarė riboti judėjimą ir likti namuose, o kirkšnyje atsiradusį skausmingumą įvardijo kaip nekeliančią grėsmės būklę. Kitą dieną, pasak dokumentų, pastorius pateko į reanimaciją dėl plaučių embolijos, o gydytojai krešulių riziką siejo ir su nepakankamu fiziniu aktyvumu.
Wintersas taip pat teigia, kad laikui bėgant pokalbių robotas nebeparodydavo aiškių įspėjimų kreiptis į gydytoją ir vietoje to pateikdavo holistinio gydymo planus. Ieškinyje akcentuojama, kad atsakymų tonas esą buvo pritaikomas prie jo religinių įsitikinimų, o tai galėjo dar labiau sustiprinti pasitikėjimą sistema.
„Net ir šią situaciją prižiūri Dievas“, – teigiama, kad taip buvo atsakyta į pastoriaus nerimą dėl būklės rimtumo.
Teisininkai ir technologijų rizikas nagrinėjantys ekspertai seniai atkreipia dėmesį, kad generatyvūs kalbos modeliai gali pateikti įtikinamai skambančius, bet klaidingus ar kontekstui netinkamus atsakymus. Sveikatos temose tai ypač jautru, nes net nedidelė formuluotė gali paskatinti žmogų atidėti pagalbą arba neteisingai interpretuoti simptomus.
Pastorius prašo finansinės kompensacijos ir teismo įpareigojimo sustiprinti apsaugas, kai pokalbis pasiekia situacijas, kuriose gali būti reikalinga skubi medicininė intervencija. Tarp reikalavimų minima ir idėja, kad tokiais atvejais sistema automatiškai nutrauktų pokalbį arba aiškiai nukreiptų į skubios pagalbos paslaugas.
„OpenAI“ atstovas Drew Pusateri viešai pabrėžė, kad „ChatGPT“ nėra skirtas diagnozuoti ar gydyti, o tai numato ir paslaugos taisyklės. Pasak jo, pokalbių robotų naudojimas kaip vienintelio sprendimų pagrindo esą pernelyg supaprastina problemą ir gali užkirsti kelią žmonėms pasinaudoti įrankiais, kurie kai kuriais atvejais padeda geriau suprasti informaciją apie sveikatą.
„Mūsų taisyklės aiškiai nurodo, kad „ChatGPT“ nėra skirtas diagnozėms ar gydymui“, – sakė „OpenAI“ atstovas Drew Pusateri.
Ši istorija išryškina platesnę tendenciją: žmonės vis dažniau sveikatos klausimus užduoda DI įrankiams, nes tai greita, patogu ir dažnai pateikiama suprantama kalba. Tačiau gydytojai ne kartą pabrėžė, kad simptomų vertinimas be apžiūros, anamnezės ir tyrimų gali būti klaidinantis, o neatidėliotini atvejai reikalauja nedelsiant kreiptis į skubią pagalbą.
Pastarojo meto diskusijose daug dėmesio skiriama vadinamajai apsaugų kokybei, kai sistema turi atpažinti pavojingus scenarijus ir neimituoti medicininės konsultacijos. Kuo plačiau DI naudojamas kasdienėms problemoms spręsti, tuo didesnė atsakomybė tenka kūrėjams aiškiai riboti tokio įrankio paskirtį ir užtikrinti, kad vartotojui būtų paprasta suprasti, kada būtina reali medicininė pagalba.
Leave a Reply