Europos Komisija „ChatGPT“ priskyrė labai didelės apimties interneto paieškos sistemų kategorijai pagal Skaitmeninių paslaugų aktą. Tai reiškia naujus skaidrumo ir rizikų valdymo reikalavimus, panašius į taikomus didiesiems paieškos rinkos žaidėjams.
Tokiam statusui taikomas orientyras yra daugiau nei 45 mln. aktyvių naudotojų per mėnesį Europos Sąjungoje. Už reikalavimų nevykdymą gali grėsti baudos, siekiančios iki 6 proc. metinių pasaulinių pajamų.
Ką apima paieškos statusas?
Komisijos pasirinktas apibrėžimas geriausiai tinka tais atvejais, kai „ChatGPT“ naudojamas kaip informacijos paieškos įrankis. Tuomet aktualūs įsipareigojimai dėl rizikų vertinimo, atskaitomybės ir tam tikrų sisteminių grėsmių mažinimo.
Tačiau ekspertai atkreipia dėmesį, kad toks priskyrimas gali neapimti reikšmingos dalies funkcijų, kurios atsiskleidžia pačiame dialoge. Kitaip tariant, kai pokalbyje sistema generuoja naują turinį, o ne tik padeda rasti informaciją, ne visos rizikos telpa į paieškos sistemos logiką.
Pokalbiai kaip atskira rizikų zona
Diskusija Briuselyje sukasi apie tai, kad pokalbių robotai dažnai naudojami ne vien paieškai, bet ir kaip emocinės paramos, bendravimo ar net savotiškos konsultacijos priemonė. Šie naudojimo scenarijai kelia klausimų dėl galimos emocinės priklausomybės, ypač vaikams ir paaugliams.
„ChatGPT yra daug daugiau nei paieškos sistema, o su pačiu pokalbių robotu susijusios rizikos gali likti už griežčiausių prievolių ribų“, – sakė Europos Parlamento narė Christel Schaldemose.
Pastaraisiais metais viešojoje erdvėje daugėjo atvejų ir įtarimų, kad intensyvus bendravimas su tokiais įrankiais gali turėti neigiamų pasekmių psichikos sveikatai. Tai sustiprino spaudimą reguliuotojams aiškiau įvardyti, kurios taisyklės taikomos būtent pokalbio dizainui, rekomendacijų logikai ir galimam manipuliaciniam poveikiui.
DSA ir DI aktas: dvi skirtingos priežiūros kryptys
Skaitmeninių paslaugų aktas buvo baigtas derinti 2022 metais, dar iki masinio generatyvaus DI proveržio, todėl dabartinė priežiūra iš dalies primena bandymą naują reiškinį įtalpinti į senesnes kategorijas. Dėl to kyla klausimas, ar ateityje nereikės tikslesnių apibrėžimų, skirtų būtent pokalbių paslaugoms.
Tuo pat metu DI aktas apima bendros paskirties DI modelių kūrėjus ir jiems keliamus reikalavimus vertinti bei mažinti sistemines rizikas. Vis dėlto kritikai pabrėžia, kad dėmesys sisteminėms grėsmėms ne visada išsprendžia kasdienes vartotojų problemas, pavyzdžiui, klaidinančius patarimus, poveikį pažeidžiamoms grupėms ar rizikas rinkimų informacinei aplinkai.
Komisijos sprendimas priskirti „ChatGPT“ paieškos sistemoms gali tapti startu detalesnei paslaugos dizaino ir taikymo priežiūrai, tačiau kartu išryškina spragą: pokalbis su sistema nėra tas pats, kas paieškos rezultatai. Būtent dėl šios ribos artimiausiu metu tikėtinos papildomos gairės ir praktikos aiškinimai, kurie lems, kaip realiai bus prižiūrimos svarbiausios pokalbių funkcijos.
Leave a Reply