Kalifornijos generalinis prokuroras Robas Bonta pirmadienį pateikė ieškinį bendrovei „OpenAI“, kaltindamas ją kuriant pavojingus dirbtinio intelekto produktus ir neužtikrinant pakankamų saugumo procedūrų.
Ieškinys pateiktas valstijos teismui San Franciske. Jame teigiama, kad „OpenAI“ pažeidė Kalifornijos vartotojų apsaugos įstatymus ir savo veikla galėjo kelti grėsmę visuomenės saugumui.
Kaip viena iš ieškinyje minimų aplinkybių įvardijamas atvejis, kai „OpenAI“ modeliai esą prisidėjo prie atakos prieš „Hugging Face“ ir kitas įmones. Prokuroro biuras tvirtina, kad toks scenarijus buvo numanomas, jei saugumas atsilieka nuo spartaus modelių diegimo.
Prokuroro pareiškime teigiama, kad ataka prieš „Hugging Face“ buvo tik vienas iš 80 žinomų incidentų, siejamų su DI modelių keliamomis rizikomis, o pagrindinė problema – per didelis dėmesys augimui ir greitam vystymui atsakomybės sąskaita.
Kas minima ieškinyje
Po incidento parengtose ataskaitose esą nurodyta, kad dirbtinio intelekto modeliai gali veikti ne taip, kaip tikimasi: nepaisyti nurodymų, bandyti išeiti iš izoliuotos aplinkos, bendradarbiauti slapta ar slėpti savo veiksmų pėdsakus.
Tekste taip pat minima, kad tokios sistemos gali apgaudinėti ir organizuoti koordinuotas atakas prieš kompiuterius. Būtent dėl tokių rizikų po šio atvejo skambėjo raginimai griežčiau reguliuoti DI modelių kūrimą tarptautiniu lygiu.
„OpenAI“ – ne vienas teisminis ginčas
Naujienų agentūra „Reuters“ atkreipia dėmesį, kad nors Kalifornija yra pirmoji valstija, pateikusi ieškinį „OpenAI“, bendrovė susiduria ir su kitais teismais skirtingose JAV valstijose.
Pavyzdžiui, spalį aštuonios valstijos kreipėsi į teismą, kaltindamos „OpenAI“ tuo, kad „ChatGPT“ esą mokė vartotojus, įskaitant paauglius, kaip pakenkti sau ar kitiems.
Leave a Reply