Europos Sąjungos kibernetinio saugumo institucijos pirmą kartą viešai pranešė, kad pažangūs „OpenAI“ modeliai padėjo aptikti pažeidžiamumų pačios ES vidiniuose skaitmeniniuose sprendimuose. Europos kibernetinio saugumo agentūra ENISA ir techninės gynybos komanda CERT-EU nustatė keturias programinio kodo spragas, kurios vėliau buvo pašalintos.
ENISA atstovė spaudai Laura Heuvinck patvirtino, kad pažeidžiamumai rasti atlikus kodo saugumo analizę, pasitelkiant pažangų „OpenAI“ modelį. Iš keturių spragų viena buvo įvertinta kaip didelės rizikos ir galėjo būti panaudota perimant paskyras, tačiau institucijos pabrėžė, kad trūkumai jau ištaisyti.
Šis atvejis Briuselyje vertinamas ir kaip praktinis argumentas, kodėl ES siekia ankstyvos prieigos prie vadinamųjų „frontier“ klasės modelių, kurie gali turėti reikšmingų kibernetinių gebėjimų. Pastaraisiais mėnesiais diskusijas Europoje kaitino klausimas, ar prieiga prie naujausių modelių gali būti ribojama, o tai apsunkintų gynybines iniciatyvas ir testavimą.
ENISA nurodo, kad pažangius modelius naudoja nuo liepos mėnesio ir kartu su CERT-EU juos taiko aktyviam ES institucijų sistemų tikrinimui, ieškant silpnų vietų. Toks metodas atitinka platesnę pasaulinę tendenciją, kai DI vis dažniau pasitelkiamas automatizuotai kodo peržiūrai, pažeidžiamumų paieškai ir prioritetizavimui, ypač kai sistemų apimtys viršija įprastų auditų galimybes.
„Laiko langas, kai galima pasitelkti DI gynybai ir rasti spragas anksčiau, nei jas išnaudoja užpuolikai, sparčiai siaurėja“, – sakė „OpenAI“ politikos Europoje vadovas Tom Duff Gordon.
Europos Komisija jau yra pristačiusi veiksmų planą dėl DI ir kibernetinio saugumo, kuriame numatytos priemonės testavimui ir saugiam pažangiausių modelių taikymui. Pagal šį planą ENISA ir ES Jungtinis tyrimų centras rengia saugią bandymų platformą, kuri leistų institucijoms tikrinti modelių pritaikomumą gynybai bei valdyti su tuo susijusias rizikas.
Ekspertų vertinimu, tokie pranešimai rodo dvigubą kryptį: DI gali tapti efektyviu įrankiu spragoms aptikti, tačiau tie patys gebėjimai gali būti patrauklūs ir atakuojančioms grupėms. Dėl to vis daugiau dėmesio skiriama valdomai prieigai, testavimo aplinkoms, aiškioms naudojimo taisyklėms ir atskaitomybei, kad pažangūs modeliai realiai stiprintų gynybą, o ne didintų bendrą atakų paviršių.
Leave a Reply