Vokietijos Federalinio informacijos saugumo biuro (BSI) vadovė Claudia Plattner perspėja, kad naujas „Anthropic“ dirbtinio intelekto modelis „Mythos“ gali tapti lūžio tašku kibernetinių grėsmių raidoje. Pasak jos, tokie įrankiai keičia ne tik atakų greitį, bet ir patį pažeidžiamumų paieškos bei išnaudojimo mastą.
BSI teigimu, agentūra su „Anthropic“ palaiko aktyvų dialogą, o modelio galimybės vertinamos labai rimtai. Nors pati BSI dar nėra tiesiogiai testavusi „Mythos“, institucija nurodo gavusi pakankamai informacijos iš kūrėjų ir susijusių techninių diskusijų, kad susidarytų aiškesnį vaizdą apie veikimo principus ir rizikas.
Kas kelia didžiausią nerimą?
Didžiausias nerimas siejamas su tuo, kad DI gali efektyviau už žmones aptikti programinės įrangos klaidas ir jas paversti realiais išnaudojimo scenarijais. Tai ypač pavojinga tiekimo grandinės kontekste, kai pažeidžiamumas viename plačiai naudojamame komponente gali atverti kelią atakoms prieš daugybę organizacijų.
„Tai yra paradigmos pokytis kibernetinių grėsmių prigimtyje“, – sakė Claudia Plattner.
„Anthropic“ paskelbė, kad naujausią modelį suteikė ribotai grupei kibernetinio saugumo bendrovių ir kitų organizacijų sistemų skenavimui bei atsparumo testavimui. Tokia praktika gali padėti greičiau atrasti spragas gynybiniais tikslais, tačiau ekspertai pabrėžia, kad panašūs gebėjimai, patekę piktavaliams, galėtų padidinti plataus masto incidentų tikimybę.
Europos institucijos kalba apie artėjančią audrą
Pastaraisiais mėnesiais Europos kibernetinio saugumo institucijos vis dažniau viešai įspėja, kad DI spartina pažeidžiamumų paiešką ir automatizuoja atakas. Europos Sąjungos kibernetinio saugumo agentūros ENISA vadovybė šių pokyčių poveikį yra apibūdinusi kaip artėjančią audrą, kai organizacijoms teks prisitaikyti prie naujo tempo.
Plattner išskiria ir dar vieną galimą kryptį: vidutiniu laikotarpiu gali mažėti klasikinių, ilgai nepastebimų pažeidžiamumų, nes DI leis juos greičiau aptikti. Tačiau tai nereiškia, kad rizika nyks, veikiau ji persikels į kitą lygmenį, kai pažeidžiamumų atradimas taps beveik momentinis, o laiko langas pataisoms sutrumpės.
Reguliavimas ir priežiūra nespėja paskui technologiją
Didėjant pažangių modelių įtakai saugumui, vis dažniau keliami klausimai, ar priežiūros institucijos turi pakankamai išteklių ir kompetencijų. Kritikai pabrėžia, kad pažangiausių DI modelių vertinimui, auditui ir rizikų stebėsenai reikalingi papildomi specialistai, o reguliacinė praktika Europoje vis dar formuojasi.
Tuo pat metu valstybės ieško būdų mažinti priklausomybę nuo platformų, kurių veikimo jos nekontroliuoja, ypač kritinės infrastruktūros ir viešojo sektoriaus sprendimuose. Kibernetinio saugumo ekspertai pabrėžia, kad DI era didins spaudimą diegti nuolatinį pažeidžiamumų valdymą, stiprinti tiekėjų patikras ir greitinti programinės įrangos atnaujinimų grandinę.
Praktinis poveikis organizacijoms gali būti labai konkretus: daugiau automatizuotų bandymų laužtis, greitesnis pažeidžiamumų išnaudojimas ir didesnė tikimybė, kad silpniausia grandis bus ne pagrindinė sistema, o mažiau prižiūrimas tiekėjas ar pagalbinis komponentas. Todėl institucijos ragina į DI keliamas rizikas žiūrėti ne kaip į teoriją, o kaip į artėjantį operacinį iššūkį.
Šaltiniai:
– https://www.politico.eu/article/anthropic-ai-hacking-tech-triggers-concern-in-german-cyber-agency/
– https://www.anthropic.com/glasswing
Leave a Reply