JAV dirbtinio intelekto bendrovė „Anthropic“ sulaukia vis griežtesnės kritikos Europoje dėl sprendimo riboti prieigą prie naujo modelio Mythos, kuris, pasak pačios įmonės, pasižymi itin pažangiais programinės įrangos pažeidžiamumų paieškos ir išnaudojimo gebėjimais. Europos institucijos argumentuoja, kad be realios prieigos sudėtinga įvertinti grėsmes kritinei infrastruktūrai ir pasirengti galimam piktnaudžiavimui.
Klausimas trečiadienį aptariamas Europos Parlamente, kur temą nagrinės Europos Komisijos ir ES kibernetinio saugumo agentūros ENISA atstovai. „Anthropic“ posėdyje nedalyvaus, nurodydama, kad kvietimo negalėjo priimti per trumpą laiką, o tai daliai europarlamentarų tapo papildomu signalu, kad dialogas su reguliuotojais stringa.
Reguliuotojai prašo prieigos testams
Europos sostinėse vis dažniau akcentuojama, kad modeliai, galintys reikšmingai sustiprinti įsilaužėlių pajėgumus, turi būti vertinami ne vien gamintojo pateiktais aprašais. Jei rizikos susijusios su pažeidžiamumų aptikimu ir automatizuotu išnaudojimu, praktiniai bandymai, raudonosios komandos testai ir nepriklausoma ekspertinė peržiūra laikomi būtinais.
Europos Komisijos atstovai viešai pabrėžė, kad įsigaliojus platesnėms DI priežiūros galioms, institucijos sieks užsitikrinti prieigą prie pažangių modelių, jei to prireiks vykdant priežiūrą. Toks tonas rodo, kad Briuselis vis labiau linksta prie principo: didesnė rizika reiškia didesnį skaidrumo ir bendradarbiavimo lygį.
ENISA ir bankų sektoriaus nerimas
ENISA vaidmuo šioje istorijoje tampa centriniu, nes agentūra ES mastu koordinuoja kibernetinio saugumo rizikų vertinimą ir rekomendacijų teikimą. Europos Parlamentui ir kai kurioms valstybėms narėms svarbu, kad agentūra galėtų bent ribotai susipažinti su tokio tipo modelių galimybėmis, kad būtų galima parengti praktines rizikų mažinimo gaires.
Didesnį susirūpinimą rodo ir finansų sektorius, nes bankai laikomi vienu svarbiausių kritinės infrastruktūros taikinių. Jei pažangūs DI įrankiai gali palengvinti pažeidžiamumų paiešką, atakų automatizavimą ar socialinės inžinerijos kampanijų mastelio didinimą, finansų rinkoms kyla sisteminės rizikos klausimas, ypač kai kalbama apie tarptautines, grandininį poveikį sukeliančias atakas.
Skirtingos praktikos ES ir JAV
Ši situacija ryškina ir skirtumus tarp JAV ir Europos prieigos prie nacionalinio saugumo vertinimų. JAV pastaraisiais metais stiprėja praktika, kai didžiosios technologijų bendrovės derina modelių patikrą su valdžios institucijomis, ypač kai kalbama apie pažangias kibernetines galimybes.
Europos pusėje tuo pat metu juntama įtampa dėl to, kad pažangiausi modeliai dažnai kuriami už ES ribų, o prieiga prie jų suteikiama ribotam partnerių ratui. Dalis politikų tai vertina kaip strateginį pažeidžiamumą, nes be prieigos sunku laiku parengti prevencines priemones, atnaujinti sektorių atsparumo reikalavimus ir suderinti incidentų valdymo scenarijus.
Kol kas „Anthropic“ viešai laikosi nuostatos, kad plačios prieigos ribojimas yra saugumo priemonė, skirta sumažinti technologijos patekimo į netinkamas rankas riziką. Tačiau Europos institucijos signalizuoja, kad vien geros valios ir pažadų nepakanka, kai kalbama apie modelius, galinčius pakeisti kibernetinių atakų mastą ir sudėtingumą.
Leave a Reply