Europos Komisijos padalinys EU AI Office, atsakingas už pažangiausių dirbtinio intelekto modelių priežiūrą, kritikuojamas dėl ribotų galimybių įvertinti naujas kibernetines grėsmes. Po „Anthropic“ pristatyto modelio, siejamo su įsilaužimų automatizavimo rizika, ekspertai sako, kad Briuseliui trūksta ir prieigos prie technologijos, ir aukšto lygio specialistų.
DI saugos organizacijos ir su EU AI Office reguliariai bendraujantys žmonės įspėja, kad dabartinis pajėgumas gali būti per menkas, jei kiltų didesnio masto incidentas. Kritika nukreipta ir į padalinio vietą Europos Komisijos struktūroje: esą keli valdymo sluoksniai lėtina sprendimus ir mažina politinį svorį krizinėse situacijose.
Prieigos prie modelio problema
Diskusijų centre atsidūrė „Anthropic“ modelis „Mythos“, kurį bendrovė dėl kibernetinio saugumo motyvų dalija ribotam partnerių ratui. Europos Komisija patvirtino, kad šiuo metu nėra tarp organizacijų, turinčių pilną prieigą prie šio modelio, todėl reguliuotojui sudėtinga savarankiškai įvertinti jo realias galimybes ir rizikas.
Nuogąstaujama, kad toks modelis gali pranokti daugelį žmonių ieškant ir išnaudojant programinės įrangos pažeidžiamumus, o tai, jam plačiau pasklidus, galėtų palengvinti kelią piktavaliams įsilaužėliams į kritinę infrastruktūrą. Tokios technologijos ypač kelia riziką sektoriams, kur svarbus sistemų nepertraukiamumas: energetikai, transportui, sveikatos apsaugai ir viešajam sektoriui.
Kodėl lyginama su Jungtine Karalyste
Tekste pabrėžiama, kad Jungtinės Karalystės AI Security Institute gavo prieigą prie „Mythos“ ir per trumpą laiką paskelbė techninį vertinimą, sulaukusį palankių įvertinimų. Tai tapo argumentu kritikams, teigiantiems, kad panašų pajėgumą Europa taip pat gali sukurti, tačiau tam reikia aiškaus politinio prioriteto ir didesnių išteklių.
Vienas iš praktinių skirtumų, kurį mini ekspertai, yra institucinis modelis: Jungtinės Karalystės institutas labiau orientuotas į saugos tyrimus, o ne į baudas ar reguliacines sankcijas. Briuselis tuo metu vienu metu turi ir vertinti, ir rengti įgyvendinimą, nes EU AI Office kartu su nacionalinėmis institucijomis atsakingas už ES DI akto vykdymo koordinavimą.
Žmonių ir kompetencijų trūkumas
EU AI Office yra palyginti naujas, mažiau nei dvejų metų amžiaus padalinys, turintis apie 140 darbuotojų. Saugos padalinyje, kuris labiausiai susijęs su pažangiausių modelių vertinimu, dirba apie 36 žmonės, o DI saugos organizacijos ragina šį skaičių didinti reikšmingai.
Vienas dažniausiai kartojamų argumentų yra tai, kad vertinant įsilaužimams pritaikytus modelius reikia ne tik teisinės ir politikos kompetencijos, bet ir itin stiprių programuotojų bei kibernetinio saugumo praktikų. Europos Komisijai tenka konkuruoti su rinkos atlyginimais ir kitais DI traukos centrais, įskaitant Londoną, todėl pritraukti tokius specialistus tampa sudėtinga.
Europos Parlamento nariai viešai ragina suteikti EU AI Office daugiau darbuotojų, didesnę techninę kompetenciją ir biudžetą, atitinkantį pažangiausio DI plėtros tempą. Komisija savo ruožtu teigia, kad kuria modernias modelių vertinimo galimybes ir planuoja papildomus įdarbinimus, įskaitant žmones, kurie būtų nukreipiami į saugą, reguliavimą ir atitiktį.
Ši situacija išryškina platesnę ES dilemos dalį: norint išlaikyti lyderystę technologijų reguliavime, neužtenka taisyklių. Reikia ir realios, technologiškai kompetentingos priežiūros, kuri galėtų greitai gauti prieigą prie pažangiausių modelių, juos testuoti, o prireikus veikti krizių režimu.
Šaltiniai:
– https://www.pourdemain.ngo/en/post/open-joint-letter-on-ai-office-resourcing
– https://digital-strategy.ec.europa.eu/en/policies/european-ai-office
– https://artificialintelligenceact.eu/
Leave a Reply