Europos Komisija palankiai įvertino JAV bendrovės „Anthropic“ sprendimą atidėti naujausio bendrosios paskirties dirbtinio intelekto modelio Claude Mythos išleidimą. Briuselis pabrėžia, kad tokia „laipsniška“ strategija padeda suvaldyti riziką, jog naujas įrankis galėtų būti panaudotas plataus masto kibernetinėms atakoms.
Europos Komisijos atstovas spaudai Thomas Regnier teigė, kad modelio potencialas kelti kibernetinį pavojų yra pakankama priežastis rinktis atsargesnį diegimą. Pasak jo, Komisijos DI biuras su „Anthropic“ palaiko dialogą dėl praktinio saugumo reikalavimų įgyvendinimo, tačiau detalių neatskleidžia dėl komercinio jautrumo.
„Atsižvelgiant į modelio potencialą sukelti plataus masto kibernetinę riziką, palankiai vertiname tokį laipsnišką jo diegimą“, – sakė Thomas Regnier.
„Anthropic“ pranešė, kad Claude Mythos, vidiniuose testuose, daugelyje užduočių aplenkė daugumą žmonių, kai reikėjo rasti ir išnaudoti programinės įrangos pažeidžiamumus. Tokie gebėjimai vertingi gynybai, tačiau tuo pačiu didina tikimybę, kad modelis gali paspartinti pažeidžiamumų paiešką ir atakų automatizavimą, jei patektų į netinkamas rankas.
Vietoje plataus viešo pristatymo bendrovė naują technologiją pirmiausia suteikė ribotam ratui kibernetinio saugumo įmonių. Iš viso modeliu naudojasi 12 naujai suburtos grupės dalyvių ir dar 40 neįvardytų organizacijų, kurios jį taiko gynybiniams tikslams, įskaitant sistemų skenavimą, atsparumo testavimą ir incidentų prevenciją.
Ši situacija aktuali ir dėl Europos Sąjungos DI reguliavimo. Pagal ES dirbtinio intelekto taisykles bendrosios paskirties modelių kūrėjai turi užtikrinti tinkamą kibernetinę apsaugą, o praktikos kodeksas numato pareigą spręsti rizikas, susijusias su galimybe sudaryti sąlygas pažangioms, plataus masto kibernetinėms atakoms.
Ekspertai ir politikos formuotojai pastaruoju metu vis dažniau akcentuoja, kad DI modeliai, gebantys kurti kodą ir analizuoti programinę įrangą, gali tapti „jėgos daugikliu“ tiek gynyboje, tiek puolime. Dėl to ES institucijoms tenka užduotis suderinti inovacijų tempą, rinkos poreikius ir realią priežiūrą, ypač kai pažangiausių modelių kontrolė reikalauja daugiau specializuotų išteklių.
Komisijos vertinimu, „Anthropic“ pasirinktas etapas, kai modelis pirmiau patikimas gynybos ekosistemai ir tik tuomet svarstomas platesnis prieinamumas, atitinka rizika grindžiamą požiūrį. Toks modelių diegimas leidžia geriau įvertinti realius poveikio scenarijus, nustatyti papildomas apsaugos priemones ir sumažinti tikimybę, kad pažeidžiamumų paieška bus paversta masine automatizuota paslauga.
Šaltiniai:
– https://www.politico.eu/article/eu-welcomes-anthropic-slow-release-powerful-new-ai-tool-claude-mythos/
– https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Leave a Reply