CP v2

Tag: NIST

  • DI iškėlė nerimą kriptografams: „Anthropic“ modelis per 60 valandų rado spragą HAWK

    DI iškėlė nerimą kriptografams: „Anthropic“ modelis per 60 valandų rado spragą HAWK

    JAV bendrovės „Anthropic“ dirbtinio intelekto modelis „Claude Mythos Preview“ per maždaug 60 valandų aptiko reikšmingą struktūrinę spragą kriptografijos schemoje HAWK, kuri buvo laikoma viena perspektyvių kandidacijų vadinamiesiems postkvantiniams standartams. Tai nustebino tyrėjus, nes panašių testų ir auditų procesai įprastai trunka mėnesius ar net metus.

    Pasak publikuotų tyrimo rezultatų, aptikta savybė sumažino HAWK-256 bandyminei versijai priskiriamą saugumo ribą: teorinis atakos sudėtingumas nuo 2^64 sumažėjo iki 2^38 operacijų. Praktikoje tai reiškia, kad demonstracinė ataka tapo gerokai pigesnė ir greitesnė, nors realiose sistemose ši konkreti bandomoji versija šiuo metu nenaudojama.

    Kas yra HAWK ir kodėl tai svarbu

    HAWK yra skaitmeninių parašų schema, kuri kuriama įvertinant perspektyvą, kad kvantiniai kompiuteriai ateityje galėtų padaryti dalį šiandien paplitusių metodų, tokių kaip RSA ar ECDSA, nepraktiškai nesaugius. Dėl to įvairios institucijos ir pramonė jau dabar planuoja perėjimą prie postkvantinės kriptografijos, kad kritinės sistemos būtų pasiruošusios iš anksto.

    HAWK saugumas siejamas su grotelinių konstrukcijų sudėtingumu, o tyrime minima, kad modelis aptiko papildomą, anksčiau praktikoje neįvertintą struktūrinę savybę, kuri leido sukurti efektyvesnį atakos scenarijų. Būtent tokios, iš pirmo žvilgsnio akademiškos detalės kriptografijoje dažnai lemia, ar schema išlieka patikima diegimui plačiu mastu.

    Vis dėlto svarbu pabrėžti, kad kalbama apie kandidatą ir jo bandomąjį parametrų rinkinį, o ne apie šiandien bankuose ar naršyklėse veikiančias masiškai naudojamas sistemas. Praktinė rekomendacija, kylanti iš šio rezultato, būtų didinti raktų dydžius, tačiau tai mažintų HAWK pranašumą, susijusį su kompaktiškumu ir našumu.

    „Möbius Bridge“ ir AES: kodėl vartotojams panikuoti nereikia

    Antrasis rezultatas susijęs su AES-128, tačiau ne su pilna, realiai naudojama 10 raundų versija, o su akademiniu požiūriu dažnai analizuojama 7 raundų, supaprastinta atmaina. Tokios supaprastintos versijos tiriamos tam, kad būtų geriau suprantamos šifro saugumo atsargos ir galimi teoriniai silpnėjimo taškai.

    Modelis pasiūlė naują atakos optimizavimo techniką, pavadintą „Möbius Bridge“, kuri, pateiktais duomenimis, gali paspartinti žinomą „meet-in-the-middle“ tipo ataką 200–800 kartų prieš 7 raundų variantą. Tačiau pačios atakos prielaidos yra nepritaikomos realybei, nes reikalautų neįgyvendinamo kiekio parinktų atvirų tekstų, šifruotų tuo pačiu raktu.

    Dėl šios priežasties tyrėjų aprašyti rezultatai nereiškia, kad šiandien masiškai pažeidžiamas AES, naudojamas naršyklėse, mokėjimų infrastruktūroje ar įrenginiuose. Tai veikiau signalas, kad DI gali reikšmingai pagreitinti kriptoanalizę ten, kur anksčiau progresas buvo lėtesnis ir labiau priklausė nuo siaurai specializuotų komandų.

    Nauja tendencija: kriptoanalizė su DI

    Didžiausia šios istorijos reikšmė yra ne vien konkretus HAWK atvejis, o pats procesas: DI didžiąją dalį darbo atliko iš esmės autonomiškai, o žmonės vėliau ilgai tikrino ir formaliai pagrindė gautus rezultatus. Tai rodo besiformuojantį modelį, kai DI tampa ne tik pagalbiniu įrankiu, bet ir greitu hipotezių generatoriumi bei eksperimentinės paieškos varikliu.

    Kriptografijoje praktika aiški: algoritmai turi būti vieši, išanalizuoti bendruomenės ir atlaikyti daugybę bandymų juos „laužti“. Jei DI reikšmingai sumažina tokių bandymų kainą ir laiką, tikėtina, kad kandidatų atranka ir standartizavimo procesai turės dar labiau remtis nuolatiniu, iteraciniu auditu ir greitesniu parametrų koregavimu.

    Kartu tai kelia ir naują klausimą: perėjimas prie postkvantinės kriptografijos iki šiol buvo siejamas pirmiausia su kvantinių kompiuterių rizika, tačiau DI pagreitinta kriptoanalizė gali sukelti spaudimą kur kas anksčiau. Organizacijoms tai reiškia poreikį ne tik planuoti migraciją, bet ir nuolat sekti kandidatų būklę, atnaujinimus bei akademinės bendruomenės išvadas.

  • Trumpo planas dėl pažangių DI modelių: savanoriška peržiūra prieš viešą paleidimą ir naujos taisyklės

    Kas numatyta Baltųjų rūmų projekte

    JAV prezidento Donaldo Trumpo administracija rengia vykdomąjį įsaką, kuriuo būtų sustiprinta pažangių dirbtinio intelekto modelių, ypač susijusių su kibernetiniu saugumu, priežiūra. Su projektu susipažinę šaltiniai teigia, kad dokumente numatoma, jog technologijų bendrovės tam tikrus modelius teiktų peržiūrai federalinėms agentūroms dar prieš juos paviešinant.

    Pagal aptariamą tvarką peržiūra būtų savanoriška, tačiau joje dalyvaujantys kūrėjai turėtų suteikti valdžios institucijoms prieigą prie konkrečių modelių maždaug 90 dienų iki jų viešo paleidimo. Tokia schema vertinama kaip kompromisas tarp siekio mažinti rizikas ir noro išlaikyti inovacijoms palankų reguliavimo toną.

    Kokios agentūros būtų įtrauktos

    Dokumente minimas nacionalinio saugumo ir civilinių institucijų vaidmuo, o viena iš krypčių būtų susijusi su vadinamaisiais fronto modeliais, t. y. pažangiausiais ir didžiausią poveikį galinčiais turėti DI sprendimais. Projekte taip pat numatomas atskiras dėmesys kibernetiniam saugumui ir kritinei infrastruktūrai.

    Su planu siejamos tokios institucijos kaip Iždo departamentas, Kibernetinio saugumo ir infrastruktūros saugumo agentūra bei Nacionalinis standartų ir technologijų institutas. Taip pat minimas ir Nacionalinės saugumo agentūros vaidmuo priimant galutinius sprendimus, konsultuojantis su kitomis agentūromis.

    Benchmarkai, terminai ir kibernetinis saugumas

    Vienas svarbiausių numatomų žingsnių būtų sukurti kriterijus, pagal kuriuos būtų nustatoma, kas konkrečiai laikytina „aprėptu“ fronto modeliu. Tam būtų kuriamas įslaptintas testavimo ir lyginamosios analizės procesas, kuris leistų įvertinti modelių pajėgumus ir galimą žalą, įskaitant piktnaudžiavimo scenarijus.

    Projekte taip pat kalbama apie trumpus įgyvendinimo terminus kibernetinio saugumo priemonėms. Numatoma, kad dalis veiksmų būtų skirti federalinių tinklų apsaugai, o kita dalis apimtų DI taikymą valstybinėse sistemose ir kritinės infrastruktūros sektoriuose, kur pažeidžiamumai gali turėti realių pasekmių paslaugų tęstinumui.

    Kodėl šis žingsnis atsirado dabar

    Diskusijos dėl griežtesnės pažangių DI modelių kontrolės suaktyvėjo augant nerimui, kad naujos kartos kibernetinėms užduotims pritaikyti modeliai gali pagreitinti įsilaužimų paiešką, automatizuoti pažeidžiamumų išnaudojimą ar sumažinti barjerus piktybiškai veiklai. Dėl to valdžios institucijos ieško mechanizmų, kaip anksčiau sužinoti apie itin pajėgių modelių paleidimą ir įvertinti rizikas.

    Vis dėlto pati idėja reikalauti išankstinės privalomos federalinės peržiūros, dar prieš modeliams pasirodant rinkoje, pastarosiomis savaitėmis buvo vertinama prieštaringai. Todėl dabartinis projektas, kaip teigiama, labiau remiasi savanoriška partneryste su kūrėjais, o ne formaliu leidimų režimu.

    „Įtraukti visi, todėl klausimas tai atsiranda darbotvarkėje, tai vėl nuo jos dingsta“, – sakė su procesu susipažinęs asmuo.

    Jei vykdomasis įsakas būtų pasirašytas, jis galėtų tapti reikšmingu signalu DI rinkai: daliai pažangių modelių JAV būtų siūlomas ankstyvas institucinis vertinimas ir saugumo koordinavimas. Tuo pat metu tai paliktų erdvės diskusijai, ar savanoriškas modelis bus pakankamas, kai technologijų plėtra spartėja, o kibernetinės grėsmės tampa vis labiau automatizuotos.

  • Trumpo administracija sugriežtina DI kontrolę: „Google“ ir „Microsoft“ modelius tikrins prieš startą

    Trumpo administracija sugriežtina DI kontrolę: „Google“ ir „Microsoft“ modelius tikrins prieš startą

    Kas keičiasi JAV politikoje

    JAV administracija ketina įtvirtinti praktiką, pagal kurią pažangūs dirbtinio intelekto modeliai būtų pateikiami valdžios ekspertams dar prieš oficialų jų pristatymą. Tokį bendradarbiavimą su JAV institucijomis patvirtino „Google“, „Microsoft“ ir „xAI“.

    Pagrindinis tikslas – anksti įvertinti rizikas nacionaliniam saugumui ir viešajam saugumui, kol nauji modeliai nepateko į plačią rinką. Tai rodo ryškesnį posūkį į griežtesnę technologijų sektoriaus priežiūrą.

    Kas ir kaip testuos modelius

    Modelių patikras planuojama vykdyti JAV Prekybos departamento struktūroje veikiančiame Dirbtinio intelekto standartų ir inovacijų centre CAISI, bendradarbiaujant su Nacionaliniu standartų ir technologijų institutu. Tikrinant bus vertinamas atsparumas kibernetinėms atakoms ir galimas pritaikymas kariniams tikslams.

    CAISI akcentuoja, kad nepriklausomas, griežtas vertinimas yra būtinas norint suprasti vadinamųjų pažangiausių DI sistemų poveikį ir jų keliamas grėsmes. Praktikoje tai reiškia bandymus, kurie gali apimti įvairias elgsenos ir saugumo patikras dar iki viešo paleidimo.

    „Nepriklausomas ir griežtas mokslinis vertinimas yra būtinas, kad suprastume pažangiausią DI ir jo pasekmes nacionaliniam saugumui“, – sakė CAISI vadovas Chrisas Fallas.

    Kodėl sprendimas priimtas dabar

    Diskusijas suaktyvino pastarojo meto susirūpinimas dėl itin galingų modelių galimybių, ypač kibernetinio saugumo srityje. Technologijų pažanga didina ne tik produktyvumą, bet ir riziką, kad įrankiai bus panaudoti įsilaužimams, dezinformacijai ar jautrių sistemų pažeidžiamumui išnaudoti.

    Šiame kontekste valdžios institucijoms svarbu turėti prieigą prie išankstinių versijų, kad būtų galima identifikuoti pavojingus scenarijus ir rekomenduoti papildomas apsaugas. Tai atitinka platesnę kryptį, kai valstybės siekia perkelti DI saugumo vertinimą iš reakcijos po incidentų į prevenciją.

    „Nė viena organizacija negali viena pati išspręsti šių iššūkių. Partnerystės su CAISI yra mūsų pastangų dalis, kuriant bendras metodikas, duomenis ir gebėjimus efektyviai testuoti DI“, – sakė „Microsoft“ atsakingo DI padalinio vadovė Natasha Crampton.

    Kartu JAV Gynybos departamentas atskirai plečia susitarimus su keliomis DI bendrovėmis dėl technologijų diegimo uždarose, jautriose tinklų aplinkose. Tai rodo, kad DI vertinimas tampa ne vien civiliniu reguliavimo klausimu, bet ir praktiniu saugumo infrastruktūros elementu.

    Kol „Microsoft“ ir dalis kitų rinkos dalyvių aktyviai komentuoja bendradarbiavimą, „Google“ viešų detalių pateikia mažiau, o „xAI“ į paklausimus ne visada reaguoja. Vis dėlto kryptis aiški: pažangūs DI modeliai JAV vis dažniau bus vertinami ne tik rinkoje, bet ir prieš patekdami į ją.

  • Trumpo administracija imasi DI kontrolės: bus tikrinami „Google“, „Microsoft“ ir „xAI“ modeliai

    Trumpo administracija imasi DI kontrolės: bus tikrinami „Google“, „Microsoft“ ir „xAI“ modeliai

    JAV plečia DI priežiūrą

    JAV administracija žengia dar vieną žingsnį stiprindama pažangių dirbtinio intelekto modelių priežiūrą. JAV Komercijos departamentui priklausantis Dirbtinio intelekto standartų ir inovacijų centras (CAISI) pranešė pasirašęs susitarimus, kurie atveria kelią valdžiai vertinti modelius dar prieš jų viešą paleidimą.

    Pagal centro pateiktą informaciją, tokie vertinimai būtų skirti geriau suprasti vadinamųjų fronto DI sistemų gebėjimus ir galimas rizikas. Dėmesys nukreiptas į saugumą, patikimumą ir galimus nacionalinio saugumo aspektus.

    Kas įtraukti į susitarimus

    CAISI nurodė, kad nauji susitarimai apima „Google DeepMind“, „Microsoft“ ir Elono Musko įkurtą „xAI“. Tai reiškia, kad dalis pažangiausių rinkoje kuriamų modelių gali būti testuojami valdžios institucijų dar iki jų pasirodymo plačiajai visuomenei.

    Centras taip pat priminė, kad partnerystės dėl DI saugos tyrimų buvo pradėtos dar anksčiau, įtraukiant ir kitas dideles DI kūrėjas. Skelbiama, kad ankstesni susitarimai buvo atnaujinti atsižvelgiant į naujas Komercijos departamento gaires ir JAV DI veiksmų plano kryptį.

    Baltojo rūmų planai ir signalai rinkai

    Lygiagrečiai JAV žiniasklaidoje aptariama galimybė Baltuosiuose rūmuose kurti atskirą darbo grupę, kuri svarstytų papildomas priežiūros priemones. Tarp idėjų minima ir praktika vertinti modelius prieš jų išleidimą, o tai galėtų tapti reikšmingu pokyčiu DI rinkai.

    Baltojo rūmų atstovai viešai pabrėžė, kad kalbos apie galimus vykdomuosius įsakus yra spekuliacijos, o apie politikos sprendimus esą praneštų pats prezidentas Donaldas Trumpas. Vis dėlto pats faktas, kad tokios priemonės svarstomos, rodo didėjantį politinį spaudimą DI bendrovėms.

    Diskusijas apie griežtesnę kontrolę sustiprino ir pastarojo meto atvejai, kai nauji modeliai pristatomi su akcentu į kibernetinį saugumą ir pažeidžiamumų paiešką. Tokie gebėjimai, ekspertų vertinimu, gali būti naudingi gynybai, tačiau kartu kelia riziką, jei patektų į piktavalių rankas.