CP v2

Tag: NIST

  • Trumpo planas dėl pažangių DI modelių: savanoriška peržiūra prieš viešą paleidimą ir naujos taisyklės

    Kas numatyta Baltųjų rūmų projekte

    JAV prezidento Donaldo Trumpo administracija rengia vykdomąjį įsaką, kuriuo būtų sustiprinta pažangių dirbtinio intelekto modelių, ypač susijusių su kibernetiniu saugumu, priežiūra. Su projektu susipažinę šaltiniai teigia, kad dokumente numatoma, jog technologijų bendrovės tam tikrus modelius teiktų peržiūrai federalinėms agentūroms dar prieš juos paviešinant.

    Pagal aptariamą tvarką peržiūra būtų savanoriška, tačiau joje dalyvaujantys kūrėjai turėtų suteikti valdžios institucijoms prieigą prie konkrečių modelių maždaug 90 dienų iki jų viešo paleidimo. Tokia schema vertinama kaip kompromisas tarp siekio mažinti rizikas ir noro išlaikyti inovacijoms palankų reguliavimo toną.

    Kokios agentūros būtų įtrauktos

    Dokumente minimas nacionalinio saugumo ir civilinių institucijų vaidmuo, o viena iš krypčių būtų susijusi su vadinamaisiais fronto modeliais, t. y. pažangiausiais ir didžiausią poveikį galinčiais turėti DI sprendimais. Projekte taip pat numatomas atskiras dėmesys kibernetiniam saugumui ir kritinei infrastruktūrai.

    Su planu siejamos tokios institucijos kaip Iždo departamentas, Kibernetinio saugumo ir infrastruktūros saugumo agentūra bei Nacionalinis standartų ir technologijų institutas. Taip pat minimas ir Nacionalinės saugumo agentūros vaidmuo priimant galutinius sprendimus, konsultuojantis su kitomis agentūromis.

    Benchmarkai, terminai ir kibernetinis saugumas

    Vienas svarbiausių numatomų žingsnių būtų sukurti kriterijus, pagal kuriuos būtų nustatoma, kas konkrečiai laikytina „aprėptu“ fronto modeliu. Tam būtų kuriamas įslaptintas testavimo ir lyginamosios analizės procesas, kuris leistų įvertinti modelių pajėgumus ir galimą žalą, įskaitant piktnaudžiavimo scenarijus.

    Projekte taip pat kalbama apie trumpus įgyvendinimo terminus kibernetinio saugumo priemonėms. Numatoma, kad dalis veiksmų būtų skirti federalinių tinklų apsaugai, o kita dalis apimtų DI taikymą valstybinėse sistemose ir kritinės infrastruktūros sektoriuose, kur pažeidžiamumai gali turėti realių pasekmių paslaugų tęstinumui.

    Kodėl šis žingsnis atsirado dabar

    Diskusijos dėl griežtesnės pažangių DI modelių kontrolės suaktyvėjo augant nerimui, kad naujos kartos kibernetinėms užduotims pritaikyti modeliai gali pagreitinti įsilaužimų paiešką, automatizuoti pažeidžiamumų išnaudojimą ar sumažinti barjerus piktybiškai veiklai. Dėl to valdžios institucijos ieško mechanizmų, kaip anksčiau sužinoti apie itin pajėgių modelių paleidimą ir įvertinti rizikas.

    Vis dėlto pati idėja reikalauti išankstinės privalomos federalinės peržiūros, dar prieš modeliams pasirodant rinkoje, pastarosiomis savaitėmis buvo vertinama prieštaringai. Todėl dabartinis projektas, kaip teigiama, labiau remiasi savanoriška partneryste su kūrėjais, o ne formaliu leidimų režimu.

    „Įtraukti visi, todėl klausimas tai atsiranda darbotvarkėje, tai vėl nuo jos dingsta“, – sakė su procesu susipažinęs asmuo.

    Jei vykdomasis įsakas būtų pasirašytas, jis galėtų tapti reikšmingu signalu DI rinkai: daliai pažangių modelių JAV būtų siūlomas ankstyvas institucinis vertinimas ir saugumo koordinavimas. Tuo pat metu tai paliktų erdvės diskusijai, ar savanoriškas modelis bus pakankamas, kai technologijų plėtra spartėja, o kibernetinės grėsmės tampa vis labiau automatizuotos.

  • Trumpo administracija sugriežtina DI kontrolę: „Google“ ir „Microsoft“ modelius tikrins prieš startą

    Trumpo administracija sugriežtina DI kontrolę: „Google“ ir „Microsoft“ modelius tikrins prieš startą

    Kas keičiasi JAV politikoje

    JAV administracija ketina įtvirtinti praktiką, pagal kurią pažangūs dirbtinio intelekto modeliai būtų pateikiami valdžios ekspertams dar prieš oficialų jų pristatymą. Tokį bendradarbiavimą su JAV institucijomis patvirtino „Google“, „Microsoft“ ir „xAI“.

    Pagrindinis tikslas – anksti įvertinti rizikas nacionaliniam saugumui ir viešajam saugumui, kol nauji modeliai nepateko į plačią rinką. Tai rodo ryškesnį posūkį į griežtesnę technologijų sektoriaus priežiūrą.

    Kas ir kaip testuos modelius

    Modelių patikras planuojama vykdyti JAV Prekybos departamento struktūroje veikiančiame Dirbtinio intelekto standartų ir inovacijų centre CAISI, bendradarbiaujant su Nacionaliniu standartų ir technologijų institutu. Tikrinant bus vertinamas atsparumas kibernetinėms atakoms ir galimas pritaikymas kariniams tikslams.

    CAISI akcentuoja, kad nepriklausomas, griežtas vertinimas yra būtinas norint suprasti vadinamųjų pažangiausių DI sistemų poveikį ir jų keliamas grėsmes. Praktikoje tai reiškia bandymus, kurie gali apimti įvairias elgsenos ir saugumo patikras dar iki viešo paleidimo.

    „Nepriklausomas ir griežtas mokslinis vertinimas yra būtinas, kad suprastume pažangiausią DI ir jo pasekmes nacionaliniam saugumui“, – sakė CAISI vadovas Chrisas Fallas.

    Kodėl sprendimas priimtas dabar

    Diskusijas suaktyvino pastarojo meto susirūpinimas dėl itin galingų modelių galimybių, ypač kibernetinio saugumo srityje. Technologijų pažanga didina ne tik produktyvumą, bet ir riziką, kad įrankiai bus panaudoti įsilaužimams, dezinformacijai ar jautrių sistemų pažeidžiamumui išnaudoti.

    Šiame kontekste valdžios institucijoms svarbu turėti prieigą prie išankstinių versijų, kad būtų galima identifikuoti pavojingus scenarijus ir rekomenduoti papildomas apsaugas. Tai atitinka platesnę kryptį, kai valstybės siekia perkelti DI saugumo vertinimą iš reakcijos po incidentų į prevenciją.

    „Nė viena organizacija negali viena pati išspręsti šių iššūkių. Partnerystės su CAISI yra mūsų pastangų dalis, kuriant bendras metodikas, duomenis ir gebėjimus efektyviai testuoti DI“, – sakė „Microsoft“ atsakingo DI padalinio vadovė Natasha Crampton.

    Kartu JAV Gynybos departamentas atskirai plečia susitarimus su keliomis DI bendrovėmis dėl technologijų diegimo uždarose, jautriose tinklų aplinkose. Tai rodo, kad DI vertinimas tampa ne vien civiliniu reguliavimo klausimu, bet ir praktiniu saugumo infrastruktūros elementu.

    Kol „Microsoft“ ir dalis kitų rinkos dalyvių aktyviai komentuoja bendradarbiavimą, „Google“ viešų detalių pateikia mažiau, o „xAI“ į paklausimus ne visada reaguoja. Vis dėlto kryptis aiški: pažangūs DI modeliai JAV vis dažniau bus vertinami ne tik rinkoje, bet ir prieš patekdami į ją.

  • Trumpo administracija imasi DI kontrolės: bus tikrinami „Google“, „Microsoft“ ir „xAI“ modeliai

    Trumpo administracija imasi DI kontrolės: bus tikrinami „Google“, „Microsoft“ ir „xAI“ modeliai

    JAV plečia DI priežiūrą

    JAV administracija žengia dar vieną žingsnį stiprindama pažangių dirbtinio intelekto modelių priežiūrą. JAV Komercijos departamentui priklausantis Dirbtinio intelekto standartų ir inovacijų centras (CAISI) pranešė pasirašęs susitarimus, kurie atveria kelią valdžiai vertinti modelius dar prieš jų viešą paleidimą.

    Pagal centro pateiktą informaciją, tokie vertinimai būtų skirti geriau suprasti vadinamųjų fronto DI sistemų gebėjimus ir galimas rizikas. Dėmesys nukreiptas į saugumą, patikimumą ir galimus nacionalinio saugumo aspektus.

    Kas įtraukti į susitarimus

    CAISI nurodė, kad nauji susitarimai apima „Google DeepMind“, „Microsoft“ ir Elono Musko įkurtą „xAI“. Tai reiškia, kad dalis pažangiausių rinkoje kuriamų modelių gali būti testuojami valdžios institucijų dar iki jų pasirodymo plačiajai visuomenei.

    Centras taip pat priminė, kad partnerystės dėl DI saugos tyrimų buvo pradėtos dar anksčiau, įtraukiant ir kitas dideles DI kūrėjas. Skelbiama, kad ankstesni susitarimai buvo atnaujinti atsižvelgiant į naujas Komercijos departamento gaires ir JAV DI veiksmų plano kryptį.

    Baltojo rūmų planai ir signalai rinkai

    Lygiagrečiai JAV žiniasklaidoje aptariama galimybė Baltuosiuose rūmuose kurti atskirą darbo grupę, kuri svarstytų papildomas priežiūros priemones. Tarp idėjų minima ir praktika vertinti modelius prieš jų išleidimą, o tai galėtų tapti reikšmingu pokyčiu DI rinkai.

    Baltojo rūmų atstovai viešai pabrėžė, kad kalbos apie galimus vykdomuosius įsakus yra spekuliacijos, o apie politikos sprendimus esą praneštų pats prezidentas Donaldas Trumpas. Vis dėlto pats faktas, kad tokios priemonės svarstomos, rodo didėjantį politinį spaudimą DI bendrovėms.

    Diskusijas apie griežtesnę kontrolę sustiprino ir pastarojo meto atvejai, kai nauji modeliai pristatomi su akcentu į kibernetinį saugumą ir pažeidžiamumų paiešką. Tokie gebėjimai, ekspertų vertinimu, gali būti naudingi gynybai, tačiau kartu kelia riziką, jei patektų į piktavalių rankas.