CP v2

Tag: Nacionalinė saugumo agentūra

  • „OpenAI“ siūlo privalomus DI modelių testus, bet nepritaria Baltųjų rūmų planui su NSA vaidmeniu

    „OpenAI“ paviešino siūlymą, kaip JAV galėtų reguliuoti pažangius dirbtinio intelekto modelius, ir kai kuriais esminiais punktais išsiskyrė su naujausiu Baltųjų rūmų požiūriu. Bendrovė ragina pereiti nuo savanoriškų vertinimų prie privalomų testų, tačiau pabrėžia, kad priežiūra turėtų likti civilinėse institucijose.

    Siūlymo esmė – numatyti pareigą pažangiausiems DI modeliams atlikti sistemingus rizikų vertinimus, ypač dėl kibernetinio saugumo, piktnaudžiavimo ir kitų didelio poveikio scenarijų. „OpenAI“ siūlo, kad šį procesą koordinuotų su standartizavimu dirbantys civiliniai padaliniai, o ne žvalgybos bendruomenė.

    Kur kertasi du požiūriai

    Baltųjų rūmų kryptis, apie kurią kalbama viešai, labiau remiasi savanorišku modelių vertinimu ir didesniu Nacionalinės saugumo agentūros įsitraukimu, ypač kibernetinių grėsmių kontekste. Tuo metu „OpenAI“ akcentuoja, kad privalomas vertinimas būtų veiksmingesnis, jei jį prižiūrėtų Nacionalinio standartų ir technologijų instituto struktūrose veikiantis DI standartų ir inovacijų centras.

    „OpenAI“ argumentas paprastas: jei vertinimai yra savanoriški, dalis rinkos dalyvių gali jų vengti, o visuomenė ir verslas negauna vienodų saugumo garantijų. Be to, bendrovė mano, kad civilinė priežiūra palengvina skaidrumą, palyginamumą ir aiškesnes taisykles visiems.

    Kas kelia daugiausia klausimų

    Vienas didžiausių nesutarimų – idėja dalį pažangių DI modelių „benchmarkinimo“ ar pajėgumų slenksčių nustatymo laikyti įslaptintame režime. „OpenAI“ atstovai perspėja, kad tai gali sukurti neapibrėžtumą, kada ir kokie modeliai pateks į papildomą patikrą, o tai komplikuotų planavimą ir atitiktį taisyklėms.

    „Vienas svarbiausių klausimų yra, kada modelis pasiekia pajėgumo slenkstį, dėl kurio jam turi būti taikomas griežtesnis vertinimas“, – sakė „OpenAI“ vadovų komandos atstovas Chrisas Lehane.

    Šis „pajėgumo slenkstis“ tampa centrine tema ir tarptautiniu mastu: sparčiai didėjant modelių galimybėms, vis dažniau kalbama apie testus, kurie vertintų ne tik įprastą tikslumą, bet ir atsparumą piktnaudžiavimui, gebėjimą generuoti pavojingas instrukcijas, automatizuoti kibernetines atakas ar apeiti apsaugas.

    Politinis fonas ir artimiausi terminai

    Diskusijos vyksta tuo metu, kai „OpenAI“ generalinis direktorius Samas Altmanas Vašingtone susitinka su administracijos pareigūnais ir abiejų partijų įstatymų leidėjais. Tikslas – įtikinti, kad privalomi vertinimai būtų įtvirtinti taisyklėse, o civilinis standartų centras gautų aiškesnį mandatą ir didesnį vaidmenį.

    Pagal viešai aptariamą vykdomųjų sprendimų logiką, agentūroms dažnai suteikiamas ribotas laikas parengti įgyvendinimo detales, todėl reguliavimo kryptis dar gali keistis. „OpenAI“ pozicija – vertinimų sistema turėtų būti privaloma, tačiau bendrovė kol kas atsargiai vertina griežtesnius mechanizmus, pavyzdžiui, išankstinius leidimus prieš išleidžiant naujus modelius.

    Praktinis šių debatų rezultatas gali paveikti visą JAV DI sektorių: nuo to, kas nustatys testavimo metodikas ir kaip bus dalijamasi informacija, iki to, ar įmonės turės aiškius, viešus kriterijus, leidžiančius suprasti, kada prasideda griežtesnė priežiūra. Verslui tai reikštų daugiau aiškumo, o vartotojams ir valstybės institucijoms – didesnį nuspėjamumą, kaip valdoma pažangių DI sistemų rizika.

  • Trumpo planas dėl pažangių DI modelių: savanoriška peržiūra prieš viešą paleidimą ir naujos taisyklės

    Kas numatyta Baltųjų rūmų projekte

    JAV prezidento Donaldo Trumpo administracija rengia vykdomąjį įsaką, kuriuo būtų sustiprinta pažangių dirbtinio intelekto modelių, ypač susijusių su kibernetiniu saugumu, priežiūra. Su projektu susipažinę šaltiniai teigia, kad dokumente numatoma, jog technologijų bendrovės tam tikrus modelius teiktų peržiūrai federalinėms agentūroms dar prieš juos paviešinant.

    Pagal aptariamą tvarką peržiūra būtų savanoriška, tačiau joje dalyvaujantys kūrėjai turėtų suteikti valdžios institucijoms prieigą prie konkrečių modelių maždaug 90 dienų iki jų viešo paleidimo. Tokia schema vertinama kaip kompromisas tarp siekio mažinti rizikas ir noro išlaikyti inovacijoms palankų reguliavimo toną.

    Kokios agentūros būtų įtrauktos

    Dokumente minimas nacionalinio saugumo ir civilinių institucijų vaidmuo, o viena iš krypčių būtų susijusi su vadinamaisiais fronto modeliais, t. y. pažangiausiais ir didžiausią poveikį galinčiais turėti DI sprendimais. Projekte taip pat numatomas atskiras dėmesys kibernetiniam saugumui ir kritinei infrastruktūrai.

    Su planu siejamos tokios institucijos kaip Iždo departamentas, Kibernetinio saugumo ir infrastruktūros saugumo agentūra bei Nacionalinis standartų ir technologijų institutas. Taip pat minimas ir Nacionalinės saugumo agentūros vaidmuo priimant galutinius sprendimus, konsultuojantis su kitomis agentūromis.

    Benchmarkai, terminai ir kibernetinis saugumas

    Vienas svarbiausių numatomų žingsnių būtų sukurti kriterijus, pagal kuriuos būtų nustatoma, kas konkrečiai laikytina „aprėptu“ fronto modeliu. Tam būtų kuriamas įslaptintas testavimo ir lyginamosios analizės procesas, kuris leistų įvertinti modelių pajėgumus ir galimą žalą, įskaitant piktnaudžiavimo scenarijus.

    Projekte taip pat kalbama apie trumpus įgyvendinimo terminus kibernetinio saugumo priemonėms. Numatoma, kad dalis veiksmų būtų skirti federalinių tinklų apsaugai, o kita dalis apimtų DI taikymą valstybinėse sistemose ir kritinės infrastruktūros sektoriuose, kur pažeidžiamumai gali turėti realių pasekmių paslaugų tęstinumui.

    Kodėl šis žingsnis atsirado dabar

    Diskusijos dėl griežtesnės pažangių DI modelių kontrolės suaktyvėjo augant nerimui, kad naujos kartos kibernetinėms užduotims pritaikyti modeliai gali pagreitinti įsilaužimų paiešką, automatizuoti pažeidžiamumų išnaudojimą ar sumažinti barjerus piktybiškai veiklai. Dėl to valdžios institucijos ieško mechanizmų, kaip anksčiau sužinoti apie itin pajėgių modelių paleidimą ir įvertinti rizikas.

    Vis dėlto pati idėja reikalauti išankstinės privalomos federalinės peržiūros, dar prieš modeliams pasirodant rinkoje, pastarosiomis savaitėmis buvo vertinama prieštaringai. Todėl dabartinis projektas, kaip teigiama, labiau remiasi savanoriška partneryste su kūrėjais, o ne formaliu leidimų režimu.

    „Įtraukti visi, todėl klausimas tai atsiranda darbotvarkėje, tai vėl nuo jos dingsta“, – sakė su procesu susipažinęs asmuo.

    Jei vykdomasis įsakas būtų pasirašytas, jis galėtų tapti reikšmingu signalu DI rinkai: daliai pažangių modelių JAV būtų siūlomas ankstyvas institucinis vertinimas ir saugumo koordinavimas. Tuo pat metu tai paliktų erdvės diskusijai, ar savanoriškas modelis bus pakankamas, kai technologijų plėtra spartėja, o kibernetinės grėsmės tampa vis labiau automatizuotos.