Trumpo planas dėl pažangių DI modelių: savanoriška peržiūra prieš viešą paleidimą ir naujos taisyklės

Kas numatyta Baltųjų rūmų projekte

JAV prezidento Donaldo Trumpo administracija rengia vykdomąjį įsaką, kuriuo būtų sustiprinta pažangių dirbtinio intelekto modelių, ypač susijusių su kibernetiniu saugumu, priežiūra. Su projektu susipažinę šaltiniai teigia, kad dokumente numatoma, jog technologijų bendrovės tam tikrus modelius teiktų peržiūrai federalinėms agentūroms dar prieš juos paviešinant.

Pagal aptariamą tvarką peržiūra būtų savanoriška, tačiau joje dalyvaujantys kūrėjai turėtų suteikti valdžios institucijoms prieigą prie konkrečių modelių maždaug 90 dienų iki jų viešo paleidimo. Tokia schema vertinama kaip kompromisas tarp siekio mažinti rizikas ir noro išlaikyti inovacijoms palankų reguliavimo toną.

Kokios agentūros būtų įtrauktos

Dokumente minimas nacionalinio saugumo ir civilinių institucijų vaidmuo, o viena iš krypčių būtų susijusi su vadinamaisiais fronto modeliais, t. y. pažangiausiais ir didžiausią poveikį galinčiais turėti DI sprendimais. Projekte taip pat numatomas atskiras dėmesys kibernetiniam saugumui ir kritinei infrastruktūrai.

Su planu siejamos tokios institucijos kaip Iždo departamentas, Kibernetinio saugumo ir infrastruktūros saugumo agentūra bei Nacionalinis standartų ir technologijų institutas. Taip pat minimas ir Nacionalinės saugumo agentūros vaidmuo priimant galutinius sprendimus, konsultuojantis su kitomis agentūromis.

Benchmarkai, terminai ir kibernetinis saugumas

Vienas svarbiausių numatomų žingsnių būtų sukurti kriterijus, pagal kuriuos būtų nustatoma, kas konkrečiai laikytina „aprėptu“ fronto modeliu. Tam būtų kuriamas įslaptintas testavimo ir lyginamosios analizės procesas, kuris leistų įvertinti modelių pajėgumus ir galimą žalą, įskaitant piktnaudžiavimo scenarijus.

Projekte taip pat kalbama apie trumpus įgyvendinimo terminus kibernetinio saugumo priemonėms. Numatoma, kad dalis veiksmų būtų skirti federalinių tinklų apsaugai, o kita dalis apimtų DI taikymą valstybinėse sistemose ir kritinės infrastruktūros sektoriuose, kur pažeidžiamumai gali turėti realių pasekmių paslaugų tęstinumui.

Kodėl šis žingsnis atsirado dabar

Diskusijos dėl griežtesnės pažangių DI modelių kontrolės suaktyvėjo augant nerimui, kad naujos kartos kibernetinėms užduotims pritaikyti modeliai gali pagreitinti įsilaužimų paiešką, automatizuoti pažeidžiamumų išnaudojimą ar sumažinti barjerus piktybiškai veiklai. Dėl to valdžios institucijos ieško mechanizmų, kaip anksčiau sužinoti apie itin pajėgių modelių paleidimą ir įvertinti rizikas.

Vis dėlto pati idėja reikalauti išankstinės privalomos federalinės peržiūros, dar prieš modeliams pasirodant rinkoje, pastarosiomis savaitėmis buvo vertinama prieštaringai. Todėl dabartinis projektas, kaip teigiama, labiau remiasi savanoriška partneryste su kūrėjais, o ne formaliu leidimų režimu.

„Įtraukti visi, todėl klausimas tai atsiranda darbotvarkėje, tai vėl nuo jos dingsta“, – sakė su procesu susipažinęs asmuo.

Jei vykdomasis įsakas būtų pasirašytas, jis galėtų tapti reikšmingu signalu DI rinkai: daliai pažangių modelių JAV būtų siūlomas ankstyvas institucinis vertinimas ir saugumo koordinavimas. Tuo pat metu tai paliktų erdvės diskusijai, ar savanoriškas modelis bus pakankamas, kai technologijų plėtra spartėja, o kibernetinės grėsmės tampa vis labiau automatizuotos.