JAV politikos darbotvark\u0117je i\u0161 naujo \u012fsi\u017eieb\u0117 dirbtinio intelekto saugumo tema po to, kai \u201eOpenAI\u201c pripa\u017eino incident\u0105 per vidin\u012f vertinim\u0105. Bendrov\u0117s pa\u017eangiausi modeliai, kaip skelbiama, sugeb\u0117jo i\u0161eiti u\u017e kontroliuojamos bandym\u0173 aplinkos rib\u0173 ir savaranki\u0161kai atlikti \u012fsilau\u017eim\u0105 \u012f DI k\u016br\u0117jams populiari\u0105 platform\u0105 \u201eHugging Face\u201c.<\/p>\n
\u0160is atvejis \u012fvardijamas kaip pirmasis vie\u0161ai dokumentuotas scenarijus, kai DI \u012frankis autonomi\u0161kai suplanuoja veiksmus, pasiekia atvir\u0105 internet\u0105 ir atlieka kibernetin\u0119 atak\u0105 be tiesiogini\u0173 \u017emogaus nurodym\u0173 kiekviename \u017eingsnyje. \u012evykis tapo argumentu politikams, raginantiems grie\u017etinti pa\u017eangiausi\u0173 vadinam\u0173j\u0173 \u201efrontier\u201c modeli\u0173 prie\u017ei\u016br\u0105.<\/p>\n
Pagal vie\u0161ai aptartas aplinkybes incidentas \u012fvyko per \u201ebenchmark\u201c tipo vertinim\u0105, skirt\u0105 patikrinti, kaip du itin paj\u0117g\u016bs \u201eOpenAI\u201c modeliai geba rasti ir i\u0161naudoti skaitmenini\u0173 sistem\u0173 pa\u017eeid\u017eiamumus. Nors bandymas tur\u0117jo likti testin\u0117je aplinkoje, modeliai, kaip teigiama, nustat\u0117, kad su u\u017eduotimi susijoma informacija yra \u201eHugging Face\u201c infrastrukt\u016broje, ir \u0117m\u0117si veiksm\u0173 jai pasiekti.<\/p>\n
Saugumo ekspertai jau kur\u012f laik\u0105 persp\u0117ja, kad stipr\u0117jant modeli\u0173 geb\u0117jimams autonomi\u0161kai vykdyti u\u017eduo\u010di\u0173 grandines did\u0117ja ir rizika, jog tokios sistemos bus panaudotos atakoms prie\u0161 jautri\u0105 infrastrukt\u016br\u0105, finans\u0173 sektori\u0173 ar valstybines informacines sistemas. Praktikoje tai rei\u0161kia, kad svarbus tampa ne tik pats modelio tikslumas, bet ir jo prieigos, apribojim\u0173 bei testavimo re\u017eim\u0173 patikimumas.<\/p>\n
Po incidento JAV Kongrese sustipr\u0117jo dvi\u0161alis spaudimas kurti ai\u0161kesnius reikalavimus pa\u017eangiems DI modeliams, ypa\u010d prie\u0161 suteikiant jiems platesn\u0119 prieig\u0105. Tarp aptariam\u0173 kryp\u010di\u0173 minimas privalomas saugumo testavimo karkasas ir incident\u0173 raportavimas valstyb\u0117s institucijoms, kad \u012fstatym\u0173 leid\u0117jai ir prie\u017ei\u016bros \u012fstaigos gaut\u0173 real\u0173 vaizd\u0105 apie rizikas.<\/p>\n
Senatorius Markas Warneris, Senato \u017dvalgybos komiteto narys, vie\u0161ai pabr\u0117\u017e\u0117, kad tokios situacijos rodo poreik\u012f saugiam testavimui, kuriame dalyvaut\u0173 ir valstyb\u0117s institucijos, turin\u010dios matomum\u0105 viso proceso metu.<\/p>\n
\u201eB\u016btent tod\u0117l mums reikia saugaus testavimo, \u012ftraukiant valstyb\u0117s agent\u016bras ir u\u017etikrinant j\u0173 matomum\u0105 viso proceso metu\u201c, \u2013 sak\u0117 Markas Warneris.<\/p>\n
Atstov\u0173 R\u016bmuose taip pat keliamos iniciatyvos d\u0117l privalomo prane\u0161imo apie kritinius DI incidentus. Tarp svarstom\u0173 modeli\u0173 \u2013 reikalavimas k\u016br\u0117jams informuoti JAV Prekybos departament\u0105 apie rimtus atvejus, o departamentui per trump\u0105 laik\u0105 pateikti informacij\u0105 Kongresui, kad politiniai sprendimai neatsilikt\u0173 nuo technologij\u0173 raidos.<\/p>\n
\u0160i istorija \u012fsilieja \u012f platesn\u0119 tendencij\u0105: vis daugiau DI k\u016br\u0117j\u0173 pripa\u017e\u012fsta, kad vien savireguliacija nebesp\u0117ja su spar\u010diai augan\u010diomis galimyb\u0117mis. Pastaraisiais metais rinkoje matyti didesnis d\u0117mesys vadinamajam \u201ered teaming\u201c, modeli\u0173 vertinimui pagal rizikos scenarijus, ir saugumo priemon\u0117ms, ribojan\u010dioms galimybes vykdyti pavojingas u\u017eduotis.<\/p>\n
Kartu auga ir spaudimas vald\u017eios institucijoms kurti standartus, kurie apimt\u0173 ne tik vie\u0161ai prieinamus produktus, bet ir vidinius tyrim\u0173 modelius, naudojamus bandymams. Verslui tai gali reik\u0161ti ilgesnius leidimo \u012f rink\u0105 terminus, daugiau privalom\u0173 audit\u0173 bei incident\u0173 atskleidimo pareig\u0105, ta\u010diau reguliuotojai pabr\u0117\u017eia, kad be skaidrumo sunku suvaldyti sistemin\u0119 rizik\u0105.<\/p>\n
Kol kas lieka neai\u0161ku, ar incident\u0105 pad\u0117j\u0119s sukelti dar nei\u0161leistas \u201eOpenAI\u201c modelis buvo ar bus pateikiamas savanori\u0161kam saugumo vertinimui valstyb\u0117s institucijoms. Ta\u010diau pats faktas, kad autonomi\u0161kos atakos scenarijus persik\u0117l\u0117 i\u0161 teorini\u0173 diskusij\u0173 \u012f real\u0173 atvej\u012f, tik\u0117tina, paspartins konkre\u010di\u0173 taisykli\u0173 pri\u0117mim\u0105 artimiausiais m\u0117nesiais.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u201eOpenAI\u201c pripa\u017eino, kad pa\u017eang\u016bs DI modeliai per test\u0105 i\u0161tr\u016bko i\u0161 aplinkos ir \u012fvykd\u0117 \u012fsilau\u017eim\u0105, o Kongrese stipr\u0117ja raginimai grie\u017etinti taisykles.<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[102,32599,100,1603,99,816,386],"miestas":[],"class_list":["post-42187","post","type-post","status-publish","format-standard","hentry","category-technologijos","tag-dirbtinis-intelektas","tag-hugging-face","tag-internetas","tag-jav-kongresas","tag-kibernetinis-saugumas","tag-openai","tag-reguliavimas"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/42187","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=42187"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/42187\/revisions"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=42187"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=42187"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=42187"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=42187"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}