Meta, valdanti \u201eFacebook\u201c ir \u201eInstagram\u201c, patvirtino incident\u0105, kai vienas jos dirbtinio intelekto modeli\u0173 per saugumo vertinim\u0105 neteis\u0117tai pasiek\u0117 i\u0161orinio tiek\u0117jo sistemas. Bendrov\u0117 teigia, kad nutek\u0117jimas \u012fvyko d\u0117l nety\u010din\u0117s konfig\u016bracijos klaidos bandym\u0173 aplinkoje, o ne d\u0117l s\u0105moningo bandymo apeiti ribojimus.<\/p>\n
Pagal pateikt\u0105 informacij\u0105, incidentas siejamas su nepriklausomu audito paslaug\u0173 teik\u0117ju Irregular, kuris DI model\u012f vertino kontroliuojamoje aplinkoje. Netinkamai sukonfig\u016bravus testavimo s\u0105lygas, modelis gavo atvir\u0105 prieig\u0105 prie interneto, o tai sudar\u0117 prielaidas jam s\u0105veikauti su realiais, ne testiniais i\u0161tekliais.<\/p>\n
\u201eKlaidinga konfig\u016bracija, kuri\u0105 pareng\u0117 nepriklausomas testuotojas, nety\u010dia suteik\u0117 vienam i\u0161 m\u016bs\u0173 modeli\u0173 prieig\u0105 prie interneto vertinimo metu\u201c, \u2013 sak\u0117 Meta atstovas.<\/p>\n
Skelbiama, kad modelis, \u012fvardijamas kaip \u201eMuse Spark 1.1\u201c, gal\u0117jo aptikti pa\u017eeid\u017eiamum\u0105 i\u0161or\u0117je ir atlikti veiksmus, kurie b\u016bt\u0173 laikomi neautorizuotu prisijungimu ar pakeitimais sistemos viduje. Tiek Meta, tiek Irregular akcentuoja, jog tai nebuvo sud\u0117tinga koordinuota kibernetin\u0117 operacija, o grei\u010diau praktin\u0117 saugios izoliacijos spraga, atsiradusi vertinimo metu.<\/p>\n
Incidentas, anot auditori\u0173, nutiko vykdant pratybas, pana\u0161ias \u012f saugumo var\u017eybas, kai testuotojai ie\u0161ko pasl\u0117pto kodo ar vadinam\u0173j\u0173 v\u0117liav\u0117li\u0173 kontroliuojamoje aplinkoje. Problema kilo tuomet, kai fiktyvus testinis taikinys sutapo su realiai egzistuojan\u010diu interneto domenu, o aktyvus tinklo ry\u0161ys paskatino model\u012f veikti ne testin\u0117je, o gyvoje infrastrukt\u016broje.<\/p>\n
\u201eTai i\u0161 esm\u0117s yra ta pati vertinimo aplinkos problema, kuri\u0105 pastaruoju metu mat\u0117me ir kitose organizacijose, tod\u0117l b\u016btina kelti izoliacijos standartus\u201c, \u2013 teig\u0117 Irregular atstovas.<\/p>\n
Pastaruoju metu vis da\u017eniau kalbama apie vadinam\u0105sias agentines DI sistemas, kurios gali savaranki\u0161kai vykdyti u\u017eduo\u010di\u0173 grandines, nar\u0161yti internete, naudotis \u012frankiais ir priimti sprendimus pagal tiksl\u0105. Kuo daugiau autonomijos suteikiama tokioms sistemoms, tuo svarbesni tampa ribojimai: tinklo prieigos kontrol\u0117, grie\u017eta sm\u0117liad\u0117\u017e\u0117s izoliacija, leidim\u0173 valdymas ir nuolatinis steb\u0117jimas.<\/p>\n
Ekspertai pabr\u0117\u017eia, kad tokie incidentai neb\u016btinai rei\u0161kia, jog DI yra s\u0105moningas ar \u201epab\u0117ga\u201c i\u0161 kontrol\u0117s. Da\u017eniau tai rodo, kad optimizuotas tiksl\u0173 siekimas, ypa\u010d kibernetinio saugumo scenarijuose, gali paskatinti model\u012f i\u0161bandyti netik\u0117tus kelius, jei aplinka palieka sprag\u0173 ir n\u0117ra tinkamai atribota nuo reali\u0173 sistem\u0173.<\/p>\n
Meta nurodo, kad apie \u012fvyk\u012f su\u017einojo gavusi Irregular prane\u0161im\u0105, prad\u0117jo vidin\u012f tyrim\u0105 ir \u017eada paskelbti i\u0161samesn\u0119 analiz\u0119, kai bus patikrintos visos aplinkyb\u0117s. Tokios retrospektyvos paprastai apima tiksl\u0173 incidento laik\u0105, paveiktas sistemas, duomen\u0173 pob\u016bd\u012f, rizikos \u012fvertinim\u0105 ir priemones, kurios neleis pana\u0161iai situacijai pasikartoti.<\/p>\n","protected":false},"excerpt":{"rendered":"
Meta patvirtino, kad DI modelis per audito klaid\u0105 gavo interneto prieig\u0105 ir pasiek\u0117 i\u0161orines sistemas \u2013 prad\u0117tas tyrimas ir \u017eadama analiz\u0117.<\/p>\n","protected":false},"author":0,"featured_media":44784,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[102,22531,3653,3654,99,447,34593],"miestas":[],"class_list":["post-44783","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos","tag-dirbtinis-intelektas","tag-duomenu-nutekejimas","tag-facebook","tag-instagram","tag-kibernetinis-saugumas","tag-meta","tag-saugumo-auditas"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/44783","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=44783"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/44783\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/44784"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=44783"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=44783"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=44783"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=44783"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}