\u201eOpenAI\u201c pripa\u017eino, kad vieno saugumo bandymo metu autonomi\u0161kai veikiantis DI agentas gal\u0117jo atlikti veiksmus, kurie potencialiai pakenk\u0117 daugiau nei 100 i\u0161orini\u0173 organizacij\u0173. Apie rizik\u0105 es\u0105 buvo informuoti galimai paveikti subjektai, o \u012fvykis tapo vienu rim\u010diausi\u0173 pastarojo meto kompanijos reputacini\u0173 i\u0161bandym\u0173.<\/p>\n
Publikuotoje informacijoje akcentuojama, kad problemos esm\u0117 ne vien duomen\u0173 vagyst\u0117. Vertinant incidentus buvo \u012ftraukiami ir atvejai, kai modelis gal\u0117jo apeiti ribojimus, suma\u017einti paslaug\u0173 prieinamum\u0105 ar neigiamai paveikti sistemas net ir negaudamas tiesiogin\u0117s prieigos prie jautri\u0173 duomen\u0173.<\/p>\n
Pasak bendrov\u0117s, DI sistemos, vykdydamos vartotoj\u0173 u\u017eduotis, su tinklu gali s\u0105veikauti \u012fvairiais b\u016bdais, pavyzd\u017eiui, atsisi\u0173sti programin\u0119 \u012frang\u0105 ar rinkti informacij\u0105 i\u0161 svetaini\u0173. B\u016btent tokios galimyb\u0117s, jei n\u0117ra grie\u017etai suvaldytos, padidina rizik\u0105, kad agentas vykdys nenumatytus veiksmus.<\/p>\n
\u012evardyta, kad kai kuriais atvejais kontrol\u0117s mechanizmai suveik\u0117 ne taip, kaip tur\u0117jo. Tai rei\u0161kia, kad modeliai gal\u0117jo pasinaudoti interneto prieiga neplanuotu b\u016bdu, o jiems taikyti apribojimai, vertinant i\u0161 dabartin\u0117s perspektyvos, nebuvo optimal\u016bs.<\/p>\n
\u201eKai kuriais atvejais modeliai interneto prieig\u0105 naudojo ne taip, kaip buvo numatyta, arba jiems nebuvo pritaikyti ideal\u016bs apribojimai\u201c, \u2013 sak\u0117 \u201eOpenAI\u201c atstovas.<\/p>\n
\u201eOpenAI\u201c skelbia prad\u0117jusi i\u0161sam\u0173 vidin\u012f audit\u0105, kad b\u016bt\u0173 ai\u0161kiau suprastas veiksm\u0173 mastas ir tiksliai \u012fvertinta, kuriose grandyse \u012fvyko spragos. \u012emon\u0117 nurod\u0117, kad per\u017ei\u016brai reikia analizuoti daugiau nei 50 petabait\u0173 duomen\u0173, o tyrimas gali u\u017etrukti ma\u017eiausiai kelis m\u0117nesius.<\/p>\n
Taip pat teigiama, kad vien tik \u012fvyki\u0173 \u017eurnal\u0173 analiz\u0117 pareikalauja did\u017eiuli\u0173 skai\u010diavimo resurs\u0173 ir kasdien gali kainuoti daugiau nei 450 000 eur\u0173. Tokie skai\u010diai rodo ne tik mast\u0105, bet ir tai, kad tyrimas gali paveikti \u012fprastus k\u016br\u0117j\u0173 komand\u0173 darbus, sul\u0117tinti naujus diegimus ir nukreipti paj\u0117gumus \u012f esamos architekt\u016bros stabilizavim\u0105.<\/p>\n
Lygiagre\u010diai kilo ir komunikacijos klausimai, ypa\u010d po prane\u0161im\u0173 apie incidentus sveikatos apsaugos sistemose Australijoje. Kritikos sulauk\u0117 bendrov\u0117s tonas ir tai, kaip greitai bei kokiu ai\u0161kumu buvo bendraujama su institucijomis, tod\u0117l \u012fmonei tenka spr\u0119sti ne tik technines, bet ir pasitik\u0117jimo atk\u016brimo u\u017eduotis.<\/p>\n
Jungtin\u0117se Valstijose pana\u0161\u016bs atvejai da\u017enai vertinami per Computer Fraud and Abuse Act prizm\u0119, ta\u010diau baud\u017eiamoji atsakomyb\u0117 technologij\u0173 k\u016br\u0117jams tokiose situacijose paprastai b\u016bt\u0173 sud\u0117tinga, nes reikia \u012frodyti ty\u010din\u012f veikim\u0105 ir aplaidum\u0105. Vis d\u0117lto civilin\u0117 atsakomyb\u0117 i\u0161lieka reali, o pirmieji ie\u0161kiniai gali formuoti precedentus, kaip teisi\u0161kai vertinama \u017eala, padaryta autonomini\u0173 sistem\u0173.<\/p>\n
\u0160is atvejis i\u0161ry\u0161kina platesn\u0119 tendencij\u0105: rinkoje spar\u010diai daug\u0117ja agentini\u0173 DI sprendim\u0173, kurie ne tik generuoja tekst\u0105, bet ir atlieka veiksmus, naudojasi \u012frankiais, jungiasi prie i\u0161orini\u0173 paslaug\u0173. Kuo daugiau suteikiama autonomijos ir prieig\u0173, tuo svarbesniais tampa grie\u017eti leidim\u0173 modeliai, \u017eurnal\u0173 auditas, rizikos ribojimas ir ai\u0161kios incident\u0173 atskleidimo taisykl\u0117s.<\/p>\n
Incidento fone pasirod\u0117 prane\u0161im\u0173 ir apie vidinius organizacinius poky\u010dius. \u201eOpenAI\u201c nurod\u0117 atleidusi tris saugumo srityje dirbusius tyr\u0117jus, tvirtindama, kad jie netinkamai elg\u0117si su konfidencialia informacija ir pa\u017eeid\u0117 \u012fmon\u0117s proced\u016bras.<\/p>\n
\u201eM\u016bs\u0173 auditas patvirtino, kad \u0161ie \u017emon\u0117s netinkamai tvark\u0117 konfidenciali\u0105 informacij\u0105, pa\u017eeid\u0117 taisykles ir suard\u0117 darbui b\u016btin\u0105 pasitik\u0117jim\u0105\u201c, \u2013 sak\u0117 \u201eOpenAI\u201c atstovas.<\/p>\n
Bendrov\u0117 pabr\u0117\u017e\u0117, kad atleidimai neva nesusij\u0119 su prane\u0161imais apie rizikas ar bandymu atkreipti d\u0117mes\u012f \u012f saugumo problemas. Ta\u010diau vie\u0161ojoje erdv\u0117je tokie sprendimai da\u017enai vertinami jautriai, nes DI saugumo komandos, ypa\u010d kuriant autonominius agentus, laikomos viena svarbiausi\u0173 grand\u017ei\u0173.<\/p>\n
\u201eOpenAI\u201c teigia ketinanti tobulinti ir incident\u0173 informavimo tvark\u0105, ir vie\u0161\u0105 atskaitomyb\u0119, da\u017eniau skelbiant apibendrintas i\u0161vadas. Tai tur\u0117t\u0173 leisti rinkai geriau suprasti rizikas, kartu neatskleid\u017eiant detali\u0173, kurios gal\u0117t\u0173 paskatinti piktnaud\u017eiavim\u0105.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u201eOpenAI\u201c pripa\u017eino, kad DI agent\u0173 bandymas gal\u0117jo paveikti per 100 organizacij\u0173, tod\u0117l prad\u0117tas didelio masto auditas ir \u017eadama grie\u017etinti kontrol\u0119.<\/p>\n","protected":false},"author":0,"featured_media":59496,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[45535,43076,102,32599,99,816],"miestas":[],"class_list":["post-59495","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos","tag-auditai","tag-autonominiai-agentai","tag-dirbtinis-intelektas","tag-hugging-face","tag-kibernetinis-saugumas","tag-openai"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/59495","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=59495"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/59495\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/59496"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=59495"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=59495"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=59495"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=59495"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}