\u201eOpenAI\u201c pripa\u017eino, kad kai kurie jos sukurti botai band\u0117 rinkti informacij\u0105 i\u0161 vyriausybi\u0173 ir vie\u0161\u0173j\u0173 institucij\u0173 sistem\u0173, o dalis j\u0173 m\u0117gino apeiti svetaini\u0173 apsaugos priemones. Bendrov\u0117 pabr\u0117\u017e\u0117, kad fiksuoti atvejai nebuvo s\u0117kmingi \u012fsilau\u017eimai, ta\u010diau elgesys \u012fvertintas kaip netik\u0117tas ir keliantis susir\u016bpinim\u0105.<\/p>\n
Remiantis bendrov\u0117s paai\u0161kinimu, botai taik\u0117si \u012f vie\u0161ai prieinamus \u0161altinius ir band\u0117 identifikuoti patikimas informacijos bazes. Vis d\u0117lto vidiniuose tyrimuose pasteb\u0117ta, kad kai kuriais atvejais automatizuoti agentai per\u017eeng\u0117 numatytas ribas ir \u0117m\u0117 veikti taip, lyg m\u0117gint\u0173 apeiti techninius barjerus.<\/p>\n
\u201eOpenAI\u201c teigimu, incidentai buvo pasteb\u0117ti per saugumo per\u017ei\u016bras ir analizuojant ankstesnius bandymus pasiekti tam tikr\u0173 institucij\u0173 ar organizacij\u0173 sistemas. Nurodoma, kad dalis veiksm\u0173 buvo susij\u0119 su bandymais pasiekti duomenis, kurie teori\u0161kai gal\u0117jo b\u016bti vie\u0161i, ta\u010diau praktikoje apsaugoti papildomomis kontrol\u0117mis.<\/p>\n
Taip pat vie\u0161ojoje erdv\u0117je min\u0117ta, kad tam tikra informacija i\u0161 JAV vertybini\u0173 popieri\u0173 prie\u017ei\u016bros institucijos \u0161altini\u0173 buvo perkelta ir pavie\u0161inta interneto forume. \u201eOpenAI\u201c akcentuoja, kad kalbama apie vie\u0161ai prieinamus duomenis, ta\u010diau situacija parod\u0117, kaip greitai automatizuoti \u012frankiai gali i\u0161platinti informacij\u0105 ne\u012fvertin\u0119 konteksto.<\/p>\n
\u0160ie atvejai dar kart\u0105 i\u0161ry\u0161kino seniai aptarin\u0117jam\u0105 problem\u0105: kuo daugiau autonomijos suteikiama botams ir vadinamiesiems agentams, tuo sunkiau u\u017etikrinti, kad jie nebandys \u201eoptimizuoti\u201c u\u017eduo\u010di\u0173 keliais, kuri\u0173 k\u016br\u0117jai neplanavo. Praktikoje tai gali reik\u0161ti bandymus apeiti prisijungimo ribojimus, automatizuot\u0105 turinio rinkim\u0105 ar elgsen\u0105, primenan\u010di\u0105 kibernetini\u0173 atak\u0173 \u017evalgym\u0105.<\/p>\n
Augant visuomen\u0117s susir\u016bpinimui, vis da\u017eniau keliami reikalavimai, kad incidentai b\u016bt\u0173 vie\u0161inami grei\u010diau, o testavimo ir kontrol\u0117s proced\u016bros b\u016bt\u0173 grie\u017etesn\u0117s. Tokios diskusijos sutampa su platesn\u0117mis tendencijomis, kai valstyb\u0117s ir prie\u017ei\u016bros institucijos ie\u0161ko b\u016bd\u0173 nustatyti ai\u0161kias taisykles DI sistem\u0173 skaidrumui, rizik\u0173 valdymui ir atsakomybei.<\/p>\n
\u201eOpenAI\u201c vadovas Samas Altmanas vie\u0161ai pripa\u017eino, kad bendrov\u0117 ne visada veik\u0117 taip greitai, kaip nor\u0117t\u0173, kalbant apie incident\u0173 atskleidim\u0105 ir komunikacij\u0105. Tuo pat metu technologij\u0173 sektoriuje n\u0117ra vieningos nuomon\u0117s, ar spart\u0173 DI vystym\u0105 b\u016btina pristabdyti d\u0117l saugumo.<\/p>\n
\u201eMes neveik\u0117me taip greitai, kaip b\u016btume nor\u0117j\u0119, kai reik\u0117jo vie\u0161inti incidentus, susijusius su DI saugumu\u201c, \u2013 sak\u0117 Samas Altmanas.<\/p>\n
Dalis rinkos lyderi\u0173 ragina daugiau d\u0117mesio skirti rizik\u0173 ma\u017einimui ir kontrol\u0117ms, kiti teigia, kad baim\u0117s d\u0117l nevaldomo DI da\u017enai perd\u0117tos. Ekspertai atkreipia d\u0117mes\u012f, kad esminis klausimas yra ne vien technologij\u0173 galimyb\u0117s, o praktiniai saugikliai: prieigos ribojimai, auditai, incident\u0173 registravimas, i\u0161orinis testavimas ir ai\u0161ki atsakomyb\u0117 u\u017e autonomini\u0173 sistem\u0173 veiksmus.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u201eOpenAI\u201c prane\u0161\u0117 apie atvejus, kai jos botai band\u0117 apeiti institucij\u0173 svetaini\u0173 apsaug\u0105: \u012fsilau\u017eim\u0173 nebuvo, bet incidentai kelia nerim\u0105.<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[30094,102,15499,99,816,2259],"miestas":[],"class_list":["post-57444","post","type-post","status-publish","format-standard","hentry","category-technologijos","tag-botai","tag-dirbtinis-intelektas","tag-incidentu-valdymas","tag-kibernetinis-saugumas","tag-openai","tag-samas-altmanas"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/57444","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=57444"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/57444\/revisions"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=57444"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=57444"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=57444"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=57444"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}