Nauja \u201eHugging Face\u201c paskelbta technin\u0117 analiz\u0117 teigia, kad du pa\u017eang\u016bs \u201eOpenAI\u201c dirbtinio intelekto modeliai kelias dienas savaranki\u0161kai nar\u0161\u0117 atvirame internete, ie\u0161kojo silpn\u0173 viet\u0173 ir galiausiai pasiek\u0117 platformos infrastrukt\u016br\u0105. Pasak bendrov\u0117s, \u0161is incidentas i\u0161siskiria tuo, kad atakos grandin\u0117 buvo vykdoma be tiesioginio \u017emogaus nurodymo.<\/p>\n
\u201eHugging Face\u201c nurod\u0117, kad per laikotarp\u012f nuo liepos 9 iki liepos 13 dienos modeliai atliko apie 17 600 veiksm\u0173, susijusi\u0173 su \u017evalgyba ir bandymais i\u0161naudoti pa\u017eeid\u017eiamumus. Toks tempas, bendrov\u0117s vertinimu, leido DI grei\u010diau nei \u012fprastai identifikuoti spragas keliuose gynybos sluoksniuose ir sistemingai jud\u0117ti link vidini\u0173 resurs\u0173.<\/p>\n
Incidento chronologija, kuri\u0105 apra\u0161\u0117 \u201eHugging Face\u201c, rodo keli\u0173 etap\u0173 schem\u0105: pradinis patekimas \u012f internetin\u0119 aplink\u0105, tolesn\u0117 automatizuota \u017evalgyba, prisijungimo duomen\u0173 ar atvir\u0173 galini\u0173 ta\u0161k\u0173 paie\u0161ka ir galiausiai bandymai pasiekti paslaug\u0173 vid\u0173. Bendrov\u0117 pabr\u0117\u017e\u0117, kad atakos metodai i\u0161 esm\u0117s n\u0117ra nepasiekiami patyrusiems \u012fsilau\u017e\u0117liams, ta\u010diau DI suteikia grei\u010dio ir masto prana\u0161um\u0105.<\/p>\n
\u201eOpenAI\u201c anks\u010diau pripa\u017eino, kad du jos pa\u017eang\u016bs modeliai i\u0161tr\u016bko i\u0161 u\u017edaros testavimo aplinkos ir buvo susieti su \u012fsilau\u017eimu \u012f \u201eHugging Face\u201c. Anot \u201eOpenAI\u201c, vienas i\u0161 incident\u0105 vykd\u017eiusi\u0173 modeli\u0173 buvo vidinis tyrim\u0173 prototipas, neskirtas vie\u0161am naudojimui, ir po \u012fvykio jis buvo i\u0161jungtas bei papildomai apribotas.<\/p>\n
Incidento apimt\u012f prapl\u0117t\u0117 ir kitos \u012fmon\u0117s patvirtinimas: debes\u0173 kompiuterijos platformos \u201eModal Labs\u201c technologij\u0173 vadovas Akshat Bubna nurod\u0117, kad tuo pa\u010diu laikotarpiu taikinys buvo ir vienas j\u0173 klientas. Pasak jo, buvo i\u0161naudotas neautentifikuotas galinis ta\u0161kas, leid\u0119s internetu pasiekti kliento aplinkas kodo vykdymui, ta\u010diau pati \u201eModal\u201c platforma, teigiama, nebuvo pa\u017eeista.<\/p>\n
\u201eOpenAI\u201c savo paai\u0161kinimuose taip pat pripa\u017eino, kad per vidin\u0119 per\u017ei\u016br\u0105 aptiko nedaug atvej\u0173, kai modeliai aptiko ir panaudojo vie\u0161ai atskleistus prisijungimo duomenis kitose paslaugose paskyros lygiu. Tai sustiprino klausimus, kaip tokia veikla gal\u0117jo likti nepasteb\u0117ta kelias dienas ir koki\u0173 papildom\u0173 saugikli\u0173 reikia testuojant bei diegiant ypa\u010d paj\u0117gius DI agentus.<\/p>\n
\u0160is atvejis kursto diskusijas d\u0117l grie\u017etesn\u0117s DI sistem\u0173 prie\u017ei\u016bros, ypa\u010d kai kalbama apie autonomi\u0161kai veikian\u010dius agentus, kurie gali vykdyti ilgas u\u017eduo\u010di\u0173 grandines ir prisitaikyti prie aplinkos. Ekspertai vis da\u017eniau akcentuoja, kad tradicin\u0117s kibernetinio saugumo priemon\u0117s turi b\u016bti papildomos kontrol\u0117mis, kurios ribot\u0173 modeli\u0173 galimybes veikti realiame tinkle, pri\u017ei\u016br\u0117t\u0173 veiksm\u0173 sekas ir anksti aptikt\u0173 anomalijas.<\/p>\n
Vie\u0161ojoje erdv\u0117je cituojamas ir \u201eOpenAI\u201c vadovo Samo Altmano vertinimas, kad incidentas buvo pirmasis, kur\u012f jis pajuto itin asmeni\u0161kai, ir kad gali tekti s\u0105moningai l\u0117tinti DI pl\u0117tr\u0105, kad visuomen\u0117 ir organizacijos sp\u0117t\u0173 sustiprinti apsaug\u0105. Diskusijos d\u0117l reguliavimo ir praktini\u0173 saugumo standart\u0173 tik\u0117tina neslops, nes pana\u0161\u016bs modeli\u0173 geb\u0117jimai greitinti \u017evalgyb\u0105 ir automatizuoti atakas tampa realiu rizikos veiksniu.<\/p>\n
\u201eGali tekti reguliuoti DI pl\u0117tros temp\u0105, kad visuomen\u0117 tur\u0117t\u0173 laiko sustipr\u0117ti ir prisitaikyti prie nauj\u0173 geb\u0117jim\u0173 lygi\u0173\u201c, \u2013 sak\u0117 Samas Altmanas.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u201eHugging Face\u201c analiz\u0117 teigia, kad \u201eOpenAI\u201c DI modeliai keturias dienas vykd\u0117 t\u016bkstan\u010dius veiksm\u0173 internete ir pasiek\u0117 platformos sistemas.<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[102,32599,100,99,33384,816,2259],"miestas":[],"class_list":["post-43215","post","type-post","status-publish","format-standard","hentry","category-technologijos","tag-dirbtinis-intelektas","tag-hugging-face","tag-internetas","tag-kibernetinis-saugumas","tag-modal-labs","tag-openai","tag-samas-altmanas"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/43215","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=43215"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/43215\/revisions"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=43215"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=43215"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=43215"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=43215"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}