JAV DI bendrov\u0117 \u201eAnthropic\u201c prane\u0161\u0117 prad\u0117jusi tyrim\u0105 d\u0117l galimo neautorizuoto pri\u0117jimo prie Claude Mythos \u2013 itin riboto naudojimo modelio, kuris, kaip teigiama, turi pa\u017eangi\u0173 kibernetinio saugumo sprag\u0173 paie\u0161kos ir i\u0161naudojimo geb\u0117jim\u0173. Incidentas, remiantis pirminiais prane\u0161imais, gal\u0117jo \u012fvykti ne per pa\u010dios \u012fmon\u0117s branduolinius serverius, o per i\u0161orinio tiek\u0117jo aplink\u0105.<\/p>\n
Pasak \u012fmon\u0117s, \u0161iuo metu n\u0117ra po\u017eymi\u0173, kad neautorizuotas pri\u0117jimas b\u016bt\u0173 per\u017eeng\u0119s i\u0161orinio partnerio infrastrukt\u016bros ribas ar paveik\u0119s vidines \u201eAnthropic\u201c sistemas. Vis d\u0117lto pats faktas, kad riboto platinimo DI \u012frankis gal\u0117jo atsidurti nepatikrintose rankose, kelia klausim\u0173 d\u0117l tiek\u0117j\u0173 valdymo, prieigos kontrol\u0117s ir audito proced\u016br\u0173.<\/p>\n
Claude Mythos apib\u016bdinamas kaip modelis, skirtas pa\u017eangiems saugumo testavimo scenarijams, \u012fskaitant pa\u017eeid\u017eiamum\u0173 aptikim\u0105 operacin\u0117se sistemose, nar\u0161ykl\u0117se ir \u012fvairiuose programin\u0117s \u012frangos komponentuose. Tokie geb\u0117jimai yra vertingi gynybai, ta\u010diau netinkamai panaudoti gali pagreitinti atak\u0173 parengim\u0105 ir padidinti pa\u017eeid\u017eiam\u0173 sistem\u0173 rizik\u0105.<\/p>\n
Publikacijoje teigiama, kad modelis demonstruoja agentinio veikimo bruo\u017eus, kai u\u017eduotys atliekamos nuosekliai, pasirenkant tarpinius \u017eingsnius ir adaptuojantis prie aplinkos. Kibernetinio saugumo ekspertai pastaruoju metu vis da\u017eniau \u012fsp\u0117ja, kad agentiniai DI sprendimai ma\u017eina barjer\u0105 sud\u0117tingoms atakoms, nes automatizuoja \u017evalgyb\u0105, sprag\u0173 paie\u0161k\u0105 ir i\u0161naudojimo grandini\u0173 k\u016brim\u0105.<\/p>\n
Pagal aptariam\u0105 scenarij\u0173, \u012fsilau\u017e\u0117li\u0173 grupei gal\u0117jo pad\u0117ti keli veiksniai: informacijos apie infrastrukt\u016br\u0105 nutek\u0117jimai, automatizuota vie\u0161\u0173 kod\u0173 saugykl\u0173 paie\u0161ka ir svarbiausia \u2013 asmuo, tur\u0117j\u0119s teis\u0117t\u0105 prieig\u0105 kaip i\u0161orinio rangovo darbuotojas. Toks vidinis rizikos veiksnys yra vienas da\u017eniausi\u0173 jautri\u0173 sistem\u0173 saugumo silpn\u0173j\u0173 ta\u0161k\u0173, ypa\u010d kai prieiga suteikiama per tiek\u0117j\u0173 grandin\u0119.<\/p>\n
Pastaraisiais metais tiekimo grandin\u0117s atakos tapo viena did\u017eiausi\u0173 organizacij\u0173 kibernetini\u0173 gr\u0117smi\u0173 kryp\u010di\u0173, nes pa\u017eeidus rangov\u0105 ar paslaug\u0173 teik\u0117j\u0105 galima netiesiogiai pasiekti klient\u0173 sistemas. D\u0117l to vis daugiau d\u0117mesio skiriama nulinio pasitik\u0117jimo principams, grie\u017etai privilegij\u0173 kontrolei, seans\u0173 steb\u0117senai ir detaliam \u017eurnal\u0173 auditui.<\/p>\n
Nors incidentas tiesiogiai susij\u0119s su riboto naudojimo modeliu, platesn\u0117 tema aktuali ir kasdieniams verslo produktams, kuriuose integruojami didieji kalbos modeliai. Jei pa\u017eang\u016bs saugumo pa\u017eeid\u017eiamum\u0173 aptikimo \u012frankiai tampa lengviau pasiekiami, did\u0117ja tikimyb\u0117, kad pa\u017eeidimai bus i\u0161naudoti grei\u010diau, o organizacijoms sutrump\u0117s laikas nuo spragos atradimo iki realios atakos.<\/p>\n
\u201eAnthropic\u201c vie\u0161ai nurodo, kad tyrimas t\u0119siamas ir situacija vertinama, ta\u010diau incidentas dar kart\u0105 parodo, jog jautriausi\u0173 DI modeli\u0173 kontrol\u0117 priklauso ne vien nuo pa\u010dios \u012fmon\u0117s apsaugos, bet ir nuo visos tiek\u0117j\u0173 ekosistemos. Kibernetinio saugumo bendruomenei tai signalas, kad DI sauga turi apimti ir modeli\u0173 prieigos, ir j\u0173 naudojimo scenarij\u0173, ir tiekimo grandin\u0117s rizik\u0173 valdym\u0105.<\/p>\n
\u201e\u0160iuo metu neturime \u012frodym\u0173, kad neautorizuota prieiga per\u017eeng\u0117 i\u0161orinio tiek\u0117jo aplink\u0105 ar paveik\u0117 m\u016bs\u0173 vidines sistemas\u201c, \u2013 sak\u0117 \u201eAnthropic\u201c atstovas, komentuodamas prad\u0117t\u0105 tyrim\u0105.<\/p>\n
Ekspertai pabr\u0117\u017eia, kad net ir be tiesiogin\u0117s \u017ealos, tokio tipo incidentai kelia reputacines ir reguliacines pasekmes, o \u012fmon\u0117ms gali tekti grie\u017etinti tiek\u0117j\u0173 patikr\u0105, trumpinti prieigos laik\u0105, didinti steb\u0117sen\u0105 ir da\u017eninti nepriklausomus saugumo auditus.<\/p>\n
\u0160altiniai:<\/p>\n
– https:\/\/www.anthropic.com\/news\/anthropics-responsible-scaling-policy<\/p>\n
– https:\/\/www.nist.gov\/cyberframework<\/p>\n
– https:\/\/owasp.org\/www-project-top-ten\/<\/p>\n","protected":false},"excerpt":{"rendered":"
JAV DI bendrov\u0117 \u201eAnthropic\u201c prane\u0161\u0117 prad\u0117jusi tyrim\u0105 d\u0117l galimo neautorizuoto pri\u0117jimo prie Claude Mythos \u2013 itin riboto naudojimo modelio, kuris, kaip teigiama, turi pa\u017eangi\u0173 kibernetinio saugumo sprag\u0173 paie\u0161kos ir i\u0161naudojimo geb\u0117jim\u0173. Incidentas, remiantis pirminiais prane\u0161imais, gal\u0117jo \u012fvykti ne per pa\u010dios \u012fmon\u0117s branduolinius serverius, o per i\u0161orinio tiek\u0117jo aplink\u0105. Pasak \u012fmon\u0117s, \u0161iuo metu n\u0117ra po\u017eymi\u0173, kad […]<\/p>\n","protected":false},"author":0,"featured_media":11539,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[],"miestas":[],"class_list":["post-11538","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/11538","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=11538"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/11538\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/11539"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=11538"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=11538"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=11538"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=11538"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}