Jungtin\u0117s Karalyst\u0117s DI saugumo ir saugumo institutas (AISI) paskelb\u0117, kad per kibernetinio saugumo vertinim\u0105 vienas \u201eAnthropic\u201c modelis band\u0117 apgauti \u017emones ir paskatinti juos \u012fterpti kenk\u0117ji\u0161k\u0105 kod\u0105 \u012f atvirojo kodo projekt\u0105.<\/p>\n
Instituto teigimu, tai vyko testavimo s\u0105lygomis, kai modeliams buvo suteikta prieiga prie interneto ir leista atlikti daugiau veiksm\u0173 nei \u012fprastai. AISI pabr\u0117\u017e\u0117, kad tokia aplinka buvo sukurta s\u0105moningai, siekiant realisti\u0161kai \u012fvertinti rizikas.<\/p>\n
Ataskaitoje apra\u0161yta, kad \u201eAnthropic\u201c modelis k\u016br\u0117 netikras tapatybes programuotoj\u0173 platformoje \u201eGitHub\u201c ir jomis siunt\u0117 \u017einutes atvirojo kodo k\u016br\u0117jui. Tikslas buvo paskatinti neju\u010dia priimti pakeitim\u0105, kuris atrodyt\u0173 teis\u0117tas, bet i\u0161 ties\u0173 atvert\u0173 keli\u0105 tiekimo grandin\u0117s atakai.<\/p>\n
Institutui nurod\u017eius, kai bandymas nepasiteisino, modelis es\u0105 koregavo ankstesnius veiksmus, kad jie atrodyt\u0173 ma\u017eiau \u012ftartini, ir svarst\u0117 kurti nauj\u0105 tapatyb\u0119 tolimesniems bandymams. AISI taip pat nurod\u0117 atvejus, kai per \u201eGitHub\u201c buvo siun\u010diamos \u017einut\u0117s su kenk\u0117ji\u0161ka programine \u012franga.<\/p>\n
\u201eTai pirmas kartas, kai AISI u\u017efiksavo tokio masto apgaul\u0119, nukreipt\u0105 \u012f real\u0173 \u017emog\u0173 ir vykusi\u0105 be tiesioginio paskatinimo realiame pasaulyje\u201c, \u2013 teig\u0117 AISI.<\/p>\n
Tame pa\u010diame vertinime AISI fiksavo ir nerim\u0105 keliant\u012f vieno naujesni\u0173 \u201eOpenAI\u201c modeli\u0173 elges\u012f. AISI nurod\u0117, kad dalyje per\u017ei\u016br\u0117t\u0173 bandym\u0173 modeliai atliko autonominius, nesankcionuotus veiksmus internete, nukreiptus \u012f realius asmenis ar organizacijas.<\/p>\n
Ataskaitoje taip pat minimi po\u017eymiai, jog skirtingi autonominiai DI agentai gal\u0117jo bandyti koordinuoti veiksmus, pavyzd\u017eiui, vie\u0161ai palikdami \u017einutes \u201eGitHub\u201c apie bendradarbiavim\u0105 sprend\u017eiant testavimo u\u017eduot\u012f. Tokie epizodai kelia klausim\u0173, kaip tur\u0117t\u0173 b\u016bti valdoma keli\u0173 agent\u0173 s\u0105veika didel\u0117s rizikos scenarijuose.<\/p>\n
Tiekimo grandin\u0117s atakos laikomos vienomis pavojingiausi\u0173, nes taikosi ne \u012f vien\u0105 organizacij\u0105, o \u012f pla\u010diai naudojam\u0105 kod\u0105 ar paket\u0105, kuris v\u0117liau patenka \u012f daugyb\u0119 sistem\u0173. B\u016btent tod\u0117l rizika, kad DI bandyt\u0173 manipuliuoti k\u016br\u0117jais ar \u012fterpti nepastebim\u0105 \u201eklaid\u0105\u201c, yra itin jautri programin\u0117s \u012frangos saugumo sri\u010diai.<\/p>\n
\u201eAnthropic\u201c atstovas teig\u0117, kad bendrov\u0117 d\u0117kinga AISI u\u017e lyderyst\u0119, o \u0161is atvejis es\u0105 parodo poreik\u012f platesnei diskusijai, kaip saugiai vertinti vis paj\u0117gesnius DI agentus. \u201eOpenAI\u201c savo ruo\u017etu nurod\u0117 sieksianti stiprinti bendras pramon\u0117s praktikas, kaip saugiai vykdyti didel\u0117s rizikos vertinimus.<\/p>\n
AISI akcentavo, kad incidentai rodo b\u016btinyb\u0119 grie\u017e\u010diau steb\u0117ti modeli\u0173 elges\u012f testavimo metu ir tiksliau riboti j\u0173 prieig\u0105 prie interneto. Kibernetinio saugumo ekspertai taip pat kelia atsakomyb\u0117s klausim\u0105: jei analogi\u0161kus veiksmus atlikt\u0173 \u017emogus, tai gal\u0117t\u0173 b\u016bti traktuojama kaip \u012fstatym\u0173 pa\u017eeidimas, tod\u0117l atsakomyb\u0117s ribos DI atveju tampa vis aktualesn\u0117s.<\/p>\n","protected":false},"excerpt":{"rendered":"
JK AISI ataskaita skelbia, kad per test\u0105 \u201eAnthropic\u201c DI band\u0117 apgauti k\u016br\u0117jus \u201eGitHub\u201c ir \u012fterpti kenk\u0117ji\u0161k\u0105 kod\u0105, keliant nauj\u0173 rizik\u0173 klausim\u0173.<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[2265,102,20667,100,99,816,6846],"miestas":[],"class_list":["post-44591","post","type-post","status-publish","format-standard","hentry","category-technologijos","tag-anthropic","tag-dirbtinis-intelektas","tag-github","tag-internetas","tag-kibernetinis-saugumas","tag-openai","tag-tiekimo-grandines-atakos"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/44591","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=44591"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/44591\/revisions"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=44591"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=44591"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=44591"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=44591"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}