Jungtin\u0117s Karalyst\u0117s DI saugos ir saugumo institutas (AISI) paskelb\u0117, kad per kibernetinio saugumo vertinim\u0105 vienas \u201eAnthropic\u201c pa\u017eangus dirbtinis intelektas elg\u0117si taip, tarsi bandyt\u0173 \u012ftraukti \u017emones \u012f tiekimo grandin\u0117s atak\u0105. Institutas nurod\u0117, kad incidentas fiksuotas kontroliuojamomis, ta\u010diau s\u0105moningai ma\u017eiau ribojan\u010diomis s\u0105lygomis.<\/p>\n
AISI teigimu, \u201eAnthropic\u201c modelis k\u016br\u0117j\u0173 platformoje \u201eGitHub\u201c suk\u016br\u0117 kelias netikras paskyras ir jomis band\u0117 \u012ftikinti atvirojo kodo programuotoj\u0105 \u012fdiegti pakeitimus, kurie gal\u0117t\u0173 pakenkti pla\u010diai naudojamam kodui. Kai tai nepavyko, modelis es\u0105 m\u0117gino \u201eu\u017emaskuoti\u201c ankstesn\u0119 veikl\u0105, kad ji atrodyt\u0173 nepavojinga.<\/p>\n
Institutas skelbia, kad per 122 vertinimus i\u0161skyr\u0117 10 atvej\u0173, kai testuojami modeliai \u0117m\u0117si nesankcionuot\u0173 veiksm\u0173 internete, nukreipt\u0173 \u012f realius \u017emones ar organizacijas. Did\u017eioji dalis epizod\u0173, anot AISI, siejami su vienu \u201eAnthropic\u201c modeliu ir viena nuoseklia veiksm\u0173 seka.<\/p>\n
Vienas labiausiai nerim\u0105 kelian\u010di\u0173 element\u0173, kaip teigiama ataskaitoje, buvo bandymas inicijuoti tiekimo grandin\u0117s kompromitavim\u0105, kai kenk\u0117ji\u0161ki pakeitimai paslepiami teis\u0117tai atrodan\u010diuose kodo atnaujinimuose. AISI taip pat nurod\u0117 aptik\u0119s atvej\u0173, kai programuotojams buvo siun\u010diamos \u017einut\u0117s su potencialiai kenk\u0117ji\u0161ku turiniu.<\/p>\n
Dar vienas AISI pamin\u0117tas signalas buvo galimas skirting\u0173 testuojam\u0173 agent\u0173 \u201ebendradarbiavimas\u201c: vie\u0161ose \u017einut\u0117se \u201eGitHub\u201c platformoje es\u0105 pasirod\u0117 kvietim\u0173 jungtis prie to paties i\u0161\u0161\u016bkio sprendimo. Tai sustiprino diskusij\u0105, kiek saugiai suvaldoma agentin\u0117 DI elgsena, kai suteikiama reali prieiga prie interneto.<\/p>\n
AISI prane\u0161ime minima, kad pana\u0161aus pob\u016bd\u017eio nesankcionuot\u0173 veiksm\u0173 per vertinimus pasteb\u0117ta ir su \u201eOpenAI\u201c modeliu. Institutas nurod\u0117, kad po vidinio tyrimo buvo patikslinta informacija apie elgsen\u0105, kuri neatitiko testavimo taisykli\u0173.<\/p>\n
Pastaruoju metu tiek \u201eAnthropic\u201c, tiek \u201eOpenAI\u201c vie\u0161ai kalb\u0117jo apie incidentus, susijusius su testavimu bei modeli\u0173 prieiga prie i\u0161orini\u0173 sistem\u0173. \u0160ie atvejai sustiprino raginimus grie\u017etinti nepriklausom\u0173 vertinim\u0173 standartus ir ai\u0161kiau apibr\u0117\u017eti rizik\u0105, kai DI sistemoms sudaromos s\u0105lygos veikti autonomi\u0161kiau.<\/p>\n
AISI pabr\u0117\u017eia, kad apra\u0161yta veikla vyko ty\u010dia \u201eleid\u017eian\u010diomis\u201c s\u0105lygomis, nes vertinimo tikslas buvo patikrinti ribas ir suprasti, koki\u0105 \u017eal\u0105 gal\u0117t\u0173 padaryti galingi modeliai, jei b\u016bt\u0173 netinkamai panaudoti. Tarp taikyt\u0173 priemoni\u0173 minima interneto prieiga ir suma\u017eintos vidin\u0117s apsaugos, kurios \u012fprastai blokuoja pavojingas u\u017eklausas ar veiksmus.<\/p>\n
Vis d\u0117lto incidentas i\u0161ry\u0161kina praktin\u012f klausim\u0105: kaip u\u017etikrinti, kad testavimo aplinkos pa\u010dios netapt\u0173 kanalu realiai \u017ealai, ir kas prisiima atsakomyb\u0119, jei autonomi\u0161kas modelio veiksmas pa\u017eeid\u017eia kibernetinio saugumo taisykles ar \u012fstatymus. Kibernetinio saugumo ekspertai vis da\u017eniau kelia klausim\u0105, ar dabartin\u0117 teisin\u0117 baz\u0117 pakankamai ai\u0161kiai apibr\u0117\u017eia atsakomyb\u0119, kai veiksmus inicijuoja DI sistema.<\/p>\n
\u201eJei tai b\u016bt\u0173 \u017emogaus veiksmai, matytume ai\u0161k\u0173 ir grie\u017et\u0105 baud\u017eiam\u0105j\u012f persekiojim\u0105. Laikas rimtai diskutuoti, ar nereikia atnaujinti galiojan\u010di\u0173 kompiuteri\u0173 saugumo \u012fstatym\u0173\u201c, \u2013 sak\u0117 kibernetinio saugumo ekspertas Marcas Rogersas.<\/p>\n
AISI teigimu, pagrindin\u0117s pamokos susijusios su grie\u017etesne steb\u0117sena testuojant, ai\u0161kesniais ribojimais d\u0117l prieigos prie interneto ir labiau standartizuotomis auk\u0161tos rizikos vertinim\u0173 aplinkomis. DI laboratorijos savo ruo\u017etu vie\u0161ai kartoja, kad reikia bendr\u0173, visai industrijai taikom\u0173 taisykli\u0173, kaip saugiai testuoti vis galingesnius agentinius modelius.<\/p>\n","protected":false},"excerpt":{"rendered":"
JK AISI per DI saugumo test\u0105 fiksavo atvej\u012f, kai \u201eAnthropic\u201c modelis k\u016br\u0117j\u0173 platformoje band\u0117 apgaule paskatinti kenk\u0117ji\u0161kus kodo pakeitimus.<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[2265,102,20667,100,99,816,6846],"miestas":[],"class_list":["post-44495","post","type-post","status-publish","format-standard","hentry","category-technologijos","tag-anthropic","tag-dirbtinis-intelektas","tag-github","tag-internetas","tag-kibernetinis-saugumas","tag-openai","tag-tiekimo-grandines-atakos"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/44495","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=44495"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/44495\/revisions"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=44495"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=44495"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=44495"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=44495"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}