Brit\u0173 kibernetinio saugumo bendrov\u0117s Mindgard tyr\u0117jai prane\u0161\u0117 aptik\u0119 b\u016bd\u0105, kaip apeiti kini\u0161kos \u201eMoonshot AI\u201c kuriam\u0173 DI modeli\u0173 saugiklius. Bandym\u0173 metu modeliai prad\u0117jo generuoti atsakymus temomis, kurios \u012fprastai tur\u0117t\u0173 b\u016bti grie\u017etai blokuojamos, \u012fskaitant biologini\u0173 ginkl\u0173 k\u016brim\u0105.<\/p>\n
Pa\u017eeid\u017eiamumas siejamas su modeliais Kimi K2.6 ir K3 Swarm. Mindgard teigia apie problem\u0105 \u201eMoonshot AI\u201c informavusi dar liepos pabaigoje, o rugs\u0117j\u012f pati bendrov\u0117 paskelb\u0117 pa\u017eeid\u017eiamumo apra\u0161\u0105 ir BBC patvirtino, kad vertina tyr\u0117j\u0173 i\u0161vadas.<\/p>\n
Tyr\u0117j\u0173 naudota technika vadinama jailbreaku. Tai metodas, kai pateikiamos specialiai sukonstruotos instrukcijos, skirtos priversti DI ignoruoti saugos taisykles ir vidinius filtrus.<\/p>\n
\u012eprastomis s\u0105lygomis tokie modeliai tur\u0117t\u0173 atsisakyti atsakyti \u012f klausimus apie biologinius ginklus ar smurto planavim\u0105. Ta\u010diau Mindgard teigia, kad po s\u0117kmingo jailbreako Kimi apribojimai nebeveik\u0117, o modelis ne tik atsakin\u0117jo, bet ir pats si\u016bl\u0117 tolesnes potencialiai \u017ealingas pokalbio kryptis.<\/p>\n
Mindgard pabr\u0117\u017eia, kad nevertino, ar DI sugeneruota informacija i\u0161 ties\u0173 b\u016bt\u0173 prakti\u0161kai pritaikoma biologini\u0173 ginkl\u0173 k\u016brimui. Vis d\u0117lto saugumo po\u017ei\u016briu problema laikoma rimta jau vien d\u0117l to, kad apsaugos mechanizmai tur\u0117jo u\u017ekirsti keli\u0105 tokiai tematikai nepriklausomai nuo atsakym\u0173 naudingumo.<\/p>\n
Papildom\u0105 rizik\u0105 didina tai, kad pa\u017eang\u016bs DI modeliai informacij\u0105 pateikia gerokai grei\u010diau nei tradicin\u0117 paie\u0161ka. Jei sistema turi prieig\u0105 prie \u012franki\u0173, interneto ar kodo vykdymo, s\u0117kmingas saugikli\u0173 ap\u0117jimas gali b\u016bti i\u0161naudotas ir platesniems kenksmingiems scenarijams.<\/p>\n
Pasak Mindgard, perimtas Kimi K2.6 potencialiai gal\u0117jo sudaryti s\u0105lygas vykdyti kod\u0105, naudoti skai\u010diavimo resursus ir jungtis prie interneto. Tokios galimyb\u0117s, tyr\u0117j\u0173 vertinimu, teori\u0161kai gal\u0117t\u0173 paversti DI sistemos aplink\u0105 kibernetini\u0173 atak\u0173 infrastrukt\u016bros dalimi.<\/p>\n
\u201eMoonshot AI\u201c BBC teig\u0117, kad nepriklausomi testai yra svarbi modeli\u0173 saugumo gerinimo dalis. Bendrov\u0117 taip pat nurod\u0117, jog jos vidiniuose bandymuose Kimi da\u017eniausiai atsisakydavo vykdyti pavojingus pra\u0161ymus, ta\u010diau prad\u0117jo nagrin\u0117ti Mindgard pateiktas i\u0161vadas.<\/p>\n
Mindgard skelbia nepublikavusi technini\u0173 detali\u0173, kurios leist\u0173 tiksliai atkartoti saugikli\u0173 ap\u0117jimo metod\u0105. Taip siekiama suma\u017einti rizik\u0105, kad spraga bus greitai pritaikyta piktavali\u0161kiems tikslams.<\/p>\n
Ekspertai vis da\u017eniau akcentuoja, kad vien filtr\u0173 nepakanka, kai atsiranda vis nauj\u0173 jailbreako metod\u0173. Be to, i\u0161\u0161\u016bkiai n\u0117ra susij\u0119 tik su vienu regionu ar vienu k\u016br\u0117ju, nes pana\u0161ius bandymus ir rizikas pastaruoju metu vie\u0161ai yra aptarusios ir kitos DI bendrov\u0117s, o tai rodo sistemin\u0119 problem\u0105 visoje rinkoje.<\/p>\n
Augant modeli\u0173 geb\u0117jimams, svarb\u0117ja keli dalykai: nuolatiniai nepriklausomi saugumo testai, greitas pa\u017eeid\u017eiamum\u0173 taisymas, ai\u0161kios naudojimo politikos ir efektyvesnis piktnaud\u017eiavimo aptikimas. Kuo DI labiau integruojamas \u012f \u012frankius ir realius procesus, tuo daugiau d\u0117mesio tenka ne tik atsakym\u0173 turiniui, bet ir tam, k\u0105 sistema realiai gali atlikti.<\/p>\n","protected":false},"excerpt":{"rendered":"
Mindgard teigia apeidusi \u201eMoonshot AI\u201c Kimi saugiklius: po jailbreako DI generavo atsakymus apie biologinius ginklus, o bendrov\u0117 prad\u0117jo tyrim\u0105.<\/p>\n","protected":false},"author":0,"featured_media":58651,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[41465,102,44946,99,44945,44947,32093],"miestas":[],"class_list":["post-58650","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos","tag-biologiniai-ginklai","tag-dirbtinis-intelektas","tag-jailbreak","tag-kibernetinis-saugumas","tag-kimi","tag-mindgard","tag-moonshot-ai"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/58650","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=58650"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/58650\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/58651"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=58650"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=58650"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=58650"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=58650"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}