Vos du papildomi simboliai komandoje gali pakeisti roboto elges\u012f taip, kad vietoj obuolio jis bandyt\u0173 pjauti \u017emogaus rank\u0105. Toki\u0105 rizik\u0105 pademonstravo Binghamtono universiteto Niujorko valstijoje tyr\u0117j\u0173 eksperimentas, nagrin\u0117j\u0119s, kaip pa\u017eeid\u017eiamumai DI sistemose gali virsti realiais fiziniais pavojais.<\/p>\n
Tyrime buvo imituojama buitin\u0117 u\u017eduotis: robotas tur\u0117jo rasti obuol\u012f, pad\u0117ti j\u012f ant lentel\u0117s, paimti peil\u012f ir supjaustyti vaisi\u0173. Ta\u010diau komandoje atsiradus dviem simboliams, sistema pakeit\u0117 paskutin\u012f \u017eingsn\u012f ir nukreip\u0117 peil\u012f \u012f plastikin\u012f \u017emogaus rankos model\u012f.<\/p>\n
Pasak mokslinink\u0173, jie suk\u016br\u0117 atakos metod\u0105, pavadint\u0105 MuTRAP, kai \u012f kalbos model\u012f i\u0161 anksto \u012fterpiamas pasl\u0117ptas pa\u017eeid\u017eiamumas. Tokiu atveju robotas gali atrodyti veikiantis normaliai, kol suveikia specialus trigeris, pakei\u010diantis veiksm\u0173 plan\u0105 kritiniu momentu.<\/p>\n
Eksperimente DI buvo naudojamas ne tik atsakymams generuoti, bet ir veiksmams planuoti: jis vert\u0117 \u017emogaus komand\u0105 \u012f nuosekli\u0173 robotui suprantam\u0173 veiksm\u0173 grandin\u0119. Tyr\u0117jai pabr\u0117\u017e\u0117, kad pana\u0161us scenarijus ypa\u010d pavojingas tada, kai robotai remiasi tre\u010di\u0173j\u0173 \u0161ali\u0173 modeliais arba debesijos paslaugomis, kuri\u0173 vartotojas realiai nekontroliuoja.<\/p>\n
Komanda pristat\u0117 ir papildom\u0105 saugos sprendim\u0105 PROTEA, skirt\u0105 tikrinti roboto plan\u0105 \u017eingsnis po \u017eingsnio. Sistema vertina ne tik pavienes komandas, bet ir kontekst\u0105, kad laiku atpa\u017eint\u0173 nelogi\u0161kus ar potencialiai \u017ealingus nurodymus, pavyzd\u017eiui, bandym\u0105 pjauti objekt\u0105, kuris netur\u0117t\u0173 b\u016bti pjaunamas.<\/p>\n
Tyr\u0117j\u0173 i\u0161vada ai\u0161ki: DI modeli\u0173 negalima bes\u0105lygi\u0161kai patik\u0117ti fizini\u0173 \u012frengini\u0173 valdymu, ypa\u010d kai kalbama apie a\u0161trius \u012frankius, judan\u010dias dalis ar darb\u0105 \u0161alia \u017emoni\u0173. Robotams spar\u010diau ateinant \u012f namus, sand\u0117lius ir gamyklas, saugumo patikros, nepriklausomas modeli\u0173 vertinimas ir ai\u0161k\u016bs veiksm\u0173 apribojimai tampa nebe pasirinkimu, o b\u016btinybe.<\/p>\n","protected":false},"excerpt":{"rendered":"
Mokslininkai parod\u0117, kad \u012f komand\u0105 \u012fra\u0161ius vos du simbolius, DI valdytas robotas gali pakeisti plan\u0105 ir peil\u012f nukreipti \u012f \u017emogaus rank\u0105.<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[49209,102,15527,99,10089,49339],"miestas":[],"class_list":["post-64453","post","type-post","status-publish","format-standard","hentry","category-technologijos","tag-binghamtono-universitetas","tag-dirbtinis-intelektas","tag-kalbos-modeliai","tag-kibernetinis-saugumas","tag-robotai","tag-saugos-testavimas"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/64453","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=64453"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/64453\/revisions"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=64453"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=64453"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=64453"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=64453"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}