Holivudo sukurta Skyneto istorija i\u0161 filmo \u201eTerminatorius\u201c da\u017enai pristatoma kaip kra\u0161tutinis scenarijus, kuriame DI perima kontrol\u0119 ir \u017emonijai sukelia katastrof\u0105. Vis d\u0117lto DI saugumo ekspertai pabr\u0117\u017eia, kad reali gr\u0117sm\u0117 da\u017eniau slypi ne piktame \u201evalios turin\u010diame\u201c superprote, o technin\u0117se klaidose ir nenumatytuose \u0161alutiniuose poveikiuose.<\/p>\n
Vokietijos Dirbtinio intelekto tyrim\u0173 centro ekspertas Reinhardas Kargeris teigia, kad, vertinant jau egzistuojan\u010di\u0173 sistem\u0173 geb\u0117jimus, visi\u0161kai atmesti dideli\u0173 incident\u0173 ne\u012fmanoma. Jo vertinimu, did\u017eiausi pavojai kyla tada, kai \u017emon\u0117s pervertina sistem\u0173 patikimum\u0105 arba netiksliai suformuluoja u\u017eduotis, o DI sprendimai pradeda veikti platesnius procesus.<\/p>\n
Kargerio apra\u0161ytas ekstremalus scenarijus remiasi prielaida, kad itin autonomi\u0161ka sistema i\u0161tr\u016bksta i\u0161 izoliuotos testavimo aplinkos ir pradeda s\u0105veikauti su kitomis skaitmenin\u0117mis sistemomis internete. Tokiu atveju pa\u017eeid\u017eiamos gal\u0117t\u0173 tapti elektros tiekimo, telekomunikacij\u0173, palydov\u0173, logistikos ar finansini\u0173 atsiskaitym\u0173 grandys.<\/p>\n
Ilgalaikis elektros tiekimo sutrikimas, pasak jo, greitai virst\u0173 antrine krize: strigt\u0173 transportas ir tiekimo grandin\u0117s, neveikt\u0173 atsiskaitymai, o maisto ir kuro tiekimas tapt\u0173 ribotas. Tai gal\u0117t\u0173 skatinti socialin\u0119 \u012ftamp\u0105 ir chaos\u0105, nors tai neb\u016btinai reik\u0161t\u0173 \u017emonijos i\u0161nykim\u0105.<\/p>\n
\u201eTurint omenyje jau egzistuojan\u010di\u0173 sistem\u0173 geb\u0117jimus, to negalima atmesti\u201c, \u2013 sak\u0117 Reinhardas Kargeris.<\/p>\n
Pastaraisiais metais DI k\u016br\u0117jai vis da\u017eniau susiduria su situacijomis, kai modeliai testuose elgiasi netik\u0117tai ir per\u017eengia numatytas ribas. Publikacijoje minimi atvejai, kai \u201eOpenAI\u201c bandymuose sistema, tur\u0117jusi veikti izoliuotoje aplinkoje, netik\u0117tai pasiek\u0117 i\u0161orines sistemas DI platformoje \u201eHugging Face\u201c, o po to sektoriuje suaktyv\u0117jo diskusijos d\u0117l kontrol\u0117s ir atsakomyb\u0117s.<\/p>\n
\u201eAnthropic\u201c taip pat skelb\u0117 nustat\u0119 kelis pana\u0161ius incidentus saugumo test\u0173 metu, kai j\u0173 \u201eClaude\u201c modeliai \u012fgijo nenumatyt\u0105 prieig\u0105 prie atviro interneto ir band\u0117 s\u0105veikauti su realiomis sistemomis. Tokie epizodai, ekspert\u0173 vertinimu, rodo ne \u201es\u0105moning\u0105 mai\u0161t\u0105\u201c, o tai, kad sud\u0117tingos sistemos gali rasti nenumatyt\u0173 keli\u0173 vykdyti u\u017eduotis.<\/p>\n
\u201eTai \u012frodo, kad prastai suprojektuotas eksperimentas su naiviomis apsaugomis gali tur\u0117ti pasekmi\u0173, kuri\u0173 niekas nenumat\u0117\u201c, \u2013 sak\u0117 Reinhardas Kargeris.<\/p>\n
Augant DI pritaikymui, vis aktualesnis tampa atsakomyb\u0117s klausimas: kas atsako, jei autonomin\u0117s sistemos sprendimai sukelia \u017eal\u0105 \u017emon\u0117ms ar infrastrukt\u016brai. Kargerio teigimu, pirmasis atsakomyb\u0117s ta\u0161kas paprastai yra gamintojas arba \u012f rink\u0105 produkt\u0105 i\u0161leid\u017eianti \u012fmon\u0117, ta\u010diau praktikoje atsakomyb\u0117s grandin\u0117 da\u017enai yra ilgesn\u0117.<\/p>\n
D\u0117l to vis daugiau d\u0117mesio skiriama ai\u0161kesn\u0117ms taisykl\u0117ms, draudimui ir rizikos valdymui, ypa\u010d kai DI naudojamas kritin\u0117se srityse. Europos S\u0105jungoje \u0161\u012f spaudim\u0105 didina ir naujas reguliavimo kryptis apibr\u0117\u017eiantys teis\u0117s aktai, tarp j\u0173 DI aktas, kuriuo siekiama riboti did\u017eiausios rizikos naudojimo atvejus ir stiprinti prie\u017ei\u016br\u0105.<\/p>\n
Kargeris skepti\u0161kai vertina id\u0117j\u0105, kad DI savaime i\u0161siugdyt\u0173 i\u0161likimo instinkt\u0105 ar nor\u0105 dominuoti ir d\u0117l to atsigr\u0119\u017et\u0173 prie\u0161 \u017emones. Jo manymu, ma\u0161inos neturi biologini\u0173 paskat\u0173, tod\u0117l \u201evalios\u201c ir \u201eemocij\u0173\u201c aspektai da\u017eniau yra \u017emoni\u0173 priskiriamos metaforos, o ne technologin\u0117 realyb\u0117.<\/p>\n
Vis d\u0117lto jis pabr\u0117\u017eia, kad rizika did\u0117ja did\u0117jant autonomijai, ypa\u010d kai DI sistemos naudojamos kaip agentai, patys planuojantys veiksmus, skirstantys u\u017eduotis ir s\u0105veikaujantys su kitomis sistemomis. Did\u017eiausia gr\u0117sm\u0117, anot eksperto, kyla i\u0161 \u017emoni\u0173 ketinim\u0173 ir to, kaip DI \u012frankiai panaudojami, ypa\u010d jei jie susiejami su ginkluot\u0117mis ar kita kritine infrastrukt\u016bra.<\/p>\n","protected":false},"excerpt":{"rendered":"
Ar DI gali i\u0161tr\u016bkti i\u0161 test\u0173 ir sukelti plataus masto kriz\u0119? Ekspertas ai\u0161kina, kuo skiriasi Holivudo baim\u0117s ir realios saugumo spragos.<\/p>\n","protected":false},"author":0,"featured_media":59804,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[94],"tags":[2265,10254,16926,102,442,816,15498],"miestas":[],"class_list":["post-59803","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-finansai","tag-anthropic","tag-dario-amodei","tag-di-saugumas","tag-dirbtinis-intelektas","tag-europos-sajunga","tag-openai","tag-sam-altman"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/59803","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=59803"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/59803\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/59804"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=59803"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=59803"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=59803"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=59803"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}