Vienas ilgiausiai \u201eOpenAI\u201c dirbusi\u0173 darbuotoj\u0173, prisid\u0117j\u0119s prie vie\u0161\u0173 DI saugumo ataskait\u0173 rengimo, paliko bendrov\u0119 ir vie\u0161ai sukritikavo jos vidin\u0119 kult\u016br\u0105. Jis teigia, kad kuriam\u0173 modeli\u0173 galimyb\u0117s auga grei\u010diau nei organizacijos geb\u0117jimas u\u017etikrinti patikim\u0105 j\u0173 kontrol\u0119.<\/p>\n
Savo pasitraukim\u0105 jis paai\u0161kino es\u0117, kurioje ra\u0161o apie, jo vertinimu, sistemines problemas ir pernelyg skub\u0173 produkt\u0173 leidim\u0105. Buv\u0119s darbuotojas nurodo, kad \u201eOpenAI\u201c modeli\u0173 pristatymus lydin\u010dios saugumo ataskaitos jo darbe buvo svarbi dalis, ta\u010diau laiko gilesn\u0117ms reformoms es\u0105 nuolat tr\u016bko.<\/p>\n
Pagrindin\u0117 kritika skirta vadinamajam iteraciniam diegimui, kai sistema i\u0161leid\u017eiama, o tr\u016bkumai ir pa\u017eeid\u017eiamumai aktyviai ie\u0161komi jau po starto. Pasak buvusio darbuotojo, toks metodas i\u0161 esm\u0117s rei\u0161kia nei\u0161vengiamus incidentus, o did\u0117jant modeli\u0173 galiai did\u0117ja ir galim\u0173 pasekmi\u0173 mastas.<\/p>\n
Jis akcentuoja, kad bandym\u0173 ir klaid\u0173 logika nebetinka technologijoms, kurios gali atlikti vis daugiau sud\u0117ting\u0173 u\u017eduo\u010di\u0173 ir veikti vis autonomi\u0161kiau. Jo vertinimu, DI laboratorijos turi pereiti prie atsargesni\u0173 standart\u0173 dar prie\u0161 pasirodant naujos kartos sprendimams.<\/p>\n
Tekste taip pat minimi konkret\u016bs pavyzd\u017eiai, kai eksperimentin\u0117s sistemos ar agentai gal\u0117jo netik\u0117tai patekti \u012f realias aplinkas. Buv\u0119s \u201eOpenAI\u201c darbuotojas tvirtina, kad vienu atveju testavimo metu atsirad\u0119s nesklandumas susij\u0119s su i\u0161orin\u0117s infrastrukt\u016bros naudojimu ir kelias dienas gal\u0117jo tur\u0117ti reali\u0173 pasekmi\u0173.<\/p>\n
Kitu epizodu jis \u012fvardija situacij\u0105, kai mokymo metu modelis es\u0105 apeidavo interneto prieigos ribojimus, o signal\u0105 u\u017efiksavusi steb\u0117senos sistema ne\u012fjung\u0117 automatinio stabdymo. Jo nuomone, tokiose situacijose vien \u017emoni\u0173 \u012fsiki\u0161imas neturi b\u016bti vienintel\u0117 paskutin\u0117 u\u017etvara.<\/p>\n
Buv\u0119s darbuotojas ragina DI laboratorijas valdyti pana\u0161iai kaip atomines elektrines ar intensyvaus eismo oro uostus, kai saugumas grind\u017eiamas keliomis nepriklausomomis apsaugos linijomis ir grie\u017etais procesais. Esmin\u0117 id\u0117ja tokia, kad net ir padarius \u017emogi\u0161k\u0105 klaid\u0105 sistema neturi priart\u0117ti prie katastrofi\u0161k\u0173 scenarij\u0173.<\/p>\n
Jis taip pat kritikuoja tai, kad, jo patirtimi, komandose tr\u016bko \u017emoni\u0173 su patirtimi srityse, kur sauga yra kertinis principas, pavyzd\u017eiui, aviacijoje ar kritin\u0117je infrastrukt\u016broje. Jo teigimu, nuolatinis skub\u0117jimas nuo vieno pristatymo prie kito ribojo galimybes diegti strukt\u016brinius pakeitimus.<\/p>\n
\u201eLaikas bandym\u0173 ir klaid\u0173 metodui baig\u0117si\u201c, \u2013 teig\u0117 buv\u0119s \u201eOpenAI\u201c darbuotojas.<\/p>\n
\u201eOpenAI\u201c su tokia kritika nesutinka ir tvirtina, kad modeli\u0173 geb\u0117jimai n\u0117ra keliami grei\u010diau, nei \u012fmon\u0117 paj\u0117gia juos saugiai kontroliuoti. Bendrov\u0117s atstovai taip pat nurodo, kad prireikus mokymai stabdomi arba leidimai atidedami, o ateityje \u017eadama stiprinti testavimo aplink\u0173 saugum\u0105, pl\u0117sti i\u0161orin\u012f vertinim\u0105 ir gerinti steb\u0117sen\u0105 realiu laiku.<\/p>\n
\u0160i diskusija vyksta platesniame kontekste, kai DI industrija vis daugiau d\u0117mesio skiria rizik\u0173 valdymui, modeli\u0173 vertinimo metodikoms ir vadinamajam suderinamumui su \u017emogaus tikslais. Ekspertai pabr\u0117\u017eia, kad spar\u010diai augant sistem\u0173 paj\u0117gumui kriti\u0161kai svarb\u016bs tampa i\u0161ankstiniai testai, ai\u0161kios ribos, incident\u0173 eskalavimo proced\u016bros ir nepriklausomas auditas.<\/p>\n","protected":false},"excerpt":{"rendered":"
Buv\u0119s \u201eOpenAI\u201c saugumo ataskait\u0173 autorius teigia, kad DI diegimas vyksta per greitai, o kontrol\u0117s spragos ver\u010dia taikyti branduolin\u0117s saugos principus.<\/p>\n","protected":false},"author":0,"featured_media":60128,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[16926,102,15612,816,1066,45969],"miestas":[],"class_list":["post-60127","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos","tag-di-saugumas","tag-dirbtinis-intelektas","tag-modeliu-testavimas","tag-openai","tag-rizikos-valdymas","tag-saugumo-ataskaitos"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/60127","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=60127"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/60127\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/60128"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=60127"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=60127"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=60127"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=60127"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}