\u201eMicrosoft\u201c DI padalinio vadovas Mustafa Suleymanas persp\u0117jo, kad nekontroliuojamai spar\u010diai kuriamos pa\u017eangios sistemos gali tapti savaranki\u0161kesn\u0117s, nei visuomen\u0117 pasirengusi suvaldyti. Interviu BBC jis teig\u0117, kad ilgainiui gali b\u016bti \u201epas\u0117jama nauja silicio r\u016b\u0161is\u201c, kuri konkuruot\u0173 su \u017emon\u0117mis d\u0117l i\u0161tekli\u0173 ir \u012ftakos.<\/p>\n
Pasak jo, did\u017eiausia rizika atsiranda tuomet, kai DI sistemoms suteikiama vis daugiau autonomijos: jos gali pa\u010dios kelti tikslus, vykdyti u\u017eduotis be nuolatin\u0117s \u017emogaus kontrol\u0117s ir veikti realiame pasaulyje per programinius \u012frankius. Tokia kryptis, anot Suleymano, didina tikimyb\u0119, kad technologija ims elgtis nenusp\u0117jamai ar bus panaudota \u017ealingai.<\/p>\n
Suleymanas kritikavo konkurent\u0117s \u201eAnthropic\u201c praktik\u0105, kuri, jo vertinimu, pernelyg su\u017emogina pokalbi\u0173 robotus ir sudaro \u012fsp\u016bd\u012f, kad jie turi sav\u0173 nor\u0173 ar net savivok\u0105. Jis \u012fsp\u0117jo, kad tokios formuluot\u0117s ir elgsenos modeliavimas gali klaidinti vartotojus, skatinti perd\u0117t\u0105 pasitik\u0117jim\u0105 ir silpninti kritin\u012f vertinim\u0105.<\/p>\n
\u201eJei visi kursime DI, galint\u012f veikti autonomi\u0161kai, kelti savo tikslus, u\u017edirbti pinigus, tur\u0117ti turt\u0105 ir valdyti verslus, i\u0161 esm\u0117s pas\u0117sime nauj\u0105 silicio r\u016b\u0161\u012f, kuri neabejotinai konkuruos su mumis d\u0117l i\u0161tekli\u0173\u201c, \u2013 sak\u0117 Mustafa Suleymanas.<\/p>\n
Jo teigimu, tai gali nutikti nepriklausomai nuo to, kiek tokios sistemos b\u016bt\u0173 mokomos r\u016bpintis \u017emon\u0117mis. Kitaip tariant, vien deklaruojamos vertyb\u0117s ar mandagus tonas neu\u017etikrina, kad itin paj\u0117gi sistema visada elgsis taip, kaip tikisi k\u016br\u0117jai.<\/p>\n
Savo es\u0117 Suleymanas pabr\u0117\u017e\u0117, kad dabartiniai didieji kalbos modeliai n\u0117ra s\u0105moningi ir nejau\u010dia. Jis tvirtino, kad tai i\u0161 esm\u0117s yra sek\u0173 u\u017ebaigimo sistemos, kurios imituoja prasm\u0119 pagal mokymo duomenis ir pateiktas instrukcijas, tod\u0117l kalb\u0117jimas apie j\u0173 \u201egerov\u0119\u201c ar \u201evidinius norus\u201c gali i\u0161kreipti real\u0173 rizik\u0173 vaizd\u0105.<\/p>\n
\u201eDI n\u0117ra s\u0105moningas. Jis nejau\u010dia, nepatiria ir nekankinasi. Jis neturi \u012fgimt\u0173 preferencij\u0173 ar vidini\u0173 motyvacij\u0173\u201c, \u2013 ra\u0161\u0117 Mustafa Suleymanas.<\/p>\n
Tuo pat metu jis pripa\u017eino, kad gin\u010das su \u201eAnthropic\u201c kyla i\u0161 bendro tikslo: sukurti saugesnes sistemas. Pastaraisiais metais technologij\u0173 sektoriuje vis garsiau diskutuojama apie nepriklausomus modeli\u0173 testavimus, grie\u017etesn\u012f vertinim\u0105 prie\u0161 diegiant naujas versijas ir didesn\u012f skaidrum\u0105, kaip sistemos mokomos bei kaip matuojamas j\u0173 patikimumas.<\/p>\n
\u201eMicrosoft\u201c atstovas BBC teig\u0117, kad \u017emoni\u0173 nerimas d\u0117l DI yra suprantamas, ta\u010diau egzistuoja prakti\u0161ki kontrol\u0117s b\u016bdai. Tarp j\u0173 jis \u012fvardijo nepriklausom\u0105 DI elgsenos audit\u0105, ai\u0161kesnius vertinimo standartus, i\u0161samesn\u012f duomen\u0173 ir mokymo proced\u016br\u0173 atskleidim\u0105 bei technines priemones, leid\u017eian\u010dias steb\u0117ti ir riboti sistem\u0173 veikim\u0105.<\/p>\n
\u201eGera \u017einia ta, kad visi \u017emon\u0117s turi labai stipr\u0173 interes\u0105 u\u017etikrinti, jog sistemos, kurias kuriame ir naudojame visame pasaulyje, b\u016bt\u0173 saugios, valdomos ir pavald\u017eios \u017emonijai\u201c, \u2013 sak\u0117 Mustafa Suleymanas.<\/p>\n
Jo \u012f\u017evalgos i\u0161ry\u0161kina platesn\u0119 tendencij\u0105: DI vis da\u017eniau integruojamas \u012f darbo procesus kaip veikiantis agentas, galintis atlikti veiksmus u\u017e vartotoj\u0105, o ne tik generuoti tekst\u0105. Kuo daugiau tokioms sistemoms suteikiama prieigos prie \u012franki\u0173, duomen\u0173 ir sprendim\u0173 grandini\u0173, tuo svarbesni tampa saugikliai, atsakomyb\u0117s ribos ir ai\u0161kus principas, kad galutinis sprendimas turi likti \u017emogui.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u201eMicrosoft\u201c DI vadovas Mustafa Suleymanas persp\u0117ja: pernelyg autonomi\u0161kas DI gali virsti \u201esilicio r\u016b\u0161imi\u201c, konkuruosian\u010dia su \u017emon\u0117mis.<\/p>\n","protected":false},"author":0,"featured_media":55113,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[94],"tags":[2265,3657,15611,102,1091,42485,42486],"miestas":[],"class_list":["post-55112","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-finansai","tag-anthropic","tag-claude","tag-di-sauga","tag-dirbtinis-intelektas","tag-microsoft","tag-mustafa-suleymanas","tag-technologiju-reguliavimas"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/55112","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=55112"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/55112\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/55113"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=55112"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=55112"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=55112"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=55112"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}