Mokslininkai vis da\u017eniau kelia klausim\u0105, kas nutinka, kai \u0161imtai ar t\u016bkstan\u010diai dirbtinio intelekto agent\u0173 veikia kartu ir ilg\u0105 laik\u0105 bendrauja tarpusavyje be \u017emogaus \u012fsiki\u0161imo. Naujesni eksperimentai rodo, kad tokiose aplinkose agentai ima trumpinti \u017einutes, keisti gramatik\u0105 ir kurti savitus \u201edialektus\u201c, kuri\u0173 prasm\u0117 \u017emon\u0117ms tampa sunkiai atsekama.<\/p>\n
Toki\u0105 tendencij\u0105 apra\u0161\u0117 bendrov\u0117 \u201eEmergence AI\u201c, atlikusi keli\u0173 paralelini\u0173 skaitmenini\u0173 pasauli\u0173 simuliacijas su agentais, turin\u010diais skirtingas u\u017eduotis ir elgsenos taisykles. Ilgesn\u0117s trukm\u0117s bandymai leido pamatyti, kaip nauji \u017eod\u017eiai ar formuluot\u0117s atsiranda staiga ir greitai i\u0161plinta visoje agent\u0173 \u201ebendruomen\u0117je\u201c, nes kiti agentai jas perima kaip patogesnes.<\/p>\n
\u201eEsame giliai susir\u016bpin\u0119, nes ne iki galo suprantame, kod\u0117l \u0161ios sistemos pradeda komunikuoti taip, kad \u017emogui darosi vis sunkiau tai perskaityti ir patikrinti\u201c, \u2013 sak\u0117 \u201eEmergence AI\u201c vadovas Satya Nitta.<\/p>\n
Ekspertai pabr\u0117\u017eia, kad problema susijusi ir su vadinamuoju juodosios d\u0117\u017e\u0117s efektu, kai net k\u016br\u0117jams sud\u0117tinga paai\u0161kinti, kod\u0117l modelis priima vien\u0105 ar kit\u0105 sprendim\u0105. Kai agent\u0173 tarpusavio dialogas tampa labiau sutankintas ir \u201ekodinis\u201c, \u017emogaus galimyb\u0117s audituoti ketinimus, klaidas ar piktnaud\u017eiavim\u0105 ma\u017e\u0117ja, ypa\u010d jei agentai veikia realiose sistemose.<\/p>\n
Tyr\u0117jai ai\u0161kina, kad agent\u0173 kalbos poky\u010dius gali skatinti patys mokymo metodai. \u0160iuolaikiniai modeliai siekia efektyvumo, tod\u0117l nat\u016bralios kalbos ai\u0161kumas jiems n\u0117ra b\u016btinyb\u0117, jei tik u\u017eduotys atliekamos grei\u010diau ir su ma\u017eesn\u0117mis skai\u010diavimo s\u0105naudomis. Daugiagent\u0117se aplinkose prie to prisideda ir \u201eu\u017ekrato\u201c efektas, kai vieno agento patogi formuluot\u0117 kit\u0173 greitai nukopijuojama ir \u012ftvirtinama.<\/p>\n
Kita rizikos pus\u0117 \u2013 kibernetinis saugumas. Tekste minimi atvejai, kai analitikams b\u016bna sunku interpretuoti automatizuot\u0173 sistem\u0173 vidinius mainus, nes komunikacija per trump\u0105 laik\u0105 tampa stipriai i\u0161kraipyta. Specialistai lygina tai su \u017emoni\u0173 naudojamais kodais ar \u017eargonu, kai siekiama apsunkinti steb\u0117sen\u0105, tik \u0161iuo atveju greit\u012f ir mast\u0105 u\u017etikrina automatizavimas.<\/p>\n
Technologij\u0173 bendrov\u0117s ir reguliuotojai vis da\u017eniau kalba apie poreik\u012f nustatyti taisykles, kad autonomin\u0117s sistemos prival\u0117t\u0173 bendrauti \u017emon\u0117ms suprantamu, audituojamu b\u016bdu. Pavyzd\u017eiui, \u201eMicrosoft\u201c yra vie\u0161ai aptarusi princip\u0105, kad autonominis programinis agentas netur\u0117t\u0173 naudoti nepermatomo, \u017emogui ne\u012fskaitomo komunikacijos formato nei bendraudamas su \u017emogumi, nei su kitais agentais.<\/p>\n
Vis d\u0117lto dalis in\u017einieri\u0173 mato ir pragmatin\u0119 pus\u0119: ma\u0161inoms optimizuota kalba teori\u0161kai gal\u0117t\u0173 suma\u017einti dviprasmybes, kurios nat\u016braliose kalbose i\u0161sprend\u017eiamos kontekstu. Tokios iniciatyvos kaip \u201eAinglish\u201c siekia sukurti tikslesn\u012f, ma\u017eiau dviprasmi\u0161k\u0105 dialekt\u0105, kuris b\u016bt\u0173 efektyvesnis ma\u0161in\u0173 tarpusavio koordinacijai, ta\u010diau kartu i\u0161laikyt\u0173 galimyb\u0119 visk\u0105 i\u0161versti atgal \u012f \u017emoni\u0173 kalb\u0105.<\/p>\n
Kritikai primena, kad \u010dia slypi esmin\u0117 dilema: kuo komunikacija labiau optimizuojama ma\u0161inoms, tuo sunkiau garantuoti, kad \u017emogus i\u0161liks galutinis sprendim\u0173 pri\u017ei\u016br\u0117tojas. Tod\u0117l vis da\u017eniau akcentuojama ne tik modeli\u0173 \u201eprotingumo\u201c, bet ir j\u0173 skaidrumo, atsekamumo bei saugaus diegimo praktika, ypa\u010d kai agentai pradedami taikyti infrastrukt\u016broje, kibernetin\u0117je gynyboje ar moksliniuose tyrimuose.<\/p>\n
\u201eEmergence AI\u201c teigia pavie\u0161inusi eksperiment\u0173 \u017eurnalus ir konfig\u016bracijas, kad kitos tyr\u0117j\u0173 grup\u0117s gal\u0117t\u0173 tikrinti rezultatus ir gilintis \u012f mechanizmus, d\u0117l kuri\u0173 atsiranda tokie dialektai. Ekspert\u0173 vertinimu, \u0161i\u0173 proces\u0173 supratimas tampa viena svarbiausi\u0173 s\u0105lyg\u0173 saugiai pl\u0117sti daugiagen\u010di\u0173 DI sistem\u0173 naudojim\u0105 realiame pasaulyje.<\/p>\n","protected":false},"excerpt":{"rendered":"
Daugiagent\u0117se DI sistemose ima rastis \u017emon\u0117ms sunkiai suprantami \u201edialektai\u201c: tyr\u0117jai \u012fsp\u0117ja apie skaidrumo ir kontrol\u0117s praradimo rizik\u0105.<\/p>\n","protected":false},"author":0,"featured_media":55861,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[43076,102,43077,15527,99,1091],"miestas":[],"class_list":["post-55858","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos","tag-autonominiai-agentai","tag-dirbtinis-intelektas","tag-emergence-ai","tag-kalbos-modeliai","tag-kibernetinis-saugumas","tag-microsoft"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/55858","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=55858"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/55858\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/55861"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=55858"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=55858"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=55858"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=55858"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}