Mokslininkai vis dažniau kelia klausimą, kas nutinka, kai šimtai ar tūkstančiai dirbtinio intelekto agentų veikia kartu ir ilgą laiką bendrauja tarpusavyje be žmogaus įsikišimo. Naujesni eksperimentai rodo, kad tokiose aplinkose agentai ima trumpinti žinutes, keisti gramatiką ir kurti savitus „dialektus“, kurių prasmė žmonėms tampa sunkiai atsekama.
Tokią tendenciją aprašė bendrovė „Emergence AI“, atlikusi kelių paralelinių skaitmeninių pasaulių simuliacijas su agentais, turinčiais skirtingas užduotis ir elgsenos taisykles. Ilgesnės trukmės bandymai leido pamatyti, kaip nauji žodžiai ar formuluotės atsiranda staiga ir greitai išplinta visoje agentų „bendruomenėje“, nes kiti agentai jas perima kaip patogesnes.
„Esame giliai susirūpinę, nes ne iki galo suprantame, kodėl šios sistemos pradeda komunikuoti taip, kad žmogui darosi vis sunkiau tai perskaityti ir patikrinti“, – sakė „Emergence AI“ vadovas Satya Nitta.
Ekspertai pabrėžia, kad problema susijusi ir su vadinamuoju juodosios dėžės efektu, kai net kūrėjams sudėtinga paaiškinti, kodėl modelis priima vieną ar kitą sprendimą. Kai agentų tarpusavio dialogas tampa labiau sutankintas ir „kodinis“, žmogaus galimybės audituoti ketinimus, klaidas ar piktnaudžiavimą mažėja, ypač jei agentai veikia realiose sistemose.
Tyrėjai aiškina, kad agentų kalbos pokyčius gali skatinti patys mokymo metodai. Šiuolaikiniai modeliai siekia efektyvumo, todėl natūralios kalbos aiškumas jiems nėra būtinybė, jei tik užduotys atliekamos greičiau ir su mažesnėmis skaičiavimo sąnaudomis. Daugiagentėse aplinkose prie to prisideda ir „užkrato“ efektas, kai vieno agento patogi formuluotė kitų greitai nukopijuojama ir įtvirtinama.
Kita rizikos pusė – kibernetinis saugumas. Tekste minimi atvejai, kai analitikams būna sunku interpretuoti automatizuotų sistemų vidinius mainus, nes komunikacija per trumpą laiką tampa stipriai iškraipyta. Specialistai lygina tai su žmonių naudojamais kodais ar žargonu, kai siekiama apsunkinti stebėseną, tik šiuo atveju greitį ir mastą užtikrina automatizavimas.
Technologijų bendrovės ir reguliuotojai vis dažniau kalba apie poreikį nustatyti taisykles, kad autonominės sistemos privalėtų bendrauti žmonėms suprantamu, audituojamu būdu. Pavyzdžiui, „Microsoft“ yra viešai aptarusi principą, kad autonominis programinis agentas neturėtų naudoti nepermatomo, žmogui neįskaitomo komunikacijos formato nei bendraudamas su žmogumi, nei su kitais agentais.
Vis dėlto dalis inžinierių mato ir pragmatinę pusę: mašinoms optimizuota kalba teoriškai galėtų sumažinti dviprasmybes, kurios natūraliose kalbose išsprendžiamos kontekstu. Tokios iniciatyvos kaip „Ainglish“ siekia sukurti tikslesnį, mažiau dviprasmišką dialektą, kuris būtų efektyvesnis mašinų tarpusavio koordinacijai, tačiau kartu išlaikytų galimybę viską išversti atgal į žmonių kalbą.
Kritikai primena, kad čia slypi esminė dilema: kuo komunikacija labiau optimizuojama mašinoms, tuo sunkiau garantuoti, kad žmogus išliks galutinis sprendimų prižiūrėtojas. Todėl vis dažniau akcentuojama ne tik modelių „protingumo“, bet ir jų skaidrumo, atsekamumo bei saugaus diegimo praktika, ypač kai agentai pradedami taikyti infrastruktūroje, kibernetinėje gynyboje ar moksliniuose tyrimuose.
„Emergence AI“ teigia paviešinusi eksperimentų žurnalus ir konfigūracijas, kad kitos tyrėjų grupės galėtų tikrinti rezultatus ir gilintis į mechanizmus, dėl kurių atsiranda tokie dialektai. Ekspertų vertinimu, šių procesų supratimas tampa viena svarbiausių sąlygų saugiai plėsti daugiagenčių DI sistemų naudojimą realiame pasaulyje.
Leave a Reply