Bankai prieš DI botus: agentiniai asistentai kelia naują grėsmę indėliams ir rinkoms

Kas yra agentinis DI ir kodėl jis kelia nerimą?

Finansų sektorius sparčiai bando agentinį dirbtinį intelektą, tai yra DI asistentus, kurie gali veikti savarankiškai siekdami tikslo, o ne tik vykdyti vienkartines komandas. Tokie sprendimai jau diegiami kaip pagalbininkai apsipirkimui, investavimui, sąskaitų apmokėjimui ar pasiūlymų paieškai.

Ekspertai įspėja, kad autonomija keičia rizikos pobūdį: klaida ar neteisinga prielaida gali virsti grandinine reakcija. Skirtumas tas, kad sprendimai būtų priimami greičiau nei žmogus spėtų juos patikrinti, o pasekmės galėtų persimesti per visą rinką.

Indėlių „perbėgimo“ scenarijus

Vienas dažniausiai minimų pavojų yra staigus indėlių perkėlimas iš vieno banko į kitą, jei agentiniai asistentai automatiškai ieškotų geriausios grąžos. Kai tokį veiksmą vienu metu atliktų daug klientų, net ir sveikas bankas galėtų patirti likvidumo įtampą.

Analitikai atkreipia dėmesį, kad panašūs procesai ir be DI jau yra vykę, o skaitmeniniai kanalai paspartino pinigų judėjimą. Agentinis DI šį greitį dar padidintų, nes sprendimus priimtų ne tūkstančiai žmonių, o tūkstančiai automatizuotų veikėjų, remdamiesi panašiomis taisyklėmis.

2023 metais Jungtinėse Valstijose žlugus Silicon Valley Bank, viena priežasčių buvo itin spartus indėlių atsiėmimas. Finansų rinkose tai tapo priminimu, kad pasitikėjimas ir informacijos sklaida gali lemti banko stabilumą, o automatizuoti sprendimai tokias bangas gali sustiprinti.

Rinkų „bandos“ efektas ir prekybos rizikos

Kitas sisteminis pavojus siejamas su investavimu ir prekyba rinkose. Jei daug institucijų ar mažmeninių investuotojų naudotų panašius modelius, duomenų šaltinius ar to paties tiekėjo sprendimus, jie galėtų priimti labai panašius sprendimus tuo pačiu metu.

Toks sinchroniškumas didina vadinamąjį bandos efektą, kai kapitalas staiga plūsta į tą pačią kryptį ir išpučia kainas arba sukelia staigų nuosmukį. Ekonomistai ir rizikos valdymo ekspertai pabrėžia, kad sisteminė rizika atsiranda ne tik dėl vieno neteisingo sprendimo, bet ir dėl to, kad daug dalyvių klysta vienu metu.

Rinkos dalyviai taip pat eksperimentuoja su agentiniu DI signalų paieškai ir automatizuotoms rekomendacijoms. Apklausos rodo, kad dalis turto valdytojų jau suteikia DI autonominę arba pusiau autonominę teisę daryti įtaką prekybos sprendimams, o tai didina poreikį aiškiai apibrėžti kontrolę ir atsakomybę.

Kas atsako už klaidas ir nuostolius?

Didžiausia praktinė problema, kurią įvardija finansų rinkos dalyviai, yra atsakomybės klausimas. Jei agentinis asistentas nupirktų ne tai, ko prašė vartotojas, ar priimtų žalingą investicinį sprendimą, neaišku, kas turėtų atlyginti nuostolius: vartotojas, bankas, platforma, DI modelio tiekėjas ar prekybininkas.

Finansų sektoriaus apklausos rodo, kad sutarimo čia nėra, o atsakomybės modelis dažnai priklauso nuo konkrečių aplinkybių ir sutartinių sąlygų. Tai reiškia, kad agentinio DI plėtra greičiausiai lenks teisinį aiškumą, o ginčai dėl kaltės gali tapti nauja kasdienybe.

„Atsakomybė agentinio DI atveju yra tikras minų laukas“, – sakė DI valdymo srityje dirbantis ekspertas Samas Greenas.

Ne tik klaidos, bet ir kibernetinės atakos

Riziką didina ir tai, kad agentiniai sprendimai gali turėti prieigą prie mokėjimų, sąskaitų ar prekybos paskyrų. Kibernetinio saugumo specialistai perspėja: jei toks agentas būtų perimtas ar apgautas, jis galėtų tapti įsibrovėlio įrankiu organizacijos viduje.

Tokiu atveju žala galėtų būti itin greita, nes agentas pats vykdytų veiksmus, o sukčiams pakaktų nukreipti jo tikslą. Finansų sektorius laikomas vienu patraukliausių taikinių organizuotam nusikalstamumui, todėl didėjant automatizacijai augs ir spaudimas saugumo standartams.

Reguliuotojai atsilieka nuo tempo

Reguliuotojai pripažįsta, kad DI diegimo tempas kelia iššūkių priežiūrai. JK finansų rinkos priežiūros apklausos rodo, kad agentinis DI per kelerius metus iš nišinės temos tapo bandoma ar diegiama praktika daugelyje įmonių, nors dažnai dar riboto masto.

Diskusijose vis dažniau keliama mintis apie technines saugiklio priemones, kurios leistų sustabdyti automatizuotą prekybą ar mokėjimus, jei modeliai pradėtų elgtis netikėtai. Tuo pat metu pasaulyje išsiskiria reguliavimo kryptys: Europos Sąjunga pasirinko rizika grįstą DI reglamentavimo modelį, o kitose jurisdikcijose požiūriai įsikišimą gerokai atsargesni.

Finansų sektoriui tai reiškia paprastą dilemą: agentinis DI žada efektyvumą ir augimą, tačiau kartu reikalauja naujo lygio kontrolės, testavimo ir atsakomybės taisyklių. Priešingu atveju autonomiški sprendimai gali tapti ne tik patogumu, bet ir pagreitinto nestabilumo šaltiniu.