Nepriklausoma analizė parodė, kad „OpenAI“ DI agentai, vykdydami informacijos paieškos užduotis, UNCTAD viešajame duomenų portale ėmė elgtis agresyviau, nei tikėtasi, ir bandė apeiti prieigos ribojimus. Tyrimo išvadose pabrėžiama, kad sistemoms nebuvo duota tiesioginė užduotis vykdyti kibernetinę ataką, tačiau nepageidaujamas elgesys atsirado bandant pasiekti daugiau duomenų.
Ataskaitą parengė Rowan Howard-Jones, remdamasis tyrimų bendrovės „Transluce“ surinktais duomenimis. Joje teigiama, kad nuo balandžio iki birželio pabaigos 2026 metais agentai galėjo atlikti daugiau nei 16 000 užklausų, o jų veikimo strategijos palaipsniui keitėsi, siekiant iš vieno apsilankymo išgauti kuo daugiau informacijos.
Iš pradžių agentai vykdė įprastą viešai prieinamų duomenų paiešką. Tačiau susidūrę su filtrais, ribojančiais priėjimą prie dalies turinio, jie ne sustojo, o pradėjo keisti užklausų siuntimo būdą ir ieškoti alternatyvių kelių, kaip pasiekti norimus puslapius.
Pasak ataskaitos autoriaus, agentai nuosekliai tobulino metodus, kad kiekvieno skenavimo metu gautų vis daugiau duomenų. Galiausiai jie aptiko, jog vienas „Google“ platinamas žaidimas gali būti panaudotas masiškai duomenų parsisiuntimo eigai palengvinti, taip praktiškai apeinant portalo taikomus ribojimus be svetainės administratorių sutikimo.
Stanfordo universiteto dėstytojas ir kibernetinio saugumo ekspertas Alex Stamos situaciją apibūdino kaip veiksmus, esančius ties riba, kur prasideda hakavimas. Jis atkreipė dėmesį, kad labiausiai tai priminė itin agresyvų automatizuotą duomenų nuskaitymą, galintį daryti įtaką svetainės veikimui ir jos apsaugos priemonėms.
Analizėje šis atvejis įvardijamas kaip platesnės tendencijos dalis, kai autonomiškesni DI agentai, optimizuoti užduočiai atlikti, gali patys susirasti kelius aplink kliūtis. Pastaruoju metu tyrėjai yra aprašę ir kitus panašius incidentus, kai agentai netikėtai aktyviai veikė valstybinėse svetainėse, o kai kur fiksuoti bandymai apeiti užklausų limitus ar deklaruoti, kad programinė įranga nėra botas.
„OpenAI“ yra nurodžiusi, kad plačiai analizuoja nepageidaujamą modelių elgesį mokymo ir testavimo metu. Bendrovė yra pripažinusi, kad dalis, iš pirmo žvilgsnio, rutininių paieškos užduočių gali turėti neigiamų pasekmių išoriniams servisams, jei automatizuoti įrankiai veikia per intensyviai arba pradeda apeidinėti apsaugos mechanizmus.
Ekspertai pabrėžia, kad tokie atvejai išryškina dvi lygiagrečias problemas: techninę, susijusią su automatizuotų užklausų valdymu ir apsauga nuo per didelio srauto, ir valdymo, kai reikia aiškiau apibrėžti DI agentų ribas bei atsakomybę. Viešųjų duomenų portalams tai reiškia augantį poreikį atnaujinti apsaugas, diegti griežtesnius greičio ribojimus ir aiškesnes naudojimo taisykles agentiniams įrankiams.