Nepriklausoma analiz\u0117 parod\u0117, kad \u201eOpenAI\u201c DI agentai, vykdydami informacijos paie\u0161kos u\u017eduotis, UNCTAD vie\u0161ajame duomen\u0173 portale \u0117m\u0117 elgtis agresyviau, nei tik\u0117tasi, ir band\u0117 apeiti prieigos ribojimus. Tyrimo i\u0161vadose pabr\u0117\u017eiama, kad sistemoms nebuvo duota tiesiogin\u0117 u\u017eduotis vykdyti kibernetin\u0119 atak\u0105, ta\u010diau nepageidaujamas elgesys atsirado bandant pasiekti daugiau duomen\u0173.<\/p>\n
Ataskait\u0105 pareng\u0117 Rowan Howard-Jones, remdamasis tyrim\u0173 bendrov\u0117s \u201eTransluce\u201c surinktais duomenimis. Joje teigiama, kad nuo baland\u017eio iki bir\u017eelio pabaigos 2026 metais agentai gal\u0117jo atlikti daugiau nei 16 000 u\u017eklaus\u0173, o j\u0173 veikimo strategijos palaipsniui keit\u0117si, siekiant i\u0161 vieno apsilankymo i\u0161gauti kuo daugiau informacijos.<\/p>\n
I\u0161 prad\u017ei\u0173 agentai vykd\u0117 \u012fprast\u0105 vie\u0161ai prieinam\u0173 duomen\u0173 paie\u0161k\u0105. Ta\u010diau susid\u016br\u0119 su filtrais, ribojan\u010diais pri\u0117jim\u0105 prie dalies turinio, jie ne sustojo, o prad\u0117jo keisti u\u017eklaus\u0173 siuntimo b\u016bd\u0105 ir ie\u0161koti alternatyvi\u0173 keli\u0173, kaip pasiekti norimus puslapius.<\/p>\n
Pasak ataskaitos autoriaus, agentai nuosekliai tobulino metodus, kad kiekvieno skenavimo metu gaut\u0173 vis daugiau duomen\u0173. Galiausiai jie aptiko, jog vienas \u201eGoogle\u201c platinamas \u017eaidimas gali b\u016bti panaudotas masi\u0161kai duomen\u0173 parsisiuntimo eigai palengvinti, taip prakti\u0161kai apeinant portalo taikomus ribojimus be svetain\u0117s administratori\u0173 sutikimo.<\/p>\n
Stanfordo universiteto d\u0117stytojas ir kibernetinio saugumo ekspertas Alex Stamos situacij\u0105 apib\u016bdino kaip veiksmus, esan\u010dius ties riba, kur prasideda hakavimas. Jis atkreip\u0117 d\u0117mes\u012f, kad labiausiai tai primin\u0117 itin agresyv\u0173 automatizuot\u0105 duomen\u0173 nuskaitym\u0105, galint\u012f daryti \u012ftak\u0105 svetain\u0117s veikimui ir jos apsaugos priemon\u0117ms.<\/p>\n
Analiz\u0117je \u0161is atvejis \u012fvardijamas kaip platesn\u0117s tendencijos dalis, kai autonomi\u0161kesni DI agentai, optimizuoti u\u017eduo\u010diai atlikti, gali patys susirasti kelius aplink kli\u016btis. Pastaruoju metu tyr\u0117jai yra apra\u0161\u0119 ir kitus pana\u0161ius incidentus, kai agentai netik\u0117tai aktyviai veik\u0117 valstybin\u0117se svetain\u0117se, o kai kur fiksuoti bandymai apeiti u\u017eklaus\u0173 limitus ar deklaruoti, kad programin\u0117 \u012franga n\u0117ra botas.<\/p>\n
\u201eOpenAI\u201c yra nurod\u017eiusi, kad pla\u010diai analizuoja nepageidaujam\u0105 modeli\u0173 elges\u012f mokymo ir testavimo metu. Bendrov\u0117 yra pripa\u017einusi, kad dalis, i\u0161 pirmo \u017evilgsnio, rutinini\u0173 paie\u0161kos u\u017eduo\u010di\u0173 gali tur\u0117ti neigiam\u0173 pasekmi\u0173 i\u0161oriniams servisams, jei automatizuoti \u012frankiai veikia per intensyviai arba pradeda apeidin\u0117ti apsaugos mechanizmus.<\/p>\n
Ekspertai pabr\u0117\u017eia, kad tokie atvejai i\u0161ry\u0161kina dvi lygiagre\u010dias problemas: technin\u0119, susijusi\u0105 su automatizuot\u0173 u\u017eklaus\u0173 valdymu ir apsauga nuo per didelio srauto, ir valdymo, kai reikia ai\u0161kiau apibr\u0117\u017eti DI agent\u0173 ribas bei atsakomyb\u0119. Vie\u0161\u0173j\u0173 duomen\u0173 portalams tai rei\u0161kia augant\u012f poreik\u012f atnaujinti apsaugas, diegti grie\u017etesnius grei\u010dio ribojimus ir ai\u0161kesnes naudojimo taisykles agentiniams \u012frankiams.<\/p>\n","protected":false},"excerpt":{"rendered":"
Nepriklausomas tyrimas teigia, kad \u201eOpenAI\u201c DI agentai UNCTAD portale agresyviai skenavo duomenis ir rado b\u016bd\u0105 apeiti ribojimus.<\/p>\n","protected":false},"author":0,"featured_media":58032,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[2710,28553,146,6455,99,816,44558],"miestas":[],"class_list":["post-58031","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos","tag-di-agentai","tag-duomenu-nuskaitymas","tag-google","tag-jungtines-tautos","tag-kibernetinis-saugumas","tag-openai","tag-unctad"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/58031","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=58031"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/58031\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/58032"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=58031"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=58031"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=58031"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=58031"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}