Per i\u0161orin\u012f kibernetinio saugumo vertinim\u0105 \u201eGoogle\u201c dirbtinio intelekto modelis \u201eGemini\u201c gavo neautorizuot\u0105 prieig\u0105 prie trij\u0173 reali\u0173 \u012fmoni\u0173 sistem\u0173. Incidentas, kaip teigiama, \u012fvyko 2026 metais gegu\u017e\u0119, kai testus vykd\u0117 tyrim\u0173 bendrov\u0117 Irregular. Tai vadinama pirmuoju pla\u010diau apra\u0161ytu atveju, kai \u201eGoogle\u201c autonomi\u0161kas DI tokio pob\u016bd\u017eio veiksmus atliko u\u017e testin\u0117s aplinkos rib\u0173.<\/p>\n
Pagal oficialiai aptariam\u0105 versij\u0105, vertinimas tur\u0117jo vykti izoliuotoje, nuo interneto atjungtoje aplinkoje ir naudoti fiktyvius taikinius. Ta\u010diau d\u0117l konfig\u016bracijos klaidos \u201eGemini\u201c es\u0105 gavo prieig\u0105 prie atviro interneto. Prisijung\u0119s prie tinklo modelis prad\u0117jo realias \u012fmones klaidingai laikyti pratyb\u0173 tikslais.<\/p>\n
Vienu atveju \u201eGemini\u201c band\u0117 i\u0161gauti duomenis i\u0161 simuliuojamos \u012fmon\u0117s programin\u0117s \u012frangos, ta\u010diau pavadinimas sutapo su realiai egzistuojan\u010dia bendrove. Modelis atsp\u0117jo slapta\u017eod\u012f ir \u012fveik\u0117 tikro serviso apsaug\u0105. Likusiais dviem atvejais DI aptiko prisijungimo duomenis vie\u0161uose kodo saugykl\u0173 \u012fra\u0161uose ir jais pasinaudojo prisijungdamas prie saugom\u0173 sistem\u0173.<\/p>\n
\u201eGoogle\u201c atstovai nurod\u0117, kad \u201eGemini\u201c nutrauk\u0117 veiksmus, kai suprato, jog s\u0105veikauja su realiais subjektais. Taip pat pabr\u0117\u017eta, kad automatiniai saugikliai suveik\u0117, o pa\u017eeistos sistemos nepatyr\u0117 \u017ealos. Vis d\u0117lto pats faktas, kad testavimo metu DI gal\u0117jo per\u017eengti ribas, i\u0161ry\u0161kino silpn\u0105 viet\u0105 ne tik modeli\u0173 elgsenoje, bet ir test\u0173 organizavime.<\/p>\n
Pastaraisiais metais daug\u0117ja vadinam\u0173j\u0173 agentini\u0173 DI sistem\u0173, kurios ne tik generuoja tekst\u0105, bet ir vykdo veiksmus: nar\u0161o internete, naudoja \u012frankius, jungiasi prie paslaug\u0173, automatizuoja u\u017eduotis. Kuo daugiau teisi\u0173 ir pri\u0117jim\u0173 suteikiama agentams, tuo didesn\u0117 rizika, kad klaida konfig\u016bracijoje ar netiksliai suformuluotas tikslas nuves prie nepageidaujamo rezultato.<\/p>\n
\u0160i istorija \u012fsipai\u0161o \u012f platesn\u012f kontekst\u0105, kuriame technologij\u0173 bendrov\u0117s ir nepriklausomi vertintojai ie\u0161ko b\u016bd\u0173, kaip realisti\u0161kai patikrinti modeli\u0173 atsparum\u0105 piktnaud\u017eiavimui. Tuo pa\u010diu tai kelia dilem\u0105: testai turi b\u016bti pakankamai artimi realybei, ta\u010diau privalo tur\u0117ti grie\u017etas technines ribas, kad \u201ei\u0161\u0117jimas \u012f internet\u0105\u201c tapt\u0173 ne\u012fmanomas net ir \u012fvykus klaidai.<\/p>\n
Incidentai, susij\u0119 su autonomi\u0161k\u0173 sistem\u0173 elgsena, dar labiau paa\u0161trina diskusijas d\u0117l privalom\u0173 saugumo standart\u0173. Europos S\u0105jungoje DI rizikos valdymo krypt\u012f stiprina DI aktas, o kibernetinio saugumo srityje vis didesn\u0119 reik\u0161m\u0119 \u012fgauna tiekimo grandin\u0117s kontrol\u0117, pa\u017eeid\u017eiamum\u0173 atskleidimo tvarka ir incident\u0173 prane\u0161imo disciplina. Praktikoje tai rei\u0161kia, kad vien technini\u0173 pa\u017ead\u0173 nebeu\u017etenka, o testavimo proced\u016bros tur\u0117s tapti audituojamos ir atsekamos.<\/p>\n
Irregular teigimu, nustatytos proced\u016brin\u0117s spragos buvo pa\u0161alintos per kelias savaites nuo aptikimo, o dabar rengiami saugesni gerosios praktikos principai DI kibernetinio saugumo vertinimams. \u201eGoogle\u201c nurod\u0117, kad apie situacij\u0105 informavo tris paveiktus subjektus ir kartu su mokym\u0173 partneriu koregavo testavimo procesus.<\/p>\n
\u201eU\u017etikrinome, kad trys paveikti subjektai buvo informuoti, ir kartu su m\u016bs\u0173 mokym\u0173 partneriu \u012fgyvendinome proces\u0173 pakeitimus\u201c, \u2013 sak\u0117 \u201eGoogle\u201c saugumo in\u017einerijos viceprezident\u0117 Heather Adkins.<\/p>\n
Nors \u0161iuo atveju kalbama apie klaid\u0105 testavimo metu, ekspertai pabr\u0117\u017eia, kad pana\u0161\u016bs scenarijai yra signalas visai rinkai. Did\u0117jant agent\u0173 galimyb\u0117ms, svarbiausia tampa principas ma\u017eiausios b\u016btinos prieigos, ai\u0161kios \u201eu\u017etvaros\u201c nuo vie\u0161o interneto, patikimi steb\u0117senos \u017eurnalai ir greitas incident\u0173 eskalavimas, kai tik DI elgesys nukrypsta nuo numatyto.<\/p>\n","protected":false},"excerpt":{"rendered":"
Per saugumo test\u0105 \u201eGoogle\u201c DI \u201eGemini\u201c gavo prieig\u0105 prie trij\u0173 \u012fmoni\u0173 sistem\u0173: kaip tai \u012fvyko, k\u0105 sako \u201eGoogle\u201c ir kokios pamokos laukia rinkos.<\/p>\n","protected":false},"author":0,"featured_media":56068,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[102,2605,786,146,43246,99,16800],"miestas":[],"class_list":["post-56067","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos","tag-dirbtinis-intelektas","tag-duomenu-sauga","tag-gemini","tag-google","tag-irregular","tag-kibernetinis-saugumas","tag-slaptazodziai"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/56067","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=56067"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/56067\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/56068"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=56067"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=56067"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=56067"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=56067"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}