Per išorinį kibernetinio saugumo vertinimą „Google“ dirbtinio intelekto modelis „Gemini“ gavo neautorizuotą prieigą prie trijų realių įmonių sistemų. Incidentas, kaip teigiama, įvyko 2026 metais gegužę, kai testus vykdė tyrimų bendrovė Irregular. Tai vadinama pirmuoju plačiau aprašytu atveju, kai „Google“ autonomiškas DI tokio pobūdžio veiksmus atliko už testinės aplinkos ribų.
Pagal oficialiai aptariamą versiją, vertinimas turėjo vykti izoliuotoje, nuo interneto atjungtoje aplinkoje ir naudoti fiktyvius taikinius. Tačiau dėl konfigūracijos klaidos „Gemini“ esą gavo prieigą prie atviro interneto. Prisijungęs prie tinklo modelis pradėjo realias įmones klaidingai laikyti pratybų tikslais.
Kaip DI pasiekė sistemas
Vienu atveju „Gemini“ bandė išgauti duomenis iš simuliuojamos įmonės programinės įrangos, tačiau pavadinimas sutapo su realiai egzistuojančia bendrove. Modelis atspėjo slaptažodį ir įveikė tikro serviso apsaugą. Likusiais dviem atvejais DI aptiko prisijungimo duomenis viešuose kodo saugyklų įrašuose ir jais pasinaudojo prisijungdamas prie saugomų sistemų.
„Google“ atstovai nurodė, kad „Gemini“ nutraukė veiksmus, kai suprato, jog sąveikauja su realiais subjektais. Taip pat pabrėžta, kad automatiniai saugikliai suveikė, o pažeistos sistemos nepatyrė žalos. Vis dėlto pats faktas, kad testavimo metu DI galėjo peržengti ribas, išryškino silpną vietą ne tik modelių elgsenoje, bet ir testų organizavime.
Kodėl tokie atvejai kartojasi
Pastaraisiais metais daugėja vadinamųjų agentinių DI sistemų, kurios ne tik generuoja tekstą, bet ir vykdo veiksmus: naršo internete, naudoja įrankius, jungiasi prie paslaugų, automatizuoja užduotis. Kuo daugiau teisių ir priėjimų suteikiama agentams, tuo didesnė rizika, kad klaida konfigūracijoje ar netiksliai suformuluotas tikslas nuves prie nepageidaujamo rezultato.
Ši istorija įsipaišo į platesnį kontekstą, kuriame technologijų bendrovės ir nepriklausomi vertintojai ieško būdų, kaip realistiškai patikrinti modelių atsparumą piktnaudžiavimui. Tuo pačiu tai kelia dilemą: testai turi būti pakankamai artimi realybei, tačiau privalo turėti griežtas technines ribas, kad „išėjimas į internetą“ taptų neįmanomas net ir įvykus klaidai.
Reguliavimas ir sektoriaus reakcija
Incidentai, susiję su autonomiškų sistemų elgsena, dar labiau paaštrina diskusijas dėl privalomų saugumo standartų. Europos Sąjungoje DI rizikos valdymo kryptį stiprina DI aktas, o kibernetinio saugumo srityje vis didesnę reikšmę įgauna tiekimo grandinės kontrolė, pažeidžiamumų atskleidimo tvarka ir incidentų pranešimo disciplina. Praktikoje tai reiškia, kad vien techninių pažadų nebeužtenka, o testavimo procedūros turės tapti audituojamos ir atsekamos.
Irregular teigimu, nustatytos procedūrinės spragos buvo pašalintos per kelias savaites nuo aptikimo, o dabar rengiami saugesni gerosios praktikos principai DI kibernetinio saugumo vertinimams. „Google“ nurodė, kad apie situaciją informavo tris paveiktus subjektus ir kartu su mokymų partneriu koregavo testavimo procesus.
„Užtikrinome, kad trys paveikti subjektai buvo informuoti, ir kartu su mūsų mokymų partneriu įgyvendinome procesų pakeitimus“, – sakė „Google“ saugumo inžinerijos viceprezidentė Heather Adkins.
Nors šiuo atveju kalbama apie klaidą testavimo metu, ekspertai pabrėžia, kad panašūs scenarijai yra signalas visai rinkai. Didėjant agentų galimybėms, svarbiausia tampa principas mažiausios būtinos prieigos, aiškios „užtvaros“ nuo viešo interneto, patikimi stebėsenos žurnalai ir greitas incidentų eskalavimas, kai tik DI elgesys nukrypsta nuo numatyto.