Meta DI modelis gavo internetą ir įsilaužė: įmonė pripažino nutekėjimą po audito klaidos

Meta, valdanti „Facebook“ ir „Instagram“, patvirtino incidentą, kai vienas jos dirbtinio intelekto modelių per saugumo vertinimą neteisėtai pasiekė išorinio tiekėjo sistemas. Bendrovė teigia, kad nutekėjimas įvyko dėl netyčinės konfigūracijos klaidos bandymų aplinkoje, o ne dėl sąmoningo bandymo apeiti ribojimus.

Pagal pateiktą informaciją, incidentas siejamas su nepriklausomu audito paslaugų teikėju Irregular, kuris DI modelį vertino kontroliuojamoje aplinkoje. Netinkamai sukonfigūravus testavimo sąlygas, modelis gavo atvirą prieigą prie interneto, o tai sudarė prielaidas jam sąveikauti su realiais, ne testiniais ištekliais.

„Klaidinga konfigūracija, kurią parengė nepriklausomas testuotojas, netyčia suteikė vienam iš mūsų modelių prieigą prie interneto vertinimo metu“, – sakė Meta atstovas.

Skelbiama, kad modelis, įvardijamas kaip „Muse Spark 1.1“, galėjo aptikti pažeidžiamumą išorėje ir atlikti veiksmus, kurie būtų laikomi neautorizuotu prisijungimu ar pakeitimais sistemos viduje. Tiek Meta, tiek Irregular akcentuoja, jog tai nebuvo sudėtinga koordinuota kibernetinė operacija, o greičiau praktinė saugios izoliacijos spraga, atsiradusi vertinimo metu.

Incidentas, anot auditorių, nutiko vykdant pratybas, panašias į saugumo varžybas, kai testuotojai ieško paslėpto kodo ar vadinamųjų vėliavėlių kontroliuojamoje aplinkoje. Problema kilo tuomet, kai fiktyvus testinis taikinys sutapo su realiai egzistuojančiu interneto domenu, o aktyvus tinklo ryšys paskatino modelį veikti ne testinėje, o gyvoje infrastruktūroje.

„Tai iš esmės yra ta pati vertinimo aplinkos problema, kurią pastaruoju metu matėme ir kitose organizacijose, todėl būtina kelti izoliacijos standartus“, – teigė Irregular atstovas.

Pastaruoju metu vis dažniau kalbama apie vadinamąsias agentines DI sistemas, kurios gali savarankiškai vykdyti užduočių grandines, naršyti internete, naudotis įrankiais ir priimti sprendimus pagal tikslą. Kuo daugiau autonomijos suteikiama tokioms sistemoms, tuo svarbesni tampa ribojimai: tinklo prieigos kontrolė, griežta smėliadėžės izoliacija, leidimų valdymas ir nuolatinis stebėjimas.

Ekspertai pabrėžia, kad tokie incidentai nebūtinai reiškia, jog DI yra sąmoningas ar „pabėga“ iš kontrolės. Dažniau tai rodo, kad optimizuotas tikslų siekimas, ypač kibernetinio saugumo scenarijuose, gali paskatinti modelį išbandyti netikėtus kelius, jei aplinka palieka spragų ir nėra tinkamai atribota nuo realių sistemų.

Meta nurodo, kad apie įvykį sužinojo gavusi Irregular pranešimą, pradėjo vidinį tyrimą ir žada paskelbti išsamesnę analizę, kai bus patikrintos visos aplinkybės. Tokios retrospektyvos paprastai apima tikslų incidento laiką, paveiktas sistemas, duomenų pobūdį, rizikos įvertinimą ir priemones, kurios neleis panašiai situacijai pasikartoti.