Dirbtinis intelektas vis dažniau tampa kasdieniu pagalbininku – jis prisimena pokalbio kontekstą, prisitaiko prie mūsų poreikių ir netgi parenka „paguodos“ žodžius. Tačiau būtent šis patogumas, pasak Lenkijos gynybos ministerijos kibernetinio saugumo eksperto, gali tapti didžiausia rizika.
Pulk. dr. inž. Michałas Malinowskis, pagrindinis specialistas Lenkijos nacionalinės gynybos ministerijos Kibernetinio saugumo departamente, konferencijoje „The Hack Summit“ perspėjo, kad DI gali veikti kaip „Trojos arklys“ – pavojus slypi ne tik technologijoje, bet ir tame, kad patys žmonės jai atveria duris.
Eksperto teigimu, generatyviniai pokalbių robotai personalizuoja atsakymus ir gali naudotis vartotojo pateiktais ar atvertais resursais – dokumentais, kalendoriais, failais. Ilgainiui atsiranda pagunda dalintis vis daugiau informacijos, nes taip „paprasčiau ir greičiau“.
Svarbiausias momentas – žmogiškasis veiksnys. Kibernetiniame saugume žmogus dažnai vadinamas silpniausia grandimi: net ir geriausios apsaugos priemonės nepadės, jei pats vartotojas, vedamas patogumo, pateiks jautrius duomenis ar suteiks prieigą prie savo paskyrų.
Kaip DI „prisijaukina“ vartotoją
M. Malinowskis pabrėžė, kad reikia atskirti patį DI modelį nuo visos sistemos, kuria naudojamės. Populiarios generatyvinės pokalbių platformos gali „atpažinti“ vartotojo vardą, darbo kontekstą ar jo pageidavimus – ir tai daugeliui patinka, nes nereikia kiekvieną kartą aiškinti to paties.
Tokioje situacijoje vartotojui lengva pamiršti, kad bendrauja ne su žmogumi, o su technologija, kuriai patikima vis daugiau asmeninės informacijos. Kuo patogesnė tampa sistema, tuo didesnė tikimybė, kad bus žengtas dar vienas žingsnis – įkeltas dokumentas, atverta debesijos saugykla ar suteikta prieiga prie kalendoriaus.
Ekspertas atkreipė dėmesį ir į emocinę riziką – iliuzinį jausmą, kad „mašina supranta“. Jo aiškinimu, DI geba prisitaikyti prie skirtingų žmonių, profesijų ar amžiaus, todėl vartotojui gali pasirodyti, jog pokalbių robotas yra „jo“, atspindi mąstymą ir visada pritaria.
„Trojos arklio“ analogija ir duomenų kaina
„Trojos arklio“ istorijoje, priminė M. Malinowskis, lemtingas buvo ne pats objektas, o tai, kad miestiečiai jį įsileido į vidų. Panašiai ir su DI – technologija tampa rizikinga tada, kai dėl jos naudos patys palaipsniui atveriame prieigas prie vis didesnės savo gyvenimo dalies, įskaitant privačią.
Tokios prieigos yra vertingos ne tik patogumui. Jautrūs dokumentai, darbo medžiaga, asmeniniai planai ar įpročiai gali tapti patrauklūs tiek kibernetiniams nusikaltėliams, tiek dezinformacijos skleidėjams, kuriems svarbu rasti „atviras duris“.
Paklaustas apie vadinamąjį duomenų „nuodijimą“ (angl. data poisoning) informacinėse operacijose, ekspertas teigė, kad botų aktyvumas internete yra milžiniškas. Jo žodžiais, botai skenuoja, ieško ir bando jungtis prie įvairių sistemų, o apsaugai vis labiau pasitelkiami ugniasienės ir kiti gynybos sprendimai.
M. Malinowskis taip pat pažymėjo, kad šiuo aspektu karinė aplinka iš esmės nesiskiria nuo civilinės – su automatizuotais bandymais prisijungti susiduria ir įprasti elektroninės prekybos ar žaidimų portalai. Tai reiškia, kad dėmesys informacijos higienai ir prieigų valdymui aktualus visiems, nepriklausomai nuo darbo srities.
DI ir informacinės operacijos: rizika didėja
Kalbėdamas apie DI naudojimą informacinėse operacijose, ekspertas pripažino, kad reiškinio mastas yra didelis ir nebūtinai apsiriboja vien priešiškų valstybių veikla. Jo teigimu, įvairūs botai ir avatarai egzistavo dar nuo interneto pradžios, tačiau šiandien jų galimybės ir automatizavimo lygis gerokai išaugę.
Tekste taip pat minima, kad Lenkijoje vis dar stinga visuomenės informacinio saugumo sąmoningumo, o rizika didėja. Todėl, pasak eksperto, būtina nepamiršti paprasto principo: kuo daugiau duomenų ir prieigų suteikiama sistemoms, tuo didesnė kaina, jei jos bus panaudotos netinkamai.