„Microsoft“ įkūrėjas ir filantropas Billas Gatesas perspėja, kad dirbtinis intelektas (DI) gali tapti įrankiu ne tik verslui ar mokslui, bet ir piktavaliams, galintiems surengti kibernetines ar biologines atakas dideliu mastu. Jo teigimu, tarptautinis DI reguliavimas bus itin sudėtingas, tačiau delsimas didina riziką, kad rimtos krizės įvyks anksčiau, nei bus sutarta dėl saugiklių.
Interviu JAV žiniasklaidai Gatesas pabrėžė, kad technologijų pažanga pasiekė etapą, kai mažos grupės, turinčios prieigą prie pažangių DI modelių, teoriškai gali atlikti tai, kas anksčiau buvo įmanoma tik valstybėms. Didžiausia problema, anot jo, yra ta, kad DI ne visada galima „paprastai išjungti“ kaip įprastą sistemą, o jo poveikis gali būti išskaidytas per daugybę paslaugų ir infrastruktūros grandžių.
Kas kelia didžiausią nerimą?
Gateso vertinimu, didžiausia grėsmė kyla tuomet, kai pažangūs modeliai atsiduria blogų ketinimų turinčių žmonių rankose. Tokiais atvejais DI gali pagreitinti kenkėjiškų programų kūrimą, padėti ieškoti sistemų pažeidžiamumų ar automatizuoti dezinformacijos kampanijas, kurios išnaudoja visuomenės įtampas.
Dar jautresnė sritis – biologinė sauga, kur DI potencialiai gali sumažinti barjerus planuojant pavojingus eksperimentus ar ieškant būdų apeiti saugumo protokolus. Nors reali rizika priklauso nuo daugybės veiksnių, įskaitant prieigą prie laboratorinės infrastruktūros, Gatesas ragina DI kūrimą vertinti kaip nacionalinio ir tarptautinio saugumo klausimą.
„Vienintelis klausimas – ar tai padarysime prieš didelio masto kibernetinę ar biologinę ataką, ar po jos“, – sakė Billas Gatesas.
Reguliavimo dilema: greitis prieš saugumą
Gatesas ragina JAV imtis iniciatyvos ir stumti DI reguliavimo principus į tarptautinį lygmenį, nes atskirų valstybių taisyklės lengvai apėjamos globalioje skaitmeninėje rinkoje. Jo požiūriu, reikalingi bendri standartai, apimantys modelių testavimą, rizikos vertinimą, incidentų atskleidimą ir atsakomybės mechanizmus, kai DI panaudojamas žalingai.
Pastaruoju metu DI saugumo tema aštrėja ir dėl to, kad net tarpusavyje konkuruojančios bendrovės ima ieškoti bendrų taisyklių. Viešojoje erdvėje dažniau kalbama apie nepriklausomą priežiūrą, modelių auditus ir privalomas procedūras prieš pateikiant ypač galingus modelius plačiajai rinkai.
Tuo pat metu reguliavimo idėjos susiduria su politiniu pasipriešinimu. JAV politinėje diskusijoje dalis lyderių laikosi pozicijos, kad griežtesnės taisyklės gali sulėtinti inovacijas ir mažinti ekonominį konkurencingumą, o rinkos lūkesčiai dėl DI proveržio esą tapo svarbiu augimo veiksniu.
Kodėl tai svarbu Europai ir Lietuvai?
Nors Gateso komentarai skamba JAV kontekste, DI rizikos valdymas vis labiau tampa tarptautiniu klausimu, aktualiu ir Europai. Europos Sąjungoje didelis dėmesys skiriamas tam, kad pažangios sistemos būtų diegiamos su aiškiais atsakomybės ir saugumo reikalavimais, ypač srityse, kurios gali paveikti infrastruktūrą, sveikatą ar demokratinius procesus.
Lietuvai, kaip mažai ir skaitmenizuotai valstybei, kibernetinis atsparumas yra kritiškai svarbus: nuo viešųjų paslaugų iki energetikos ir finansų sektoriaus. Todėl diskusija apie DI saugumą neišvengiamai palies ne tik technologijų įmones, bet ir valstybės institucijas, kritinės infrastruktūros valdytojus bei švietimo sistemą, kuri ruošia specialistus naujai rizikų aplinkai.