Diskusijos apie dirbtinio intelekto keliamas rizikas vis dažniau sukasi ne apie filmų scenarijus, o apie kasdienybę: kaip technologija tampa tokia patogi, kad žmogus pamažu nustoja tikrinti, abejoti ir spręsti pats. Ekspertai pabrėžia, kad grėsmė gali kilti ne iš staigaus „maišto“, o iš lėto įpročio deleguoti vis daugiau atsakomybių sistemoms.
Tokia „tyliojo perėmimo“ rizika ypač aktuali tada, kai DI diegiamas į sprendimų priėmimą, infrastruktūrą ir viešąsias paslaugas. Kuo daugiau procesų priklauso nuo automatizuotų modelių, tuo didesnė tikimybė, kad sutrikus sistemai ar pasikeitus jos elgsenai, žmonėms bus sunku greitai atkurti kontrolę.
Rizika auga kartu su autonomija
Ekspertai sutaria, kad šiandien dar sunku patikimai įvertinti tikimybę, jog pažangus DI kada nors taptų egzistencine grėsme. Vis dėlto rizikos lygis gali augti, jei modeliai įgyja daugiau autonomijos, prieigą prie įrankių ir galimybę atlikti ilgesnes užduočių grandines be nuolatinės žmogaus priežiūros.
Praktikoje tai reiškia ne vien geresnį teksto generavimą, bet ir agentines sistemas, kurios vykdo veiksmus: valdo paskyras, inicijuoja pirkimus, keičia nustatymus, rašo ir paleidžia kodą. Tokiose situacijose didžiausia problema tampa ne „ketinimai“, o prognozuojamumas: ar galime patikimai numatyti, kokiais būdais sistema sieks tikslo sudėtingoje aplinkoje.
Ne viena katastrofa, o incidentų grandinė
Vietoje vieno didelio lūžio scenarijaus, realistiškesnis kelias gali būti incidentų serija. Tai gali būti autonominis agentas, sukėlęs finansinių nuostolių, masinio klaidinimo kampanijos, klaidingai suveikę sprendimų palaikymo įrankiai ar infrastruktūros sutrikimai, kai naudojamas modelis, kurio veikimo logikos organizacija iki galo nesupranta.
Kiekvienas toks įvykis didina spaudimą reguliuoti, diegti papildomas apsaugas ir kurti standartus. Tačiau problema ta, kad reguliavimas dažniausiai vejasi inovaciją, o DI – bendros paskirties technologija, kurią sunku apriboti vienu „režimu“ taip, kaip ribojamos siauresnės didelės rizikos sritys.
Ką siūlo ekspertai: testai, stebėsena ir ribotos teisės
Vienas dažniausiai kartojamų siūlymų – nepriklausomi saugumo testai, ypač prieš plačiai išleidžiant pažangiausius modelius. Vien vidiniai kūrėjų bandymai ir deklaracijos apie saugumą nėra pakankami, nes trūksta išorinio patikrinimo ir palyginamų metodikų.
Taip pat akcentuojamas incidentų registravimas ir stebėsena po įdiegimo, kad būtų galima matyti pasikartojančius gedimus ir netikėtą elgseną. Kitas principas – riboti DI „teises“: kokius veiksmus jis gali atlikti be patvirtinimo, prie kokių sistemų gali prisijungti ir kokiu mastu gali valdyti kritinius procesus.
Galiausiai pabrėžiama žmonių kompetencijų reikšmė. DI neveikia vakuume: jei vadovai, inžinieriai ar viešojo sektoriaus sprendimų priėmėjai nesupranta, kaip ir kada modeliai klysta, net ir gera reguliacinė bazė gali neveikti taip, kaip tikimasi.
Ekspertų įspėjimas paprastas: didžiausias pavojus gali būti ne „maištaujanti“ sistema, o visuomenė, kuri dėl patogumo ir spaudimo efektyvumui palaipsniui praranda gebėjimą valdyti savo pačios sprendimus.