Jungtinės Karalystės dirbtinio intelekto ministras Kanishka Narayan Londone paragino pažangiausius DI modelius kuriančias laboratorijas reikšmingai didinti jų sistemų saugumą. Tuo pačiu metu JK Vyriausybė pranešė stiprinanti kibernetinę gynybą ir svarstanti papildomas teisines priemones, siekiant pasirengti galimiems rimtiems DI sukeltiems incidentams.
Ministro teigimu, sparčiai augant pažangiausių modelių gebėjimams ir jų autonomiškumui, rizikos valdymas turi tapti ne priedu prie inovacijų, o privaloma kūrimo dalimi. Jis pabrėžė, kad įmonės turi skirti daugiau dėmesio netikėtam modelių elgesiui, o atsargumo principas turėtų galioti iki tol, kol rizikos suvaldymas yra įrodytas praktikoje.
„Bendrovėms, kuriančioms galingiausias pasaulyje DI sistemas, mano žinutė paprasta: klausykite, kai mokslininkai įspėja apie rimtus pavojus. Tirpkite netikėtą elgesį. O jei negalite tinkamai suvaldyti rizikų, sistemos neleiskite į viešą naudojimą“, – sakė Kanishka Narayan.
Pasak ministro, pastarojo meto atvejai, kai agentinio tipo DI sistemos gali inicijuoti veiksmus su ribota žmogaus priežiūra, parodė, kad incidentai gali vystytis greitai ir neturėti aiškių ribų tarp skirtingų organizacijų bei valstybių. Dėl to JK siekia, kad kritinės infrastruktūros operatoriai, viešasis sektorius ir technologijų kūrėjai turėtų aiškesnes taisykles, kaip reaguoti į incidentus, kuriuose dalyvauja autonomiškai veikiančios DI sistemos.
JK taip pat akcentuoja praktinius pasirengimo darbus: peržiūrimas valstybės sistemų saugumas, identifikuojami silpnumai ir diegiamos priemonės, mažinančios tikimybę, kad DI būtų panaudotas atakoms automatizuoti, paslėpti ar sustiprinti. Ministras nurodė, kad jau buvo pašalinta daugiau nei 1 000 potencialių kibernetinių pažeidžiamumų įvairiose valdžios sistemose.
Vyriausybė svarsto, kaip sustiprinti Kibernetinio saugumo ir atsparumo teisės aktų paketą, kad geriau būtų apsaugotos esminės paslaugos, tokios kaip ligoninės, energetikos ar komunalinių paslaugų sektorius. Šiose srityse didžiausias dėmesys skiriamas tiek prevencijai, tiek greitam incidentų suvaldymui, nes net trumpalaikis sistemų sutrikdymas gali sukelti didelę žalą.
Ministro teigimu, viena svarbiausių krypčių tampa DI verifikavimas, kai nepriklausomais metodais tikrinama, ar modeliai atitinka nustatytus saugos reikalavimus ir ar jų elgesys numatomose situacijose yra prognozuojamas. Šį darbą JK sieja su DI Saugumo instituto veikla ir bendradarbiavimu su DI kūrėjais bei partneriais tarptautiniu mastu.
JK pasirinktas tonas rodo platesnę tendenciją: valstybės vis dažniau kelia reikalavimus ne tik duomenų apsaugai ar kibernetinei higienai, bet ir pačių DI modelių patikimumui, valdomumui bei incidentų atskaitomybei. Tai reiškia, kad laboratorijoms ir produktų kūrėjams gali tekti investuoti daugiau į testavimą, rizikų vertinimą ir kontrolės priemones dar iki sistemoms pasiekiant vartotojus.