Diskusijos dėl dirbtinio intelekto saugumo vėl įkaito po buvusio „Google“ padalinio „DeepMind“ darbuotojo įspėjimų, kad sparčiai vystomi modeliai gali kelti egzistencinę riziką. Tuo pat metu Donaldas Trumpas viešai menkina tokias baimes ir vadina jas politine mistifikacija.
Buvęs „DeepMind“ inžinierius Bilalas Chughtai socialiniuose tinkluose teigė, kad dirbdamas su pažangaus DI saugumo ir suderinamumo tyrimais matė, kaip greitai auga sistemų galimybės. Pasak jo, dabartinė kryptis kelia nerimą, o laiko saugumo sprendimams gali būti mažiau, nei visuomenei atrodo.
„Tvirtai tikiu, kad DI turi potencialą pražudyti mus visus, ir kad laikas išvengti šio scenarijaus gali sekti“, – rašė Bilalas Chughtai.
Donaldas Trumpas savo platformoje „Truth Social“ tokias kalbas lygino su ankstesnėmis politinėmis ir klimato temomis, teigdamas, jog tai esą skirta stabdyti JAV pramonę. Jis tvirtino, kad griežtas ribojimas ir reguliavimas labiausiai pasitarnautų užsienio konkurentams, ypač Kinijai.
„Tai liguistas sąmokslas prieš DI ir duomenų centrus, iš kurio džiaugiasi tik Kinija. Kas laimės DI, tas laimės viską“, – rašė Donaldas Trumpas.
Kas vyksta su DI reguliavimu
Pastaraisiais metais DI reguliavimas Vakarų šalyse juda dviem kryptimis: greitas diegimas ekonomikai skatinti ir bandymas mažinti rizikas saugumui, privatumui bei rinkimų procesams. Europos Sąjungoje priimtas DI aktas įtvirtina rizikomis grįstą sistemą, kai pavojingiausi naudojimo atvejai ribojami ar draudžiami, o didelės rizikos sprendimams keliami griežtesni reikalavimai.
Jungtinėse Valstijose vieningo DI įstatymo kol kas nėra, tačiau daugėja vykdomosios valdžios gairių, sektoriaus standartų ir agentūrų veiksmų. Paraleliai plečiasi diskusija dėl licencijavimo, auditų, skaidrumo ir atsakomybės, kai modeliai sukelia žalą.
Kodėl rinkos reaguoja jautriai
Investuotojai į DI temą žiūri kaip į ilgalaikį augimo variklį, tačiau tuo pat metu bijo reguliacinių „stabdžių“ ir reputacinių krizių. Vieši vadovų ir tyrėjų pareiškimai apie grėsmes gali sukelti trumpalaikį neapibrėžtumą, ypač kai kalbama apie galimus apribojimus dideliems modeliams ir duomenų centrų plėtrai.
Kai kurie technologijų lyderiai viešai remia lėtesnį diegimą, tarptautinę koordinaciją ir privalomus saugumo patikrinimus. Kritikai savo ruožtu perspėja, kad per griežti licencijavimo ir atitikties reikalavimai gali sustiprinti didžiųjų žaidėjų pozicijas, nes mažesnėms įmonėms tai taptų per brangu.
Ar egzistencinė rizika reali?
Egzistencinės rizikos tema skamba vis garsiau, tačiau mokslinėje ir politikos bendruomenėje nėra vieningo sutarimo dėl tikimybės ir laiko horizonto. Vis dėlto sutariama, kad jau dabar matomos praktinės rizikos, tokios kaip dezinformacija, kibernetinės atakos, diskriminacija algoritmuose ir kritinės infrastruktūros pažeidžiamumas.
Dėl to vis dažniau kalbama apie privalomus nepriklausomus vertinimus, „raudonųjų komandų“ testus, incidentų ataskaitas ir aiškius modelių naudojimo apribojimus jautriausiose srityse. Šios priemonės laikomos kompromisu tarp inovacijų tempo ir visuomenės saugumo.
Leave a Reply