„Microsoft“ prezidentas Bradas Smithas perspėja, kad dirbtinis intelektas (DI) daugelyje pasaulio valstybių vis dar prižiūrimas ir reguliuojamas gerokai silpniau nei kasdieniai vartojimo produktai ar buitinė technika. Jo teigimu, situacija paradoksali: prekėms ir įrenginiams taikomos aiškios saugos taisyklės, o sparčiausiai besivystančioms DI sistemoms dažnai jų trūksta.
Pasak B. Smitho, dabartinė rinkos dinamika reiškia, kad DI diegiamas greičiau, nei susiformuoja visuotinai pripažinti saugumo standartai. Tai kelia riziką vartotojams ir verslui, nes klaidos ar piktnaudžiavimas gali turėti platesnių pasekmių nei įprastų produktų brokas.
Ko prašo „Microsoft“
„Microsoft“ vadovas ragina kurti globalias DI saugos taisykles, kurios veiktų panašiai kaip kiti tarptautiniai techniniai standartai. Jo vertinimu, vien savireguliacijos nepakanka, ypač kai DI sprendimai pradedami naudoti sveikatos, švietimo, finansų, infrastruktūros ir viešojo saugumo srityse.
„Šiandien jūsų skalbyklė turi daugiau saugos reikalavimų nei dirbtinis intelektas, o pieno pakelis parduotuvėje praeina griežtesnę kontrolę“, – sakė Bradas Smithas.
Vienas konkrečių siūlymų – vadinamieji avariniai stabdžiai, leidžiantys sustabdyti arba sulėtinti DI sistemos veikimą, jei ji ima veikti neprognozuojamai. Tokios priemonės, pasak jo, turėtų būti numatytos dar kūrimo etape, o ne paliekamos spręsti po incidentų.
Atsakomybė, incidentų ataskaitos ir nepriklausoma priežiūra
B. Smithas taip pat akcentuoja teisinę pareigą fiksuoti ir skelbti incidentus, kai DI sukelia žalą ar veikia kitaip, nei numatyta. Tokie pranešimai, jo nuomone, turėtų apimti ne tik technines klaidas, bet ir atvejus, kai žmonės nukenčia dėl neteisingų automatizuotų sprendimų.
Kitas elementas – nepriklausomas vertinimas. Pasak „Microsoft“ prezidento, nauji DI sprendimai turėtų būti tikrinami ne vien pačių kūrėjų, bet ir nepriklausomų ekspertų, įskaitant valstybės institucijų specialistus, kad būtų mažinama interesų konflikto rizika.
Viešojoje erdvėje vis dažniau susiduria dvi kryptys: vieni ragina kuo greičiau įtvirtinti griežtesnę DI priežiūrą, kiti baiminasi, kad per didelė reguliacinė našta pristabdys inovacijas ir susilpnins konkurencingumą, ypač JAV ir Kinijos technologijų varžybų kontekste.
Kodėl išskiriama Jungtinė Karalystė
Kalbėdamas apie tarptautinę lyderystę DI saugos srityje, B. Smithas išskyrė Jungtinę Karalystę. Jo teigimu, šalis yra gerai pasirengusi telkti bendras taisykles, nes joje veikia DI saugai skirta institucija, sukurta ankstesnės vyriausybės iniciatyva.
Reguliavimo klausimai pastaruoju metu aštrėja ir dėl pačios pramonės signalų: dalis DI kūrėjų ir tyrėjų atvirai kalba apie didėjančias rizikas, susijusias su klaidinančiu turiniu, kibernetinėmis atakomis, automatizuotu sukčiavimu ir sprendimų, darančių poveikį žmonėms, nepaaiškinamumu.
Ekspertai pabrėžia, kad efektyviausios taisyklės paprastai remiasi rizikos lygiu: griežčiausia priežiūra taikoma ten, kur DI gali daryti didelę žalą, o mažesnės rizikos taikymams numatomi lankstesni reikalavimai. Būtent toks principas vis dažniau minimas kaip kompromisas tarp inovacijų ir saugumo.
Leave a Reply