Pasaulio technologijų sektoriuje auga įtampa dėl dirbtinio intelekto pažangos tempo ir saugumo. Pastarosiomis savaitėmis kelių pagrindinių DI laboratorijų vadovai viešai pripažino, kad modelių galimybės plečiasi greičiau nei susitarta rizikų valdymo praktika.
OpenAI vyriausiasis mokslininkas Jakubas Pachockis pabrėžė, kad visuomenė ir institucijos nėra pasirengusios pokyčiams, kuriuos gali atnešti sparčiai tobulėjantys modeliai. Jo teigimu, būtinos aiškesnės saugos priemonės, vertinant ne tik naudą, bet ir galimus piktnaudžiavimo scenarijus.
„Žmonija dar nėra pasirengusi pokyčiams, kuriuos atneša itin spartus DI vystymasis“, – sakė Jakubas Pachockis.
Panašios pozicijos laikosi ir „Anthropic“ vadovas Dario Amodei, kuris ragina atsakingiau dozuoti pažangiausių modelių diegimo tempą. Jis siūlo nepriklausomą vertinimą, aiškesnes tarptautines taisykles ir didesnį skaidrumą, kad rizikos būtų fiksuojamos anksčiau, o ne po incidentų.
Diskusijas dar labiau įkaitino vieši perspėjimai, kad autonomiškesni agentiniai sprendimai gali kelti didesnę kibernetinio saugumo grėsmę. Pastaraisiais metais jau tapo įprasta, kad generatyviniai modeliai gali padėti rasti programinės įrangos spragas, todėl didžiausias dėmesys krypsta į tai, kaip apriboti jų panaudojimą puolamosioms operacijoms.
Dalies rinkos dalyvių akimis, tokie pareiškimai gali būti ir reputacijos bei reguliavimo derybų dalis, tačiau jie turi realias pasekmes kapitalo rinkoms. Investuotojai jautriai reaguoja į bet kokius signalus, kad DI plėtra gali lėtėti, nes tai didina riziką neatsipirkti milijardinėms investicijoms į duomenų centrus, lustus ir energijos tiekimą.
JAV politiniame lauke ryškėja skirtingos stovyklos: vieni ragina kuo greičiau nustatyti taisykles, kiti baiminasi, kad griežtesnis reguliavimas pakenks konkurencijai su Kinija. Kontekste minimas ir Donaldas Trumpas, kuris kritiškai vertina raginimus lėtinti DI lenktynes ir akcentuoja geopolitinę lyderystę.
„Jei sustosime, pralaimėsime konkurencinę kovą su Pekinu“, – sakė Donaldas Trumpas.
Kinija, savo ruožtu, viešai atmeta retoriką, kuri DI plėtrą pateikia kaip neišvengiamą grėsmę, ir pabrėžia tarptautinio bendradarbiavimo svarbą. Tuo pat metu abi pusės pripažįsta, kad pažangūs DI sprendimai tampa strateginės infrastruktūros dalimi, todėl susitarimai dėl bendrų ribų ir kontrolės mechanizmų bus itin sudėtingi.
Ekspertai pabrėžia, kad artimiausiais metais DI politikoje svarbiausia tema bus ne vien technologinė pažanga, o gebėjimas sukurti patikimus saugos standartus. Tai apimtų modelių testavimą prieš paleidimą, incidentų ataskaitų teikimą, kibernetinio saugumo stiprinimą ir aiškias atsakomybes, kai DI sistemomis pasinaudojama žalai.
Kas kelia didžiausią nerimą?
Didžiausią nerimą kelia autonomiškesni agentai, galintys savarankiškai planuoti veiksmus, ieškoti spragų ir vykdyti užduotis skirtingose sistemose. Kuo mažiau žmogaus įsikišimo reikia procesui, tuo sunkiau užtikrinti, kad sistema neperžengs ribų ar nebus panaudota kenkėjiškai.
Kita rizikos sritis yra infrastruktūros pažeidžiamumas: augant modelių pajėgumui, auga ir jų potencialas padėti automatizuoti atakas, socialinę inžineriją bei kenkėjiško kodo adaptavimą. Dėl to įmonėms tenka ne tik kurti naujus produktus, bet ir greitinti spragų taisymo bei apsaugos procesus.
Reguliavimas ir konkurencija
Reguliavimo šalininkai teigia, kad be aiškių taisyklių ir nepriklausomų auditų rinka bus linkusi rizikuoti dėl greitesnio augimo. Kritikai atsako, kad per griežti reikalavimai gali paskatinti inovacijas persikelti į mažiau reguliuojamas jurisdikcijas ir susilpninti JAV pozicijas prieš Kiniją.
Kol kas aišku viena: DI klausimas tampa ne tik technologijų, bet ir nacionalinio saugumo bei ekonomikos politikos dalimi. Todėl artėjantys politiniai sprendimai gali nulemti, ar DI plėtra bus labiau valdoma taisyklėmis, ar ir toliau vyks lenktynių principu.
Leave a Reply