„Nvidia“ generalinis direktorius Jensenas Huangas atmeta apokaliptinius scenarijus, esą dėl dirbtinio intelekto jau šio dešimtmečio pabaigoje gali ištikti pasaulio pabaiga. Pasak jo, DI plėtra yra valdoma, o 2030 metai neturėtų tapti civilizacijos lūžio tašku.
Interviu CBS jis sulaukė klausimo apie prognozes, kurios numato globalią katastrofą dar iki dešimtmečio pabaigos. J. Huangas pabrėžė, kad technologijų sektorius turi pareigą kurti atsakingai, tačiau baimė neturėtų tapti priežastimi stabdyti pažangą.
Diskusijos dėl DI rizikų kaista
Pastaruoju metu DI saugumas vėl atsidūrė dėmesio centre po viešų ginčų ir skambių perspėjimų technologijų bendruomenėje. Kai kurie tyrėjai kalba apie mažą, bet ne nulinę egzistencinę riziką, o kiti didžiausią grėsmę sieja su piktnaudžiavimu, klaidomis ir netinkamu pritaikymu.
Šiame kontekste J. Huangas akcentuoja atsakomybę rinkai neteikti neparuoštų produktų. Jo teigimu, įmonės neturėtų diegti sistemų, kurios gali veikti neprognozuojamai arba sudaryti sąlygas pavojingiems scenarijams realiame pasaulyje.
Ar įmanomas DI „išjungimo mygtukas“?
Viena dažniausiai kartojamų idėjų viešose diskusijose yra vadinamasis išjungimo mechanizmas, kuris leistų sustabdyti pavojingai besielgiančią sistemą. Kibernetinio saugumo specialistai atkreipia dėmesį, kad tai nėra vien techninis klausimas, nes pažangios sistemos gali veikti paskirstytai, priklausyti nuo išorinių paslaugų ir būti integruotos į kritinius procesus.
Praktikoje saugumas dažniau remiasi kelių sluoksnių priemonėmis: prieigos kontrole, testavimu, ribojimais, incidentų valdymu ir auditu. Augant DI galimybėms, svarbesnis tampa ne vienas „jungiklis“, o aiškūs atsakomybės standartai ir stebėsena visame gyvavimo cikle.
Didžiausia grėsmė gali būti priklausomybė
Dalis mokslininkų ir politikos formuotojų pabrėžia, kad šiandien realesnės rizikos yra žemiškesnės: dezinformacija, sukčiavimo automatizavimas, kibernetinės atakos, privatumo pažeidimai ir sprendimų šališkumas. Tokios problemos jau dabar daro poveikį rinkimams, finansams ir visuomenės pasitikėjimui.
Kita dažnai minima kryptis yra visuomenės ir verslo priklausomybės nuo DI augimas, kai kritinės funkcijos vis labiau perduodamos automatizuotoms sistemoms. Ekspertai akcentuoja, kad kartu turi augti ir atsparumas, gebėjimas dirbti sutrikimų metu bei aiškios taisyklės, kada žmogaus kontrolė yra būtina.
J. Huangas laikosi pozicijos, kad pažanga neturėtų būti dirbtinai lėtinama, tačiau ji privalo būti atsakinga. Technologijų lyderių pareiga, jo vertinimu, yra į rinką leisti tik patikrintas sistemas ir aktyviai mažinti rizikas, kurios kyla iš realaus pritaikymo, o ne vien iš hipotetinių scenarijų.
Leave a Reply