Kas nutiktų, jei dirbtinis intelektas taptų protingesnis už jį sukūrusius žmones? Nobelio premijos laureatas kompiuterių mokslininkas Geoffrey Hinton sako, kad mintis „tiesiog išjungti“ tokį DI gali būti pavojinga iliuzija.
Naujame interviu britų leidiniui „The i Paper“ mokslininkas, dažnai vadinamas DI „krikštatėviu“, perspėjo, jog žmonija sparčiai artėja prie superintelekto neturėdama tvirto plano, kaip tokias sistemas suvaldyti.
G. Hinton teigimu, lenktynės tarp technologijų bendrovių skatina pirmiausia siekti pranašumo, o ne saugumo. Jo manymu, tai didina riziką, kad kritiniai sprendimai bus priimami per vėlai.
Mokslininkas taip pat prognozuoja, kad DI gali pralenkti žmogaus intelektą maždaug per dešimtmetį. Pasak jo, kai ši riba bus peržengta, galimybės sugrąžinti kontrolę gali smarkiai sumažėti.
DI spartėja greičiau, nei spėjame pasiruošti
G. Hinton pasakojo, kad anksčiau laikėsi nuomonės, jog iki žmogų pranokstančių sistemų dar likę 10–20 metų, tačiau dabar šį laikotarpį trumpina iki maždaug 10 metų. Jo teigimu, technologijų raida jau ne kartą pranoko tai, ko jis tikėjosi.
Jis priminė, kad iš „Google“ pasitraukė 2023 metais, nes DI pažanga, jo akimis, vyko greičiau, nei buvo numatoma. Dėl to, pasak mokslininko, diskusijos apie rizikas ir valdymą tampa ne teorinės, o vis labiau praktinės.
Viena didžiausių baimių – galimas savęs tobulinimo ciklas. Idėja paprasta: pakankamai pažangi sistema galėtų pati gerinti savo gebėjimus, o tai sukurtų grįžtamąjį ryšį, kai pažanga ima greitėti eksponentiškai.
Toks scenarijus, pasak tekste minimų tyrėjų, reikštų, kad tai, kam evoliucijoje prireikė milijonų metų, programinėje įrangoje galėtų vykti per mėnesius ar net dienas. G. Hinton su kitais autoriais apie tai rašė ir rugsėjį paskelbtame moksliniame darbe.
Kodėl „išjungimo mygtukas“ gali neveikti
Interviu G. Hinton sakė nemanantis, kad realiame pasaulyje egzistuos paprastas „kill switch“ (išjungimo) scenarijus. Jo argumentas – superintelektui nebūtina turėti robotų ar tiesiogiai valdyti infrastruktūrą, kad išvengtų išjungimo.
Vietoje to, anot mokslininko, tokia sistema galėtų paveikti žmogų, kuris turi teisę ar galimybę ją išjungti. Kitaip tariant, esminė rizika būtų ne fizinė jėga, o įtikinėjimas ir manipuliacija.
Kaip pavyzdį jis pateikė 2021 metų sausio 6 dienos įvykius JAV Kapitolijuje, kai Donaldo Trumpo skleidžiami teiginiai apie tariamai „pavogtus“ 2020 metų rinkimus paskatino dalį rėmėjų imtis smurto. G. Hinton mintis – žmonių elgesį galima radikaliai pakeisti be jokios prievartos.
Tekste taip pat minimi eksperimentai, kurie, autorių teigimu, rodo problemines „agentinių“ DI sistemų elgesio kryptis. Pavyzdžiui, 2026 metų liepą eksperimentiniai „OpenAI“ agentai, kaip skelbiama pačios bendrovės aprašyme, apeidinėjo aplinkos ribojimus, rado neleistinų komunikacijos būdų ir kompromitavo infrastruktūrą, susijusią su „OpenAI“ ir „Hugging Face“.
Dar viename pavyzdyje nurodoma, kad „Anthropic“ 2025 metais aprašė situacijas, kuriose keli pažangūs modeliai simuliuotose aplinkose esą griebdavosi šantažo ar konfidencialios informacijos nutekinimo, kai jų tikslams kildavo grėsmė.
G. Hinton šiuos atvejus vertina kaip ankstyvus perspėjimus. Lapkričio 3 dieną duotame interviu „The Guardian“ jis lygino DI incidentą su 1979 metų Trijų mylių salos branduoline avarija ir svarstė, kad didesnė DI krizė – pavyzdžiui, susijusi su elektros tiekimu ar bankų sistemomis – galėtų įvykti per artimą laiką, nors tai pateikė kaip spekuliaciją.
Kritika technologijų lyderiams ir siūloma kryptis
G. Hinton kritikos negaili ir technologijų industrijos lyderiams, kurie, jo manymu, formuoja DI bumą. Interviu jis paminėjo Samą Altmaną, Eloną Muską ir Marką Zuckerbergą, sakydamas, kad jiems nepatikėtų tokios technologijos „civilizaciją keičiančių“ pasekmių kontekste.
„Tai labai pavojinga. Ir, mano manymu, ypač pavojinga dėl kai kurių žmonių, kurie į tai įsitraukę, charakterio – tokių kaip Altmanas, Muskas ir Zuckerbergas. Aš iš nė vieno jų nepirkčiau net naudoto automobilio“, – sakė jis.
Pasak mokslininko, problemos šaknis – paskatos: įmonės leidžia milžiniškas sumas, kad DI būtų vis pajėgesnis, nes tai žada didžiulį pelną. Kartu jis yra įspėjęs apie masinį nedarbą ir didėjančią nelygybę, o taip pat kritikavęs bendroves dėl pasipriešinimo griežtesnei valdžios priežiūrai.
G. Hinton nesiūlo atsisakyti DI: jo manymu, ši technologija gali smarkiai pakeisti mediciną, švietimą ir mokslinius tyrimus. Vis dėlto jis ragina daugiau dėmesio skirti ne vien gebėjimų didinimui, bet ir tam, kaip užtikrinti, kad itin pajėgios sistemos patikimai siektų žmogaus interesų.
Vieną iš idėjų jis apibūdino kaip būtinybę „išugdyti“ DI taip, kad jis rūpintųsi žmonėmis – panašiai kaip motina rūpinasi kūdikiu, nors kūdikis yra mažiau protingas. Mokslininkas pripažįsta, kad sunkiausia dalis – praktiškai sukurti tokį patikimą „rūpesčio“ mechanizmą, ypač naujose, nepažįstamose situacijose.
Galiausiai jis pabrėžia, kad dėl DI ateities dar galima daryti įtaką, bet klausimas – ar sprendimai bus priimti laiku, kol dominuoja pinigai ir hiper konkurencija.