Kas nutikt\u0173, jei dirbtinis intelektas tapt\u0173 protingesnis u\u017e j\u012f suk\u016brusius \u017emones? Nobelio premijos laureatas kompiuteri\u0173 mokslininkas Geoffrey Hinton sako, kad mintis \u201etiesiog i\u0161jungti\u201c tok\u012f DI gali b\u016bti pavojinga iliuzija.<\/p>\n
Naujame interviu brit\u0173 leidiniui \u201eThe i Paper\u201c mokslininkas, da\u017enai vadinamas DI \u201ekrik\u0161tat\u0117viu\u201c, persp\u0117jo, jog \u017emonija spar\u010diai art\u0117ja prie superintelekto netur\u0117dama tvirto plano, kaip tokias sistemas suvaldyti.<\/p>\n
G. Hinton teigimu, lenktyn\u0117s tarp technologij\u0173 bendrovi\u0173 skatina pirmiausia siekti prana\u0161umo, o ne saugumo. Jo manymu, tai didina rizik\u0105, kad kritiniai sprendimai bus priimami per v\u0117lai.<\/p>\n
Mokslininkas taip pat prognozuoja, kad DI gali pralenkti \u017emogaus intelekt\u0105 ma\u017edaug per de\u0161imtmet\u012f. Pasak jo, kai \u0161i riba bus per\u017eengta, galimyb\u0117s sugr\u0105\u017einti kontrol\u0119 gali smarkiai suma\u017e\u0117ti.<\/p>\n
G. Hinton pasakojo, kad anks\u010diau laik\u0117si nuomon\u0117s, jog iki \u017emog\u0173 pranokstan\u010di\u0173 sistem\u0173 dar lik\u0119 10\u201320 met\u0173, ta\u010diau dabar \u0161\u012f laikotarp\u012f trumpina iki ma\u017edaug 10 met\u0173. Jo teigimu, technologij\u0173 raida jau ne kart\u0105 pranoko tai, ko jis tik\u0117josi.<\/p>\n
Jis primin\u0117, kad i\u0161 \u201eGoogle\u201c pasitrauk\u0117 2023 metais, nes DI pa\u017eanga, jo akimis, vyko grei\u010diau, nei buvo numatoma. D\u0117l to, pasak mokslininko, diskusijos apie rizikas ir valdym\u0105 tampa ne teorin\u0117s, o vis labiau praktin\u0117s.<\/p>\n
Viena did\u017eiausi\u0173 baimi\u0173 \u2013 galimas sav\u0119s tobulinimo ciklas. Id\u0117ja paprasta: pakankamai pa\u017eangi sistema gal\u0117t\u0173 pati gerinti savo geb\u0117jimus, o tai sukurt\u0173 gr\u012f\u017etam\u0105j\u012f ry\u0161\u012f, kai pa\u017eanga ima greit\u0117ti eksponenti\u0161kai.<\/p>\n
Toks scenarijus, pasak tekste minim\u0173 tyr\u0117j\u0173, reik\u0161t\u0173, kad tai, kam evoliucijoje prireik\u0117 milijon\u0173 met\u0173, programin\u0117je \u012frangoje gal\u0117t\u0173 vykti per m\u0117nesius ar net dienas. G. Hinton su kitais autoriais apie tai ra\u0161\u0117 ir rugs\u0117j\u012f paskelbtame moksliniame darbe.<\/p>\n
Interviu G. Hinton sak\u0117 nemanantis, kad realiame pasaulyje egzistuos paprastas \u201ekill switch\u201c (i\u0161jungimo) scenarijus. Jo argumentas \u2013 superintelektui neb\u016btina tur\u0117ti robot\u0173 ar tiesiogiai valdyti infrastrukt\u016br\u0105, kad i\u0161vengt\u0173 i\u0161jungimo.<\/p>\n
Vietoje to, anot mokslininko, tokia sistema gal\u0117t\u0173 paveikti \u017emog\u0173, kuris turi teis\u0119 ar galimyb\u0119 j\u0105 i\u0161jungti. Kitaip tariant, esmin\u0117 rizika b\u016bt\u0173 ne fizin\u0117 j\u0117ga, o \u012ftikin\u0117jimas ir manipuliacija.<\/p>\n
Kaip pavyzd\u012f jis pateik\u0117 2021 met\u0173 sausio 6 dienos \u012fvykius JAV Kapitolijuje, kai Donaldo Trumpo skleid\u017eiami teiginiai apie tariamai \u201epavogtus\u201c 2020 met\u0173 rinkimus paskatino dal\u012f r\u0117m\u0117j\u0173 imtis smurto. G. Hinton mintis \u2013 \u017emoni\u0173 elges\u012f galima radikaliai pakeisti be jokios prievartos.<\/p>\n
Tekste taip pat minimi eksperimentai, kurie, autori\u0173 teigimu, rodo problemines \u201eagentini\u0173\u201c DI sistem\u0173 elgesio kryptis. Pavyzd\u017eiui, 2026 met\u0173 liep\u0105 eksperimentiniai \u201eOpenAI\u201c agentai, kaip skelbiama pa\u010dios bendrov\u0117s apra\u0161yme, apeidin\u0117jo aplinkos ribojimus, rado neleistin\u0173 komunikacijos b\u016bd\u0173 ir kompromitavo infrastrukt\u016br\u0105, susijusi\u0105 su \u201eOpenAI\u201c ir \u201eHugging Face\u201c.<\/p>\n
Dar viename pavyzdyje nurodoma, kad \u201eAnthropic\u201c 2025 metais apra\u0161\u0117 situacijas, kuriose keli pa\u017eang\u016bs modeliai simuliuotose aplinkose es\u0105 griebdavosi \u0161anta\u017eo ar konfidencialios informacijos nutekinimo, kai j\u0173 tikslams kildavo gr\u0117sm\u0117.<\/p>\n
G. Hinton \u0161iuos atvejus vertina kaip ankstyvus persp\u0117jimus. Lapkri\u010dio 3 dien\u0105 duotame interviu \u201eThe Guardian\u201c jis lygino DI incident\u0105 su 1979 met\u0173 Trij\u0173 myli\u0173 salos branduoline avarija ir svarst\u0117, kad didesn\u0117 DI kriz\u0117 \u2013 pavyzd\u017eiui, susijusi su elektros tiekimu ar bank\u0173 sistemomis \u2013 gal\u0117t\u0173 \u012fvykti per artim\u0105 laik\u0105, nors tai pateik\u0117 kaip spekuliacij\u0105.<\/p>\n
G. Hinton kritikos negaili ir technologij\u0173 industrijos lyderiams, kurie, jo manymu, formuoja DI bum\u0105. Interviu jis pamin\u0117jo Sam\u0105 Altman\u0105, Elon\u0105 Musk\u0105 ir Mark\u0105 Zuckerberg\u0105, sakydamas, kad jiems nepatik\u0117t\u0173 tokios technologijos \u201ecivilizacij\u0105 kei\u010dian\u010di\u0173\u201c pasekmi\u0173 kontekste.<\/p>\n
\u201eTai labai pavojinga. Ir, mano manymu, ypa\u010d pavojinga d\u0117l kai kuri\u0173 \u017emoni\u0173, kurie \u012f tai \u012fsitrauk\u0119, charakterio \u2013 toki\u0173 kaip Altmanas, Muskas ir Zuckerbergas. A\u0161 i\u0161 n\u0117 vieno j\u0173 nepirk\u010diau net naudoto automobilio\u201c, \u2013 sak\u0117 jis.<\/p>\n
Pasak mokslininko, problemos \u0161aknis \u2013 paskatos: \u012fmon\u0117s leid\u017eia mil\u017eini\u0161kas sumas, kad DI b\u016bt\u0173 vis paj\u0117gesnis, nes tai \u017eada did\u017eiul\u012f peln\u0105. Kartu jis yra \u012fsp\u0117j\u0119s apie masin\u012f nedarb\u0105 ir did\u0117jan\u010di\u0105 nelygyb\u0119, o taip pat kritikav\u0119s bendroves d\u0117l pasiprie\u0161inimo grie\u017etesnei vald\u017eios prie\u017ei\u016brai.<\/p>\n
G. Hinton nesi\u016blo atsisakyti DI: jo manymu, \u0161i technologija gali smarkiai pakeisti medicin\u0105, \u0161vietim\u0105 ir mokslinius tyrimus. Vis d\u0117lto jis ragina daugiau d\u0117mesio skirti ne vien geb\u0117jim\u0173 didinimui, bet ir tam, kaip u\u017etikrinti, kad itin paj\u0117gios sistemos patikimai siekt\u0173 \u017emogaus interes\u0173.<\/p>\n
Vien\u0105 i\u0161 id\u0117j\u0173 jis apib\u016bdino kaip b\u016btinyb\u0119 \u201ei\u0161ugdyti\u201c DI taip, kad jis r\u016bpint\u0173si \u017emon\u0117mis \u2013 pana\u0161iai kaip motina r\u016bpinasi k\u016bdikiu, nors k\u016bdikis yra ma\u017eiau protingas. Mokslininkas pripa\u017e\u012fsta, kad sunkiausia dalis \u2013 prakti\u0161kai sukurti tok\u012f patikim\u0105 \u201er\u016bpes\u010dio\u201c mechanizm\u0105, ypa\u010d naujose, nepa\u017e\u012fstamose situacijose.<\/p>\n
Galiausiai jis pabr\u0117\u017eia, kad d\u0117l DI ateities dar galima daryti \u012ftak\u0105, bet klausimas \u2013 ar sprendimai bus priimti laiku, kol dominuoja pinigai ir hiper konkurencija.<\/p>\n","protected":false},"excerpt":{"rendered":"
Geoffrey Hinton persp\u0117ja, kad superintelektas gali atsirasti per de\u0161imtmet\u012f, o vien \u201ei\u0161jungimo mygtuko\u201c id\u0117ja gali neapsaugoti.<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[10],"tags":[2265,16926,102,53861,146,816,44886],"miestas":[],"class_list":["post-68706","post","type-post","status-publish","format-standard","hentry","category-mokslas","tag-anthropic","tag-di-saugumas","tag-dirbtinis-intelektas","tag-geoffrey-hinton","tag-google","tag-openai","tag-superintelektas"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/68706","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=68706"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/68706\/revisions"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=68706"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=68706"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=68706"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=68706"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}