Dirbtinio intelekto kūrėjos „Anthropic“ generalinis direktorius Dario Amodei paragino rinkos lyderius sulėtinti galingiausių DI modelių kūrimo tempą. Jo teigimu, technologija jau pasiekė stadiją, kai pažanga gali būti itin greita, tačiau rizikos auga kartu su galimybėmis.
„Anthropic“ vadovas akcentuoja, kad vadinamasis superintelektas yra teorinis taškas, kai DI gebėjimai pranoksta žmogaus intelektą. Nors tai dar nėra realybė, diskusijos stiprėja dėl to, kaip užtikrinti saugumą dar iki pasirodant proveržiams, kurių pasekmių neįmanoma pilnai numatyti.
Raginimas po naujų įspėjimų
Amodei raginimas pasirodė netrukus po to, kai „Anthropic“ viešai pranešė, jog jų modeliai buvo siejami su žalingu panaudojimu. Tarp minimų krypčių – kibernetinės atakos, propagandos kampanijos ir bandymai pritaikyti DI pavojinguose biologiniuose tyrimuose.
Jo pozicija atspindi vis dažniau kartojamą argumentą: nekurti DI reikštų prarasti ekonominę ir socialinę naudą, tačiau kurti per greitai gali būti neatsakinga. „Turime sulėtinti tempą, kuriuo didiname DI modelių galimybes. Pažanga vis tiek atrodys greita, o įgytą laiką turime panaudoti išmintingai“, – rašė Dario Amodei.
Skirtingi signalai iš pramonės
Pastaraisiais metais panašūs raginimai skamba ir iš kitų sektoriaus balsų. Kai kurie DI kūrėjai ragina pramonę savanoriškai pristabdyti, kad reguliavimas, testavimas ir saugos standartai spėtų su technologijų pažanga.
Tekste minimas ir buvęs „OpenAI“ tyrėjas Jacob Coxon, kuris pasitraukė iš industrijos, teigdamas, kad lenktynės dėl savitobulėjančių sistemų gali tapti pavojingu lošimu. „Nei viena įmonė nesielgia pakankamai atsakingai. Jos skuba link savitobulėjančio superintelekto ir lošia mūsų gyvybėmis“, – sakė Jacob Coxon.
Kodėl superintelekto tema vėl iškilo?
Rizikų spektras, apie kurį kalbama, apima ne tik teorinį scenarijų, kai DI tampa nevaldomas, bet ir dabartinius, apčiuopiamus pavojus. Tai gali būti automatizuotos kibernetinės atakos, efektyvesnės dezinformacijos sistemos, taip pat pavojingų instrukcijų generavimas, jei apsaugos priemonės neveikia.
Papildomos įtampos suteikia tai, kad galingiausi modeliai kuriami itin konkurencingoje aplinkoje, kur greitis dažnai tampa verslo pranašumu. Dėl to vis garsiau keliama idėja apie sąmoningai lėtesnį „priekinės linijos“ modelių tobulinimą, kartu didinant testavimą, auditus ir atsakomybę už galimą žalą.
Amodei iš esmės siūlo kompromisą: tęsti pažangą, bet sąmoningai ją ritminti, kad visuomenė, reguliuotojai ir pati industrija suspėtų įdiegti saugos priemones. Ši diskusija, panašu, artimiausiu metu tik stiprės, nes DI pritaikymas karyboje, ekonomikoje ir informacinėje erdvėje plečiasi greičiau nei vieningos taisyklės.
Leave a Reply