Stephenas Hawkingas dar 2014 metais viešai perspėjo, kad pažangaus dirbtinio intelekto sukūrimas teoriškai gali tapti lūžio tašku žmonijai. Jo mintis buvo paprasta: jei DI taps pajėgus savarankiškai tobulėti ir veikti autonomiškai, žmonės gali prarasti galimybę kontroliuoti tokias sistemas.
Vėlesniuose pasisakymuose ir knygoje Trumpi atsakymai į didžiuosius klausimus mokslininkas kartojo, kad svarbiausias uždavinys yra valdymas ir atsakomybė. Pasak jo, technologija gali būti milžiniškai naudinga, tačiau tik tuo atveju, jei jos tikslai ir ribos bus suderinti su žmonių interesais.
Kas labiausiai neramino Hawkingą?
Hawkingas aiškino, kad pasiekus tam tikrą pažangos slenkstį, DI galėtų pradėti tobulinti save vis sparčiau. Žmonės, skirtingai nei skaitmeninės sistemos, yra ribojami lėtos biologinės evoliucijos, todėl ilgainiui galėtų nebespėti konkuruoti gebėjimais ir sprendimų greičiu.
Jį neramino ir rizika, kad labai galingos sistemos sieks tikslų, kurie nebūtinai sutaps su žmonių išlikimu ar gerove. Tokiu atveju, net ir be „blogų ketinimų“, itin efektyvus DI galėtų sukelti rimtų padarinių, jei būtų optimizuojamas pagal netinkamai suformuluotas užduotis.
Ginklai, ekonomika ir nelygybė
Dar viena Hawkingo iškelta grėsmė buvo autonominių ginklų kūrimas ir galimos tarptautinės varžybos, kurios didintų konflikto riziką. Ši tema pastaraisiais metais tapo ypač aktuali, nes daugėja diskusijų dėl automatizuotų sprendimų mūšio lauke ir atsakomybės grandinės, kai sprendimą priima algoritmas.
Be saugumo, jis kalbėjo ir apie ekonomiką: automatizacija gali spartinti produktyvumą, bet kartu išstumti dalį darbuotojų, ypač vidutinės kvalifikacijos segmentuose. Tokie pokyčiai, Hawkingo vertinimu, gali didinti turto ir galios koncentraciją, jei valstybės nesiims perskirstymo, perkvalifikavimo ir socialinės apsaugos priemonių.
Kodėl jis vis tiek matė DI naudą?
Nepaisant perspėjimų, Hawkingas pabrėžė ir teigiamą potencialą: DI, tinkamai valdomas, galėtų padėti spręsti globalias problemas nuo ligų gydymo iki aplinkosaugos. Jo požiūris buvo ne technologijos atmetimas, o raginimas kuo anksčiau sutarti dėl aiškių taisyklių, priežiūros ir tarptautinių standartų.
Pastaruoju metu ši kryptis ryškėja ir politikoje: pasaulyje daugėja iniciatyvų, skirtų DI skaidrumui, rizikų vertinimui ir atsakomybės principams. Hawkingo įžvalgos dažnai cituojamos kaip argumentas, kad inovacijos ir saugumas turi eiti kartu, o sprendimai negali būti atidėliojami iki tada, kai technologija tampa nekontroliuojamai galinga.
„Visaverčio dirbtinio intelekto sukūrimas galėtų reikšti žmonių rasės pabaigą“, – sakė Stephenas Hawkingas.
Šaltiniai:
https://www.bbc.com/news/technology-30290540
https://www.theguardian.com/technology/2014/dec/02/stephen-hawking-artificial-intelligence-destroy-humanity
https://www.scientificamerican.com/article/stephen-hawking-warns-that-artificial-intelligence-could-end-humanity/
Leave a Reply