Įspėjimas apie patogumo kainą
„OpenAI“ vadovas Samas Altmanas viešuose pasisakymuose vis dažniau akcentuoja ne fantazijas apie maištaujančias mašinas, o lėčiau ir nepastebimai atsirandančią grėsmę: visuomenė, siekdama saugumo ir patogumo, gali pati sutikti su vis didesne kontrole.
Jo teigimu, pavojingiausia distopija gali būti ta, kurioje už materialinę gerovę, medicinos proveržius ir kasdienį komfortą žmonės sumoka prarasdami privatumą, sprendimų laisvę ir realią įtaką savo gyvenimui.
„Jūs gausite vaistą nuo vėžio ir materialinę gausą, bet neturėsite laisvės, neturėsite valios spręsti. Tai bus tobula stebėjimo valstybė“, – sakė Samas Altmanas.
DI agentai ir nuolatinis stebėjimas
Altmanas atkreipia dėmesį į kryptį, kuria juda didžiųjų technologijų kuriami produktai: nuo įrankių, vykdančių atskiras komandas, link nuolat fone veikiančių DI agentų, galinčių stebėti ekraną, suprasti kontekstą ir padėti priimti sprendimus.
Tokia evoliucija žada didžiulį produktyvumo šuolį, tačiau kartu kelia privatumo klausimus. Jei asistentas turi matyti ekrane rodomą informaciją, girdėti pokalbius ar analizuoti susitikimus, jis neišvengiamai priartėja prie jautriausių asmens duomenų.
Altmanas yra užsiminęs apie scenarijų, kuriame asmeninis asistentas turėtų beveik tobulą kasdienio gyvenimo kontekstą: matytų, kas vyksta ekrane, dalyvautų susitikimuose ir fiksuotų skambučius. Kritikai tai vadina nauju nuolatinės priežiūros standartu, kurį bus sunku atšaukti, jei jis taps norma.
Riba, kurią siūlo pats Altmanas
Pasak „OpenAI“ vadovo, vienas iš būdų nepaslysti į kontrolės visuomenę yra paprastas testas: technologinė pažanga turi kasmet didinti žmonių laisvę ir jų galimybes rinktis, o ne mažinti autonomiją dėl tariamo efektyvumo.
Jo logika tokia: jei visuomenė kiekvienais metais jaučia, kad turi daugiau laiko, daugiau pasirinkimų ir daugiau įtakos savo gyvenimui, tuomet rizika, kad DI taps įrankiu centralizuotai valdžiai ir totalinei priežiūrai, mažėja.
„Jei kasmet žmonės turės daugiau laisvės ir daugiau galios spręsti, o jų gyvenimo ir laiko kokybė nuosekliai augs, tada, tikėtina, viskas bus gerai“, – sakė Samas Altmanas.
Kodėl diskusija aštrėja visame sektoriuje
Platesniame kontekste šie perspėjimai sutampa su globalia tendencija: valstybės ir reguliuotojai ieško būdų, kaip suvaldyti didelės galios DI sistemas, o technologijų kompanijos tuo pat metu spartina agentinių produktų ir asistentų plėtrą.
Diskusiją kaitina ir kiti ryškūs pramonės lyderių pasisakymai. Pavyzdžiui, „Oracle“ vadovas Larry Ellisonas yra kalbėjęs apie nuolatinį įrašinėjimą kaip priemonę skatinti geresnį piliečių elgesį, o „Palantir“ vadovas Alexas Karpas atvirai pripažino, kad bendrovės produktai kartais naudojami žmonėms žudyti.
Šalia to skamba ir grėsmingesnės prognozės apie egzistencinę riziką. Dalis buvusių ir esamų DI tyrėjų bei vadovų viešai mini tikimybes, kad itin galingos sistemos gali sukelti katastrofiškų pasekmių, nors skaičiai ir vertinimai smarkiai skiriasi.
Altmano žinutė šioje triukšmingoje diskusijoje išsiskiria tuo, kad jis labiausiai akcentuoja socialinį mechanizmą: laisvės neprarandamos vienu sprendimu. Jos nyksta per mažus kompromisus, kurie konkrečiu momentu atrodo logiški, laikini ir būtini.
