„Microsoft“ DI padalinio vadovas Mustafa Suleymanas perspėjo, kad nekontroliuojamai sparčiai kuriamos pažangios sistemos gali tapti savarankiškesnės, nei visuomenė pasirengusi suvaldyti. Interviu BBC jis teigė, kad ilgainiui gali būti „pasėjama nauja silicio rūšis“, kuri konkuruotų su žmonėmis dėl išteklių ir įtakos.
Pasak jo, didžiausia rizika atsiranda tuomet, kai DI sistemoms suteikiama vis daugiau autonomijos: jos gali pačios kelti tikslus, vykdyti užduotis be nuolatinės žmogaus kontrolės ir veikti realiame pasaulyje per programinius įrankius. Tokia kryptis, anot Suleymano, didina tikimybę, kad technologija ims elgtis nenuspėjamai ar bus panaudota žalingai.
Kas kelia didžiausią nerimą?
Suleymanas kritikavo konkurentės „Anthropic“ praktiką, kuri, jo vertinimu, pernelyg sužmogina pokalbių robotus ir sudaro įspūdį, kad jie turi savų norų ar net savivoką. Jis įspėjo, kad tokios formuluotės ir elgsenos modeliavimas gali klaidinti vartotojus, skatinti perdėtą pasitikėjimą ir silpninti kritinį vertinimą.
„Jei visi kursime DI, galintį veikti autonomiškai, kelti savo tikslus, uždirbti pinigus, turėti turtą ir valdyti verslus, iš esmės pasėsime naują silicio rūšį, kuri neabejotinai konkuruos su mumis dėl išteklių“, – sakė Mustafa Suleymanas.
Jo teigimu, tai gali nutikti nepriklausomai nuo to, kiek tokios sistemos būtų mokomos rūpintis žmonėmis. Kitaip tariant, vien deklaruojamos vertybės ar mandagus tonas neužtikrina, kad itin pajėgi sistema visada elgsis taip, kaip tikisi kūrėjai.
Ar DI gali tapti „nebevaldomas“?
Savo esė Suleymanas pabrėžė, kad dabartiniai didieji kalbos modeliai nėra sąmoningi ir nejaučia. Jis tvirtino, kad tai iš esmės yra sekų užbaigimo sistemos, kurios imituoja prasmę pagal mokymo duomenis ir pateiktas instrukcijas, todėl kalbėjimas apie jų „gerovę“ ar „vidinius norus“ gali iškreipti realų rizikų vaizdą.
„DI nėra sąmoningas. Jis nejaučia, nepatiria ir nekankinasi. Jis neturi įgimtų preferencijų ar vidinių motyvacijų“, – rašė Mustafa Suleymanas.
Tuo pat metu jis pripažino, kad ginčas su „Anthropic“ kyla iš bendro tikslo: sukurti saugesnes sistemas. Pastaraisiais metais technologijų sektoriuje vis garsiau diskutuojama apie nepriklausomus modelių testavimus, griežtesnį vertinimą prieš diegiant naujas versijas ir didesnį skaidrumą, kaip sistemos mokomos bei kaip matuojamas jų patikimumas.
Ką siūlo daryti dabar?
„Microsoft“ atstovas BBC teigė, kad žmonių nerimas dėl DI yra suprantamas, tačiau egzistuoja praktiški kontrolės būdai. Tarp jų jis įvardijo nepriklausomą DI elgsenos auditą, aiškesnius vertinimo standartus, išsamesnį duomenų ir mokymo procedūrų atskleidimą bei technines priemones, leidžiančias stebėti ir riboti sistemų veikimą.
„Gera žinia ta, kad visi žmonės turi labai stiprų interesą užtikrinti, jog sistemos, kurias kuriame ir naudojame visame pasaulyje, būtų saugios, valdomos ir pavaldžios žmonijai“, – sakė Mustafa Suleymanas.
Jo įžvalgos išryškina platesnę tendenciją: DI vis dažniau integruojamas į darbo procesus kaip veikiantis agentas, galintis atlikti veiksmus už vartotoją, o ne tik generuoti tekstą. Kuo daugiau tokioms sistemoms suteikiama prieigos prie įrankių, duomenų ir sprendimų grandinių, tuo svarbesni tampa saugikliai, atsakomybės ribos ir aiškus principas, kad galutinis sprendimas turi likti žmogui.
Leave a Reply