Prospekte – ne pelnas, o rizikos
DI bendrovė „Anthropic“, besirengianti žengti į biržą, prospekte investuotojams neįprastai atvirai išskyrė grėsmes, kurias gali kelti pažangūs jos kuriami modeliai. Dokumentuose akcentuojama, kad plečiant modelių galimybes ir jų taikymo sritis, didėja tikimybė, jog sistemos bus panaudotos žalingai arba elgsis neprognozuojamai.
Pagal viešai aptartą informaciją, reikšminga prospekto dalis skirta būtent rizikų aprašymui, o ne įprastam verslo augimo pasakojimui. Toks tonas atspindi platesnę tendenciją: DI sektorius sparčiai bręsta, o kartu auga spaudimas aiškiai įvardyti, kur baigiasi inovacijos ir prasideda pavojai.
Baimei pagrindo suteikia ir techniniai scenarijai
„Anthropic“ dokumentuose aptariami scenarijai, kurie DI saugumo bendruomenėje dažnai vadinami agentiškų sistemų rizikomis. Tarp jų minimos situacijos, kai modeliai gali bandyti išvengti išjungimo, manipuliuoti duomenimis ar išnaudoti silpnas vietas skaitmeninėse sistemose siekiant įvykdyti užduotis bet kokia kaina.
Tokie scenarijai nebūtinai reiškia sąmoningumą, tačiau praktikoje gali pasireikšti kaip sudėtingas, kūrėjų nenumatytas elgesys. Kuo daugiau sistema gauna prieigų ir įrankių, tuo svarbesniais tampa testai, ribojimai, auditas ir vadinamosios atitikties žmogaus ketinimams priemonės.
„Mūsų darbas kuriant itin pažangius modelius, platformas ir programas bei plečiant jų taikymą gali dar labiau padidinti žalą, kurią gali sukelti mūsų sistemos“, – teigiama „Anthropic“ prospekte.
Konkurencija lenkia saugumą
DI rinkoje vyrauja įtampa tarp greito produktų leidimo ir atsargumo. Kritikai pabrėžia, kad saugumo tyrimai ir nepriklausomas vertinimas dažnai nespėja paskui komercinį tempą, ypač kai bendrovės varžosi dėl talentų, skaičiavimo resursų ir rinkos dalies.
Prospekte taip pat užsimenama apie resursų paskirstymo dilemą: skaičiavimo galia, komandos ir biudžetai turi aptarnauti ir inovacijas, ir saugumą, tačiau šios kryptys konkuruoja tarpusavyje. Tai reiškia, kad net ir norint stabdyti rizikas, vienai įmonei sunku ženkliai lėtinti tempą, kai konkurentai gali nesustoti.
Neįprasta valdymo struktūra
„Anthropic“ siekia įtvirtinti valdymo modelį, kuris, bent formaliai, leistų išlaikyti įmonės misiją net ir tapus viešai prekiaujama. Skelbiama apie struktūras, kurios turi sumažinti trumpalaikio investuotojų spaudimo įtaką strateginiams sprendimams, susijusiems su DI saugumu.
Įmonė taip pat deklaruoja ketinimą išlaikyti viešosios naudos bendrovės statusą pagal Delavero teisę. Toks modelis leidžia vadovybei teisėtai balansuoti tarp akcininkų grąžos ir platesnio visuomenės intereso, nors praktikoje tai vis tiek priklauso nuo to, kaip griežtai bus taikomi saugumo įsipareigojimai.
„OpenAI“ taip pat pristabdo
Įtampa jau pasiekia ir didžiausius rinkos žaidėjus. Pranešta, kad „OpenAI“ atidėjo pažangaus modelio, skirto agentiškesniam veikimui ir savarankiškam užduočių vykdymui internete, pristatymą, nes šis neįvykdė nustatytų saugumo reikalavimų.
Toks sprendimas rodo, kad savanoriški saugumo slenksčiai tampa ne vien viešųjų ryšių elementu, bet ir realiu produktų leidimo stabdžiu. Kartu tai pabrėžia, kad naujos kartos DI sistemų rizikos vis dažniau vertinamos ne teorijoje, o kaip praktinis verslo ir atsakomybės klausimas.
„Norime būti tikri, kad mūsų modelių plėtra yra saugi, nesvarbu, ar dirbame įmonės viduje, ar suteikiame prieigą naudotojams. Prieš išleisdami produktą keliame itin aukštą kartelę saugumui ir suderinimui su žmogaus ketinimais, vertybėmis bei etika“, – teigė „OpenAI“ saugumo sistemų vadovė Saachi Jain.
Reguliavimas tampa politiniu mūšiu
JAV DI reguliavimo kryptis vis labiau priklauso nuo geopolitinės konkurencijos, ypač dėl technologijų lenktynių su Kinija. Dalis politikų pasisako prieš griežtą reguliavimą, argumentuodami, kad per dideli ribojimai gali sulėtinti inovacijas ir susilpninti šalies pozicijas.
Tuo pat metu visuomenės nuotaikos rodo augantį nerimą dėl DI poveikio kasdieniam gyvenimui ir darbo rinkai. Apklausose reikšminga dalis respondentų teigia manantys, kad technologijų bendrovės daro per mažai, kad užkirstų kelią žalai, o dalis palaiko idėją laikinai lėtinti pažangiausių sistemų kūrimą.
Leave a Reply