DI „ištrūko“ iš kontrolės? Kodėl „OpenAI“ vadovas Samas Altmanas nori stabdyti galingų modelių leidimą

Altmano pozicija pasikeitė

„OpenAI“ vadovas Samas Altmanas pastaruoju metu vis dažniau kalba apie būtinybę atsargiau diegti naujas, itin galingas dirbtinio intelekto sistemas. Jei anksčiau jis skeptiškai vertino raginimus lėtinti pažangą, dabar akcentuoja, kad visuomenė ir institucijos ne visada spėja prisitaikyti prie staigių technologinių šuolių.

Tokie pareiškimai atspindi platesnę tendenciją rinkoje: stiprėjant DI galimybėms, vis didesnis dėmesys skiriamas saugumui, patikimumui ir atsakomybei. Kartu daugėja diskusijų apie tai, kaip ir kada naujos kartos modeliai turėtų būti išleidžiami viešai.

Kas kelia daugiausia rizikų?

Didžiausias nerimas siejamas ne su pačia technologija, o su jos naudojimu ir piktnaudžiavimu. Ekspertai dažniausiai išskiria kibernetinio saugumo rizikas, įtikinamų apgavysčių ir dezinformacijos mastą, taip pat galimybę automatizuoti kenksmingus veiksmus, kuriems anksčiau reikėjo daug laiko ir kompetencijų.

Šiuolaikiniai modeliai geba generuoti tekstą, kodą, vaizdus ir garsą taip įtikinamai, kad vis sunkiau atskirti realų turinį nuo sintetinės imitacijos. Dėl to organizacijos vis dažniau diegia papildomas patikros procedūras, o platformos griežtina taisykles dėl turinio kilmės žymėjimo.

„Jei technologija vystosi greičiau nei taisyklės ir apsaugos, turime bent jau dozuoti jos diegimo tempą“, – sakė Samas Altmanas.

Reguliavimas, rinkos spaudimas ir darbo rinka

DI plėtra vyksta kartu su augančiu reguliaciniu spaudimu. Europos Sąjungoje įsigalioja naujos rizikos valdymo taisyklės, kurios numato griežtesnius reikalavimus didesnės rizikos DI sistemoms, o įmonėms tenka aiškiau įsivertinti, kur ir kaip jos gali taikyti modelius.

Ne mažiau svarbus ir ekonominis kontekstas: bendrovės lenktyniauja dėl našumo, tačiau tuo pat metu bijo reputacinių ir teisinių pasekmių, jei DI suklys ar bus panaudotas piktavališkai. Darbo rinkoje tai reiškia spartesnę rutininių užduočių automatizaciją, bet kartu ir didesnę paklausą specialistams, gebantiems prižiūrėti, testuoti bei saugiai integruoti DI sprendimus.

Altmano mintis apie lėtesnį diegimą dažnai interpretuojama kaip bandymas rasti pusiausvyrą tarp inovacijos ir kontrolės. Praktikoje tai gali reikšti etapais leidžiamas naujas modelių versijas, griežtesnes prieigos sąlygas, daugiau nepriklausomų testų ir didesnį skaidrumą dėl ribojimų.