Generatyvus dirbtinis intelektas per kelerius metus tapo vienu svarbiausių technologijų sektoriaus variklių: jis spartina programavimą, turinio kūrimą, klientų aptarnavimą ir duomenų analizę. Tačiau kartu auga ir rizikos, susijusios su saugumu, klaidomis bei atsakomybe už sprendimus, kuriuos priima ar pasiūlo DI sistemos.
„Microsoft“ generalinis direktorius Satya Nadella viešai akcentavo, kad atėjo metas sustoti ir įvertinti pasitikėjimo architektūrą, kuria remiasi DI diegimas. Jo teigimu, pažangūs modeliai negali būti traktuojami kaip tarpusavyje sudėtų juodųjų dėžių rinkinys, kurio rekomendacijas belieka tik priimti arba atmesti.
„Negalime superintelekto laikyti įdėtų juodųjų dėžių rinkiniu ir tiesiog aklai priimti ar atmesti jo atsakymus bei veiksmus“, – sakė Satya Nadella.
Anot jo, būtina kurti sistemas taip, kad kontrolė būtų atskirta nuo pačios „intelekto“ funkcijos, o kritiniais atvejais būtų įmanoma greitai apriboti modelio veiksmus. Paprastai tariant, organizacijoms reikia iš anksto apibrėžtų saugiklių, leidžiančių sustabdyti automatinį vykdymą, riboti prieigas ar perjungti veikimą į žmogaus patvirtinimo režimą.
Tokie principai vis dažniau aptariami ir reguliavimo kontekste, nes DI vis plačiau integruojamas į sveikatos, finansų, kibernetinio saugumo, viešųjų paslaugų ir kritinės infrastruktūros sprendimus. Europos Sąjungoje įsigaliojant DI reguliavimo sistemai, vis daugiau dėmesio skiriama rizikos valdymui, skaidrumui, modelių testavimui ir aiškiai atsakomybei, ypač kai DI gali daryti reikšmingą įtaką žmogaus teisėms ar saugumui.
Vaizdo žaidimų ir kūrybinių industrijų kontekste DI kelia papildomų įtampų, nes jis vienu metu didina produktyvumą, bet taip pat sukelia ginčų dėl autorystės, turinio autentiškumo ir darbo rinkos pokyčių. Pastaraisiais metais sektoriuje fiksuotos ir masinės darbuotojų atleidimų bangos, o DI įrankiai neretai pateikiami kaip viena iš priežasčių, kodėl įmonės peržiūri procesus bei komandų dydžius.
„Microsoft“ vadovo žinutė iš esmės sutampa su didėjančia rinkos tendencija: įmonės nori DI naudos, bet vis mažiau toleruoja nepaaiškinamus sprendimus ir sunkiai suvaldomas klaidas. Praktikoje tai reiškia griežtesnį testavimą, aiškias prieigų taisykles, atsekamumą ir techninius mechanizmus, leidžiančius kritiniu metu įjungti avarinį stabdį.
„Patikimiausia sistema bus ta, kuriai reikės mažiausiai pasitikėti pačiu modeliu“, – sakė Satya Nadella.