„OpenAI“, „Anthropic“ ir „Google“ jungiasi dėl DI saugumo: kodėl varžovai staiga ieško bendrų taisyklių

Varžovai imasi bendrų žingsnių

Trys didžiausi pažangių modelių kūrėjai – „OpenAI“, „Anthropic“ ir „Google“ – pastarosiomis savaitėmis derino galimo bendradarbiavimo kryptis, kuriose prioritetas būtų DI saugumas ir rizikų valdymas. Apie tai viešai kalbėjo „OpenAI“ atstovas Chrisas Lehane, Vašingtone susitinkantis su JAV įstatymų leidėjais.

Pats faktas, kad konkurentai aptaria bendrą darbotvarkę, rodo augantį spaudimą pramonei aiškiau parodyti, kaip bus valdoma vis galingesnių modelių plėtra. Tuo pačiu tai ženklas, kad reguliavimo klausimai tampa ne tik politinėmis diskusijomis, bet ir praktiniais verslo sprendimais.

„Geriau bandyti dirbti kartu taip, kad prioritetu taptų saugumas“, – sakė Chrisas Lehane.

Ką reiškia DI saugumas?

Diskusijų centre – idėja kurti mechanizmus, kurie leistų anksčiau pastebėti ir riboti pavojingą DI elgesį, pavyzdžiui, modelių gebėjimą vykdyti kenkėjiškas instrukcijas, kurti apgaulingą turinį ar padėti automatizuoti kibernetines atakas. Praktikoje tai apima testavimą prieš paleidžiant sistemas, raudonąsias komandas, aiškesnius incidentų raportavimo standartus ir prieigos kontrolę.

Kartu svarstoma ir apie platesnį priežiūros modelį – instituciją ar tarptautiniu mastu suderintas taisykles, kurios įvertintų pažangiausių modelių keliamas grėsmes. Tokios iniciatyvos dažnai siejamos su „frontier“ modeliais, kai sistemos pasiekia lygį, galintį daryti reikšmingą poveikį saugumui ar ekonomikai.

Mažesnių žaidėjų įtarimai

Ne visi sektoriuje šią kryptį vertina vienareikšmiškai. Mažesnės DI bendrovės viešai įspėja, kad saugumo argumentas gali tapti patogia priemone didiesiems sulėtinti rinkos dinamiką ir įtvirtinti dominuojančias pozicijas.

Šioje logikoje baiminamasi, kad griežtesni reikalavimai, kuriuos lengviau atlaiko technologijų gigantai, gali tapti įėjimo į rinką barjeru startuoliams. Dėl to saugumo standartų kūrimas neišvengiamai persipina su konkurencijos politika.

Ekspertų perspėjimai aštrina toną

„Anthropic“ vadovas Dario Amodei pastaruoju metu kartoja, kad proveržis gali būti arčiau, nei visuomenė įsivaizduoja, o netinkamai valdant plėtrą galima prarasti kontrolę. Šiuos perspėjimus palaikė ir „OpenAI“ vadovas Samas Altmanas bei „xAI“ įkūrėjas Elonas Muskas.

Viešojoje erdvėje pasirodė ir kitų specialistų kritikos, susijusios su skuba siekti itin pažangių sistemų. Tokie pareiškimai kuria foną, kuriame politikai vis dažniau prašo ne pažadų, o patikrinamų saugumo procedūrų.

Ar reikalinga tarptautinė priežiūra?

Diskusijose vis dažniau skamba mintis, kad DI plėtrai gali prireikti tarptautinio koordinavimo, panašiai kaip reguliuojamos jautrios, didelę riziką keliančios technologijos. Argumentas paprastas: pažangūs modeliai lengvai peržengia valstybių sienas, o vienos šalies taisyklės ne visada apsaugo nuo globalių pasekmių.

Kita vertus, pernelyg lėtas ar fragmentuotas reguliavimas gali atsilikti nuo technologinės realybės. Todėl būtent pramonės lyderių susitarimai dėl minimalių saugumo standartų gali tapti tarpine stotele, kol valstybės ir tarptautinės organizacijos susitars dėl bendrų rėmų.