„OpenAI“ paviešino siūlymą, kaip JAV galėtų reguliuoti pažangius dirbtinio intelekto modelius, ir kai kuriais esminiais punktais išsiskyrė su naujausiu Baltųjų rūmų požiūriu. Bendrovė ragina pereiti nuo savanoriškų vertinimų prie privalomų testų, tačiau pabrėžia, kad priežiūra turėtų likti civilinėse institucijose.
Siūlymo esmė – numatyti pareigą pažangiausiems DI modeliams atlikti sistemingus rizikų vertinimus, ypač dėl kibernetinio saugumo, piktnaudžiavimo ir kitų didelio poveikio scenarijų. „OpenAI“ siūlo, kad šį procesą koordinuotų su standartizavimu dirbantys civiliniai padaliniai, o ne žvalgybos bendruomenė.
Kur kertasi du požiūriai
Baltųjų rūmų kryptis, apie kurią kalbama viešai, labiau remiasi savanorišku modelių vertinimu ir didesniu Nacionalinės saugumo agentūros įsitraukimu, ypač kibernetinių grėsmių kontekste. Tuo metu „OpenAI“ akcentuoja, kad privalomas vertinimas būtų veiksmingesnis, jei jį prižiūrėtų Nacionalinio standartų ir technologijų instituto struktūrose veikiantis DI standartų ir inovacijų centras.
„OpenAI“ argumentas paprastas: jei vertinimai yra savanoriški, dalis rinkos dalyvių gali jų vengti, o visuomenė ir verslas negauna vienodų saugumo garantijų. Be to, bendrovė mano, kad civilinė priežiūra palengvina skaidrumą, palyginamumą ir aiškesnes taisykles visiems.
Kas kelia daugiausia klausimų
Vienas didžiausių nesutarimų – idėja dalį pažangių DI modelių „benchmarkinimo“ ar pajėgumų slenksčių nustatymo laikyti įslaptintame režime. „OpenAI“ atstovai perspėja, kad tai gali sukurti neapibrėžtumą, kada ir kokie modeliai pateks į papildomą patikrą, o tai komplikuotų planavimą ir atitiktį taisyklėms.
„Vienas svarbiausių klausimų yra, kada modelis pasiekia pajėgumo slenkstį, dėl kurio jam turi būti taikomas griežtesnis vertinimas“, – sakė „OpenAI“ vadovų komandos atstovas Chrisas Lehane.
Šis „pajėgumo slenkstis“ tampa centrine tema ir tarptautiniu mastu: sparčiai didėjant modelių galimybėms, vis dažniau kalbama apie testus, kurie vertintų ne tik įprastą tikslumą, bet ir atsparumą piktnaudžiavimui, gebėjimą generuoti pavojingas instrukcijas, automatizuoti kibernetines atakas ar apeiti apsaugas.
Politinis fonas ir artimiausi terminai
Diskusijos vyksta tuo metu, kai „OpenAI“ generalinis direktorius Samas Altmanas Vašingtone susitinka su administracijos pareigūnais ir abiejų partijų įstatymų leidėjais. Tikslas – įtikinti, kad privalomi vertinimai būtų įtvirtinti taisyklėse, o civilinis standartų centras gautų aiškesnį mandatą ir didesnį vaidmenį.
Pagal viešai aptariamą vykdomųjų sprendimų logiką, agentūroms dažnai suteikiamas ribotas laikas parengti įgyvendinimo detales, todėl reguliavimo kryptis dar gali keistis. „OpenAI“ pozicija – vertinimų sistema turėtų būti privaloma, tačiau bendrovė kol kas atsargiai vertina griežtesnius mechanizmus, pavyzdžiui, išankstinius leidimus prieš išleidžiant naujus modelius.
Praktinis šių debatų rezultatas gali paveikti visą JAV DI sektorių: nuo to, kas nustatys testavimo metodikas ir kaip bus dalijamasi informacija, iki to, ar įmonės turės aiškius, viešus kriterijus, leidžiančius suprasti, kada prasideda griežtesnė priežiūra. Verslui tai reikštų daugiau aiškumo, o vartotojams ir valstybės institucijoms – didesnį nuspėjamumą, kaip valdoma pažangių DI sistemų rizika.
Leave a Reply