JAV kaltina Kinijos subjektus DI žinių vagyste per destiliaciją: svarstomos priemonės atsakui

Jungtinės Valstijos viešai kelia klausimą, ar užsienio subjektai, daugiausia siejami su Kinija, sistemingai perima amerikiečių sukurtas dirbtinio intelekto technologijas. Kaip skelbiama, Baltųjų rūmų Mokslo ir technologijų politikos biuro vadovo Michaelo Kratsioso parengtame memorandume minima vadinamoji destiliacija, kai mažesnis modelis mokomas remiantis didesnio modelio išvestimis.

Destiliacija pati savaime yra plačiai taikomas techninis metodas, leidžiantis sumažinti skaičiavimo sąnaudas ir perkelti dalį didelio modelio gebėjimų į kompaktiškesnį sprendimą. Tačiau JAV pareigūnų ir dalies pramonės atstovų teigimu, problema kyla tuomet, kai tai daroma pažeidžiant naudojimo sąlygas ar neteisėtai atkartojant saugomus gebėjimus bei komercines paslaptis.

„JAV analizuos priemones, kurios leistų patraukti atsakomybėn užsienio subjektus, vykdančius plataus masto destiliacijos kampanijas“, – sakoma memorandume, kurį citavo „Financial Times“.

Kas yra destiliacija ir kodėl ji kelia įtampą

Technologijų sektoriuje destiliacija suprantama kaip būdas sukurti pigiau veikiantį modelį, pasitelkiant „mokytojo“ modelio atsakymus, tarpinius ženklinimus ar kitą grįžtamąjį ryšį. Tai gali būti teisėta, kai naudojami savi modeliai, leidžiami duomenų rinkiniai arba turimi aiškūs leidimai.

Ginčas prasideda tada, kai „mokytojo“ vaidmenį atlieka komerciškai teikiamas modelis, o jo išvestys masiškai renkami automatizuotais užklausų srautais. Tokia praktika, technologijų bendrovių teigimu, gali būti prilyginama bandymui atkurti modelio funkcionalumą neinvestuojant į brangiausią dalį, t. y. mokymą ir skaičiavimo infrastruktūrą.

Pramonės nerimas: nuo konkurencijos iki saugumo

JAV dirbtinio intelekto sektorius taip pat akcentuoja rizikas, susijusias su vadinamaisiais destiliuotais modeliais, jei jie kuriami be įprastų saugumo patikrų ir apsaugų. Tokiu atveju, pasak kritikų, gali didėti tikimybė, kad modeliai bus pritaikomi žalingoms veikloms, pavyzdžiui, kibernetinėms atakoms ar pavojingų medžiagų kūrimui.

Ši tema pastaraisiais mėnesiais dažniau aptariama ir dėl viešų kaltinimų, kad kai kurie Kinijos sukurti pokalbių robotai ar modeliai galėjo būti mokomi naudojant destiliaciją, remiantis JAV bendrovių pasiekimais. Be to, atskiros įmonės yra skelbusios apie bandymus masiškai užklausti jų modelius, siekiant išgauti kuo daugiau mokymo pavyzdžių.

„Kinijos bendrovės šią praktiką naudoja tam, kad kompensuotų skaičiavimo pajėgumų trūkumą ir neteisėtai atkartotų svarbiausius JAV modelių gebėjimus“, – „Financial Times“ cituojamas Chrisas McGuire iš JAV Tarptautinių santykių tarybos.

Kokios priemonės galėtų būti svarstomos

Nors detalės viešai neatskleidžiamos, praktikoje JAV atsakas dažniausiai sukasi apie kelias kryptis: griežtesnį eksporto kontrolės taikymą, sankcijas konkretiems subjektams, didesnį dėmesį kibernetiniam saugumui ir intelektinės nuosavybės apsaugai. Lygiagrečiai stiprėja spaudimas DI tiekėjams diegti technines apsaugas, kurios apsunkintų masinį išvesčių rinkimą ir modelių „atkūrimą“ per automatizuotą užklausimą.

Ekspertai pažymi, kad riba tarp teisėtos inžinerinės praktikos ir piktnaudžiavimo gali būti ne visada aiški, todėl augant konkurencijai vis daugiau reikšmės įgauna ne tik technologiniai, bet ir teisiniai bei diplomatiniai instrumentai. Tikėtina, kad artimiausiu metu ši tema dažniau persikels ir į reguliuotojų darbotvarkę, nes DI modelių kūrimas tampa strategine ekonomikos ir nacionalinio saugumo sritimi.

Šaltiniai:

– https://www.ft.com/content/0a1a3c2c-3f2b-4b5e-9b8c-6f6e2d8a8f3b

– https://www.anthropic.com/news/terms-of-service

– https://www.cfr.org/technology-and-innovation