„OpenAI“ vadovas Samas Altmanas ir „xAI“ savininkas Elonas Muskas pritarė „Anthropic“ vadovo Dario Amodei raginimui lėtinti dirbtinio intelekto plėtrą. Jis siūlo keisti tempą ne dėl technologinės pažangos stabdymo, o dėl aiškesnių saugumo ribų ir nepriklausomo vertinimo.
Pasak D. Amodei, problema kyla tuomet, kai vis galingesni modeliai diegiami greičiau, nei spėjama patikrinti jų patikimumą ir piktnaudžiavimo rizikas. Jis pabrėžia, kad įmonės turėtų skirti daugiau laiko modelių apsaugoms, testavimui ir rizikos valdymui, kol sprendimai tampa masiškai prieinami.
Kas siūloma keisti?
D. Amodei siūlo etapais pereiti prie aiškesnio DI vystymo reguliavimo, kuris leistų suderinti inovacijas ir visuomenės saugumą. Tarp siūlymų – daugiau resursų rizikos vertinimui, geresnė vidinė kontrolė ir išorinių ekspertų įtraukimas.
„Anthropic“ taip pat skelbia planuojanti nuolat įdarbinti išorinius recenzentus, kurie turėtų realią prieigą prie vertinimo priemonių ir vidinių procesų. Tokia praktika, įmonės teigimu, padėtų sumažinti interesų konfliktų riziką, kai saugumą vertina vien tik pati organizacija.
„Dario yra teisus“, – sakė Elonas Muskas.
„Sutinku su Dario, turime nustatyti naujas ribas“, – sakė Samas Altmanas.
Rizikos signalai: nuo sukčiavimo iki kibernetinių operacijų
Diskusijas sustiprino ir „Anthropic“ paskelbta informacija apie „Claude“ modelių panaudojimą kenksmingiems tikslams. Bendrovė nurodė fiksavusi atvejų, kai DI buvo pasitelkiamas su ginkluotės kūrimu susijusiam planavimui, kibernetinėms operacijoms, sekimui bei sukčiavimo schemoms.
Viešo dėmesio sulaukė ir matematiko Jacobo Coxono pasitraukimas iš „Anthropic“ – jis teigė nusivylęs tuo, kaip greitai įmonės siekia vis pažangesnių sistemų. Jis kritikavo tiek „Anthropic“, tiek „OpenAI“, sakydamas, kad požiūris į saugumą ir vystymo tempą praktikoje esą skiriasi mažiau, nei tikėtasi.
Pastaraisiais metais DI saugumo tema tampa vis aktualesnė ir reguliuotojams: Europos Sąjungoje jau priimtas DI aktas, numatantis skirtingas pareigas pagal rizikos lygį, o JAV vis daugiau dėmesio skiriama modelių testavimui ir atsakomybei už žalą. Ekspertai pabrėžia, kad didžiausia įtampa kyla ne dėl paties DI egzistavimo, o dėl to, kaip greitai jis integruojamas į kritines paslaugas ir kaip lengvai gali būti pritaikomas piktnaudžiavimui.
Leave a Reply