Elonas Muskas ir Samas Altmantas viešai pritarė „Anthropic“ vadovo Dario Amodei raginimui sulėtinti dirbtinio intelekto modelių kūrimo tempą ir griežčiau stebėti su tuo susijusias rizikas. Pasak jo, pagrindinis tikslas nėra stabdyti technologinę pažangą, o užtikrinti, kad saugumo priemonės neatsiliktų nuo didėjančių sistemų galimybių.
Diskusija atsinaujino augant susirūpinimui dėl vadinamosios superintelekto krypties, kai pažangūs DI modeliai tampa vis labiau autonomiški ir sunkiau prognozuojami. Amodei akcentavo, kad rinkai reikia aiškių ribų, daugiau laiko rizikų valdymui ir nepriklausomo vertinimo, jog diegiami saugikliai veikia realiomis sąlygomis.
Rizikos, dėl kurių įsiplieskė ginčas
„Anthropic“ paskelbtame grėsmių vertinime teigiama, kad kai kurie subjektai bandė pasitelkti įmonės „Claude“ modelius su ginkluotės kūrimu susijusioms užklausoms, kibernetinėms operacijoms, stebėsenai ir sukčiavimui. Tokie pavyzdžiai tapo argumentu, kad modelių prieigos kontrolė ir testavimas turi būti stiprinami dar prieš plečiant funkcionalumą.
Viešumo sulaukė ir vidinės pramonės įtampos: 27 metų matematikas Jacobas Coxonas, dirbęs su DI modelių mokymu, pranešė paliekantis „Anthropic“. Jis kritikavo tiek „Anthropic“, tiek „OpenAI“ dėl, jo vertinimu, pernelyg agresyvaus siekio kurti vis galingesnes sistemas.
„Mes per greitai artėjame prie ribos, kurios nebevaldome“, – sakė Jacobas Coxonas.
Ką iš tiesų reiškia raginimas lėtinti?
Amodei pabrėžė, kad kalba ne apie mokymų ar techninio progreso įšaldymą, o apie privalomą pauzę saugumo darbams. Tai apimtų ilgesnius bandymus prieš paleidžiant naujas versijas, rizikos scenarijų modeliavimą, ribojimus jautrioms užklausoms ir aiškesnę atsakomybę už tai, kaip modeliai naudojami.
Vienas iš siūlymų – nuolatinis išorinių recenzentų darbas pačiose bendrovėse, suteikiant jiems priėjimą prie vertinimo įrankių ir vidinių rizikos valdymo procesų. Tokia praktika vis dažniau aptariama kaip galimas standartas sektoriuje, ypač kai modeliai integruojami į kritines verslo ir viešojo sektoriaus sistemas.
„Dario teisus“, – sakė Elonas Muskas.
„Sutinku su Dariu, mums reikia naujų ribų“, – sakė Samas Altmantas.
Šis epizodas parodo, kad net didžiausių DI žaidėjų vadovai vis dažniau pripažįsta: technologinis lenktyniavimas be vienodų saugumo taisyklių gali tapti reputacine ir reguliacine rizika. Artimiausiu metu galima tikėtis didesnio spaudimo kurti aiškesnius modelių auditavimo mechanizmus ir griežčiau apibrėžti atsakomybę už piktnaudžiavimo atvejus.
Leave a Reply