JAV dirbtinio intelekto bendrovė „Anthropic“ paskelbė grėsmių žvalgybos ataskaitą, kurioje teigiama, kad su Kinija ir Rusija siejami veikėjai jau bando panaudoti jos DI asistentą „Claude“ pavojingoms užduotims. Pasak įmonės, tarp fiksuotų atvejų minimi kibernetiniai išpuoliai, įtakos operacijos ir bandymai kurti karinės paskirties sprendimus.
„Anthropic“ nurodo, kad per pastaruosius mėnesius žmonės iš šalių, kuriose „Claude“ turėtų būti ribojamas, apeidinėjo kontrolę naudodami tarpininkus, fiktyvias ar pavogtas paskyras ir VPN. Tokie metodai, pasak bendrovės, leidžia paslėpti tikrąją prisijungimo vietą ir išvengti dalies saugiklių.
Kaip apeinami ribojimai
Bendrovė teigia, kad neteisėtą prieigą dažnai organizuoja tarpininkai, kurie pasiūlo „Claude“ paslaugas regionuose, kur oficialiai jos neteikiamos. Tokia schema ypač patraukli tiek nusikalstamoms grupuotėms, tiek su valstybinėmis struktūromis siejamiems veikėjams, ieškantiems greitesnių būdų automatizuoti darbą.
„Anthropic“ pabrėžia, kad dalis piktnaudžiavimo buvo susijusi su plačiai prieinamomis „Claude“ versijomis, o ne su labiausiai ribojamais įmonės modeliais. Vis dėlto ataskaita akcentuoja, kad net komerciškai prieinami DI įrankiai jau yra pakankamai galingi, kad netinkamose rankose mažintų „įėjimo kainą“ sudėtingoms operacijoms.
Kur DI kelia didžiausią riziką
Ataskaitoje minimi atvejai, kai DI buvo pasitelkiamas automatizuoti kibernetines atakas, kurti kenkėjiško kodo fragmentus ar tobulinti žvalgybines procedūras. Saugumo ekspertai seniai perspėja, kad DI gali pagreitinti vadinamąsias „visą ciklą“ atakas, kai nuo taikinio žvalgybos iki įsilaužimo veiksmų pereinama gerokai greičiau.
„Anthropic“ taip pat aprašo bandymus naudoti „Claude“ masinei stebėsenai ir propagandos sklaidai, įskaitant didelių socialinių tinklų duomenų kiekių analizę. Praktikoje tai gali reikšti efektyvesnį turinio filtravimą, auditorijų segmentavimą ir pranešimų pritaikymą konkrečioms grupėms.
Ypatingo dėmesio sulaukė teiginiai apie galimus bandymus DI pasitelkti biologinės rizikos srityje, kai tyrėjai domėjosi pavojingais patogenais ar eksperimentais, galinčiais turėti dvejopą paskirtį. „Anthropic“ pabrėžia, kad ne visais atvejais galima vienareikšmiškai nustatyti, ar užklausos buvo teisėto mokslo dalis, tačiau nerimą kelia mėginimai slėpti tikslus ir apeiti geografinius ribojimus.
Ką daro „Anthropic“ ir ko tikisi valdžios
Bendrovė teigia, kad visus ataskaitoje aprašytus atvejus stengėsi nutraukti, o informaciją perdavė atsakingoms institucijoms ir pramonės partneriams. Taip pat buvo griežtinami apsaugos mechanizmai, apimantys paskyrų patikrą, piktnaudžiavimo aptikimą ir papildomus filtrus jautrioms temoms.
„Mes nesiekiame dramatizuoti. Norime parodyti, kaip ši technologija gali būti piktnaudžiaujama jau šiandien“, – sakė „Anthropic“ grėsmių tyrimų vadovas Jacobas Kleinas.
Šis pranešimas įsilieja į platesnį JAV ir Europos diskusijų kontekstą, kai DI modelių kūrėjai raginami daugiau investuoti į saugą ir skaidrumą. Reguliuotojai bei įstatymų leidėjai vis dažniau akcentuoja, kad vien savanoriškų priemonių gali nepakakti, jei tarpininkų rinka ir pavogtų paskyrų prekyba leidžia lengvai apeiti apribojimus.
Leave a Reply