CP v2

Tag: Dario Amodei

  • „Anthropic“ ragina testuoti pažangiausius DI modelius: siūlo nepriklausomą auditą prieš paleidimą

    DI bendrovės „Anthropic“ vadovas Dario Amodei parėmė idėją įvesti privalomą pažangiausių DI modelių testavimo ir audito režimą, kuris leistų valdžios institucijoms stabdyti ar atidėti ypač rizikingų sistemų diegimą. Pasak jo, vertinimas turėtų vykti dar prieš viešą modelio paleidimą, o sprendimai remtis techniniais saugumo kriterijais.

    Viešai pristatytoje pozicijoje D. Amodei siūlo remtis nepriklausomų trečiųjų šalių auditoriais, kurie galėtų įvertinti, ar konkretus modelis atitinka aukštus saugos standartus. Jei auditas rodytų pernelyg didelę riziką, diegimas, jo teigimu, turėtų būti blokuojamas arba atšaukiamas, kol bus pašalintos spragos.

    Keturi rizikų blokai

    „Anthropic“ vadovas išskiria kelias pagrindines sritis, kuriose, jo manymu, būtina standartizuota patikra. Tai kibernetinis saugumas, biologinių grėsmių ir piktnaudžiavimo rizika, DI sistemų valdymo praradimo scenarijai bei automatizuota mokslinių tyrimų ir plėtros veikla, kai modeliai gali pagreitinti naujų technologijų kūrimą.

    Tokios sistemos, pasak D. Amodei, turėtų būti vertinamos panašiai kaip aviacijoje, kur prieš pradedant naudoti orlaivį taikomi testai, sertifikavimas ir nuolatinė priežiūra. Jo logika paprasta: kuo didesnė technologijos galia ir poveikio mastas, tuo griežtesni saugos slenksčiai turi būti taikomi.

    Politinis kontekstas ir rinkos spaudimas

    Šie siūlymai pasirodė JAV tęsiantis diskusijoms dėl DI priežiūros modelio ir valdžios vaidmens vertinant naujas, itin galingas sistemas. Pastaruoju metu aptariami scenarijai, kai bendrovės būtų raginamos iš anksto pateikti modelius peržiūrai prieš juos plačiai išleidžiant, tačiau ginčijamasi, ar tokia tvarka turi būti savanoriška, ar privaloma.

    Didėjant DI konkurencijai, bendrovės patiria spaudimą sparčiai diegti naujoves, bet kartu auga ir rizikos: nuo kenkėjiško panaudojimo iki neprognozuojamo elgesio, kai modeliai naudojami sudėtingoms užduotims automatizuoti. Ekspertai vis dažniau pabrėžia, kad vien vidiniai testai gali būti nepakankami, ypač kai modelių galimybės ir taikymo scenarijai sparčiai plečiasi.

    Darbo rinkos klausimas: ką daryti su poveikiu žmonėms?

    D. Amodei taip pat palietė DI poveikį darbo rinkai ir galimą išstūmimą iš tam tikrų profesijų. Jo teigimu, politikos atsakai galėtų apimti mokesčių ir perskirstymo priemones, tarp jų ir universalių kapitalo sąskaitų idėją, kuri leistų visuomenei plačiau dalyvauti DI ekonominės naudos pasidalijime.

    Ši kryptis įsilieja į platesnę JAV diskusiją apie tai, kaip apmokestinti sparčiai augantį technologijų sektorių ir kaip užtikrinti, kad DI kuriama vertė neapsiribotų siauru rinkos dalyvių ratu. Kol kas aiškaus politinio sutarimo nėra, tačiau DI reguliavimo ir ekonominio teisingumo temos Vašingtone tampa vis labiau susijusios.

    „Anthropic“ pozicija išsiskiria tuo, kad viena didžiųjų DI kūrėjų viešai pritaria griežtesniam, į išorės auditą orientuotam režimui. Ar tai virs realiais standartais, priklausys nuo politinių sprendimų, pramonės pasirengimo dalintis testavimo informacija ir nuo to, ar bus sukurti patikimi, nepriklausomi vertinimo mechanizmai.

  • „Anthropic“ vadovas pripažino: augimas šoktelėjo 80 kartų, DI skaičiavimo galios nebeužtenka

    „Anthropic“ vadovas pripažino: augimas šoktelėjo 80 kartų, DI skaičiavimo galios nebeužtenka

    JAV dirbtinio intelekto laboratorijos „Anthropic“ vadovas Dario Amodei San Franciske vykusioje kūrėjų konferencijoje pareiškė, kad bendrovė tikėjosi maždaug 10 kartų augimo, tačiau pirmąjį ketvirtį metiniu tempu fiksavo net 80 kartų šuolį. Pasak jo, būtent toks staigus šuolis paaiškina, kodėl bendrovei tapo sunku užtikrinti pakankamai skaičiavimo resursų.

    Vadovas pripažino, kad dėl ribotos skaičiavimo galios bendrovei teko susidurti su infrastruktūros apkrova, o tai gali atsispindėti paslaugų patikimume ir greityje, ypač piko metu. „Tai yra priežastis, kodėl turėjome sunkumų su skaičiavimo pajėgumais“, – sakė D. Amodei.

    Susitarimas dėl 300 megavatų

    D. Amodei pasisakymai nuskambėjo netrukus po to, kai „Anthropic“ paskelbė susitarimą su Elono Musko valdoma „SpaceX“ dėl skaičiavimo pajėgumų naudojimo Memfyje esančiame „Colossus 1“ duomenų centre. Skelbiama, kad pagal susitarimą „Anthropic“ gaus prieigą prie daugiau nei 300 megavatų galios.

    Tokios apimties energijos poreikis parodo, kiek kainuoja ir kiek resursų reikalauja pažangūs DI modeliai, ypač kai vartojimas auga eksponentiškai. Pastaraisiais metais vis dažniau akcentuojama, kad DI plėtra atsiremia ne tik į lustų gamybą, bet ir į elektros tinklų, aušinimo bei duomenų centrų plėtros ribas.

    Kas stumia augimą

    „Anthropic“ augimą skatina „Claude“ modelių populiarumas, o ypač įrankiai, orientuoti į programinės įrangos kūrimą. Bendrovė pabrėžia, kad programinės įrangos inžinieriai paprastai vieni pirmųjų masiškai pritaiko naujas technologijas, todėl jų elgsena neretai laikoma indikatoriumi, kas netrukus vyks ir platesnėje ekonomikoje.

    D. Amodei teigimu, toks įsisavinimo greitis yra ženklas, jog DI keis darbo procesus įvairiose srityse, o ne tik technologijų sektoriuje. Tuo pat metu tai didina spaudimą tiekėjams užtikrinti stabilų paslaugų veikimą, nes verslo klientams svarbiausia tampa patikimumas, aiškūs pajėgumų limitai ir prognozuojamos sąnaudos.

    Infrastruktūros įtampa ir reguliavimo fonas

    „Anthropic“ anksčiau viešai nurodė, kad auganti „Claude“ paklausa sukuria neišvengiamą įtampą infrastruktūrai, o tai paveikia patikimumą ir našumą. Bendrovė teigia, kad plečia pajėgumus ir siekia kuo greičiau padidinti klientams prieinamą skaičiavimo galią.

    Lygiagrečiai bendrovė veikia sudėtingame politiniame ir reguliaciniame fone JAV, kur DI sprendimų tiekėjams vis daugiau klausimų keliama dėl saugumo, tiekimo grandinių ir galimos priklausomybės nuo kritinių technologijų. Nepaisant to, „Anthropic“ signalizuoja, kad paklausa toliau auga, o didžiausias artimiausio laikotarpio iššūkis išlieka pajėgumų didinimas.

    Vadovas auditorijai sakė, kad dabartinis augimo tempas yra per sunkiai suvaldomas, ir išsakė viltį grįžti prie labiau prognozuojamos, „normalesnės“ plėtros. „Dabartinis augimo lygis yra tiesiog beprotiškas ir per sunkus suvaldyti“, – sakė D. Amodei.

  • „Anthropic“ vadovas perspėja: DI atvėrė tūkstančius spragų – liko tik 6–12 mėnesių

    „Anthropic“ vadovas perspėja: DI atvėrė tūkstančius spragų – liko tik 6–12 mėnesių

    DI pažanga atveria naują kibernetinių grėsmių etapą: programinės įrangos spragų mastas gali šoktelėti taip, kad verslas ir viešasis sektorius nespės jų lopstyti. Apie tai įspėjo „Anthropic“ vadovas Dario Amodei, kalbėdamas apie itin pažangų bendrovės modelį, kuris aptiko dešimtis tūkstančių pažeidžiamumų.

    Pasak jo, susidaro siauras laiko langas, per kurį technologijų įmonės, vyriausybės ir bankai turėtų skubiai stiprinti saugumą. D. Amodei teigė manantis, kad Kinijos kuriami modeliai nuo pažangiausių sprendimų gali atsilikti maždaug 6–12 mėnesių, todėl tai esą ir yra kritinis laikotarpis pasirengti.

    „Pavojus tas, kad gali milžiniškai padaugėti spragų, įsilaužimų ir finansinės žalos dėl išpirkos reikalaujančių programų, kurios taikosi į mokyklas, ligonines, o kartu ir į bankus“, – sakė Dario Amodei.

    „Anthropic“ teigimu, naujasis modelis aptiko ir labai senų, dešimtmečius gyvuojančių pažeidžiamumų svarbioje programinėje įrangoje. Dalis jų kol kas neviešinami, nes nepašalintos spragos galėtų tapti paruoštu taikiniu nusikaltėliams ir priešiškų valstybių grupėms.

    Bendrovė nurodo, kad spragų aptikimo apimtys auga su kiekviena nauja modelių karta. Kaip pavyzdį ji mini, kad ankstesnis modelis „Firefox“ naršyklėje aptiko apie 20 pažeidžiamumų, o naujesnis spragų skaičių išaugino iki beveik 300, o bendrai įvairiose programose aptiktų problemų skaičius siekia dešimtis tūkstančių.

    D. Amodei akcentavo, kad DI čia veikia dvejopai: jis gali padėti greičiau rasti ir taisyti klaidas, bet lygiai taip pat gali paspartinti pažeidžiamumų paiešką piktavaliams. Dėl šios priežasties „Anthropic“ teigė ribojanti naujojo modelio prieigą ir dirbanti tik su atrinktais partneriais.

    Diskusijoje, kurioje dalyvavo ir „JPMorgan Chase“ vadovas Jamie Dimon, skambėjo nuosaikus optimizmas, kad tai gali būti laikinas, bet ypač pavojingas pereinamasis laikotarpis. Abu vadovai pabrėžė, kad tinkamai sureagavus į rizikas, galima pasiekti saugesnę skaitmeninę aplinką ir geriau subalansuoti inovacijas su apsauga.

    Reguliavimo tema D. Amodei siūlė orientuotis į principą, panašų į automobilių pramonę, kai saugos reikalavimai yra būtini, tačiau neparalyžiuoja konkurencijos. Jo teigimu, svarbiausia sukurti aiškius apsaugos rėmus kritinėms rizikoms, ypač toms, kurios gali turėti didelį poveikį finansų sistemai ir viešosioms paslaugoms.

    Kibernetinio saugumo ekspertai jau kurį laiką pabrėžia, kad pažeidžiamumų ekonomika keičiasi: automatizuota paieška, kodo analizė ir socialinė inžinerija tampa greitesnės ir pigesnės. Todėl organizacijoms vis dažniau rekomenduojama trumpinti pataisų diegimo laiką, griežtinti prieigos teises, taikyti daugiafaktorį autentifikavimą ir nuolat tikrinti tiekimo grandinės rizikas.

    Finansų sektoriui ši tema ypač jautri, nes jis priklauso nuo senų sistemų ir daugybės integracijų su trečiosiomis šalimis. Didėjant automatizuotų atakų apimtims, bankams ir technologijų partneriams tampa kritiškai svarbu ne tik aptikti spragas, bet ir turėti aiškius incidentų valdymo scenarijus bei atsargines veiklos tęstinumo priemones.