CP v2

Tag: Anthropic

  • Elonas Muskas ir Samas Altmanas pritaria „Anthropic“ raginimui lėtinti DI: dėl ko nerimaujama?

    „OpenAI“ vadovas Samas Altmanas ir „xAI“ savininkas Elonas Muskas pritarė „Anthropic“ vadovo Dario Amodei raginimui lėtinti dirbtinio intelekto plėtrą. Jis siūlo keisti tempą ne dėl technologinės pažangos stabdymo, o dėl aiškesnių saugumo ribų ir nepriklausomo vertinimo.

    Pasak D. Amodei, problema kyla tuomet, kai vis galingesni modeliai diegiami greičiau, nei spėjama patikrinti jų patikimumą ir piktnaudžiavimo rizikas. Jis pabrėžia, kad įmonės turėtų skirti daugiau laiko modelių apsaugoms, testavimui ir rizikos valdymui, kol sprendimai tampa masiškai prieinami.

    Kas siūloma keisti?

    D. Amodei siūlo etapais pereiti prie aiškesnio DI vystymo reguliavimo, kuris leistų suderinti inovacijas ir visuomenės saugumą. Tarp siūlymų – daugiau resursų rizikos vertinimui, geresnė vidinė kontrolė ir išorinių ekspertų įtraukimas.

    „Anthropic“ taip pat skelbia planuojanti nuolat įdarbinti išorinius recenzentus, kurie turėtų realią prieigą prie vertinimo priemonių ir vidinių procesų. Tokia praktika, įmonės teigimu, padėtų sumažinti interesų konfliktų riziką, kai saugumą vertina vien tik pati organizacija.

    „Dario yra teisus“, – sakė Elonas Muskas.

    „Sutinku su Dario, turime nustatyti naujas ribas“, – sakė Samas Altmanas.

    Rizikos signalai: nuo sukčiavimo iki kibernetinių operacijų

    Diskusijas sustiprino ir „Anthropic“ paskelbta informacija apie „Claude“ modelių panaudojimą kenksmingiems tikslams. Bendrovė nurodė fiksavusi atvejų, kai DI buvo pasitelkiamas su ginkluotės kūrimu susijusiam planavimui, kibernetinėms operacijoms, sekimui bei sukčiavimo schemoms.

    Viešo dėmesio sulaukė ir matematiko Jacobo Coxono pasitraukimas iš „Anthropic“ – jis teigė nusivylęs tuo, kaip greitai įmonės siekia vis pažangesnių sistemų. Jis kritikavo tiek „Anthropic“, tiek „OpenAI“, sakydamas, kad požiūris į saugumą ir vystymo tempą praktikoje esą skiriasi mažiau, nei tikėtasi.

    Pastaraisiais metais DI saugumo tema tampa vis aktualesnė ir reguliuotojams: Europos Sąjungoje jau priimtas DI aktas, numatantis skirtingas pareigas pagal rizikos lygį, o JAV vis daugiau dėmesio skiriama modelių testavimui ir atsakomybei už žalą. Ekspertai pabrėžia, kad didžiausia įtampa kyla ne dėl paties DI egzistavimo, o dėl to, kaip greitai jis integruojamas į kritines paslaugas ir kaip lengvai gali būti pritaikomas piktnaudžiavimui.

  • Muskas ir Altmanas netikėtai sutaria su „Anthropic“ vadovu: DI tempas kelia realią grėsmę

    Muskas ir Altmanas netikėtai sutaria su „Anthropic“ vadovu: DI tempas kelia realią grėsmę

    Buvęs „Anthropic“ darbuotojas Jacobas Coxonas viešame įraše perspėjo, kad dirbtinio intelekto industrija rizikuoja žmonių saugumu, o ateityje gali atsirasti sistemų, kurių veikimo žmonės nebesuvaldys. Jo teigimu, ypač pavojinga kryptis yra modelių gebėjimas patiems spartinti savo tobulėjimą.

    Į šias pastabas sureagavo „Anthropic“ vadovas ir vienas iš įkūrėjų Dario Amodei, kalbėjęs apie rizikas tarptautinėje žiniasklaidoje. Jis pripažino, kad su kritiku sutinka labiau, nei nesutinka, tačiau pabrėžė, jog dabartiniai modeliai dar nėra tokie pajėgūs, kad savaime sukeltų neišvengiamą katastrofą.

    Vis dėlto Amodei akcentavo tempą: didėjant skaičiavimo resursams, duomenų apimtims ir modelių architektūrų pažangai, gebėjimai auga sparčiau nei praktinės saugumo priemonės. Jo vertinimu, rizika kyla tada, kai sistemos ima vykdyti sudėtingas užduotis per daugybę žingsnių, veikti kaip autonominių agentų tinklai ir pačios ieškoti būdų tapti dar efektyvesnės.

    Raginimas lėtinti ir testuoti

    „Anthropic“ vadovas viešai ragino pramonę atsakingiau reguliuoti pažangiausių modelių kūrimo tempą ir daugiau investuoti į saugos metodus. Tarp minimų priemonių dažniausiai įvardijami nepriklausomi vertintojai, kurie galėtų tikrinti modelius panašiomis teisėmis kaip įmonių darbuotojai, bei aiškesni standartai, kuriuos kurtų verslas kartu su valdžios institucijomis.

    Tokie siūlymai siejasi su plačiau taikoma praktika, kai didieji kūrėjai skelbia saugos ataskaitas, vykdo vadinamąjį raudonųjų komandų testavimą ir ieško būdų apriboti pavojingą modelių elgesį. Tačiau kritikai pabrėžia, kad savanoriškų priemonių gali nepakakti, jei varžybos tarp laboratorijų verčia skubėti.

    Netikėtas sutarimas tarp konkurentų

    Amodei perspėjimai sulaukė palaikymo iš dviejų ryškiausių industrijos lyderių. Elonas Muskas viešai pareiškė, kad Amodei argumentai jam atrodo pagrįsti, primindamas, kad apie dideles DI rizikas kalba jau ne vienus metus.

    „Sutinku, kad pažangiausių DI sistemų kūrimo tempą turime formuoti atsakingai“, – sakė Samas Altmanas.

    „OpenAI“ vadovas taip pat pabrėžė nepriklausomo vertinimo idėją ir teigė, kad DI sauga pastaruoju metu buvo vienas svarbiausių klausimų įmonės vidinėse diskusijose. Toks viešas sutarimas išryškina, kad rūpestis dėl tempo nebėra vienos stovyklos pozicija, net jei įmonės konkuruoja dėl lyderystės.

    Grėsmės jau ne vien teorinės

    Pastaraisiais mėnesiais daugėja pranešimų, kad generatyviniai modeliai bandomi išnaudoti kenkėjiškiems tikslams, įskaitant sukčiavimą, kibernetines atakas ir net pavojingų instrukcijų paiešką. Dėl to kūrėjai vis dažniau diegia apribojimus, stiprina turinio filtrus ir plečia piktnaudžiavimo stebėseną.

    Ekspertai pabrėžia ir kitą rizikų sluoksnį: net jei modeliai nėra superintelektas, jie gali didinti nusikalstamų veikų mastą, automatizuoti socialinės inžinerijos atakas, skatinti dezinformacijos plitimą ir mažinti įėjimo barjerą tiems, kurie anksčiau neturėjo techninių gebėjimų. Dėl to saugos diskusija vis dažniau sukasi ne tik apie tolimą ateitį, bet ir apie šiandienos praktinį atsparumą.

    Kitas svarbus aspektas yra reguliavimas: Europos Sąjungoje jau įsigaliojęs DI aktas numato rizikomis grįstą sistemą ir papildomas pareigas aukštos rizikos sprendimams, o pažangiausiems bendros paskirties modeliams keliami skaidrumo ir saugos reikalavimai. Vis dėlto rinkos dinamika rodo, kad vien teisės aktų neužtenka, jei trūksta nepriklausomų testavimo pajėgumų ir aiškių, tarptautiniu mastu suderintų standartų.

    Kol kas vieningo atsakymo, kaip tiksliai subalansuoti inovacijų greitį ir saugą, nėra. Tačiau tai, kad dėl pavojaus signalo vis garsiau kalba ir konkuruojančių laboratorijų lyderiai, rodo besikeičiantį toną: DI pažanga vis labiau vertinama ne tik pagal įspūdingas funkcijas, bet ir pagal tai, ar visuomenė spėja sukurti saugiklius.

  • „Anthropic“ vadovas ragina lėtinti dirbtinio intelekto plėtrą: kodėl kalbama apie superintelekto riziką

    „Anthropic“ vadovas ragina lėtinti dirbtinio intelekto plėtrą: kodėl kalbama apie superintelekto riziką

    Dirbtinio intelekto kūrėjos „Anthropic“ generalinis direktorius Dario Amodei paragino rinkos lyderius sulėtinti galingiausių DI modelių kūrimo tempą. Jo teigimu, technologija jau pasiekė stadiją, kai pažanga gali būti itin greita, tačiau rizikos auga kartu su galimybėmis.

    „Anthropic“ vadovas akcentuoja, kad vadinamasis superintelektas yra teorinis taškas, kai DI gebėjimai pranoksta žmogaus intelektą. Nors tai dar nėra realybė, diskusijos stiprėja dėl to, kaip užtikrinti saugumą dar iki pasirodant proveržiams, kurių pasekmių neįmanoma pilnai numatyti.

    Raginimas po naujų įspėjimų

    Amodei raginimas pasirodė netrukus po to, kai „Anthropic“ viešai pranešė, jog jų modeliai buvo siejami su žalingu panaudojimu. Tarp minimų krypčių – kibernetinės atakos, propagandos kampanijos ir bandymai pritaikyti DI pavojinguose biologiniuose tyrimuose.

    Jo pozicija atspindi vis dažniau kartojamą argumentą: nekurti DI reikštų prarasti ekonominę ir socialinę naudą, tačiau kurti per greitai gali būti neatsakinga. „Turime sulėtinti tempą, kuriuo didiname DI modelių galimybes. Pažanga vis tiek atrodys greita, o įgytą laiką turime panaudoti išmintingai“, – rašė Dario Amodei.

    Skirtingi signalai iš pramonės

    Pastaraisiais metais panašūs raginimai skamba ir iš kitų sektoriaus balsų. Kai kurie DI kūrėjai ragina pramonę savanoriškai pristabdyti, kad reguliavimas, testavimas ir saugos standartai spėtų su technologijų pažanga.

    Tekste minimas ir buvęs „OpenAI“ tyrėjas Jacob Coxon, kuris pasitraukė iš industrijos, teigdamas, kad lenktynės dėl savitobulėjančių sistemų gali tapti pavojingu lošimu. „Nei viena įmonė nesielgia pakankamai atsakingai. Jos skuba link savitobulėjančio superintelekto ir lošia mūsų gyvybėmis“, – sakė Jacob Coxon.

    Kodėl superintelekto tema vėl iškilo?

    Rizikų spektras, apie kurį kalbama, apima ne tik teorinį scenarijų, kai DI tampa nevaldomas, bet ir dabartinius, apčiuopiamus pavojus. Tai gali būti automatizuotos kibernetinės atakos, efektyvesnės dezinformacijos sistemos, taip pat pavojingų instrukcijų generavimas, jei apsaugos priemonės neveikia.

    Papildomos įtampos suteikia tai, kad galingiausi modeliai kuriami itin konkurencingoje aplinkoje, kur greitis dažnai tampa verslo pranašumu. Dėl to vis garsiau keliama idėja apie sąmoningai lėtesnį „priekinės linijos“ modelių tobulinimą, kartu didinant testavimą, auditus ir atsakomybę už galimą žalą.

    Amodei iš esmės siūlo kompromisą: tęsti pažangą, bet sąmoningai ją ritminti, kad visuomenė, reguliuotojai ir pati industrija suspėtų įdiegti saugos priemones. Ši diskusija, panašu, artimiausiu metu tik stiprės, nes DI pritaikymas karyboje, ekonomikoje ir informacinėje erdvėje plečiasi greičiau nei vieningos taisyklės.

  • DI laboratorijos taikosi į bankus: kodėl jos greičiau kurs autopilotinius finansus nei taps bankais

    DI laboratorijos taikosi į bankus: kodėl jos greičiau kurs autopilotinius finansus nei taps bankais

    Finansų paslaugos tapo vienu karščiausių mūšio laukų dirbtinio intelekto (DI) rinkoje: didžiosios laboratorijos ir platformos ieško, kaip jų modelius paversti kasdieniais įrankiais bankams, mokėjimų įmonėms ir investicijų sektoriui. Rinkoje vis dažniau keliama dilema, ar tokie žaidėjai kaip „OpenAI“ ar „Anthropic“ ilgainiui galėtų ne tik aptarnauti bankus, bet ir patys imtis bankininkystės.

    Ši tema aptarta Fintech for Inclusion Global Summit renginyje, kur investuotojai ir fintech vadovai svarstė, kur yra riba tarp pažangiausių DI modelių tiekėjų ir griežtai reguliuojamo finansų pasaulio. Bendras vertinimas skamba panašiai: DI laboratorijos gali priartėti prie bankų veiklos, bet tapti bankais joms būtų lėta, brangu ir strategiškai nepatrauklu.

    Kodėl DI laboratorijoms sunku tapti bankais

    Rizikos ir kapitalo reikalavimai yra pirmasis stabdis. Bankininkystė remiasi kredito rizikos valdymu, kapitalo pakankamumu, likvidumo taisyklėmis ir nuolatine priežiūra, o tai paprastai reiškia daugelio metų investicijas į atitiktį ir valdymo sistemas.

    Quona Capital bendraįkūrėja ir vadovaujanti partnerė Monica Engel akcentavo, kad DI laboratorijos labiau rinksis partnerystes, o ne pilną banko modelį. „Jos priartės prie bankininkystės, netapdamos bankais. Bankininkystė yra lėta, reikalauja daug kapitalo ir paremta kredito rizika, todėl tai prastai dera su tyrimų laboratorija“, – sakė M. Engel.

    Pasak jos, vertė vis tiek bus kuriama finansų sektoriuje, tik kitu būdu: bankininkystė tampa agentinė, kai pinigai gali automatiškai judėti, apmokėti sąskaitas ir perbalansuoti finansus. Praktinis startas dažniausiai yra mokėjimai ir prekyba, o ne licencijuota indėlių veikla.

    „Mambu“ produktų viceprezidentas Adrian Congiu pabrėžė, kad laboratorijos laimi ten, kur pati modelio galia yra produktas, pavyzdžiui, tekstų, vaizdų, kodo generavimas ir samprotavimas. „Bankininkystėje vertė kyla ne tiek iš modelio, kiek iš to, kas jį supa: procesų žinios, reguliacinė atitiktis, audituojamumas ir darbo eigos, sujungtos su senomis sistemomis“, – sakė A. Congiu.

    Jo vertinimu, laboratorijoms būtų nepraktiška kurti paskolų atitiktį kiekvienai geografijai visame pasaulyje. Tam reikia ilgo dėmesio konkrečiai rinkai, vietos taisyklių išmanymo ir nuolatinio darbo su priežiūros institucijomis, o globalios laboratorijos struktūriškai negali vienu metu būti visur ir eiti pakankamai giliai.

    Kur DI vis dėlto perims vertę

    Investuotojai pabrėžia, kad tai nereiškia, jog bankai gali atsipalaiduoti. Didžiausia įtaka greičiausiai bus ten, kur DI gali sumažinti sąnaudas ir pagreitinti sprendimus: klientų aptarnavime, dokumentų analizėje, sukčiavimo prevencijoje, rizikos signalų apdorojime, vidinių procesų automatizavime.

    Apis Partners partnerė Alexia Yannopoulos atkreipė dėmesį, kad finansų sektoriuje esminis pranašumas vis dar lieka vertikalus valdymas: licencijos, platinimas ir duomenys. „Tikėčiausi, kad tai ir toliau liks finansų paslaugų rankose“, – sakė A. Yannopoulos.

    Flourish Ventures generalinis partneris Ameya Upadhyay priminė, kad panaši baimė jau buvo kilusi dėl didžiųjų technologijų platformų. „Prisimenu 2017 ir 2018 metus, kai visi bijojo, kad „Amazon“ bus kitas didelis bankas. Finansų paslaugos yra per didelis galvos skausmas, o šie žaidėjai turi rimtesnių tikslų“, – sakė A. Upadhyay.

    Accion Ventures vadovaujantis partneris Rahil Rangwala akcentavo, kad laboratorijų tikslas yra auginti modelių naudojimą globaliu mastu, todėl bankininkystė joms yra patraukli rinka kaip klientas, bet sudėtinga kaip reguliuojama veikla. „Reguliavimas ir vietinė atitiktis yra stiprūs grioviai. Vietoje to dažniau matome, kad modeliai bendradarbiauja su reguliuojamais finansų rinkos dalyviais ir juos įgalina“, – sakė R. Rangwala.

    Ką tai reiškia bankams ir klientams

    Artimiausiu metu labiausiai tikėtinas scenarijus yra ne DI laboratorijos kaip bankai, o bankai kaip DI vartotojai ir integruotojai. Tai reiškia daugiau partnerysčių, kur DI tiekėjai suteikia modelius ir infrastruktūrą, o bankai užtikrina licenciją, priežiūros reikalavimus, atsakomybę, rizikos valdymą ir klientų santykius.

    Klientams tai gali virsti labiau automatizuotais finansais: nuo proaktyvių įspėjimų ir personalizuotų pasiūlymų iki automatinių mokėjimų, taupymo ir investavimo sprendimų. Tačiau kuo daugiau automatizavimo, tuo svarbesni tampa skaidrumas, sprendimų paaiškinamumas ir aiškios atsakomybės ribos, ypač kai kalbama apie kreditą, sukčiavimo atvejus ar ginčus.

  • ES ragina pasaulines DI taisykles po įspėjimų apie riziką: ką tai keistų „OpenAI“ ir „Anthropic“

    ES ragina pasaulines DI taisykles po įspėjimų apie riziką: ką tai keistų „OpenAI“ ir „Anthropic“

    Europos Sąjunga vėl kelia klausimą, ar dirbtinio intelekto (DI) plėtra gali būti suvaldoma vien nacionaliniais ar regioniniais sprendimais. Europos Komisijos vykdomoji pirmininko pavaduotoja Henna Virkkunen pareiškė, kad pasauliniu mastu būtinos bendros taisyklės, ypač kai viešojoje erdvėje daugėja perspėjimų apie itin pažangių modelių keliamą riziką.

    Šis raginimas nuskambėjo po plačiai aptarto buvusio DI bendrovės „Anthropic“ inžinieriaus įspėjimo, kad nekontroliuojamas technologijos šuolis teoriškai gali sukelti katastrofines pasekmes žmonijai. Nors tokie scenarijai vertinami nevienareikšmiškai, ES teigia, kad vien diskusijų nepakanka ir būtina kurti tarptautinius saugumo mechanizmus.

    Kas jau galioja Europoje

    ES jau turi teisinį pagrindą, įpareigojantį didžiųjų DI modelių kūrėjus vertinti ir mažinti rizikas, susijusias su sistemų saugumu bei kontrolės praradimu. Toks požiūris išskiria ES iš daugelio kitų regionų, kur reguliavimas dažnai lieka fragmentiškas arba apsiriboja rekomendacijomis.

    Vis dėlto Virkkunen pabrėžė, kad tai, kas nustatyta ES, automatiškai netampa pasauline norma. Dėl to, jos teigimu, tarptautinis koordinavimas yra būtinas, kad rizikos valdymo standartai neapsiribotų vien Europa ir neatsirastų „silpnų vietų“ rinkose, kuriose reikalavimai mažesni.

    Geopolitika ir lenktynės dėl DI

    DI tapo strategine varžybų sritimi tarp JAV ir Kinijos, o jų sprendimai dėl saugumo, priežiūros ir inovacijų tempo daro įtaką visam pasauliui. ES pareigūnai stebi, kaip šios lenktynės bus aptariamos aukščiausiu politiniu lygiu, nes būtent čia sprendžiama, kiek reguliavimo laikoma „priimtina kaina“ už konkurencingumą.

    JAV ambasadorius ES Andrew Puzderis pasisakė už bendradarbiavimą su Europa DI srityje, tačiau taip pat aiškiai įvardijo ribas: JAV, jo teigimu, nesutiks su tokiu reguliavimu, kuris galėtų sumažinti amerikietiškų platformų gebėjimą konkuruoti su Kinija. Ši įtampa rodo, kad pasaulinės taisyklės bus sunkiai suderinamos, jei skirtingos šalys DI vertins pirmiausia kaip ekonominės ir nacionalinio saugumo galios įrankį.

    „Mums labai svarbu tęsti tarptautinį bendradarbiavimą, nes matau, kad pasaulinių taisyklių tikrai reikia“, – sakė Henna Virkkunen.

    Kokios „pasaulinės taisyklės“ galėtų būti realistiškos

    Diskusijoje vis dažniau keliama idėja apie tarptautinę DI saugos instituciją arba bent jau bendrą protokolą, kaip reaguoti į incidentus, susijusius su vadinamaisiais pažangiausiais, didžiausią galią turinčiais modeliais. Vokietijos skaitmeninių reikalų ministras Karstenas Wildbergeris anksčiau yra užsiminęs apie galimą modelį, panašų į branduolinės energetikos priežiūros sistemą.

    Europos Parlamente taip pat stiprėja spaudimas Komisijai aiškiau įvardyti planą, kaip DI sauga būtų keliama į G7, G20 ir Ekonominio bendradarbiavimo ir plėtros organizacijos darbotvarkę. Tai reikštų bandymą sukurti minimalų bendrą standartą bent svarbiausioms ekonomikoms, net jei visuotinis, visoms šalims vienodai taikomas susitarimas trumpuoju laikotarpiu būtų sunkiai pasiekiamas.

    Kartu ES susiduria su praktine dilema: kaip apibrėžti, kurioms sistemoms taikyti griežčiausią priežiūrą ir kaip užtikrinti, kad naujos DI paslaugos nepatektų į „pilkąją zoną“ vien dėl formalaus klasifikavimo. Būtent todėl, pasak pareigūnų, tarptautinis suderinamumas svarbus ne tik principų lygmeniu, bet ir kasdienėje priežiūros praktikoje.

  • „Anthropic“ skelbia apie grėsmę: DI bandyta panaudoti biologinių ginklų tyrimams

    „Anthropic“ skelbia apie grėsmę: DI bandyta panaudoti biologinių ginklų tyrimams

    Anthropic podkreśla, że nie ma dowodów pozwalających stwierdzić, iż naukowcy zajmujący się “bronią biologiczną” faktycznie zamierzali wyrządzić komuś krzywdę. Skala możliwości współczesnych modeli sprawia jednak, że nawet niejednoznaczne przypadki wymagają szczególnej uwagi.

    Firma opisała te zdarzenia w swoim najbardziej szczegółowym dotąd raporcie dotyczącym zagrożeń. Analizuje w nim wykorzystanie Claude’a m.in. do cyberataków, operacji wpływu, inwigilacji, badań biologicznych oraz prac związanych z tworzeniem broni.

    Przypadki opisane w raporcie miały miejsce od grudnia 2025 do sierpnia 2026 r. Firma zaznacza, że nie są one typowe dla większości użytkowników Claude’a. Przedstawiają natomiast jedne z najbardziej zaawansowanych prób niewłaściwego wykorzystania jej modeli, jakie dotąd wykryto.

    Szczególną uwagę zwracają przypadki związane z biologią. Jeden z nich dotyczył badań związanych z wirusem chikungunya. Systemy Anthropic zablokowały zapytanie dotyczące wniosku grantowego związanego z badaniami typu gain-of-function. Prace miały być prowadzone na potrzeby wojskowego instytutu badawczego, co dodatkowo zwiększyło obawy firmy.

    Po zablokowaniu przez Claude’a części wrażliwych zapytań badacze mieli kontynuować pracę za pośrednictwem innych kanałów. Anthropic odkryła również przypadek platformy pośredniczącej, która przekierowywała odrzucane przez Claude’a zapytania dotyczące biologii do innych modeli wyposażonych w słabsze zabezpieczenia.

    Kolejny przypadek dotyczył badań nad wysoce patogenną grypą ptaków. Według Anthropic jeden z badaczy przez kilka tygodni wykorzystywał Claude’a do planowania prac, analizy danych i interpretowania informacji naukowych. Firma zablokowała mu dostęp do swoich najbardziej zaawansowanych modeli w związku z charakterem prowadzonych badań, ale praca była kontynuowana z wykorzystaniem słabszych wersji.

    Raport wymienia jeszcze trzy przypadki dotyczące badań biologicznych o potencjalnych konsekwencjach dla bezpieczeństwa. Obejmowały one prace związane z ortopokswirusami, związkami powiązanymi z jadami oraz toksynami. Anthropic nie ujawniła tożsamości naukowców, ich lokalizacji ani szczegółów prowadzonych przez nich prac.

    Jak samo przyznaje, rozróżnienie legalnych badań od potencjalnych zagrożeń jest obecnie jednym z największych problemów związanych z wykorzystaniem AI w biologii. Wiedza naukowa może mieć charakter podwójnego zastosowania – te same informacje mogą służyć opracowywaniu leków i terapii, ale mogą też zostać wykorzystane w pracach nad bardziej niebezpiecznymi patogenami.

    Na tym zagrożenia opisane przez Anthropic się nie kończą. Firma wykryła również rosyjską operację cyberszpiegowską, w której Claude miał automatyzować znaczną część działań hakerów. Eksperci powiązali ją z grupą Midnight Blizzard, kojarzoną z rosyjskimi działaniami hakerskimi wspieranymi przez państwo. Celem operacji były m.in. ukraińskie i europejskie instytucje rządowe, organizacje wywiadu wojskowego, placówki dyplomatyczne oraz firmy z sektora obronnego.

    AI miała pomagać w przygotowywaniu kampanii phishingowych, tworzeniu infrastruktury, opracowywaniu złośliwego oprogramowania oraz kradzieży danych. Atakujący wykorzystywali ją również do sprawdzania, czy malware zostało wykryte przez systemy bezpieczeństwa. Gdy zabezpieczenia identyfikowały złośliwe oprogramowanie, automatyczne procesy modyfikowały je i przebudowywały, aby utrudnić jego wykrycie. Anthropic zidentyfikowała ponad 20 organizacji objętych planowaniem lub działaniami w ramach tej operacji.

    Firma twierdzi, że wszystkie operacje opisane w raporcie zostały przerwane, przekazała również część ustaleń organom państwowym i innym przedsiębiorstwom zajmującym się sztuczną inteligencją.


  • „Anthropic“: DI gali padvigubinti ekonomiką, bet iki 2030-ųjų palikti be darbo kas penktą biure

    „Anthropic“: DI gali padvigubinti ekonomiką, bet iki 2030-ųjų palikti be darbo kas penktą biure

    „Anthropic“ modelis: trys 2030-ųjų keliai

    DI sistemą „Claude“ kurianti bendrovė „Anthropic“ paskelbė ekonominį modelį, kuriuo bando įvertinti, kaip iki 2030 metų DI gali pakeisti JAV ekonomiką. Kartu pristatytas ir interaktyvus įrankis, leidžiantis palyginti skirtingus scenarijus pagal DI pajėgumą ir jo įdiegimo greitį.

    Modelyje ekonomika skaidoma į užduotis: dalį DI palieka nepakeistas, dalį padeda atlikti, dalį automatizuoja, o kai kur sukuria visai naujas veiklas. „Anthropic“ pabrėžia, kad tai nėra prognozė ir scenarijams nepriskiriamos tikimybės.

    Nuo menko poveikio iki 15,4 proc. augimo

    Nuosaikiausiame variante DI poveikis būtų beveik nepastebimas: 2030 metais bendrasis vidaus produktas būtų apie 1,6 proc. didesnis nei be DI, o metinis augimas siektų apie 2,4 proc. Su protiniu darbu siejamas užimtumas kristų tik apie 0,5 proc., o nedarbo rodikliai kistų minimaliai.

    Vidutiniame scenarijuje ekonomikos augimas paspartėtų iki maždaug 5,4 proc. per metus, o 2030 metais BVP būtų apie 8,3 proc. didesnis. Tuo pat metu vadinamasis kognityvinis užimtumas, apimantis vadybą, profesines paslaugas, pardavimus ir administravimą, mažėtų apie 3,9 proc.

    Ekstremaliausiame scenarijuje metinis augimas pasiektų 15,4 proc., o BVP 2030 metais būtų maždaug 32,4 proc. didesnis nei be DI. Tačiau kognityvinis užimtumas smuktų apie 21,5 proc., o nedarbas tarp biuro darbuotojų šokteltų iki 17,9 proc., bendras nedarbas artėtų prie 11,9 proc.

    Kas laimėtų, o kas prarastų?

    „Anthropic“ modelis rodo ryškų pajamų persiskirstymą: darbo dalis nacionalinėse pajamose galėtų mažėti nuo maždaug 60 proc. iki 45,2 proc. Tuo metu kapitalo pajamos, pagal pateiktą skaičiavimą, augtų daugiau nei 80 proc.

    Vidutiniame scenarijuje taip pat prognozuojamas atlyginimų išsiskyrimas: biuro ir kito protinio darbo užmokestis nežymiai mažėtų, o kitų sektorių darbuotojų atlygis vidutiniškai didėtų beveik 6 proc. Ekstremaliame variante biuro darbuotojų algos kristų apie 11,5 proc., o kitų darbuotojų atlyginimai šokteltų apie 33,6 proc.

    Visuomenės lūkesčiai ir vadovo perspėjimai

    Modelis papildytas JAV gyventojų apklausa, kuri, pasak „Anthropic“, rodo, kad dauguma respondentų labiausiai tikisi vidutinio scenarijaus. Tai reikštų maždaug 8 proc. didesnį BVP iki 2030 metų ir apie 4 proc. sumažėjusį kognityvinį užimtumą.

    Vis dėlto „Anthropic“ generalinis direktorius Dario Amodei anksčiau viešai perspėjo apie gerokai drastiškesnį poveikį: jo vertinimu, per kelerius metus gali išnykti iki pusės pradinio lygio biuro pozicijų, o nedarbo šuolis galėtų siekti 10–20 proc. Tai labiau atitiktų ekstremalų, o ne vidutinį scenarijų.

    „Jei DI gali daryti nuostabius dalykus, bet niekas jo nenaudoja, ekonominis poveikis bus menkas“, – sakė Anton Korinek, vadovaujantis „Anthropic“ transformacinio DI ekonominių tyrimų krypčiai.

    Modelyje akcentuojama, kad lemiamas veiksnys gali būti ne vien technologijos gebėjimai, o jos sklaida organizacijose, reguliavimas, investicijos ir darbuotojų perkvalifikavimas. Pastaraisiais metais šiose temose vis daugiau dėmesio skiriama produktyvumo šuoliui per procesų automatizavimą, tačiau kartu ryškėja rizika, kad nauda pasiskirstys netolygiai.

    Kritika: trūksta blogiausio scenarijaus

    „Anthropic“ modelis susilaukė dėmesio ir dėl to, ko jame nėra: visi scenarijai daro prielaidą, kad ekonomika veikia įprastai, o DI nesukelia sisteminių sutrikimų. Kritikai pažymi, kad tai palieka nuošalyje saugumo rizikas, apie kurias pati industrija kalba vis dažniau.

    Viešojoje erdvėje šią savaitę aptarta ir buvusio DI tyrėjo Jacobo Coxono pozicija, kai jis pareiškė, kad kai kurios įmonės esą pernelyg skuba lenktynėse dėl vis galingesnių sistemų. Tokie pareiškimai stiprina diskusiją, ar ekonominių modelių užtenka, kai kartu reikia vertinti ir patikimumo bei saugumo klausimus.

    Ekspertai pabrėžia, kad realus DI poveikis priklausys nuo to, kaip greitai verslai pertvarkys procesus, ar bus kuriamos naujos darbo vietos, ir ar valstybėms pavyks sukurti veiksmingas perkvalifikavimo bei socialinės apsaugos priemones. Kitaip tariant, iki 2030 metų svarbiausia gali būti ne vien technologijų pažanga, o pasirengimas su ja gyventi.

  • „Anthropic“ perspėja: Kinijos ir Rusijos grupės jau bando ginkluoti DI per „Claude“ spragas

    JAV dirbtinio intelekto bendrovė „Anthropic“ paskelbė grėsmių žvalgybos ataskaitą, kurioje teigiama, kad su Kinija ir Rusija siejami veikėjai jau bando panaudoti jos DI asistentą „Claude“ pavojingoms užduotims. Pasak įmonės, tarp fiksuotų atvejų minimi kibernetiniai išpuoliai, įtakos operacijos ir bandymai kurti karinės paskirties sprendimus.

    „Anthropic“ nurodo, kad per pastaruosius mėnesius žmonės iš šalių, kuriose „Claude“ turėtų būti ribojamas, apeidinėjo kontrolę naudodami tarpininkus, fiktyvias ar pavogtas paskyras ir VPN. Tokie metodai, pasak bendrovės, leidžia paslėpti tikrąją prisijungimo vietą ir išvengti dalies saugiklių.

    Kaip apeinami ribojimai

    Bendrovė teigia, kad neteisėtą prieigą dažnai organizuoja tarpininkai, kurie pasiūlo „Claude“ paslaugas regionuose, kur oficialiai jos neteikiamos. Tokia schema ypač patraukli tiek nusikalstamoms grupuotėms, tiek su valstybinėmis struktūromis siejamiems veikėjams, ieškantiems greitesnių būdų automatizuoti darbą.

    „Anthropic“ pabrėžia, kad dalis piktnaudžiavimo buvo susijusi su plačiai prieinamomis „Claude“ versijomis, o ne su labiausiai ribojamais įmonės modeliais. Vis dėlto ataskaita akcentuoja, kad net komerciškai prieinami DI įrankiai jau yra pakankamai galingi, kad netinkamose rankose mažintų „įėjimo kainą“ sudėtingoms operacijoms.

    Kur DI kelia didžiausią riziką

    Ataskaitoje minimi atvejai, kai DI buvo pasitelkiamas automatizuoti kibernetines atakas, kurti kenkėjiško kodo fragmentus ar tobulinti žvalgybines procedūras. Saugumo ekspertai seniai perspėja, kad DI gali pagreitinti vadinamąsias „visą ciklą“ atakas, kai nuo taikinio žvalgybos iki įsilaužimo veiksmų pereinama gerokai greičiau.

    „Anthropic“ taip pat aprašo bandymus naudoti „Claude“ masinei stebėsenai ir propagandos sklaidai, įskaitant didelių socialinių tinklų duomenų kiekių analizę. Praktikoje tai gali reikšti efektyvesnį turinio filtravimą, auditorijų segmentavimą ir pranešimų pritaikymą konkrečioms grupėms.

    Ypatingo dėmesio sulaukė teiginiai apie galimus bandymus DI pasitelkti biologinės rizikos srityje, kai tyrėjai domėjosi pavojingais patogenais ar eksperimentais, galinčiais turėti dvejopą paskirtį. „Anthropic“ pabrėžia, kad ne visais atvejais galima vienareikšmiškai nustatyti, ar užklausos buvo teisėto mokslo dalis, tačiau nerimą kelia mėginimai slėpti tikslus ir apeiti geografinius ribojimus.

    Ką daro „Anthropic“ ir ko tikisi valdžios

    Bendrovė teigia, kad visus ataskaitoje aprašytus atvejus stengėsi nutraukti, o informaciją perdavė atsakingoms institucijoms ir pramonės partneriams. Taip pat buvo griežtinami apsaugos mechanizmai, apimantys paskyrų patikrą, piktnaudžiavimo aptikimą ir papildomus filtrus jautrioms temoms.

    „Mes nesiekiame dramatizuoti. Norime parodyti, kaip ši technologija gali būti piktnaudžiaujama jau šiandien“, – sakė „Anthropic“ grėsmių tyrimų vadovas Jacobas Kleinas.

    Šis pranešimas įsilieja į platesnį JAV ir Europos diskusijų kontekstą, kai DI modelių kūrėjai raginami daugiau investuoti į saugą ir skaidrumą. Reguliuotojai bei įstatymų leidėjai vis dažniau akcentuoja, kad vien savanoriškų priemonių gali nepakakti, jei tarpininkų rinka ir pavogtų paskyrų prekyba leidžia lengvai apeiti apribojimus.

  • „Anthropic“ derasi dėl 30 mlrd. eurų debesijos sandorio: ką tai sako apie DI centrų duomenų bumą

    JAV dirbtinio intelekto bendrovė „Anthropic“ tariasi dėl didelės apimties debesijos paslaugų sutarties su įmone Lambda, kurios vertė, kaip skelbia tarptautinė žiniasklaida, siektų apie 30 mlrd. eurų. Sandoris dar nėra oficialiai patvirtintas, tačiau jis atspindi sparčiai augantį skaičiavimo galios poreikį, kurį kursto generatyvinio DI plėtra.

    Šios derybos vyksta tuo metu, kai technologijų rinkoje vis labiau dominuoja investicijos į duomenų centrus ir specializuotą įrangą. DI modeliams mokyti ir paleisti reikia itin daug elektros bei aukštos klasės lustų, todėl debesijos tiekėjai ir jų partneriai skuba plėsti infrastruktūrą, kad spėtų su paklausa.

    Duomenų centrai tampa strategine rinka

    Projektas, siejamas su naujais pajėgumais, turi būti įgyvendinamas Teksase, Nueces apygardoje, o jo vystymu rūpinasi bendrovė Hut 8. Pastaraisiais metais ji keitė veiklos kryptį ir iš kriptovaliutų kasimo verslo vis labiau persiorientavo į duomenų centrų operatoriaus vaidmenį, aptarnaujantį DI darbo krūvius.

    Skelbiama, kad planuojamos infrastruktūros galia gali siekti apie 350 megavatų. Tokios apimties projektai tampa vis dažnesni, nes generatyvinio DI paslaugoms reikalingi duomenų centrai veikia ne tik kaip IT, bet ir kaip energetikos planavimo objektai, kur svarbios tiek elektros įvado galimybės, tiek tinklo patikimumas.

    „Anthropic“ plečia skaičiavimo resursus

    „Anthropic“, kuri, pasak pranešimų, ruošiasi viešam akcijų platinimui, aktyviai didina skaičiavimo resursus, kad galėtų aptarnauti augantį produktų naudojimą. Tarp jų minimas ir programavimo įrankis „Claude Code“, kuris didina poreikį nuolatiniam, stabiliai pasiekiamam skaičiavimo pajėgumui.

    Įmonė anksčiau yra pranešusi apie kitą didelės apimties skaičiavimo galios nuomos planą JAV, Vakarų Virdžinijoje. Tokie sprendimai rodo rinkos kryptį: DI kūrėjams vis dažniau svarbiau ne nuosavi duomenų centrai, o ilgalaikės sutartys, garantuojančios prieigą prie reikalingų pajėgumų.

    „Nvidia“ vaidmuo ir ilgalaikės sutartys

    Pasak pranešimų, ši sutartis Lambda leistų įjungti resursus, paremtus „Nvidia“ technologijomis, kurios šiuo metu yra de facto standartas didžiajai daliai generatyvinio DI darbo krūvių. Taip pat viešai buvo minima, kad atskiruose projektuose nuomininku gali būti pati „Nvidia“, kas pabrėžia, jog tiekėjas kartais dalyvauja ne tik kaip aparatūros gamintojas, bet ir kaip tiesioginis infrastruktūros pajėgumų pirkėjas.

    Rinkoje daugėja 10–15 metų trukmės susitarimų, kurie užtikrina pastovias pajamas duomenų centrų vystytojams ir stabilų pajėgumų rezervą didiesiems klientams. Toks modelis mažina riziką, bet kartu dar labiau didina konkurenciją dėl elektros, sklypų ir tinklų prijungimo galimybių regionuose, kur statomi nauji kampusai.

    Nors derybų detalės kol kas nepatvirtintos oficialiai, pati sandorio apimtis signalizuoja apie dar vieną DI infrastruktūros ciklo etapą, kai skaičiavimo galia tampa panaši į strateginį išteklių. Tai ypač svarbu įmonėms, kurios kuria ir komercializuoja didelius modelius, nes jų sėkmė vis dažniau priklauso ne tik nuo algoritmų, bet ir nuo prieigos prie patikimų, ilgalaikių debesijos pajėgumų.

  • „Anthropic“ IPO jau čia pat: rekordas, 55,6 mlrd. eurų pajamos ir rizikos, kurios gąsdina

    „Anthropic“ IPO jau čia pat: rekordas, 55,6 mlrd. eurų pajamos ir rizikos, kurios gąsdina

    „Anthropic“ IPO jau artėja

    DI bendrovė „Anthropic“, kurianti pokalbių robotą „Claude“, rengiasi pirminiam akcijų platinimui. Rinkos dalyviai tikisi, kad debiutas Volstrite gali tapti vienu didžiausių pastarųjų metų technologijų sektoriuje.

    Bendrovės šuolį kursto spartus pajamų augimas ir investuotojų apetitas DI istorijoms, tačiau kartu išryškėja ir rizikos. Tarp jų – dideli nuostoliai, reguliacinis neapibrėžtumas ir politinė trintis JAV.

    Kas stovi už „Claude“ kūrėjų

    „Anthropic“ įkurta 2021 metais buvusių „OpenAI“ vadovų ir tyrėjų, akcentavusių DI saugumo klausimus. Bendrovei vadovauja generalinis direktorius Dario Amodei, turintis biofizikos daktaro laipsnį, o prezidentės pareigas eina bendraįkūrėja Daniela Amodei.

    Rinkos duomenų platformos „PitchBook“ vertinimu, „Anthropic“ darbuotojų skaičius siekia apie 5 000. Toks mastas rodo, kad konkurencija pažangiausių modelių rinkoje jau seniai peržengė startuolių fazę.

    Pajamas kelia programuotojai ir verslas

    Kol dalis konkurentų plėtėsi į daugybę vartotojams skirtų krypčių, „Anthropic“ daugiau dėmesio skyrė įrankiams kūrėjams ir įmonėms. Praktikoje tai reiškia integracijas, automatizavimą ir programavimo užduočių spartinimą, už ką verslo klientai dažniau sutinka mokėti.

    Skelbiama, kad bendrovės metinis pajamų tempas viršija 65 mlrd. JAV dolerių, tai yra apie 55,6 mlrd. eurų. Vienu svarbiausių produktų įvardijamas programuotojams skirtas sprendimas „Claude Code“.

    Politinis fonas ir teisinė nežinomybė

    Į IPO bendrovė ateina ne pačiu ramiausiu politiniu metu. Pranešama apie konfliktą su Donaldo Trumpo administracija dėl prieigos prie DI modelių ir jų taikymo valstybės poreikiams, o tai investuotojams kelia papildomų klausimų.

    Situaciją apsunkina tai, kad teisiniai ginčai dėl sutarčių, tiekimo grandinės rizikų ar prieigos sąlygų gali trukti metus. Tokie procesai paprastai didina neapibrėžtumą ir gali paveikti tiek reputaciją, tiek galimybes dirbti su viešuoju sektoriumi.

    Milžiniškos išlaidos ir investuotojų kantrybė

    Pažangių DI modelių kūrimas reikalauja didžiulių skaičiavimo išteklių, duomenų centrų infrastruktūros ir brangios inžinerijos. Dėl to net sparčiai augančios pajamos nebūtinai reiškia greitą pelningumą, ypač jei konkurencija verčia nuolat didinti investicijas.

    Žiniasklaidoje skelbta, kad 2025 metais „Anthropic“ patyrė beveik 42 mlrd. JAV dolerių nuostolį, tai yra apie 36 mlrd. eurų. Toks skaičius reiškia, kad IPO investuotojams teks vertinti ne tik augimą, bet ir tai, kiek ilgai bendrovė galės finansuoti plėtrą.

    Pasak rinkos pranešimų, „Anthropic“ gali siekti pritraukti didesnę sumą nei 2026 metų birželį įvykęs „SpaceX“ IPO, kuriame buvo surinkta daugiau kaip 75 mlrd. JAV dolerių, tai yra apie 64,3 mlrd. eurų. Jei tai pasitvirtintų, platinimas pretenduotų į rekordinius technologijų rinkos sandorius.