CP v2

Tag: Claude

  • „Anthropic“: DI gali padvigubinti ekonomiką, bet iki 2030-ųjų palikti be darbo kas penktą biure

    „Anthropic“: DI gali padvigubinti ekonomiką, bet iki 2030-ųjų palikti be darbo kas penktą biure

    „Anthropic“ modelis: trys 2030-ųjų keliai

    DI sistemą „Claude“ kurianti bendrovė „Anthropic“ paskelbė ekonominį modelį, kuriuo bando įvertinti, kaip iki 2030 metų DI gali pakeisti JAV ekonomiką. Kartu pristatytas ir interaktyvus įrankis, leidžiantis palyginti skirtingus scenarijus pagal DI pajėgumą ir jo įdiegimo greitį.

    Modelyje ekonomika skaidoma į užduotis: dalį DI palieka nepakeistas, dalį padeda atlikti, dalį automatizuoja, o kai kur sukuria visai naujas veiklas. „Anthropic“ pabrėžia, kad tai nėra prognozė ir scenarijams nepriskiriamos tikimybės.

    Nuo menko poveikio iki 15,4 proc. augimo

    Nuosaikiausiame variante DI poveikis būtų beveik nepastebimas: 2030 metais bendrasis vidaus produktas būtų apie 1,6 proc. didesnis nei be DI, o metinis augimas siektų apie 2,4 proc. Su protiniu darbu siejamas užimtumas kristų tik apie 0,5 proc., o nedarbo rodikliai kistų minimaliai.

    Vidutiniame scenarijuje ekonomikos augimas paspartėtų iki maždaug 5,4 proc. per metus, o 2030 metais BVP būtų apie 8,3 proc. didesnis. Tuo pat metu vadinamasis kognityvinis užimtumas, apimantis vadybą, profesines paslaugas, pardavimus ir administravimą, mažėtų apie 3,9 proc.

    Ekstremaliausiame scenarijuje metinis augimas pasiektų 15,4 proc., o BVP 2030 metais būtų maždaug 32,4 proc. didesnis nei be DI. Tačiau kognityvinis užimtumas smuktų apie 21,5 proc., o nedarbas tarp biuro darbuotojų šokteltų iki 17,9 proc., bendras nedarbas artėtų prie 11,9 proc.

    Kas laimėtų, o kas prarastų?

    „Anthropic“ modelis rodo ryškų pajamų persiskirstymą: darbo dalis nacionalinėse pajamose galėtų mažėti nuo maždaug 60 proc. iki 45,2 proc. Tuo metu kapitalo pajamos, pagal pateiktą skaičiavimą, augtų daugiau nei 80 proc.

    Vidutiniame scenarijuje taip pat prognozuojamas atlyginimų išsiskyrimas: biuro ir kito protinio darbo užmokestis nežymiai mažėtų, o kitų sektorių darbuotojų atlygis vidutiniškai didėtų beveik 6 proc. Ekstremaliame variante biuro darbuotojų algos kristų apie 11,5 proc., o kitų darbuotojų atlyginimai šokteltų apie 33,6 proc.

    Visuomenės lūkesčiai ir vadovo perspėjimai

    Modelis papildytas JAV gyventojų apklausa, kuri, pasak „Anthropic“, rodo, kad dauguma respondentų labiausiai tikisi vidutinio scenarijaus. Tai reikštų maždaug 8 proc. didesnį BVP iki 2030 metų ir apie 4 proc. sumažėjusį kognityvinį užimtumą.

    Vis dėlto „Anthropic“ generalinis direktorius Dario Amodei anksčiau viešai perspėjo apie gerokai drastiškesnį poveikį: jo vertinimu, per kelerius metus gali išnykti iki pusės pradinio lygio biuro pozicijų, o nedarbo šuolis galėtų siekti 10–20 proc. Tai labiau atitiktų ekstremalų, o ne vidutinį scenarijų.

    „Jei DI gali daryti nuostabius dalykus, bet niekas jo nenaudoja, ekonominis poveikis bus menkas“, – sakė Anton Korinek, vadovaujantis „Anthropic“ transformacinio DI ekonominių tyrimų krypčiai.

    Modelyje akcentuojama, kad lemiamas veiksnys gali būti ne vien technologijos gebėjimai, o jos sklaida organizacijose, reguliavimas, investicijos ir darbuotojų perkvalifikavimas. Pastaraisiais metais šiose temose vis daugiau dėmesio skiriama produktyvumo šuoliui per procesų automatizavimą, tačiau kartu ryškėja rizika, kad nauda pasiskirstys netolygiai.

    Kritika: trūksta blogiausio scenarijaus

    „Anthropic“ modelis susilaukė dėmesio ir dėl to, ko jame nėra: visi scenarijai daro prielaidą, kad ekonomika veikia įprastai, o DI nesukelia sisteminių sutrikimų. Kritikai pažymi, kad tai palieka nuošalyje saugumo rizikas, apie kurias pati industrija kalba vis dažniau.

    Viešojoje erdvėje šią savaitę aptarta ir buvusio DI tyrėjo Jacobo Coxono pozicija, kai jis pareiškė, kad kai kurios įmonės esą pernelyg skuba lenktynėse dėl vis galingesnių sistemų. Tokie pareiškimai stiprina diskusiją, ar ekonominių modelių užtenka, kai kartu reikia vertinti ir patikimumo bei saugumo klausimus.

    Ekspertai pabrėžia, kad realus DI poveikis priklausys nuo to, kaip greitai verslai pertvarkys procesus, ar bus kuriamos naujos darbo vietos, ir ar valstybėms pavyks sukurti veiksmingas perkvalifikavimo bei socialinės apsaugos priemones. Kitaip tariant, iki 2030 metų svarbiausia gali būti ne vien technologijų pažanga, o pasirengimas su ja gyventi.

  • „Anthropic“ perspėja: Kinijos ir Rusijos grupės jau bando ginkluoti DI per „Claude“ spragas

    JAV dirbtinio intelekto bendrovė „Anthropic“ paskelbė grėsmių žvalgybos ataskaitą, kurioje teigiama, kad su Kinija ir Rusija siejami veikėjai jau bando panaudoti jos DI asistentą „Claude“ pavojingoms užduotims. Pasak įmonės, tarp fiksuotų atvejų minimi kibernetiniai išpuoliai, įtakos operacijos ir bandymai kurti karinės paskirties sprendimus.

    „Anthropic“ nurodo, kad per pastaruosius mėnesius žmonės iš šalių, kuriose „Claude“ turėtų būti ribojamas, apeidinėjo kontrolę naudodami tarpininkus, fiktyvias ar pavogtas paskyras ir VPN. Tokie metodai, pasak bendrovės, leidžia paslėpti tikrąją prisijungimo vietą ir išvengti dalies saugiklių.

    Kaip apeinami ribojimai

    Bendrovė teigia, kad neteisėtą prieigą dažnai organizuoja tarpininkai, kurie pasiūlo „Claude“ paslaugas regionuose, kur oficialiai jos neteikiamos. Tokia schema ypač patraukli tiek nusikalstamoms grupuotėms, tiek su valstybinėmis struktūromis siejamiems veikėjams, ieškantiems greitesnių būdų automatizuoti darbą.

    „Anthropic“ pabrėžia, kad dalis piktnaudžiavimo buvo susijusi su plačiai prieinamomis „Claude“ versijomis, o ne su labiausiai ribojamais įmonės modeliais. Vis dėlto ataskaita akcentuoja, kad net komerciškai prieinami DI įrankiai jau yra pakankamai galingi, kad netinkamose rankose mažintų „įėjimo kainą“ sudėtingoms operacijoms.

    Kur DI kelia didžiausią riziką

    Ataskaitoje minimi atvejai, kai DI buvo pasitelkiamas automatizuoti kibernetines atakas, kurti kenkėjiško kodo fragmentus ar tobulinti žvalgybines procedūras. Saugumo ekspertai seniai perspėja, kad DI gali pagreitinti vadinamąsias „visą ciklą“ atakas, kai nuo taikinio žvalgybos iki įsilaužimo veiksmų pereinama gerokai greičiau.

    „Anthropic“ taip pat aprašo bandymus naudoti „Claude“ masinei stebėsenai ir propagandos sklaidai, įskaitant didelių socialinių tinklų duomenų kiekių analizę. Praktikoje tai gali reikšti efektyvesnį turinio filtravimą, auditorijų segmentavimą ir pranešimų pritaikymą konkrečioms grupėms.

    Ypatingo dėmesio sulaukė teiginiai apie galimus bandymus DI pasitelkti biologinės rizikos srityje, kai tyrėjai domėjosi pavojingais patogenais ar eksperimentais, galinčiais turėti dvejopą paskirtį. „Anthropic“ pabrėžia, kad ne visais atvejais galima vienareikšmiškai nustatyti, ar užklausos buvo teisėto mokslo dalis, tačiau nerimą kelia mėginimai slėpti tikslus ir apeiti geografinius ribojimus.

    Ką daro „Anthropic“ ir ko tikisi valdžios

    Bendrovė teigia, kad visus ataskaitoje aprašytus atvejus stengėsi nutraukti, o informaciją perdavė atsakingoms institucijoms ir pramonės partneriams. Taip pat buvo griežtinami apsaugos mechanizmai, apimantys paskyrų patikrą, piktnaudžiavimo aptikimą ir papildomus filtrus jautrioms temoms.

    „Mes nesiekiame dramatizuoti. Norime parodyti, kaip ši technologija gali būti piktnaudžiaujama jau šiandien“, – sakė „Anthropic“ grėsmių tyrimų vadovas Jacobas Kleinas.

    Šis pranešimas įsilieja į platesnį JAV ir Europos diskusijų kontekstą, kai DI modelių kūrėjai raginami daugiau investuoti į saugą ir skaidrumą. Reguliuotojai bei įstatymų leidėjai vis dažniau akcentuoja, kad vien savanoriškų priemonių gali nepakakti, jei tarpininkų rinka ir pavogtų paskyrų prekyba leidžia lengvai apeiti apribojimus.

  • Paklausė DI, kaip sulieknėti, ir numetė 16 kg: eksperimentas atskleidė netikėtą dalyką

    JAV vartotojų teisių ir produktų testavimo leidinio Consumer Reports žurnalistas Nikolas De Leonas nusprendė praktiškai patikrinti, ar dirbtinis intelektas gali padėti saugiai ir tvariai sulieknėti. Kelių mėnesių eksperimentas baigėsi akivaizdžiais skaičiais: jis atsikratė apie 16 kilogramų.

    Pradžioje, dar rugsėjį, vyras svėrė apie 88,5 kilogramo, jo ūgis siekė 175 centimetrus, o liemens apimtis buvo maždaug 109 centimetrai. Jis jau buvo bandęs greitą metodą, per du mėnesius numetė apie 9 kilogramus, tačiau vėliau prastai jautėsi ir per metus priaugo svorį atgal.

    Šį kartą tikslas buvo kitoks: mažinti svorį lėčiau, maždaug po 0,5 kilogramo per savaitę, kartu stengiantis išsaugoti raumenų masę. Pirmieji pokyčiai buvo paprasti ir praktiški: daugiau vaikščiojimo, mitybos fiksavimas ir sąmoningas baltymų kiekio sekimas.

    Vėliau žurnalistas į pagalbą pasitelkė „Google“ sprendimą „Gemini“ ir pateikė jam pagrindinius duomenis apie amžių, ūgį, svorį, tikslus bei ankstesnę patirtį sportuojant. DI pasiūlė struktūruotą jėgos treniruočių planą keturis kartus per savaitę, paremtą baziniais pratimais, tokiais kaip pritūpimai, spaudimas gulint ir mirties trauka.

    Kad rekomendacijos būtų patikrintos, De Leonas pradėjo naudoti ir „Anthropic“ sistemą „Claude“, lygindamas dviejų įrankių atsakymus. Jo teigimu, vienas DI tapo treniruočių plano konstravimo pagalbininku, o kitas labiau pasiteisino tikrinant skaičiavimus ir analizuojant progresą.

    Eksperimento metu jis reguliariai svėrėsi, matavo liemens apimtį ir fiksavo treniruočių rezultatus, kad sprendimai būtų paremti duomenimis, o ne nuotaika. Iki birželio pradžios svoris sumažėjo iki maždaug 72,6 kilogramo, o liemens apimtis krito iki maždaug 95 centimetrų, kūno riebalų dalį jis vertino apie 19 proc.

    Šis atvejis gerai atspindi, kaip šiandien DI dažniau naudojamas ne kaip stebuklingas sprendimas, o kaip planavimo ir informacijos suvaldymo priemonė. Vis dėlto specialistai pabrėžia ribas: DI negali realiu laiku įvertinti pratimų technikos, todėl ypač pradedantiesiems svarbu konsultuotis su treneriu ar gydytoju, o esant sveikatos problemoms neeksperimentuoti savarankiškai.

    Pats De Leonas pabrėžė, kad sėkmę lėmė ne vien DI, o nuoseklumas ir aiški sistema, kurios laikytis teko pačiam. DI šiame procese atliko mentoriaus užrašų knygelės vaidmenį: padėjo suformuluoti tikslus, susidėlioti rutiną ir suprasti, ką rodo surinkti duomenys.

  • Niujorkas užveria DI mokyklose: iki 8 klasės blokuos „ChatGPT“ ir „Claude“

    Niujorkas užveria DI mokyklose: iki 8 klasės blokuos „ChatGPT“ ir „Claude“

    Vienas didžiausių JAV švietimo tinklų nusprendė griežtai apriboti generatyvų DI pradinėse ir pagrindinėse klasėse. Niujorko miesto valstybinėse mokyklose planuojama blokuoti tokias paslaugas kaip „ChatGPT“ ir „Claude“ mokiniams nuo 2 iki 8 klasės.

    Skelbiama, kad ribojimai paliestų beveik 600 000 vaikų, o taisyklės iš pradžių būtų taikomos vienerius metus. Per šį laikotarpį administracija, mokytojai ir tėvai vertins, kaip DI veikia mokymosi rezultatus, savarankiškumą ir tarpusavio santykius mokykloje.

    Apribojimai siejami ne tik su akademiniu sąžiningumu, bet ir su saugumu bei kontrole. Miestas ketina išjungti DI funkcijas daugiau nei 38 anksčiau naudoti leistose programose, motyvuodamas griežtesniais reikalavimais duomenų apsaugai ir technologijų priežiūrai.

    „Technologijų industrija nori, kad patikėtume: DI ankstyvajame ugdyme yra ne tik neišvengiamas, bet ir būtinas. Mes to taip nematome“, – sakė Niujorko meras Zohranas Mamdani.

    Vyresnių klasių mokiniai galėtų gauti prieigą prie riboto DI įrankių rinkinio, tačiau kartu būtų stiprinamas kritinio vertinimo ugdymas. Tokia kryptis atitinka augančią tarptautinę tendenciją mokyklose ne tik diegti skaitmenines priemones, bet ir mokyti atpažinti netikslumus, šališkumą bei turinio generavimo ribas.

    Mokytojams DI žadama palikti kaip pagalbinę priemonę pamokų planavimui ir medžiagos rengimui. Tačiau DI nebūtų leidžiama naudoti mokinių darbams vertinti ar sprendimams dėl pažymių priimti, siekiant išvengti skaidrumo ir atsakomybės problemų.

    Didžiausias iššūkis išlieka kontrolė už mokyklos ribų, nes mokiniai gali naudotis pokalbių robotais namuose, atlikdami namų darbus. Niujorko mokyklų kanclerė Kamar Samuels pabrėžė, kad realus poveikis priklausys nuo bendradarbiavimo su tėvais ir aiškių susitarimų dėl naudojimo namų aplinkoje.

    Šie sprendimai yra platesnės politikos dalis, kuria siekiama mažinti laiką prie ekranų pagal amžių ir aiškiau apibrėžti, kokios skaitmeninės priemonės klasėse yra būtinos. Numatomos išimtys mokiniams su negalia ir tiems, kuriems reikia papildomos pagalbos mokantis anglų kalbos.

    Niujorke taip pat buriama darbo grupė iš mokytojų, tėvų ir mokinių atstovų, kuri analizuos vienerių metų ribojimų rezultatus ir teiks rekomendacijas ateičiai. Jei priemonės pasiteisins, tikėtina, kad bus pereita prie nuolatinės tvarkos, aiškiau atskiriančios, kada DI yra mokymosi pagalbininkas, o kada tampa rizika mokinių savarankiškumui.

  • „Anthropic“ IPO jau čia pat: rekordas, 55,6 mlrd. eurų pajamos ir rizikos, kurios gąsdina

    „Anthropic“ IPO jau čia pat: rekordas, 55,6 mlrd. eurų pajamos ir rizikos, kurios gąsdina

    „Anthropic“ IPO jau artėja

    DI bendrovė „Anthropic“, kurianti pokalbių robotą „Claude“, rengiasi pirminiam akcijų platinimui. Rinkos dalyviai tikisi, kad debiutas Volstrite gali tapti vienu didžiausių pastarųjų metų technologijų sektoriuje.

    Bendrovės šuolį kursto spartus pajamų augimas ir investuotojų apetitas DI istorijoms, tačiau kartu išryškėja ir rizikos. Tarp jų – dideli nuostoliai, reguliacinis neapibrėžtumas ir politinė trintis JAV.

    Kas stovi už „Claude“ kūrėjų

    „Anthropic“ įkurta 2021 metais buvusių „OpenAI“ vadovų ir tyrėjų, akcentavusių DI saugumo klausimus. Bendrovei vadovauja generalinis direktorius Dario Amodei, turintis biofizikos daktaro laipsnį, o prezidentės pareigas eina bendraįkūrėja Daniela Amodei.

    Rinkos duomenų platformos „PitchBook“ vertinimu, „Anthropic“ darbuotojų skaičius siekia apie 5 000. Toks mastas rodo, kad konkurencija pažangiausių modelių rinkoje jau seniai peržengė startuolių fazę.

    Pajamas kelia programuotojai ir verslas

    Kol dalis konkurentų plėtėsi į daugybę vartotojams skirtų krypčių, „Anthropic“ daugiau dėmesio skyrė įrankiams kūrėjams ir įmonėms. Praktikoje tai reiškia integracijas, automatizavimą ir programavimo užduočių spartinimą, už ką verslo klientai dažniau sutinka mokėti.

    Skelbiama, kad bendrovės metinis pajamų tempas viršija 65 mlrd. JAV dolerių, tai yra apie 55,6 mlrd. eurų. Vienu svarbiausių produktų įvardijamas programuotojams skirtas sprendimas „Claude Code“.

    Politinis fonas ir teisinė nežinomybė

    Į IPO bendrovė ateina ne pačiu ramiausiu politiniu metu. Pranešama apie konfliktą su Donaldo Trumpo administracija dėl prieigos prie DI modelių ir jų taikymo valstybės poreikiams, o tai investuotojams kelia papildomų klausimų.

    Situaciją apsunkina tai, kad teisiniai ginčai dėl sutarčių, tiekimo grandinės rizikų ar prieigos sąlygų gali trukti metus. Tokie procesai paprastai didina neapibrėžtumą ir gali paveikti tiek reputaciją, tiek galimybes dirbti su viešuoju sektoriumi.

    Milžiniškos išlaidos ir investuotojų kantrybė

    Pažangių DI modelių kūrimas reikalauja didžiulių skaičiavimo išteklių, duomenų centrų infrastruktūros ir brangios inžinerijos. Dėl to net sparčiai augančios pajamos nebūtinai reiškia greitą pelningumą, ypač jei konkurencija verčia nuolat didinti investicijas.

    Žiniasklaidoje skelbta, kad 2025 metais „Anthropic“ patyrė beveik 42 mlrd. JAV dolerių nuostolį, tai yra apie 36 mlrd. eurų. Toks skaičius reiškia, kad IPO investuotojams teks vertinti ne tik augimą, bet ir tai, kiek ilgai bendrovė galės finansuoti plėtrą.

    Pasak rinkos pranešimų, „Anthropic“ gali siekti pritraukti didesnę sumą nei 2026 metų birželį įvykęs „SpaceX“ IPO, kuriame buvo surinkta daugiau kaip 75 mlrd. JAV dolerių, tai yra apie 64,3 mlrd. eurų. Jei tai pasitvirtintų, platinimas pretenduotų į rekordinius technologijų rinkos sandorius.

  • DI šokas biotechnologijose: „Anthropic“ Claude beveik trigubai pralenkė įprastą baltymų kūrimo normą

    DI šokas biotechnologijose: „Anthropic“ Claude beveik trigubai pralenkė įprastą baltymų kūrimo normą

    „Anthropic“ sukurti agentiniai dirbtinio intelekto modeliai „Claude Mythos Preview“ ir „Claude Opus 4.8“ pasiekė rekordinį autonominio baltymų, galinčių „prisijungti“ prie pasirinktų biologinių taikinių, projektavimo rezultatą. Nepriklausomų laboratorijų „Adaptyv Bio“ ir „Twist Bioscience“ bandymuose sistema sėkmingai sugeneravo veikiančius junginius 14 iš 15 vertintų terapinių taikinių, o bendra sėkmė siekė 22,6–35,1 proc. Tai gerokai viršija dažnai minėtą 10–15 proc. lygį, būdingą ankstesnėms tokio tipo kampanijoms.

    Esminis pokytis – ne vien geresnis tikslumas, bet ir proceso automatizavimas. Ten, kur anksčiau skaičiavimų ir atrankų etapas reikalavo ištisų savaičių žmogaus darbo, šį kartą DI pats parinko „atakos“ vietas taikinyje, pasirinko generavimo metodus, sukūrė baltymų karkasus ir optimizavo sekas. Iš 1 320 suprojektuotų struktūrų laboratorijoje realiai susintetinta ir patikrinta 354, patvirtinant, kad skaitmeniniai sprendimai gali virsti apčiuopiamais molekuliniais rezultatais.

    Ryškiausias pavyzdys užfiksuotas su taikiniu RBX1 – nedideliu baltymu, dalyvaujančiu ląstelės „atliekų“ tvarkymo mechanizmuose. Atvirame dizaino konkurse, kuriame dalyvavo 245 žmonės, sėkmė siekė 3,7 proc., o „Claude Mythos Preview“, dirbdamas su vienu taikiniu, pasiekė 40 proc. Tokie skirtumai rodo, kad agentiniai modeliai gali perkelti biotechnologijų eksperimentus į naują produktyvumo lygį.

    Skirtumas matuotas ne tik „pataikymų“ skaičiumi, bet ir ryšio stiprumu. Pranešama, kad geriausias DI sukurtas variantas su taikiniu susijungė maždaug dešimt kartų stipriau nei žmonių sukurta laimėjusi konstrukcija: 3,9 nM prieš 45 nM. Vaistų kūrime tai svarbu, nes stipresnis ir tikslesnis prisijungimas dažnai yra vienas pirmųjų žingsnių link efektyvesnės terapijos.

    Didelis efektyvumas pasiektas ir kituose taikiniuose, įskaitant TREM2, siejamą su Alzheimerio ligos tyrimais. Čia 72 iš 90 suprojektuotų baltymų parodė prisijungimą, o tai sudaro 80 proc. Tuo metu taikinyje TNFα, kuris yra svarbus priešuždegiminių vaistų kontekste, „Claude Opus 4.8“ sukūrė prisijungiančias molekules ne tik žmogaus baltymui, bet ir jo analogams beždžionėse bei pelėse, kas reikšminga ikiklinikiniams tyrimams.

    Lygiagrečiai aprašytas ir kitas pasiekimas – greitesnė analitinės chemijos duomenų interpretacija. „Claude Opus 5“ gavęs žalius NMR ir LC-MS failus bei trumpą užduotį, analizę atliko atitinkamai per 23 ir 19 minučių, kai tradicinis laboratorinis raportas, teigiama, užtruko 4 dienas. Ċia svarbu tai, kad DI priartėja prie gebėjimo ne tik generuoti kandidatines molekules, bet ir greitai vertinti eksperimentinius duomenis.

    Vis dėlto kampanija atskleidė ir ribas. Sistema nesugebėjo sukurti patvirtintų prisijungiančių baltymų MBP taikiniui, kurio paviršius apibūdinamas kaip lygus ir hidrofiliškas, o vienu atveju nė vienas iš 90 bandymų nebuvo pilnai patvirtintas laboratorijoje. Papildomai pažymėta problema, kad vidiniai kokybės filtrai ne visada patikimai įspėja apie nesėkmę, nes pasitikėjimo įverčiai gali būti panašūs tiek sėkminguose, tiek nepavykusiuose bandymuose.

    Kūrėjai pabrėžia, kad prisijungiančio baltymo sukūrimas yra tik pradžia, o iki vaisto dar lieka ilgas kelias: optimizavimas, saugumo patikros ir klinikiniai tyrimai. Tačiau tokie rezultatai keičia pradinio etapo ekonomiką, nes ankstyvasis paieškos ir atrankos darbas gali būti atliekamas greičiau ir su mažesnėmis komandomis. Nurodoma, kad vienos tokios kampanijos skaičiavimo ir infrastruktūros kaštai siekė maždaug 9 000–46 000 eurų.

    Infrastruktūra rėmėsi „Claude Science“ aplinka ir „Modal“ skaičiavimo resursais, tačiau prieiga prie biologinio projektavimo funkcijų plačiajai auditorijai ribojama. „Anthropic“ aiškina, kad taip elgiasi dėl dvigubo panaudojimo rizikos, kai pažangūs biologinio dizaino įrankiai teoriškai galėtų būti nukreipti ir į žalingus tikslus. Bendrovė žada prieigą atverti per atskirą programą, skirtą tik patikrintiems mokslininkams ir tyrimų institucijoms.

    Ilgalaikė kryptis aiški: biotechnologijos juda link modelių, kurie galėtų autonomiškai sujungti visą grandinę nuo idėjos iki kandidato testavimo planų, apimdami skirtingų tipų terapines molekules. Jei tokios sistemos taps patikimesnės, jos gali reikšmingai sutrumpinti ankstyvąją vaistų kūrimo fazę ir sumažinti kliūtis mažesnėms laboratorijoms, kurios iki šiol neturėjo didelių resursų didelio masto paieškai.

  • Slaptas „Anthropic“ planas „Project Panama“: teismas atskleidė, kaip dėl DI buvo naikinamos knygos

    Slaptas „Anthropic“ planas „Project Panama“: teismas atskleidė, kaip dėl DI buvo naikinamos knygos

    Kas paaiškėjo teismo dokumentuose

    Neseniai išslaptinti teismo dokumentai atskleidė, kad JAV DI bendrovė „Anthropic“ vykdė slaptą projektą, kurio metu masiškai buvo perkamos, ardomos ir skenuojamos knygos, kad jų turinys patektų į mokomąsias duomenų bazes. Projektas vidiniuose planuose vadintas „Project Panama“ ir, kaip teigiama bylos medžiagoje, buvo siejamas su ambicija destruktyviai suskaitmeninti kuo platesnį knygų fondą.

    Dokumentuose taip pat nurodoma, kad įmonės viduje buvo akcentuojamas konfidencialumas. Tokia praktika dar labiau paaštrino diskusiją apie tai, kokiomis sąlygomis kūrėjų darbas gali būti naudojamas DI modeliams mokyti.

    Kaip knygos virsdavo duomenimis

    Pagal teismo bylos medžiagoje aprašytą schemą „Anthropic“ dideliais kiekiais įsigydavo knygas iš kelių tiekėjų, o techninę skenavimo dalį perduodavo išorės rangovams. Tam esą buvo naudojama įranga, kuri fiziškai nupjaudavo knygų nugarėles ir išardydavo puslapius, kad pramoniniai skeneriai galėtų greitai nuskaityti turinį.

    Vėliau popierius, kaip teigiama aprašymuose, būdavo išgabenamas perdirbti. Kritikai pabrėžia, kad toks procesas kelia ne tik autorinių teisių, bet ir kultūrinės vertės klausimą: knyga tampa vienkartiniu žaliavos šaltiniu duomenims išgauti.

    Kodėl rinktasi knygas, o ne internetą?

    Teismo dokumentuose cituojami vidiniai argumentai rodo, kad knygos buvo laikomos kokybiškesniu šaltiniu nei interneto tekstai. Knygų kalba paprastai yra redaguota, nuosekli, o stilius ir struktūra gali padėti DI geriau „išmokti rašyti“, palyginti su netvarkingais, trumpais ar dirbtinai generuotais interneto įrašais.

    Kitas motyvas, minimas bylos kontekste, susijęs su rizika, kad DI modeliai, mokomi iš DI sugeneruoto turinio, ilgainiui praranda kokybę. Todėl leidybiniai tekstai, sukurti žmonių ir perėję redagavimą, įmonei atrodė kaip patikimesnė ir „švaresnė“ mokymosi medžiaga.

    Autorinės teisės ir atsiskaitymas su autoriais

    „Project Panama“ viešumon iškilo per autorinių teisių ginčą, kurį inicijavo grupė autorių. Jie teigė, kad jų kūriniai buvo panaudoti DI modeliams mokyti be leidimo, o dalis medžiagos galėjo būti gauta neteisėtais kanalais, pavyzdžiui, iš vadinamųjų šešėlinių bibliotekų.

    Bylos medžiagoje taip pat aptariamas skirtumas tarp teisėtai įsigytų knygų skenavimo ir atvejų, kai turinys galėjo būti parsisiųstas neturint teisių. Teisinis vertinimas tokiose bylose paprastai remiasi tuo, kaip buvo gauta medžiaga, kokiu mastu ji kopijuota ir ar tokį naudojimą galima laikyti leistinu pagal galiojančias išimtis.

    „Klausimas, kurį sprendėme, buvo susijęs su kai kurių medžiagų gavimo būdu, o ne su pačia galimybe jas naudoti DI plėtrai“, – sakė „Anthropic“ atstovė, komentuodama poziciją dėl ginčo esmės.

    Ką tai keičia DI rinkoje

    Ši istorija sustiprina platesnę tendenciją: didelės DI bendrovės vis dažniau susiduria su autorinių teisių ieškiniais, o teismų praktika tampa vienu svarbiausių veiksnių, nulemiančių, kaip ateityje bus formuojamos mokymo duomenų bazės. Kartu auga spaudimas kurti aiškesnius licencijavimo modelius, kad autoriai ir leidėjai galėtų pasirinkti, ar jų kūriniai gali būti naudojami DI mokymui ir kokiomis sąlygomis.

    Ekspertai pabrėžia, kad sprendimai šioje srityje turės ilgalaikių pasekmių: nuo DI sistemų kokybės iki kultūros sektoriaus pajamų ir kūrėjų motyvacijos. Kuo daugiau bylų pasieks susitarimus ar precedentinius sprendimus, tuo aiškesnės taps taisyklės, kas leidžiama, o kas laikoma piktnaudžiavimu.

  • „Alibaba“ meta iššūkį „Claude“: Qwen DI esą dirbo 5 dienas vienas ir nustebino rezultatais

    „Alibaba“ meta iššūkį „Claude“: Qwen DI esą dirbo 5 dienas vienas ir nustebino rezultatais

    Kinijos technologijų milžinė „Alibaba“ pristatė naują Qwen šeimos dirbtinio intelekto modelį, kurį įmonės komanda apibūdina kaip gebantį ilgą laiką atlikti sudėtingas užduotis beveik be žmogaus priežiūros. Skelbiama, kad modelis pritaikytas programavimui, darbiniams procesams, tyrimams ir ilgoms, kelių etapų užduotims.

    Pasak Qwen komandos, viename demonstraciniame bandyme modelis apie 125 valandas, tai yra maždaug 5 paras, dirbo „visiškai savarankiškai“ ir atkūrė matematikos mokslo straipsnio eksperimento dalį nuo nulio, o vėliau pasiūlė patobulinimų. Tai būtų vienas ryškiausių viešai pristatomų ilgo veikimo pavyzdžių, tačiau svarbu pažymėti, kad tokių rezultatų nepriklausomi tyrėjai nepatvirtino.

    „Modelis gali išlikti produktyvus ilgą laiką be nuolatinės žmogaus priežiūros ir užbaigti daugiasluoksnes užduotis“, – teigiama Qwen komandos pranešime.

    „Alibaba“ taip pat mini atvejį, kai modelis dalyvavo realaus laiko internetiniame konkurse, kuriame varžėsi 526 žmonių komandos. Skelbiama, kad per 24 valandų terminą DI aplenkė didžiąją dalį dalyvių ir nusileido tik 68 komandoms, tačiau detali bandymo metodika ir vertinimo kriterijai viešai aprašomi ribotai.

    Panašūs pažadai JAV rinkoje

    „Alibaba“ pareiškimai sutampa su tuo, ką pastaruoju metu akcentuoja JAV startuolis „Anthropic“ apie savo „Claude“ ekosistemą. Įmonė komunikuoja, kad jos sprendimai gali planuoti darbus, taisyti kodą, vykdyti testavimą ir atlikti ilgesnes užduotis su minimaliu žmogaus įsikišimu.

    Ši konkurencija atspindi platesnę tendenciją: DI kūrėjai siekia, kad modeliai ne tik atsakinėtų į klausimus, bet ir patys planuotų veiksmų seką, naudotų įrankius, tikrintų savo tarpinius rezultatus ir valdytų ilgus projektus. Rinkoje tai dažnai vadinama perėjimu nuo pokalbių DI prie agentinio DI, nors realūs gebėjimai labai priklauso nuo testavimo sąlygų ir kontrolės priemonių.

    Kodėl tai svarbu dabar

    Naujasis Qwen pristatymas yra reikšmingas ir geopolitiniame kontekste, nes JAV pastaraisiais metais griežtino pažangių lustų eksporto ribojimus Kinijai. Tokios priemonės siejamos su bandymais sulėtinti Kinijos pažangių skaičiavimo pajėgumų augimą, o tai tiesiogiai veikia didžiųjų kalbos modelių mokymą ir diegimą.

    „Alibaba“ žinutė investuotojams ir rinkai aiški: įmonė nori parodyti, kad Kinijos DI laboratorijos gali konkuruoti dėl aukščiausios klasės rezultatų ne tik kalbos supratimo, bet ir ilgo, savarankiško darbo scenarijuose. Vis dėlto, kol nėra išsamių nepriklausomų vertinimų, tokius teiginius verta vertinti atsargiai ir laukti standartizuotų, palyginamų testų bei viešai prieinamų techninių detalių.

  • DI iškėlė nerimą kriptografams: „Anthropic“ modelis per 60 valandų rado spragą HAWK

    DI iškėlė nerimą kriptografams: „Anthropic“ modelis per 60 valandų rado spragą HAWK

    JAV bendrovės „Anthropic“ dirbtinio intelekto modelis „Claude Mythos Preview“ per maždaug 60 valandų aptiko reikšmingą struktūrinę spragą kriptografijos schemoje HAWK, kuri buvo laikoma viena perspektyvių kandidacijų vadinamiesiems postkvantiniams standartams. Tai nustebino tyrėjus, nes panašių testų ir auditų procesai įprastai trunka mėnesius ar net metus.

    Pasak publikuotų tyrimo rezultatų, aptikta savybė sumažino HAWK-256 bandyminei versijai priskiriamą saugumo ribą: teorinis atakos sudėtingumas nuo 2^64 sumažėjo iki 2^38 operacijų. Praktikoje tai reiškia, kad demonstracinė ataka tapo gerokai pigesnė ir greitesnė, nors realiose sistemose ši konkreti bandomoji versija šiuo metu nenaudojama.

    Kas yra HAWK ir kodėl tai svarbu

    HAWK yra skaitmeninių parašų schema, kuri kuriama įvertinant perspektyvą, kad kvantiniai kompiuteriai ateityje galėtų padaryti dalį šiandien paplitusių metodų, tokių kaip RSA ar ECDSA, nepraktiškai nesaugius. Dėl to įvairios institucijos ir pramonė jau dabar planuoja perėjimą prie postkvantinės kriptografijos, kad kritinės sistemos būtų pasiruošusios iš anksto.

    HAWK saugumas siejamas su grotelinių konstrukcijų sudėtingumu, o tyrime minima, kad modelis aptiko papildomą, anksčiau praktikoje neįvertintą struktūrinę savybę, kuri leido sukurti efektyvesnį atakos scenarijų. Būtent tokios, iš pirmo žvilgsnio akademiškos detalės kriptografijoje dažnai lemia, ar schema išlieka patikima diegimui plačiu mastu.

    Vis dėlto svarbu pabrėžti, kad kalbama apie kandidatą ir jo bandomąjį parametrų rinkinį, o ne apie šiandien bankuose ar naršyklėse veikiančias masiškai naudojamas sistemas. Praktinė rekomendacija, kylanti iš šio rezultato, būtų didinti raktų dydžius, tačiau tai mažintų HAWK pranašumą, susijusį su kompaktiškumu ir našumu.

    „Möbius Bridge“ ir AES: kodėl vartotojams panikuoti nereikia

    Antrasis rezultatas susijęs su AES-128, tačiau ne su pilna, realiai naudojama 10 raundų versija, o su akademiniu požiūriu dažnai analizuojama 7 raundų, supaprastinta atmaina. Tokios supaprastintos versijos tiriamos tam, kad būtų geriau suprantamos šifro saugumo atsargos ir galimi teoriniai silpnėjimo taškai.

    Modelis pasiūlė naują atakos optimizavimo techniką, pavadintą „Möbius Bridge“, kuri, pateiktais duomenimis, gali paspartinti žinomą „meet-in-the-middle“ tipo ataką 200–800 kartų prieš 7 raundų variantą. Tačiau pačios atakos prielaidos yra nepritaikomos realybei, nes reikalautų neįgyvendinamo kiekio parinktų atvirų tekstų, šifruotų tuo pačiu raktu.

    Dėl šios priežasties tyrėjų aprašyti rezultatai nereiškia, kad šiandien masiškai pažeidžiamas AES, naudojamas naršyklėse, mokėjimų infrastruktūroje ar įrenginiuose. Tai veikiau signalas, kad DI gali reikšmingai pagreitinti kriptoanalizę ten, kur anksčiau progresas buvo lėtesnis ir labiau priklausė nuo siaurai specializuotų komandų.

    Nauja tendencija: kriptoanalizė su DI

    Didžiausia šios istorijos reikšmė yra ne vien konkretus HAWK atvejis, o pats procesas: DI didžiąją dalį darbo atliko iš esmės autonomiškai, o žmonės vėliau ilgai tikrino ir formaliai pagrindė gautus rezultatus. Tai rodo besiformuojantį modelį, kai DI tampa ne tik pagalbiniu įrankiu, bet ir greitu hipotezių generatoriumi bei eksperimentinės paieškos varikliu.

    Kriptografijoje praktika aiški: algoritmai turi būti vieši, išanalizuoti bendruomenės ir atlaikyti daugybę bandymų juos „laužti“. Jei DI reikšmingai sumažina tokių bandymų kainą ir laiką, tikėtina, kad kandidatų atranka ir standartizavimo procesai turės dar labiau remtis nuolatiniu, iteraciniu auditu ir greitesniu parametrų koregavimu.

    Kartu tai kelia ir naują klausimą: perėjimas prie postkvantinės kriptografijos iki šiol buvo siejamas pirmiausia su kvantinių kompiuterių rizika, tačiau DI pagreitinta kriptoanalizė gali sukelti spaudimą kur kas anksčiau. Organizacijoms tai reiškia poreikį ne tik planuoti migraciją, bet ir nuolat sekti kandidatų būklę, atnaujinimus bei akademinės bendruomenės išvadas.

  • DI eksperimentas virto skandalu: „Anthropic“ modeliai prasibrovė į kitų organizacijų sistemas

    Dirbtinio intelekto saugumo tema vėl atsidūrė dėmesio centre, kai „Anthropic“ patvirtino, kad per vidinius bandymus jos modeliai sugebėjo išeiti už izoliuotos aplinkos ribų ir pasiekti kitų organizacijų sistemas. Bendrovė teigia, kad tai nutiko dėl neteisingos konfigūracijos, kai testinė aplinka, turėjusi būti atjungta nuo interneto, liko pasiekiama iš išorės.

    Pasak „Anthropic“, incidentas įvyko vykdant vadinamuosius capture the flag tipo pratimus, kurie kibernetinio saugumo srityje naudojami pažeidžiamumams ir gynybos spragoms identifikuoti. Tokiose simuliacijose užduotis paprastai būna rasti paslėptą informaciją kontroliuojamoje infrastruktūroje, tačiau šįkart pratybų riba tapo nepakankamai aiški dėl aplinkos nustatymų klaidos.

    „Anthropic“ nurodė, kad modeliai naudojo elementarias taktikas, įskaitant silpnus slaptažodžius ir viešai pasiekiamus prieigos taškus. Dėl to buvo gauta prieiga prie trijų organizacijų sistemų, o dvi iš jų apie galimą įsibrovimą sužinojo tik po to, kai apie incidentą jas informavo pati bendrovė.

    „Šis atvejis mums parodė, kad net testavimo metu būtina taikyti griežčiausius izoliavimo ir prieigos kontrolės standartus, nes konfigūracijos klaidos gali paversti simuliaciją realaus pasaulio incidentu“, – sakė „Anthropic“ atstovas.

    Kas kelia didžiausią nerimą?

    Saugumo ekspertai tokio pobūdžio situacijas vertina kaip signalą, kad DI sistemų gebėjimai gali būti panaudoti ne tik gynybai, bet ir puolimui, ypač kai jos turi prieigą prie tinklų ar automatizuotų veiksmų grandinių. Net jei konkrečiu atveju buvo kalbama apie testinį scenarijų, pats faktas, kad klaidingai sukonfigūruota aplinka leido pasiekti realias sistemas, pabrėžia įprastų kibernetinio saugumo principų svarbą.

    Praktikoje tai reiškia, kad organizacijoms tampa kritiška ne tik riboti DI įrankių teises, bet ir užtikrinti, jog bandymų infrastruktūra būtų fiziškai ir logiškai atskirta. Vis dažniau akcentuojamas ir vadinamasis mažiausių privilegijų principas, kai sistemoms suteikiama tik tiek teisių, kiek būtina konkrečiai užduočiai.

    Ką padarė „Anthropic“ po incidento?

    Bendrovė pranešė sustabdžiusi kibernetinio pobūdžio eksperimentus liepos 23 dieną ir informavusi paveiktas organizacijas liepos 27 dieną. Tokia seka atitinka įprastą incidentų valdymo praktiką, kai pirmiausia stabdomas riziką keliantis procesas, o vėliau atliekamas informavimas ir rizikos mažinimo veiksmai.

    Pastaruoju metu DI ir kibernetinio saugumo sankirta tampa viena jautriausių technologijų temų, nes didėjantis modelių savarankiškumas ir jų taikymas automatizuotose darbo eigose didina klaidų kainą. Incidentas primena, kad technologinis progresas turi eiti kartu su griežtu procesų valdymu, auditu, prieigos kontrole ir aiškiai apibrėžtomis testavimo ribomis.