CP v2

Tag: Mythos

  • „Anthropic“ pristatė silpnesnį „Fable 5“ DI modelį: žada saugiklius nuo kibernetinių atakų

    JAV bendrovė „Anthropic“ pristatė naują bendro naudojimo dirbtinio intelekto modelį „Fable 5“, kurį pati įvardija kaip sąmoningai apribotą savo pažangiausios „Mythos“ krypties versiją. Sprendimas priimtas augant diskusijoms, kaip viešai diegti itin galingus DI įrankius, kad jie nebūtų lengvai pritaikomi kenkėjiškiems veiksmams.

    Pasak „Anthropic“, „Fable 5“ išlaiko aukštą bendrą našumą, tačiau jautrios sritys, tokios kaip kibernetinis saugumas ar biologija, apdorojamos per mažiau pajėgų modelį „Opus 4.8“. Tokiu būdu įmonė siekia sumažinti tikimybę, kad vartotojai išgaus instrukcijas kibernetinėms atakoms ar kitoms pavojingoms veikloms.

    „Tokio pajėgumo modelio išleidimas kelia rizikų. Be saugiklių, „Fable 5“ gebėjimai, pavyzdžiui, kibernetinio saugumo srityje, galėtų būti panaudoti padaryti rimtą žalą“, – teigė „Anthropic“.

    Kartu bendrovė paskelbė ir apie „Claude Mythos 5“ atnaujinimą, kuris iki šiol buvo pasiekiamas tik ribotam ratui organizacijų. Ši prieiga siejama su programa „Project Glasswing“, orientuota į kritinės infrastruktūros saugos stiprinimą ir pažeidžiamumų paiešką dar iki platesnio modelių prieinamumo.

    „Anthropic“ teigimu, „Fable 5“ remiasi ta pačia pagrindine architektūra kaip ir „Mythos“, tačiau viešajam naudojimui taikomi griežtesni ribojimai. Tuo metu dalyviai, dirbantys su „Project Glasswing“, gali turėti platesnes galimybes, nes jų naudojimo scenarijai labiau kontroliuojami ir nukreipti į gynybą.

    Įmonė taip pat signalizuoja ketinanti plėsti prieigą prie „Mythos“ modelių, nes konkurencija tarp JAV kūrėjų dėl pažangiausių sprendimų aštrėja. Paraleliai stiprėja ir politinis spaudimas: pastaraisiais mėnesiais JAV vis aktyviau svarsto, kaip užtikrinti, kad naujos kartos DI įrankiai stiprintų kibernetinę gynybą, bet kartu nebūtų lengvai pritaikomi piktnaudžiavimui.

    Rizikų tema aktuali ne vien „Anthropic“: pažangūs modeliai jau dabar naudojami automatizuotai analizuoti programinį kodą, aptikti klaidas ir vertinti konfigūracijas. Tačiau tos pačios funkcijos gali būti nukreiptos ir į silpnų vietų paiešką, todėl dalis bendrovių renkasi vadinamąjį diferencijuotą prieigos modelį, kai jautresnės galimybės atveriamos tik patikrintiems partneriams.

    „Anthropic“ sprendimas išleisti mažiau galingą „Fable 5“ versiją rodo bandymą suderinti du tikslus: išlaikyti rinkai patrauklų, našų DI įrankį ir kartu apriboti scenarijus, kurie galėtų kelti grėsmę kibernetiniam saugumui. Artimiausiu metu rinka stebės, ar tokie saugikliai iš tiesų veiksmingi praktikoje ir kaip greitai bus plečiama prieiga prie „Mythos 5“.

  • „Anthropic“ atveria duris ES: ENISA turėtų gauti prieigą prie DI įsilaužimų įrankio „Mythos“

    „Anthropic“ atveria duris ES: ENISA turėtų gauti prieigą prie DI įsilaužimų įrankio „Mythos“

    Kas keičiasi po susitikimo

    JAV dirbtinio intelekto bendrovė „Anthropic“ pakvietė Europos Komisiją sudaryti sąlygas, kad ES kibernetinio saugumo agentūra ENISA gautų prieigą prie jos sukurto DI įsilaužimų įrankio „Mythos“. Apie procesą informavo Europos Komisijos pareigūnas, susipažinęs su derybomis.

    Formalus kvietimas, anot pareigūno, pateiktas po praėjusį ketvirtadienį San Franciske įvykusio „Anthropic“ ir Europos Komisijos atstovų susitikimo. Tolimesnis žingsnis dabar tenka ES institucijoms, kurios turi sukurti prieigos mechanizmą ir įdiegti tinkamas saugumo priemones.

    Kodėl „Mythos“ kelia įtampą

    „Anthropic“ „Mythos“ pristatė balandžio pradžioje, pabrėždama, kad modelis gali būti ypač pajėgus aptikti ir išnaudoti kibernetinio saugumo spragas. Tokia galimybė sustiprino nuogąstavimus, jog įrankis, patekęs į priešiškų veikėjų rankas, galėtų tapti masinių atakų prieš kritines ir jautrias sistemas katalizatoriumi.

    Pastarosiomis savaitėmis Europos institucijos viešai signalizavo apie ribotą priėjimą prie pažangių kibernetinio saugumo DI sprendimų. Dalis politikų ir pareigūnų ragino užtikrinti skaidrias sąlygas, kad ES galėtų realiai įvertinti tokių modelių rizikas ir pasirengti jų poveikiui.

    Europos Komisijos pozicija ir tolesni planai

    Europos Komisijos atstovas spaudai Thomas Regnier pareiškime nurodė, kad Komisija turėjo „keletą produktyvių susitikimų su „Anthropic“ ir palankiai įvertino naujausius pokyčius dėl galimos prieigos ateityje. Pasak jo, galimybė susipažinti su įrankiu yra svarbi, siekiant geriau suprasti galimas rizikas.

    „Ši naujausia raida yra itin svarbi, kad aiškiai suprastume galimą riziką. Nepamirškime, kad „Mythos“ nėra vienintelis atvejis, į rinką ateina nauja galingų modelių banga“, – sakė Thomas Regnier.

    ENISA atstovas nurodė, kad agentūra šiuo metu dar neturi aktyvios prieigos, tačiau dirba, kad ji būtų įgyvendinta. Tai reiškia, kad praktinė prieiga priklausys nuo techninių ir procedūrinių apsaugos sluoksnių, kurie turėtų sumažinti neteisėto naudojimo riziką.

    Tuo pat metu Europos Komisija rengia formalesnį veiksmų planą, skirtą reaguoti į itin galingus DI įsilaužimų įrankius. Pramonės atstovų teigimu, Komisija signalizuoja norą šį planą paskelbti iki vasaros pertraukos.

    Diskusijos Briuselyje vyksta platesniame kontekste, kuriame vis dažniau akcentuojama priklausomybė nuo užsienio technologijų ir būtinybė stiprinti ES kibernetinį atsparumą. Kartu teisėsaugos pareigūnai pabrėžia, kad generatyviniai įrankiai jau dabar mažina įėjimo barjerą nusikaltimams internete, o tai didina spaudimą kuo greičiau įtvirtinti veikiančias taisykles ir praktinius saugiklius.

  • „Anthropic“ „Mythos“ sukėlė kibernetinę paniką: ekspertai sako, kad grėsmė jau seniai reali

    „Anthropic“ „Mythos“ sukėlė kibernetinę paniką: ekspertai sako, kad grėsmė jau seniai reali

    „Anthropic“ pristatytas DI modelis „Mythos“ pastarosiomis savaitėmis sukėlė nerimą bankams, technologijų bendrovėms ir valdžios institucijoms. Modeliui priskiriama galimybė masiškai aptikti iki šiol nežinomas programinės įrangos spragas, kurios gali tapti atakų vartais.

    Tačiau kibernetinio saugumo tyrėjai pabrėžia, kad pati esmė nėra nauja: panašias spragas jau dabar galima rasti pasitelkiant viešai prieinamus modelius ir automatizuotas darbo sekas. Kitaip tariant, panika kilo dėl pavadinimo ir masto, o ne dėl visiškai naujai atsiradusios technikos.

    Kas iš tikrųjų gąsdina?

    Didžiausias susirūpinimas siejamas su vadinamosiomis nulinės dienos spragomis, kai pažeidžiamumas dar nėra pataisytas, o užpuolikai turi laiko jį išnaudoti. Ekspertų teigimu, DI vis labiau mažina barjerą ne tik spragas rasti, bet ir jas įvertinti bei pritaikyti atakai.

    „Šiandien turimi modeliai jau yra pakankamai galingi nulinės dienos spragoms aptikti dideliu mastu, ir to visiškai pakanka, kad būtų baisu“, – sakė kibernetinio saugumo bendrovės Vidoc vadovė Klaudia Kloc.

    Pasak tyrėjų, lemiamas veiksnys dažnai yra ne vienas ypač pažangus modelis, o orkestravimas, kai užduotys skaidomos į dalis, o keli įrankiai ar modeliai lygiagrečiai tikrina kodą ir rezultatus. Toks metodas leidžia pasiekti panašų efektą net ir naudojant senesnius ar pigesnius sprendimus.

    Gynyba nespėja paskui puolimą

    Įmonės jau seniai susiduria su problema, kad spragos išnaudojamos per valandas, o pataisymai diegiami dienomis ar savaitėmis, ypač kai reikia stabdyti kritines sistemas. DI tik pagreitina šį disbalansą, nes padidina atrandamų pažeidžiamumų skaičių ir sutrumpina laiką iki realios atakos.

    „Industrija panikuoja dėl spragų kiekio, bet net ir be „Mythos“ daug kas nespėja jų tvarkyti pakankamai greitai“, – sakė kibernetinio saugumo bendrovės watchTowr vadovas Benas Harrisas.

    Ši dinamika, pasak ekspertų, suteikia pradinį pranašumą puolimui: užpuolikai gali greičiau rasti, patikrinti ir pritaikyti pažeidžiamumus, o gynybos komandos dažnai įstringa tarp prioritetų, atnaujinimų rizikos ir ribotų resursų.

    Rizika ir reguliavimo spaudimas

    „Anthropic“ „Mythos“ platinimą ribojo, suteikdama prieigą tik atrinktoms JAV bendrovėms, tarp jų „Apple“, „Amazon“ ir „JPMorgan Chase“, taip pat „Palo Alto Networks“. Tokia strategija aiškinama siekiu sumažinti tikimybę, kad pažangūs pajėgumai greitai pateks piktavaliams.

    Kartu tai sustiprino diskusijas dėl valdžios priežiūros DI modeliams, ypač tiems, kurie gali būti pritaikyti išnaudojimų kūrimui ar automatizuotam pažeidžiamumų ieškojimui. Kritikai atkreipia dėmesį, kad pernelyg uždaras platinimas gali riboti nepriklausomą vertinimą ir lėtinti gynybinių priemonių kūrimą platesnėje bendruomenėje.

    Ekspertai sutaria dėl vieno: kibernetinė rizika sparčiai auga ne todėl, kad atsirado vienas konkretus modelis, o todėl, kad DI ir automatizavimas tapo prieinami, lengvai derinami tarpusavyje ir greitai pritaikomi. Organizacijoms tai reiškia būtinybę investuoti į pažeidžiamumų valdymą, greitesnį atnaujinimų diegimą ir nuolatinį sistemų stebėjimą, nes grėsmė jau veikia dabar.

  • Pentagonas „Anthropic“ laiko rizika, bet DI modelis „Mythos“ kelia naują saugumo lūžį

    Pentagonas „Anthropic“ laiko rizika, bet DI modelis „Mythos“ kelia naują saugumo lūžį

    Pentagono vyriausiasis technologijų pareigūnas Emilis Michaelas pareiškė, kad bendrovė „Anthropic“ ir toliau laikoma tiekimo grandinės rizika, todėl jos DI sprendimai JAV gynybos sektoriuje išlieka faktiškai uždrausti. Vis dėlto, pasak jo, atskirai vertinamas „Anthropic“ modelis „Mythos“, turintis pažangių kibernetinių galimybių.

    Emilis Michaelas teigė, kad „Mythos“ klausimas tapo platesniu, visos valdžios mastu sprendžiamu nacionalinio saugumo iššūkiu. Jo logika paprasta: jei modelis gali padėti aptikti pažeidžiamumus, valstybė privalo įsitikinti, kad tinklai yra pakankamai sustiprinti ir taisymo procesai veikia greitai.

    „„Mythos“ klausimas yra atskiras nacionalinio saugumo momentas: turime užtikrinti, kad tinklai būtų sustiprinti, nes modelis turi specifinių gebėjimų rasti kibernetines spragas ir padėti jas taisyti“, – sakė Emilis Michaelas.

    Šis komentaras pasirodė po viešai įsiplieskusio Pentagono ir „Anthropic“ konflikto, kai JAV Gynybos departamentas įvardijo bendrovę tiekimo grandinės rizika. Toks statusas reiškia, kad gynybos rangovai privalo patvirtinti nenaudojantys „Anthropic“ modelių, įskaitant „Claude“, vykdydami darbus kariuomenei.

    „Anthropic“ su tokiu sprendimu nesutinka ir siekia jį panaikinti teisme, todėl lieka neaišku, kaip Pentagono struktūros galėtų naudoti „Mythos“ nepažeisdamos pačio rizikos įvardijimo logikos. Pats Emilis Michaelas pabrėžė, kad Gynybos departamentas nori aiškių apsauginių ribų, tačiau jos, pasak jo, yra derinamos ir skiriasi priklausomai nuo įmonių.

    Tuo pat metu JAV Gynybos departamentas paskelbė sudaręs susitarimus su keliomis DI bendrovėmis dėl technologijų diegimo įslaptintuose tinkluose teisėtam operaciniam naudojimui. Tarp minimų partnerių įvardijamos „Google“, „Microsoft“, „Nvidia“ ir „Amazon Web Services“, taip pat „OpenAI“ bei kitos įmonės, kurios kuria tiek uždarus, tiek atviro svorio modelius.

    Šis kontekstas išryškina platesnę tendenciją: valstybės institucijos bando suderinti dvi priešingas kryptis, spartų DI įsisavinimą ir griežtėjančius tiekimo grandinės bei kibernetinio saugumo reikalavimus. Didžiausia įtampa kyla ten, kur pažangūs modeliai gali būti naudingi gynybai, bet kartu didina nutekėjimo, piktnaudžiavimo ar priklausomybės nuo vieno tiekėjo riziką.

    „Anthropic“ vadovas Dario Amodei pastaruoju metu taip pat bendravo su aukšto lygio JAV administracijos pareigūnais, o viešojoje erdvėje nuskambėjo svarstymai, kad susitarimas tarp „Anthropic“ ir Pentagono teoriškai galėtų būti pasiektas. Tačiau kol teisiniai ginčai tęsiasi, o rizikos statusas nepanaikintas, praktiniai sprendimai dėl „Mythos“ panaudojimo išlieka politiškai ir teisiškai jautrūs.