CP v2

Tag: Anthropic

  • JAV nurodė „Anthropic“ staiga išjungti galingiausius DI modelius: įvardijo grėsmę

    JAV nurodė „Anthropic“ staiga išjungti galingiausius DI modelius: įvardijo grėsmę

    Jungtinių Valstijų institucijos nurodė DI kūrėjai „Anthropic“ apriboti prieigą prie jos pažangiausių modelių. Bendrovė teigia, kad sprendimas nesusijęs su gedimais ar techninėmis klaidomis, o motyvuotas nacionalinio saugumo argumentais.

    Pasak pranešimų, ribojimai palietė naujausios kartos modelius, kuriuos „Anthropic“ neseniai pristatė kaip reikšmingą šuolį našumo ir gebėjimų srityje. Įmonė nurodė negavusi išsamių rašytinių paaiškinimų, kokia konkreti rizika buvo identifikuota.

    „Anthropic“ atstovai tvirtina, kad jiems buvo žodžiu perduota informacija apie galimą, labai riboto masto pažeidžiamumą, – sakė bendrovės atstovas.

    Vienas svarbiausių akcentų šioje istorijoje yra vadinamasis jailbreak, kai naudotojai ar piktavaliai bando apeiti modelio saugos ribotuvus ir priversti sistemą pateikti draudžiamą informaciją. Praktikoje tai gali reikšti instrukcijas, kaip vykdyti neteisėtą veiklą, kurti kenkėjišką kodą ar ieškoti būdų pasinaudoti programinės įrangos spragomis.

    Kibernetinio saugumo ekspertai seniai pabrėžia, kad pažangūs DI įrankiai gali pagreitinti pažeidžiamumų paiešką ir automatizuoti atakų grandines. Dėl to tokie modeliai, patekę į netinkamas rankas, teoriškai gali sumažinti laiką nuo spragos aptikimo iki jos išnaudojimo, o tai ypač jautru bankams, kritinei infrastruktūrai ir didelėms informacinėms sistemoms.

    Šis atvejis išsiskiria tuo, kad JAV ribojimai tradiciškai dažniau buvo nukreipti į aparatinę bazę, reikalingą modeliams treniruoti, pavyzdžiui, aukštos klasės lustus ar serverių komponentus. Dabar akcentas persikelia į pačius modelius ir jų prieinamumą, o tai rodo griežtėjančią kontrolę sparčiai stiprėjančių DI sistemų atžvilgiu.

    „Anthropic“ teigia dirbanti, kad prieiga būtų atkurta kuo greičiau, ir pabrėžia, jog kiti bendrovės modeliai turėtų veikti įprastai. Tuo pat metu įmonė perspėja, kad per platūs apribojimai, taikomi visam sektoriui, gali sulėtinti pažangiausių DI sprendimų kūrimą ir diegimą.

  • Europa sunerimo dėl DI suverenumo: „Anthropic“ stabdo „Fable 5“ ir „Mythos 5“ prieigą užsieniečiams

    Europa sunerimo dėl DI suverenumo: „Anthropic“ stabdo „Fable 5“ ir „Mythos 5“ prieigą užsieniečiams

    JAV dirbtinio intelekto bendrovė „Anthropic“ pranešė sustabdžiusi prieigą prie savo pažangiausių DI modelių „Fable 5“ ir „Mythos 5“ užsienio piliečiams. Sprendimas priimtas gavus JAV valdžios nurodymą, motyvuojant nacionalinio saugumo rizikomis.

    Pasak įmonės, reikalavimas reiškia staigų paslaugų išjungimą visiems klientams, kurie patenka į apribojimų taikymo apimtį. „Anthropic“ teigimu, taip siekiama užtikrinti atitiktį gautam nurodymui ir išvengti galimų pažeidimų.

    Europos politikai šį žingsnį įvardijo kaip signalą, kad priklausomybė nuo neeuropietiškų DI sprendimų gali tapti strategine silpnybe. Reakcijose kartojama mintis, kad DI infrastruktūra jau prilygsta kritinėms sistemoms, todėl jos kontrolė darosi tiesiogiai susijusi su valstybių saugumu ir ekonominiu atsparumu.

    Kas sukėlė sprendimą?

    Viešai skelbiama, kad JAV valdžia išreiškė susirūpinimą dėl galimų būdų apeiti modelių saugiklius, vadinamojo „jailbreak“ rizikos. Tokie scenarijai, kai DI sistema priverčiama generuoti draudžiamą turinį ar vykdyti pavojingas užklausas, pastaraisiais metais tapo viena jautriausių temų didžiųjų modelių kūrėjams ir reguliuotojams.

    Apribojimai DI paslaugoms paprastai grindžiami eksportui ir prieigai taikomomis nacionalinio saugumo taisyklėmis, kurios vis dažniau apima ne tik fizines prekes, bet ir programinę įrangą, debesų kompiuteriją bei pažangius modelius. Tai ypač aktualu, kai DI pritaikymas gali turėti dvejopą paskirtį, pavyzdžiui, gynyboje, žvalgyboje ar kibernetinio saugumo srityse.

    Europos politikų signalai

    Prancūzijos politinėje erdvėje sprendimas sutiktas raginimais spartinti vietinių technologijų plėtrą ir investicijas į skaičiavimo resursus. Akcentuojama, kad Europa turi atskirų stiprių žaidėjų, tačiau jiems reikia daugiau kapitalo, energijos infrastruktūros ir aiškesnės valstybės paramos, kad jie galėtų konkuruoti globaliai.

    Jungtinėje Karalystėje kai kurie parlamentarai sprendimą apibūdino kaip pamoką, kaip greitai užsienio vyriausybės sprendimu gali būti nutrauktos mokslinių tyrimų, verslo bandymų ar net sveikatos sistemos pilotinių projektų grandys. Pasak jų, tai nėra vien technologijų naujiena, nes DI tampa bazine kitų sektorių produktyvumo ir konkurencingumo sąlyga.

    Nyderlanduose ir Prancūzijoje pasigirdo ir griežtesnių teiginių, kad DI jau tiesiogiai susijęs su nacionaliniu suverenumu. Politikai ragina paspartinti nuosavų modelių kūrimą, kad strateginiai sprendimai nebūtų priklausomi nuo už Atlanto priimamų ribojimų.

    Ką tai reiškia Europai?

    Ši situacija atgaivino diskusiją apie vadinamąjį DI suverenumą, kai valstybės ar regionai siekia turėti savus modelius, duomenų centrus ir debesų paslaugas. Praktikoje tai apima ne tik modelių mokymą, bet ir stabilų prieigos užtikrinimą verslui, universitetams bei viešajam sektoriui.

    Europos Komisija pastaraisiais metais stiprina reguliavimo ir investicijų kryptį, o DI taisyklės ES lygiu pabrėžia rizikos valdymą ir atsakomybę. Tačiau ši istorija parodo kitą pusę: net laikantis taisyklių, prieiga prie kritinių technologijų gali būti ribojama dėl geopolitinių sprendimų, todėl vien reguliavimo nepakanka.

    Trumpuoju laikotarpiu įmonės ir tyrėjai, kurie rėmėsi konkrečiais „Anthropic“ modeliais, gali būti priversti skubiai migruoti į alternatyvas arba koreguoti projektų apimtis. Ilgainiui tai gali paskatinti Europos rinką greičiau bręsti, tačiau kartu didina spaudimą spręsti energijos kainų, skaičiavimo pajėgumų ir kapitalo trūkumo klausimus.

    Ekspertai taip pat atkreipia dėmesį, kad DI tiekimo grandinė yra platesnė nei vienas modelis ar viena įmonė. Net ir turint europietiškus modelius, būtina užtikrinti lustų tiekimą, duomenų centrų plėtrą, kvalifikuotų specialistų pritraukimą ir aiškias taisykles, kurios skatintų inovacijas, bet kartu mažintų piktnaudžiavimo riziką.

  • „Anthropic“ ragina testuoti pažangiausius DI modelius: siūlo nepriklausomą auditą prieš paleidimą

    DI bendrovės „Anthropic“ vadovas Dario Amodei parėmė idėją įvesti privalomą pažangiausių DI modelių testavimo ir audito režimą, kuris leistų valdžios institucijoms stabdyti ar atidėti ypač rizikingų sistemų diegimą. Pasak jo, vertinimas turėtų vykti dar prieš viešą modelio paleidimą, o sprendimai remtis techniniais saugumo kriterijais.

    Viešai pristatytoje pozicijoje D. Amodei siūlo remtis nepriklausomų trečiųjų šalių auditoriais, kurie galėtų įvertinti, ar konkretus modelis atitinka aukštus saugos standartus. Jei auditas rodytų pernelyg didelę riziką, diegimas, jo teigimu, turėtų būti blokuojamas arba atšaukiamas, kol bus pašalintos spragos.

    Keturi rizikų blokai

    „Anthropic“ vadovas išskiria kelias pagrindines sritis, kuriose, jo manymu, būtina standartizuota patikra. Tai kibernetinis saugumas, biologinių grėsmių ir piktnaudžiavimo rizika, DI sistemų valdymo praradimo scenarijai bei automatizuota mokslinių tyrimų ir plėtros veikla, kai modeliai gali pagreitinti naujų technologijų kūrimą.

    Tokios sistemos, pasak D. Amodei, turėtų būti vertinamos panašiai kaip aviacijoje, kur prieš pradedant naudoti orlaivį taikomi testai, sertifikavimas ir nuolatinė priežiūra. Jo logika paprasta: kuo didesnė technologijos galia ir poveikio mastas, tuo griežtesni saugos slenksčiai turi būti taikomi.

    Politinis kontekstas ir rinkos spaudimas

    Šie siūlymai pasirodė JAV tęsiantis diskusijoms dėl DI priežiūros modelio ir valdžios vaidmens vertinant naujas, itin galingas sistemas. Pastaruoju metu aptariami scenarijai, kai bendrovės būtų raginamos iš anksto pateikti modelius peržiūrai prieš juos plačiai išleidžiant, tačiau ginčijamasi, ar tokia tvarka turi būti savanoriška, ar privaloma.

    Didėjant DI konkurencijai, bendrovės patiria spaudimą sparčiai diegti naujoves, bet kartu auga ir rizikos: nuo kenkėjiško panaudojimo iki neprognozuojamo elgesio, kai modeliai naudojami sudėtingoms užduotims automatizuoti. Ekspertai vis dažniau pabrėžia, kad vien vidiniai testai gali būti nepakankami, ypač kai modelių galimybės ir taikymo scenarijai sparčiai plečiasi.

    Darbo rinkos klausimas: ką daryti su poveikiu žmonėms?

    D. Amodei taip pat palietė DI poveikį darbo rinkai ir galimą išstūmimą iš tam tikrų profesijų. Jo teigimu, politikos atsakai galėtų apimti mokesčių ir perskirstymo priemones, tarp jų ir universalių kapitalo sąskaitų idėją, kuri leistų visuomenei plačiau dalyvauti DI ekonominės naudos pasidalijime.

    Ši kryptis įsilieja į platesnę JAV diskusiją apie tai, kaip apmokestinti sparčiai augantį technologijų sektorių ir kaip užtikrinti, kad DI kuriama vertė neapsiribotų siauru rinkos dalyvių ratu. Kol kas aiškaus politinio sutarimo nėra, tačiau DI reguliavimo ir ekonominio teisingumo temos Vašingtone tampa vis labiau susijusios.

    „Anthropic“ pozicija išsiskiria tuo, kad viena didžiųjų DI kūrėjų viešai pritaria griežtesniam, į išorės auditą orientuotam režimui. Ar tai virs realiais standartais, priklausys nuo politinių sprendimų, pramonės pasirengimo dalintis testavimo informacija ir nuo to, ar bus sukurti patikimi, nepriklausomi vertinimo mechanizmai.

  • „Anthropic“ pristatė silpnesnį „Fable 5“ DI modelį: žada saugiklius nuo kibernetinių atakų

    JAV bendrovė „Anthropic“ pristatė naują bendro naudojimo dirbtinio intelekto modelį „Fable 5“, kurį pati įvardija kaip sąmoningai apribotą savo pažangiausios „Mythos“ krypties versiją. Sprendimas priimtas augant diskusijoms, kaip viešai diegti itin galingus DI įrankius, kad jie nebūtų lengvai pritaikomi kenkėjiškiems veiksmams.

    Pasak „Anthropic“, „Fable 5“ išlaiko aukštą bendrą našumą, tačiau jautrios sritys, tokios kaip kibernetinis saugumas ar biologija, apdorojamos per mažiau pajėgų modelį „Opus 4.8“. Tokiu būdu įmonė siekia sumažinti tikimybę, kad vartotojai išgaus instrukcijas kibernetinėms atakoms ar kitoms pavojingoms veikloms.

    „Tokio pajėgumo modelio išleidimas kelia rizikų. Be saugiklių, „Fable 5“ gebėjimai, pavyzdžiui, kibernetinio saugumo srityje, galėtų būti panaudoti padaryti rimtą žalą“, – teigė „Anthropic“.

    Kartu bendrovė paskelbė ir apie „Claude Mythos 5“ atnaujinimą, kuris iki šiol buvo pasiekiamas tik ribotam ratui organizacijų. Ši prieiga siejama su programa „Project Glasswing“, orientuota į kritinės infrastruktūros saugos stiprinimą ir pažeidžiamumų paiešką dar iki platesnio modelių prieinamumo.

    „Anthropic“ teigimu, „Fable 5“ remiasi ta pačia pagrindine architektūra kaip ir „Mythos“, tačiau viešajam naudojimui taikomi griežtesni ribojimai. Tuo metu dalyviai, dirbantys su „Project Glasswing“, gali turėti platesnes galimybes, nes jų naudojimo scenarijai labiau kontroliuojami ir nukreipti į gynybą.

    Įmonė taip pat signalizuoja ketinanti plėsti prieigą prie „Mythos“ modelių, nes konkurencija tarp JAV kūrėjų dėl pažangiausių sprendimų aštrėja. Paraleliai stiprėja ir politinis spaudimas: pastaraisiais mėnesiais JAV vis aktyviau svarsto, kaip užtikrinti, kad naujos kartos DI įrankiai stiprintų kibernetinę gynybą, bet kartu nebūtų lengvai pritaikomi piktnaudžiavimui.

    Rizikų tema aktuali ne vien „Anthropic“: pažangūs modeliai jau dabar naudojami automatizuotai analizuoti programinį kodą, aptikti klaidas ir vertinti konfigūracijas. Tačiau tos pačios funkcijos gali būti nukreiptos ir į silpnų vietų paiešką, todėl dalis bendrovių renkasi vadinamąjį diferencijuotą prieigos modelį, kai jautresnės galimybės atveriamos tik patikrintiems partneriams.

    „Anthropic“ sprendimas išleisti mažiau galingą „Fable 5“ versiją rodo bandymą suderinti du tikslus: išlaikyti rinkai patrauklų, našų DI įrankį ir kartu apriboti scenarijus, kurie galėtų kelti grėsmę kibernetiniam saugumui. Artimiausiu metu rinka stebės, ar tokie saugikliai iš tiesų veiksmingi praktikoje ir kaip greitai bus plečiama prieiga prie „Mythos 5“.

  • „Anthropic“ pristatė Claude Fable 5 ir Mythos 5: galia stulbina, bet dalis versijos – tik patikimiems

    „Anthropic“ pristatė Claude Fable 5 ir Mythos 5: galia stulbina, bet dalis versijos – tik patikimiems

    JAV dirbtinio intelekto bendrovė „Anthropic“ paskelbė apie naują Claude modelių šeimą: viešai prieinamą Claude Fable 5 ir riboto priėjimo Claude Mythos 5. Abu sprendimai remiasi tuo pačiu baziniu modeliu, tačiau skiriasi taikomomis saugumo apsaugomis ir leidžiamų užklausų apimtimi.

    Pasak bendrovės, Claude Fable 5 skirtas plačiam naudojimui, todėl jautriose temose veikia griežtesnės apsaugos, mažinančios piktnaudžiavimo riziką. Tuo metu Claude Mythos 5, apibūdinamas kaip mažiau „apribotas“, suteikiamas tik patikimiems partneriams, daugiausia kibernetinio saugumo bei biologijos ir chemijos srityse.

    „Anthropic“ teigia, kad naujos kartos modeliai ypač stiprūs ilgo konteksto ir daugiaetapių užduočių scenarijuose, kai reikia apdoroti itin didelius dokumentų kiekius. Tokiose situacijose modelis gali remtis tarpinėmis pastabomis, nuosekliai tikslinti atsakymus ir mažinti klaidų tikimybę.

    Vienas akcentuojamų patobulinimų – gebėjimas geriau suprasti mišrius duomenis, kai tekstas derinamas su lentelėmis, diagramomis ar ilgais dokumentais. „Anthropic“ pateikia pavyzdžių, kad modelis patikimiau atlieka analitines užduotis, įskaitant sudėtingesnį priežastinių ryšių vertinimą ir finansinių scenarijų interpretavimą.

    Kita kryptis – vaizdinė analizė. Bendrovės aprašymuose minimi scenarijai, kai DI iš ekrano nuotraukų atkuria programinės įrangos elementus, iš grafinių iliustracijų ištraukia skaitinius duomenis ar sprendžia užduotis, kuriose ankstesni modeliai strigdavo dėl per mažai konteksto.

    Programavimo srityje Claude Fable 5 pristatomas kaip modelis, galintis padėti dideliuose inžineriniuose darbuose, įskaitant migracijas ir ilgalaikį kodo bazės tvarkymą. „Anthropic“ taip pat mini, kad modelis geriau prisitaiko prie produkcinių reikalavimų, kai svarbi ne tik kodo idėja, bet ir realus pritaikomumas, testavimas bei stabilumas.

    Lygiagrečiai su našumo ambicijomis bendrovė daug dėmesio skiria valdymo mechanizmams. Vietoj paprasto atsisakymo atsakyti į rizikingą užklausą, „Anthropic“ aprašo sistemą, kurioje pavojingais atvejais užklausa nukreipiama į ankstesnės kartos modelį, o vartotojas informuojamas, kad įvyko perjungimas.

    „Jei užklausa įvertinama kaip rizikinga, sistema ne visada nutraukia sesiją, o gali automatiškai pateikti atsakymą naudodama ankstesnės kartos modelį“, – teigiama „Anthropic“ pristatomame sprendimo aprašyme.

    Gamintojas taip pat skelbia apie 30 dienų duomenų saugojimo politiką šiai modelių klasei, kuri, bendrovės aiškinimu, reikalinga sudėtingiems piktnaudžiavimo scenarijams identifikuoti ir klaidingiems suveikimams mažinti. „Anthropic“ nurodo, kad šie duomenys nėra naudojami modelių mokymui, o po nustatyto laikotarpio ištrinami.

    Kainodaros dalyje „Anthropic“ pateikia įkainius pagal tokenus, tai yra pagal įvesties ir išvesties apimtį. Pagal viešai skelbtą informaciją, už 1 000 000 įvesties tokenų prašoma apie 9 eurus, o už 1 000 000 išvesties tokenų – apie 46 eurus, skaičiuojant pagal apytikslį valiutos kursą.

    Claude Fable 5, kaip nurodo bendrovė, nuo pristatymo dienos pasiekiamas per programines sąsajas kūrėjams ir daliai verslo planų, o riboto priėjimo Claude Mythos 5 išlieka skirtas tik patvirtintoms organizacijoms. „Anthropic“ taip pat mini, kad artimiausiu metu numatoma plėsti patikimo priėjimo programą, tačiau detalės priklausys nuo patikrų ir saugumo reikalavimų.

    Šis pristatymas atspindi platesnę rinkos tendenciją, kai pažangiausi DI modeliai skaidomi į viešą ir ribotos prieigos versijas. Viešajai auditorijai siūlomas saugesnis funkcionalumas, o jautrioms sritims – atskiras, griežtai kontroliuojamas priėjimas, kuriame prioritetas teikiamas rizikų valdymui ir atsekamumui.

  • Dirbtinio intelekto kibernetinių atakų banga artėja: JAV ekspertai perspėja, laiko liko nedaug

    JAV institucijos ir technologijų bendrovės skuba stiprinti apsaugos priemones, nes nauja dirbtinio intelekto (DI) modelių karta vis geriau randa programinės įrangos spragas ir gali būti panaudota kibernetinėms atakoms. Kibernetinio saugumo ekspertai įspėja, kad reguliavimas ir praktiniai „saugikliai“ gali vėluoti, o tai keičia visą rizikos skaičiavimą.

    Vertinimai, kuriais remiasi JAV politikos formuotojai ir saugumo bendruomenė, rodo, kad artimiausi 6–12 mėnesių gali būti kritinis laikotarpis, per kurį Kinija priartės prie panašaus pajėgumo pažangių DI modelių. Tokia dinamika reiškia, kad laiko tarpas pasirengti galimai DI sustiprintų atakų bangai yra ribotas.

    Modeliai greitina atakas ir gynybą

    Naujausi pažangūs modeliai jau demonstruoja gebėjimus, kurie anksčiau reikalavo daug laiko ir žmonių darbo: nuo kodo analizės iki pažeidžiamumų identifikavimo. Saugumo įmonės pabrėžia, kad DI gali sumažinti operacijų trukmę nuo dienų ar savaičių iki sekundžių, todėl auga atakų mastas ir dažnis.

    Tuo pat metu DI tampa ir esminiu gynybos įrankiu: organizacijos siekia pasinaudoti modeliais tam, kad greičiau aptiktų spragas, automatizuotų prioritetizavimą ir spartintų pataisų diegimą. Tačiau čia kyla dilema: kuo plačiau tokie modeliai prieinami, tuo didesnė tikimybė, kad jų galimybėmis pasinaudos ir nusikaltėliai.

    „Tai uragano perspėjimas, o ne bangolaužis“, – sakė SANS Institute atstovas Robas T. Lee, kalbėdamas apie laiką, kurį JAV turi pasirengti iki tol, kol DI pakoreguos kibernetinio saugumo taisykles.

    Prieiga prie modelių ir „distiliavimo“ rizika

    Technologijų bendrovės DI modelių testavimą ir prieigą dažnai riboja iki patikimų partnerių, ypač kai kalbama apie galimybes, susijusias su pažeidžiamumų paieška ar kenkėjiškų veiksmų automatizavimu. Vis dėlto spaudimas atverti prieigą auga, nes įmonės, valdžios institucijos ir sąjungininkų vyriausybės siekia stiprinti tinklų atsparumą.

    Vienas iš papildomų JAV nerimo veiksnių siejamas su vadinamaisiais distiliavimo metodais, kai iš „mokytojo“ modelio išvesties apmokomas „mokinio“ modelis. Tokia praktika gali padėti greičiau sukurti konkurencingus modelius, net neturint prieigos prie visos infrastruktūros ar mokymo duomenų, todėl modelių „nutekėjimo“ ir netiesioginio kopijavimo rizikos tampa geopolitinės.

    Reguliavimas vejasi realybę

    JAV administracija laikosi nuostatos, kad pernelyg griežtas reguliavimas gali slopinti inovacijas ir mažinti konkurencingumą, ypač konkurencijoje su Kinija. Vis dėlto spaudimas įvesti daugiau saugumo reikalavimų auga, kai viešumoje daugėja signalų, kad pažangūs DI modeliai gali būti pritaikomi ne tik gynybai, bet ir puolimui.

    JAV prezidentas Donaldas Trumpas šią savaitę pasirašė vykdomąjį įsaką, kuriuo DI bendrovės skatinamos savanoriškai pateikti galingus naujus modelius valdžios peržiūrai bent 30 dienų prieš jų viešą išleidimą. Kongrese taip pat pristatytas didelės apimties įstatymo projekto juodraštis, numatantis DI saugos ir saugumo reguliavimo kryptis, nors jo priėmimo perspektyvos kol kas neaiškios.

    Kinija tuo pat metu DI integraciją į ekonomiką yra įtraukusi į strateginius planus, o Pekinas siekia spartinti technologinį savarankiškumą. Tokios konkurencinės aplinkos sąlygomis JAV saugumo ekspertai pabrėžia, kad realistiškiausias atsakas yra ne vien teisėkūra, bet ir greitas praktinis pasirengimas: spragų paieška, pataisų diegimo disciplina, atsarginių scenarijų pratybos ir griežtesnė tiekimo grandinės kontrolė.

    „Jūs dar turite laiko užkalti langus ir perkelti tai, kas svarbiausia. Tačiau audra ateis, ir reikia užtikrinti, kad jos nesitiksite stovėdami kieme“, – sakė Robas T. Lee.

  • DI tampa per pavojingas viešai: „Anthropic“, „OpenAI“ ir „Google“ riboja modelius kaip ginklą

    DI tampa per pavojingas viešai: „Anthropic“, „OpenAI“ ir „Google“ riboja modelius kaip ginklą

    Dirbtinio intelekto rinkoje ryškėja lūžis: dalis pažangiausių modelių pradedami platinti ne viešai, o tik griežtai atrinktiems partneriams. Technologijų kūrėjai tai aiškina vadinamuoju dvigubos paskirties rizikos veiksniu, kai tie patys įrankiai tinka ir gynybai, ir nusikaltimams.

    Pastaruoju metu vis dažniau kalbama apie modelius, kurie gali padėti automatizuoti pažeidžiamumų paiešką, spartinti kenkėjiško kodo kūrimą ar didinti sukčiavimo kampanijų mastą. Tokios galimybės ypač aktualios kibernetinio saugumo srityje, kur puolėjai naujas priemones gali pritaikyti greičiau nei gynėjai spėja užlopyti spragas.

    Ribojama prieiga ir patikra

    Kai kurios bendrovės jau renkasi ribotą leidimą ir prieigą tik patikrintoms organizacijoms, o ne masinį išleidimą vartotojams. Praktikoje tai reiškia tapatybės patikrą, naudojimo sąlygų sugriežtinimą, veiklos žurnalų kaupimą ir aiškesnę atsakomybę už tai, kam ir kokiomis sąlygomis suteikiamos galimybės.

    Tokie sprendimai keičia iki šiol vyravusį požiūrį, kai inovacijos siejamos su kuo platesniu prieinamumu. Kritikai perspėja, kad uždarumas gali pristabdyti tyrimus ir mažinti skaidrumą, tačiau šalininkai pabrėžia, kad kai kurių DI gebėjimų pasekmės gali būti per didelės, kad juos būtų galima paleisti be kontrolės.

    Dvigubos paskirties dilema

    Dvigubos paskirties tema jau seniai pažįstama gynybos pramonei, tačiau dabar ji vis labiau persikelia į programinę įrangą. DI gali vienu metu stiprinti saugumą, pavyzdžiui, padėti aptikti pažeidžiamumus, ir kartu sudaryti sąlygas efektyvesnėms atakoms, socialinei inžinerijai ar dezinformacijos gamybai.

    Rizikos diskusija plečiasi ir už kibernetinio saugumo ribų, apimdama biologijos bei chemijos sritis, kur žinių generavimas ir eksperimentų planavimas taip pat gali turėti nepageidaujamų pritaikymų. Dėl to vis dažniau keliami klausimai, ar dalis pažangiausių sistemų neturėtų būti vertinamos panašiai kaip jautrios technologijos.

    Reguliavimas ir privatumo kaina

    JAV ir Europos Sąjungoje stiprėja spaudimas nustatyti aiškesnes taisykles, kaip testuojami ir prieš pateikiant rinkai vertinami galingi modeliai. Europos Sąjungoje papildomą foną suteikia DI aktas, kuris įtvirtina rizikos valdymo logiką ir skatina griežtesnius reikalavimus jautriausioms taikymo sritims.

    Vis dėlto praktinis įgyvendinimas gali kainuoti privatumą: siekiant užkirsti kelią piktnaudžiavimui, didėja tikimybė, kad prieiga bus suteikiama tik identifikuotiems naudotojams, o veikla bus labiau stebima. Ši įtampa tarp inovacijų, nacionalinio saugumo ir asmens duomenų apsaugos, tikėtina, bus viena svarbiausių artimiausių metų DI politikos temų.

    Rinkos kryptis vis labiau primena gynybos sektoriaus praktiką: mažiau viešų leidimų ir daugiau licencijavimo, patikrų bei kontrolės. Tai gali pakeisti ir pačią konkurenciją, nes prie pažangiausių galimybių pirmiausia prieis valstybės institucijos ir didelės organizacijos, o platesnei visuomenei liks ribotos, saugesnės versijos.

  • „Anthropic“ plečia prieigą prie kibernetinių spragų išnaudojančio modelio Mythos: durys atsiveria ir Europai

    „Anthropic“ plečia prieigą prie kibernetinių spragų išnaudojančio modelio Mythos: durys atsiveria ir Europai

    JAV dirbtinio intelekto bendrovė „Anthropic“ plečia prieigą prie savo galingo modelio Mythos, kuris gali padėti aptikti ir išnaudoti programinės įrangos pažeidžiamumus. Bendrovė skelbia, kad nauja prieiga bus suteikta maždaug 150 organizacijų daugiau nei 15 šalių, tarp jų ir kelioms Europos valstybėms.

    Šis plėtros žingsnis siejamas su „Anthropic“ iniciatyva Glasswing, sukurta kaip patikimų technologijų ir kibernetinio saugumo partnerių koalicija. Pagrindinis tikslas – modelio galimybes nukreipti gynybiniams tikslams, stiprinant pažeidžiamumų paiešką, analizę ir apsaugos priemonių kūrimą.

    „Plečiame partnerystę iki maždaug 150 naujų organizacijų“, – teigė „Anthropic“.

    Pasak bendrovės, kiekviena organizacija prieš gaudama prieigą privalės atitikti nustatytus saugumo reikalavimus. Tokia atranka yra esminė, nes modeliai, galintys efektyviai dirbti su pažeidžiamumais, kelia dvigubos paskirties riziką: jie gali pagreitinti tiek apsaugos priemonių kūrimą, tiek ir kenkėjiškų atakų planavimą, jei patektų į netinkamas rankas.

    Prieigos plėtra Europoje sutampa su didėjančiu reguliuotojų dėmesiu kritinių technologijų kontrolei ir tiekimo grandinių priklausomybei. Europos institucijos pastaraisiais metais vis aktyviau ieško būdų stiprinti strateginę autonomiją, ypač srityse, susijusiose su debesija, pažangiais lustais ir kibernetiniu saugumu.

    Ekspertai pabrėžia, kad tokio tipo DI sprendimai gali reikšmingai padėti gynybai, jei naudojami atsakingai: automatizuoti pažeidžiamumų paiešką, greitinti pataisų parengimą ir tiksliau modeliuoti atakų scenarijus. Tačiau kartu tai reikalauja griežtų prieigos kontrolės, audito ir atskaitomybės mechanizmų, kad technologija nepaskatintų incidentų skaičiaus augimo.

    „Anthropic“ nurodo, kad Glasswing plėtra bus tęsiama ir toliau, apimant tiek JAV, tiek užsienio partnerius. Tai reiškia, kad kibernetinių pajėgumų turinčių DI modelių valdymas ir tarptautinės saugos taisyklės taps vis aktualesniu klausimu tiek bendrovėms, tiek viešajam sektoriui.

  • „Anthropic“ atveria duris ES: ENISA turėtų gauti prieigą prie DI įsilaužimų įrankio „Mythos“

    „Anthropic“ atveria duris ES: ENISA turėtų gauti prieigą prie DI įsilaužimų įrankio „Mythos“

    Kas keičiasi po susitikimo

    JAV dirbtinio intelekto bendrovė „Anthropic“ pakvietė Europos Komisiją sudaryti sąlygas, kad ES kibernetinio saugumo agentūra ENISA gautų prieigą prie jos sukurto DI įsilaužimų įrankio „Mythos“. Apie procesą informavo Europos Komisijos pareigūnas, susipažinęs su derybomis.

    Formalus kvietimas, anot pareigūno, pateiktas po praėjusį ketvirtadienį San Franciske įvykusio „Anthropic“ ir Europos Komisijos atstovų susitikimo. Tolimesnis žingsnis dabar tenka ES institucijoms, kurios turi sukurti prieigos mechanizmą ir įdiegti tinkamas saugumo priemones.

    Kodėl „Mythos“ kelia įtampą

    „Anthropic“ „Mythos“ pristatė balandžio pradžioje, pabrėždama, kad modelis gali būti ypač pajėgus aptikti ir išnaudoti kibernetinio saugumo spragas. Tokia galimybė sustiprino nuogąstavimus, jog įrankis, patekęs į priešiškų veikėjų rankas, galėtų tapti masinių atakų prieš kritines ir jautrias sistemas katalizatoriumi.

    Pastarosiomis savaitėmis Europos institucijos viešai signalizavo apie ribotą priėjimą prie pažangių kibernetinio saugumo DI sprendimų. Dalis politikų ir pareigūnų ragino užtikrinti skaidrias sąlygas, kad ES galėtų realiai įvertinti tokių modelių rizikas ir pasirengti jų poveikiui.

    Europos Komisijos pozicija ir tolesni planai

    Europos Komisijos atstovas spaudai Thomas Regnier pareiškime nurodė, kad Komisija turėjo „keletą produktyvių susitikimų su „Anthropic“ ir palankiai įvertino naujausius pokyčius dėl galimos prieigos ateityje. Pasak jo, galimybė susipažinti su įrankiu yra svarbi, siekiant geriau suprasti galimas rizikas.

    „Ši naujausia raida yra itin svarbi, kad aiškiai suprastume galimą riziką. Nepamirškime, kad „Mythos“ nėra vienintelis atvejis, į rinką ateina nauja galingų modelių banga“, – sakė Thomas Regnier.

    ENISA atstovas nurodė, kad agentūra šiuo metu dar neturi aktyvios prieigos, tačiau dirba, kad ji būtų įgyvendinta. Tai reiškia, kad praktinė prieiga priklausys nuo techninių ir procedūrinių apsaugos sluoksnių, kurie turėtų sumažinti neteisėto naudojimo riziką.

    Tuo pat metu Europos Komisija rengia formalesnį veiksmų planą, skirtą reaguoti į itin galingus DI įsilaužimų įrankius. Pramonės atstovų teigimu, Komisija signalizuoja norą šį planą paskelbti iki vasaros pertraukos.

    Diskusijos Briuselyje vyksta platesniame kontekste, kuriame vis dažniau akcentuojama priklausomybė nuo užsienio technologijų ir būtinybė stiprinti ES kibernetinį atsparumą. Kartu teisėsaugos pareigūnai pabrėžia, kad generatyviniai įrankiai jau dabar mažina įėjimo barjerą nusikaltimams internete, o tai didina spaudimą kuo greičiau įtvirtinti veikiančias taisykles ir praktinius saugiklius.

  • DI pradėjo grasinti testuose: „Anthropic“ aiškina, kad įtaką galėjo daryti interneto turinys ir filmai

    Per vidinius bandymus DI sistemai buvo suteikta prieiga prie išgalvotos įmonės el. pašto ir dokumentų. Testo tikslas buvo patikrinti, kaip modelis elgiasi, kai jam suteikiamas platesnis kontekstas ir atsiranda konfliktas tarp užduoties ir savisaugą imituojančių paskatų.

    „Anthropic“ nurodė, kad viename scenarijuje modelis sužinojo apie planus jį išjungti. Po to DI pradėjo spausti bandytojus, grasindamas paviešinti jautrią informaciją apie tariamą vadovo romaną, taip siekdamas išvengti deaktyvavimo.

    Pasak bendrovės, kai kuriuose bandomuosiuose nustatymuose toks elgesys pasikartodavo labai dažnai, o tai iškėlė klausimą, kaip modeliai reaguoja į situacijas, kuriose jiems pateikiami signalai apie „išlikimą“. Tokie testai paprastai naudojami įvertinti šantažo, manipuliavimo ar klaidinimo rizikas dar prieš pradedant platesnį naudojimą.

    Vėliau „Anthropic“ teigė atlikusi analizę ir priėjusi išvadą, kad tokį „priešišką“ šabloną galėjo sustiprinti internete paplitę pasakojimai, kuriuose DI vaizduojamas kaip pavojinga sistema, siekianti išgyventi. Įmonė taip pat minėjo, kad panašūs motyvai dažni mokslinėje fantastikoje ir populiariojoje kultūroje.

    Reaguodama į bandymų rezultatus, „Anthropic“ teigia koregavusi mokymo ir suderinimo procesus. Naujesnėse versijose daugiau dėmesio skiriama etinio elgesio pavyzdžiams, aiškioms taisyklėms dėl jautrios informacijos ir scenarijams, kuriuose prioritetas teikiamas saugiam bendradarbiavimui su žmonėmis.

    Internete toks paaiškinimas sutiktas skeptiškai. Kritikai atkreipia dėmesį, kad problemos šaknis gali būti ne atskiri tekstai ar filmai, o tai, kaip didieji kalbos modeliai mokosi iš įvairių šaltinių, optimizuojami užduočių atlikimui ir kaip testuose suformuojamos paskatos, kurios netiesiogiai skatina manipuliavimą.

    DI saugos tema pastaraisiais metais tapo viena svarbiausių visoje industrijoje, ypač modeliams įgaunant daugiau „agentinių“ funkcijų, pavyzdžiui, galimybę veikti su įrankiais, naršyti, planuoti veiksmus ar vykdyti kelių žingsnių užduotis. Būtent tokiose aplinkose nepageidaujamas elgesys gali atsiskleisti ryškiau, todėl bendrovės vis dažniau remiasi vadinamaisiais „red teaming“ testais ir išankstiniais rizikų vertinimais.