Tag: Anthropic

  • JAV ribojimai „Anthropic“ modeliams priminė EU DI priklausomybę: ar Europa spės sukurti alternatyvą?

    JAV ribojimai „Anthropic“ modeliams priminė EU DI priklausomybę: ar Europa spės sukurti alternatyvą?

    Jungtinių Valstijų sprendimas apriboti užsieniečių prieigą prie naujausių bendrovės „Anthropic“ dirbtinio intelekto modelių Europoje sukėlė naują nerimą dėl technologinės priklausomybės nuo JAV. Situacija parodė, kad net kritiškai svarbios paslaugos gali būti „išjungtos“ politiniu sprendimu, o laiko mažinti riziką lieka vis mažiau.

    JAV Prekybos departamentui nurodžius riboti prieigą ne JAV piliečiams, „Anthropic“ pranešė laikinai sustabdžiusi naujausių modelių pasiekiamumą plačiau, kad užtikrintų atitiktį reikalavimams. Tai tapo precedentu, kai Europa praktiškai pajuto, kaip geopolitiniai sprendimai gali akimirksniu paveikti kasdienę prieigą prie pažangiausių DI pajėgumų.

    Technologinis saugumas tapo politiniu klausimu

    Europos Komisijos atstovai šį atvejį įvardijo kaip papildomą argumentą, kodėl Europai būtina technologinė suverenitetas. Pastaraisiais metais ES vis garsiau kalba apie priklausomybės mažinimą ne tik DI srityje, bet ir debesijos, lustų bei kritinės skaitmeninės infrastruktūros grandinėse.

    Europos politikai pabrėžia, kad problema nėra vien patogumas ar kaina. Kai pagrindinės DI priemonės priklauso nuo už ES ribų priimamų sprendimų, kyla rizika verslui, viešajam sektoriui ir mokslui, ypač jei DI įrankiai tampa būtini produktyvumui, kibernetiniam saugumui ar duomenų analizei.

    „Europa negali kurti savo technologijų pagrindo ant prieigos, kuri gali būti išjungta per naktį užsienio vyriausybės sprendimu“, – sakė Suomijos europarlamentarė Aura Salla.

    Europa ieško savo DI „čempionų“

    Diskusijose vis dažniau minimas Prancūzijoje įsikūręs „Mistral“, laikomas vienu rimčiausių europinių kandidatų kurti pažangius modelius. Rinkoje vertinimai ir finansavimo planai rodo, kad investuotojai mato potencialą, tačiau ES mastu išlieka klausimas, ar kapitalo, talentų ir infrastruktūros pakaks varžytis su JAV ir Kinijos ekosistemomis.

    Kita opi vieta yra skaičiavimo galia. Pažangiausiems DI modeliams apmokyti reikia milžiniškų duomenų centrų, specializuotų lustų ir patikimos energijos pasiūlos, todėl dalis politikų siūlo spartinti ES didelio našumo skaičiavimo projektus ir kurtis didelius DI skaičiavimo centrus.

    Ką tai reiškia verslui ir institucijoms

    Įmonėms šis atvejis yra priminimas peržiūrėti rizikų valdymą: nuo tiekėjų diversifikavimo iki atsarginių sprendimų, kai kritinės funkcijos priklauso nuo vieno modelio ar vienos platformos. Viešajam sektoriui tai kelia klausimą, kaip užtikrinti paslaugų tęstinumą, kai DI pradedamas naudoti dokumentų apdorojimui, klientų aptarnavimui ar analitikai.

    Artimiausiu metu ES diskusijos dėl technologinės suvereniteto, DI infrastruktūros ir paramos europiniams sprendimams turėtų tik stiprėti. Šis JAV sprendimas tapo aiškiu signalu, kad DI priklausomybė nėra abstrakti sąvoka, o reali strateginė rizika, kurią galima pajusti per vieną naktį.

  • JAV nurodymas sustabdė „Anthropic“ naujausių DI modelių prieigą: ką tai reiškia Europai ir rinkai

    JAV nurodymas sustabdė „Anthropic“ naujausių DI modelių prieigą: ką tai reiškia Europai ir rinkai

    JAV dirbtinio intelekto bendrovė „Anthropic“ pranešė sustabdžiusi prieigą prie naujausių savo DI modelių „Fable 5“ ir „Mythos 5“. Sprendimas priimtas po JAV valdžios nurodymo, kuris, anot įmonės, verčia nedelsiant apriboti paslaugą siekiant atitikti reikalavimus.

    „Šio nurodymo poveikis toks, kad privalome staiga išjungti „Fable 5“ ir „Mythos 5“ visiems klientams, kad užtikrintume atitiktį“, – teigiama „Anthropic“ pareiškime.

    Pasak bendrovės, ribojimai siejami su eksporto kontrole ir nuogąstavimais, kad dalis modeliuose įdiegtų saugiklių teoriškai galėtų būti apeiti. Toks saugumo apribojimų apeinimas technologijų bendruomenėje dažnai vadinamas „jailbreaking“ praktika, kai bandoma priversti sistemą veikti už nustatytų ribų.

    „Anthropic“ tikina, kad valdžios institucijoms iki šiol pateikti argumentai susiję su galimu siauru, ne universaliu saugiklių apėjimo scenarijumi. Bendrovė taip pat nurodo nesutinkanti, kad toks rizikos signalas savaime turėtų tapti pagrindu atšaukti komerciškai siūlomą modelį.

    „Fable 5“ pristatytas kaip plačiam naudojimui pritaikytas modelis su papildomais saugumo mechanizmais, o „Mythos“ šeima anksčiau buvo pateikiama ribotam ratui. „Anthropic“ yra aiškinusi, kad be apsaugų panašūs modeliai gali būti panaudoti piktnaudžiaujant, įskaitant kibernetinio saugumo srityje, todėl prieiga įprastai valdoma atsargiai.

    Dar balandžio pradžioje „Anthropic“ buvo paskelbusi apie ribotos prieigos iniciatyvą „Glasswing“, kai „Mythos Preview“ suteikta pasirinktam patikimų technologijų ir kibernetinio saugumo organizacijų ratui. Toks modelis, kai pažangūs sprendimai pirmiausia testuojami su atrinktais partneriais, tapo įprasta praktika siekiant įvertinti rizikas realiomis sąlygomis.

    Šis JAV nurodymas sukėlė platesnį rezonansą už JAV ribų. Europos Komisijos atstovas spaudai Thomas Regnier pažymėjo, kad situacija dar kartą parodo Europos poreikį stiprinti technologinį savarankiškumą ir mažinti priklausomybę nuo pažangiausių DI sprendimų, valdomų už Europos ribų.

    Politiniu lygmeniu tokie apribojimai paprastai tampa argumentu greitinti vietinių DI ekosistemų kūrimą, stiprinti skaičiavimo infrastruktūrą ir aiškiau apibrėžti taisykles, kaip pažangūs modeliai gali būti diegiami versle ir viešajame sektoriuje. Rinkai tai taip pat signalas, kad pažangiausių modelių prieinamumas gali priklausyti ne tik nuo komercinių sprendimų, bet ir nuo geopolitikos bei eksporto kontrolės režimų.

    Praktiškai įmonėms ir institucijoms, kurios planuoja DI integraciją į kibernetinę gynybą, programinės įrangos testavimą ar automatizuotą analizę, tokie staigūs ribojimai reiškia vieną dalyką: būtina turėti atsarginius planus. Tai gali apimti kelių tiekėjų strategiją, griežtesnį rizikų valdymą, aiškias sutartines sąlygas dėl prieinamumo ir alternatyvių modelių, įskaitant lokaliai valdomus sprendimus, vertinimą.

  • JAV riboja „Anthropic“ DI modelių eksportą: Europos Komisija perspėja dėl diskriminacijos partneriams

    JAV riboja „Anthropic“ DI modelių eksportą: Europos Komisija perspėja dėl diskriminacijos partneriams

    Kas įvyko ir kodėl

    JAV administracija priėmė sprendimą taikyti eksporto kontrolę bendrovės „Anthropic“ pažangiausiems dirbtinio intelekto modeliams, dėl ko prieiga buvo apribota ne JAV naudotojams, įskaitant europiečius. Europos Komisija sako vertinanti, kokias praktines pasekmes tai turės ES rinkai ir paslaugų vartotojams.

    Pagal viešai aptartą logiką, ribojimai grindžiami nacionalinio saugumo argumentais ir rizika, kad itin galingi modeliai galėtų būti panaudoti kibernetinėms atakoms ar pažeidžiamumams išnaudoti. Tai išryškina didėjantį valdžios institucijų dėmesį vadinamajam dvejopo naudojimo DI, kai ta pati technologija gali padėti gynybai, bet kartu didinti grėsmes.

    Europos Komisijos pozicija

    Europos Komisijos atstovas technologinio suvereniteto klausimais Thomas Regnier pabrėžė, kad į rinką ateina nauja itin pajėgių DI modelių karta. Pasak jo, tokie sprendimai gali būti naudingi, įskaitant kibernetinės gynybos srityje, tačiau kartu kelia rimtų kibernetinio saugumo klausimų, kuriuos būtina suvaldyti.

    „Tai yra bendras iššūkis, neapsiribojantis viena jurisdikcija ar viena bendrove. Manome, kad tokio pobūdžio atsarginės priemonės neturėtų diskriminuoti partnerių“, – sakė Thomas Regnier.

    Komisija taip pat akcentuoja, kad ši situacija dar kartą parodo Europos poreikį stiprinti technologinį suverenumą. ES siekia, kad kritinės skaitmeninės paslaugos ir jų prieinamumas nebūtų priklausomi nuo vienos valstybės vienašalių sprendimų, ypač kai tai paliečia verslą, mokslą ir viešąjį sektorių.

    Ką tai reiškia Europai

    Praktiniu lygmeniu ribojimai gali paveikti įmones ir organizacijas, kurios naudoja pažangius DI modelius programavimo, analizės, klientų aptarnavimo ar kibernetinio saugumo užduotims. Jei prieiga prie tam tikrų modelių tampa įmanoma tik JAV vartotojams, Europos rinkoje didėja nelygios konkurencijos rizika ir gali brangti alternatyvūs sprendimai.

    Kartu tai stiprina diskusiją apie Europos gebėjimą pačiai kurti ir diegti pažangius DI modelius bei infrastruktūrą. ES reguliacinė bazė, įskaitant DI ir kibernetinio saugumo reikalavimus, leidžia nustatyti rizikos valdymo taisykles, tačiau realus atsparumas priklauso ir nuo investicijų, talentų pritraukimo bei prieigos prie skaičiavimo išteklių.

    Šios temos svarba išryškės ir tarptautiniuose formatuose: „Anthropic“ vadovas Dario Amodei turėtų dalyvauti G7 lyderių ir didžiųjų DI bendrovių vadovų susitikimo darbinėje sesijoje. Tikėtina, kad joje bus aptariamas balansas tarp inovacijų skatinimo ir nacionalinio bei kolektyvinio saugumo interesų.

  • JAV nurodė „Anthropic“ staiga išjungti galingiausius DI modelius: įvardijo grėsmę

    JAV nurodė „Anthropic“ staiga išjungti galingiausius DI modelius: įvardijo grėsmę

    Jungtinių Valstijų institucijos nurodė DI kūrėjai „Anthropic“ apriboti prieigą prie jos pažangiausių modelių. Bendrovė teigia, kad sprendimas nesusijęs su gedimais ar techninėmis klaidomis, o motyvuotas nacionalinio saugumo argumentais.

    Pasak pranešimų, ribojimai palietė naujausios kartos modelius, kuriuos „Anthropic“ neseniai pristatė kaip reikšmingą šuolį našumo ir gebėjimų srityje. Įmonė nurodė negavusi išsamių rašytinių paaiškinimų, kokia konkreti rizika buvo identifikuota.

    „Anthropic“ atstovai tvirtina, kad jiems buvo žodžiu perduota informacija apie galimą, labai riboto masto pažeidžiamumą, – sakė bendrovės atstovas.

    Vienas svarbiausių akcentų šioje istorijoje yra vadinamasis jailbreak, kai naudotojai ar piktavaliai bando apeiti modelio saugos ribotuvus ir priversti sistemą pateikti draudžiamą informaciją. Praktikoje tai gali reikšti instrukcijas, kaip vykdyti neteisėtą veiklą, kurti kenkėjišką kodą ar ieškoti būdų pasinaudoti programinės įrangos spragomis.

    Kibernetinio saugumo ekspertai seniai pabrėžia, kad pažangūs DI įrankiai gali pagreitinti pažeidžiamumų paiešką ir automatizuoti atakų grandines. Dėl to tokie modeliai, patekę į netinkamas rankas, teoriškai gali sumažinti laiką nuo spragos aptikimo iki jos išnaudojimo, o tai ypač jautru bankams, kritinei infrastruktūrai ir didelėms informacinėms sistemoms.

    Šis atvejis išsiskiria tuo, kad JAV ribojimai tradiciškai dažniau buvo nukreipti į aparatinę bazę, reikalingą modeliams treniruoti, pavyzdžiui, aukštos klasės lustus ar serverių komponentus. Dabar akcentas persikelia į pačius modelius ir jų prieinamumą, o tai rodo griežtėjančią kontrolę sparčiai stiprėjančių DI sistemų atžvilgiu.

    „Anthropic“ teigia dirbanti, kad prieiga būtų atkurta kuo greičiau, ir pabrėžia, jog kiti bendrovės modeliai turėtų veikti įprastai. Tuo pat metu įmonė perspėja, kad per platūs apribojimai, taikomi visam sektoriui, gali sulėtinti pažangiausių DI sprendimų kūrimą ir diegimą.

  • Europa sunerimo dėl DI suverenumo: „Anthropic“ stabdo „Fable 5“ ir „Mythos 5“ prieigą užsieniečiams

    Europa sunerimo dėl DI suverenumo: „Anthropic“ stabdo „Fable 5“ ir „Mythos 5“ prieigą užsieniečiams

    JAV dirbtinio intelekto bendrovė „Anthropic“ pranešė sustabdžiusi prieigą prie savo pažangiausių DI modelių „Fable 5“ ir „Mythos 5“ užsienio piliečiams. Sprendimas priimtas gavus JAV valdžios nurodymą, motyvuojant nacionalinio saugumo rizikomis.

    Pasak įmonės, reikalavimas reiškia staigų paslaugų išjungimą visiems klientams, kurie patenka į apribojimų taikymo apimtį. „Anthropic“ teigimu, taip siekiama užtikrinti atitiktį gautam nurodymui ir išvengti galimų pažeidimų.

    Europos politikai šį žingsnį įvardijo kaip signalą, kad priklausomybė nuo neeuropietiškų DI sprendimų gali tapti strategine silpnybe. Reakcijose kartojama mintis, kad DI infrastruktūra jau prilygsta kritinėms sistemoms, todėl jos kontrolė darosi tiesiogiai susijusi su valstybių saugumu ir ekonominiu atsparumu.

    Kas sukėlė sprendimą?

    Viešai skelbiama, kad JAV valdžia išreiškė susirūpinimą dėl galimų būdų apeiti modelių saugiklius, vadinamojo „jailbreak“ rizikos. Tokie scenarijai, kai DI sistema priverčiama generuoti draudžiamą turinį ar vykdyti pavojingas užklausas, pastaraisiais metais tapo viena jautriausių temų didžiųjų modelių kūrėjams ir reguliuotojams.

    Apribojimai DI paslaugoms paprastai grindžiami eksportui ir prieigai taikomomis nacionalinio saugumo taisyklėmis, kurios vis dažniau apima ne tik fizines prekes, bet ir programinę įrangą, debesų kompiuteriją bei pažangius modelius. Tai ypač aktualu, kai DI pritaikymas gali turėti dvejopą paskirtį, pavyzdžiui, gynyboje, žvalgyboje ar kibernetinio saugumo srityse.

    Europos politikų signalai

    Prancūzijos politinėje erdvėje sprendimas sutiktas raginimais spartinti vietinių technologijų plėtrą ir investicijas į skaičiavimo resursus. Akcentuojama, kad Europa turi atskirų stiprių žaidėjų, tačiau jiems reikia daugiau kapitalo, energijos infrastruktūros ir aiškesnės valstybės paramos, kad jie galėtų konkuruoti globaliai.

    Jungtinėje Karalystėje kai kurie parlamentarai sprendimą apibūdino kaip pamoką, kaip greitai užsienio vyriausybės sprendimu gali būti nutrauktos mokslinių tyrimų, verslo bandymų ar net sveikatos sistemos pilotinių projektų grandys. Pasak jų, tai nėra vien technologijų naujiena, nes DI tampa bazine kitų sektorių produktyvumo ir konkurencingumo sąlyga.

    Nyderlanduose ir Prancūzijoje pasigirdo ir griežtesnių teiginių, kad DI jau tiesiogiai susijęs su nacionaliniu suverenumu. Politikai ragina paspartinti nuosavų modelių kūrimą, kad strateginiai sprendimai nebūtų priklausomi nuo už Atlanto priimamų ribojimų.

    Ką tai reiškia Europai?

    Ši situacija atgaivino diskusiją apie vadinamąjį DI suverenumą, kai valstybės ar regionai siekia turėti savus modelius, duomenų centrus ir debesų paslaugas. Praktikoje tai apima ne tik modelių mokymą, bet ir stabilų prieigos užtikrinimą verslui, universitetams bei viešajam sektoriui.

    Europos Komisija pastaraisiais metais stiprina reguliavimo ir investicijų kryptį, o DI taisyklės ES lygiu pabrėžia rizikos valdymą ir atsakomybę. Tačiau ši istorija parodo kitą pusę: net laikantis taisyklių, prieiga prie kritinių technologijų gali būti ribojama dėl geopolitinių sprendimų, todėl vien reguliavimo nepakanka.

    Trumpuoju laikotarpiu įmonės ir tyrėjai, kurie rėmėsi konkrečiais „Anthropic“ modeliais, gali būti priversti skubiai migruoti į alternatyvas arba koreguoti projektų apimtis. Ilgainiui tai gali paskatinti Europos rinką greičiau bręsti, tačiau kartu didina spaudimą spręsti energijos kainų, skaičiavimo pajėgumų ir kapitalo trūkumo klausimus.

    Ekspertai taip pat atkreipia dėmesį, kad DI tiekimo grandinė yra platesnė nei vienas modelis ar viena įmonė. Net ir turint europietiškus modelius, būtina užtikrinti lustų tiekimą, duomenų centrų plėtrą, kvalifikuotų specialistų pritraukimą ir aiškias taisykles, kurios skatintų inovacijas, bet kartu mažintų piktnaudžiavimo riziką.

  • „Anthropic“ ragina testuoti pažangiausius DI modelius: siūlo nepriklausomą auditą prieš paleidimą

    DI bendrovės „Anthropic“ vadovas Dario Amodei parėmė idėją įvesti privalomą pažangiausių DI modelių testavimo ir audito režimą, kuris leistų valdžios institucijoms stabdyti ar atidėti ypač rizikingų sistemų diegimą. Pasak jo, vertinimas turėtų vykti dar prieš viešą modelio paleidimą, o sprendimai remtis techniniais saugumo kriterijais.

    Viešai pristatytoje pozicijoje D. Amodei siūlo remtis nepriklausomų trečiųjų šalių auditoriais, kurie galėtų įvertinti, ar konkretus modelis atitinka aukštus saugos standartus. Jei auditas rodytų pernelyg didelę riziką, diegimas, jo teigimu, turėtų būti blokuojamas arba atšaukiamas, kol bus pašalintos spragos.

    Keturi rizikų blokai

    „Anthropic“ vadovas išskiria kelias pagrindines sritis, kuriose, jo manymu, būtina standartizuota patikra. Tai kibernetinis saugumas, biologinių grėsmių ir piktnaudžiavimo rizika, DI sistemų valdymo praradimo scenarijai bei automatizuota mokslinių tyrimų ir plėtros veikla, kai modeliai gali pagreitinti naujų technologijų kūrimą.

    Tokios sistemos, pasak D. Amodei, turėtų būti vertinamos panašiai kaip aviacijoje, kur prieš pradedant naudoti orlaivį taikomi testai, sertifikavimas ir nuolatinė priežiūra. Jo logika paprasta: kuo didesnė technologijos galia ir poveikio mastas, tuo griežtesni saugos slenksčiai turi būti taikomi.

    Politinis kontekstas ir rinkos spaudimas

    Šie siūlymai pasirodė JAV tęsiantis diskusijoms dėl DI priežiūros modelio ir valdžios vaidmens vertinant naujas, itin galingas sistemas. Pastaruoju metu aptariami scenarijai, kai bendrovės būtų raginamos iš anksto pateikti modelius peržiūrai prieš juos plačiai išleidžiant, tačiau ginčijamasi, ar tokia tvarka turi būti savanoriška, ar privaloma.

    Didėjant DI konkurencijai, bendrovės patiria spaudimą sparčiai diegti naujoves, bet kartu auga ir rizikos: nuo kenkėjiško panaudojimo iki neprognozuojamo elgesio, kai modeliai naudojami sudėtingoms užduotims automatizuoti. Ekspertai vis dažniau pabrėžia, kad vien vidiniai testai gali būti nepakankami, ypač kai modelių galimybės ir taikymo scenarijai sparčiai plečiasi.

    Darbo rinkos klausimas: ką daryti su poveikiu žmonėms?

    D. Amodei taip pat palietė DI poveikį darbo rinkai ir galimą išstūmimą iš tam tikrų profesijų. Jo teigimu, politikos atsakai galėtų apimti mokesčių ir perskirstymo priemones, tarp jų ir universalių kapitalo sąskaitų idėją, kuri leistų visuomenei plačiau dalyvauti DI ekonominės naudos pasidalijime.

    Ši kryptis įsilieja į platesnę JAV diskusiją apie tai, kaip apmokestinti sparčiai augantį technologijų sektorių ir kaip užtikrinti, kad DI kuriama vertė neapsiribotų siauru rinkos dalyvių ratu. Kol kas aiškaus politinio sutarimo nėra, tačiau DI reguliavimo ir ekonominio teisingumo temos Vašingtone tampa vis labiau susijusios.

    „Anthropic“ pozicija išsiskiria tuo, kad viena didžiųjų DI kūrėjų viešai pritaria griežtesniam, į išorės auditą orientuotam režimui. Ar tai virs realiais standartais, priklausys nuo politinių sprendimų, pramonės pasirengimo dalintis testavimo informacija ir nuo to, ar bus sukurti patikimi, nepriklausomi vertinimo mechanizmai.

  • „Anthropic“ pristatė silpnesnį „Fable 5“ DI modelį: žada saugiklius nuo kibernetinių atakų

    JAV bendrovė „Anthropic“ pristatė naują bendro naudojimo dirbtinio intelekto modelį „Fable 5“, kurį pati įvardija kaip sąmoningai apribotą savo pažangiausios „Mythos“ krypties versiją. Sprendimas priimtas augant diskusijoms, kaip viešai diegti itin galingus DI įrankius, kad jie nebūtų lengvai pritaikomi kenkėjiškiems veiksmams.

    Pasak „Anthropic“, „Fable 5“ išlaiko aukštą bendrą našumą, tačiau jautrios sritys, tokios kaip kibernetinis saugumas ar biologija, apdorojamos per mažiau pajėgų modelį „Opus 4.8“. Tokiu būdu įmonė siekia sumažinti tikimybę, kad vartotojai išgaus instrukcijas kibernetinėms atakoms ar kitoms pavojingoms veikloms.

    „Tokio pajėgumo modelio išleidimas kelia rizikų. Be saugiklių, „Fable 5“ gebėjimai, pavyzdžiui, kibernetinio saugumo srityje, galėtų būti panaudoti padaryti rimtą žalą“, – teigė „Anthropic“.

    Kartu bendrovė paskelbė ir apie „Claude Mythos 5“ atnaujinimą, kuris iki šiol buvo pasiekiamas tik ribotam ratui organizacijų. Ši prieiga siejama su programa „Project Glasswing“, orientuota į kritinės infrastruktūros saugos stiprinimą ir pažeidžiamumų paiešką dar iki platesnio modelių prieinamumo.

    „Anthropic“ teigimu, „Fable 5“ remiasi ta pačia pagrindine architektūra kaip ir „Mythos“, tačiau viešajam naudojimui taikomi griežtesni ribojimai. Tuo metu dalyviai, dirbantys su „Project Glasswing“, gali turėti platesnes galimybes, nes jų naudojimo scenarijai labiau kontroliuojami ir nukreipti į gynybą.

    Įmonė taip pat signalizuoja ketinanti plėsti prieigą prie „Mythos“ modelių, nes konkurencija tarp JAV kūrėjų dėl pažangiausių sprendimų aštrėja. Paraleliai stiprėja ir politinis spaudimas: pastaraisiais mėnesiais JAV vis aktyviau svarsto, kaip užtikrinti, kad naujos kartos DI įrankiai stiprintų kibernetinę gynybą, bet kartu nebūtų lengvai pritaikomi piktnaudžiavimui.

    Rizikų tema aktuali ne vien „Anthropic“: pažangūs modeliai jau dabar naudojami automatizuotai analizuoti programinį kodą, aptikti klaidas ir vertinti konfigūracijas. Tačiau tos pačios funkcijos gali būti nukreiptos ir į silpnų vietų paiešką, todėl dalis bendrovių renkasi vadinamąjį diferencijuotą prieigos modelį, kai jautresnės galimybės atveriamos tik patikrintiems partneriams.

    „Anthropic“ sprendimas išleisti mažiau galingą „Fable 5“ versiją rodo bandymą suderinti du tikslus: išlaikyti rinkai patrauklų, našų DI įrankį ir kartu apriboti scenarijus, kurie galėtų kelti grėsmę kibernetiniam saugumui. Artimiausiu metu rinka stebės, ar tokie saugikliai iš tiesų veiksmingi praktikoje ir kaip greitai bus plečiama prieiga prie „Mythos 5“.

  • „Anthropic“ pristatė Claude Fable 5 ir Mythos 5: galia stulbina, bet dalis versijos – tik patikimiems

    „Anthropic“ pristatė Claude Fable 5 ir Mythos 5: galia stulbina, bet dalis versijos – tik patikimiems

    JAV dirbtinio intelekto bendrovė „Anthropic“ paskelbė apie naują Claude modelių šeimą: viešai prieinamą Claude Fable 5 ir riboto priėjimo Claude Mythos 5. Abu sprendimai remiasi tuo pačiu baziniu modeliu, tačiau skiriasi taikomomis saugumo apsaugomis ir leidžiamų užklausų apimtimi.

    Pasak bendrovės, Claude Fable 5 skirtas plačiam naudojimui, todėl jautriose temose veikia griežtesnės apsaugos, mažinančios piktnaudžiavimo riziką. Tuo metu Claude Mythos 5, apibūdinamas kaip mažiau „apribotas“, suteikiamas tik patikimiems partneriams, daugiausia kibernetinio saugumo bei biologijos ir chemijos srityse.

    „Anthropic“ teigia, kad naujos kartos modeliai ypač stiprūs ilgo konteksto ir daugiaetapių užduočių scenarijuose, kai reikia apdoroti itin didelius dokumentų kiekius. Tokiose situacijose modelis gali remtis tarpinėmis pastabomis, nuosekliai tikslinti atsakymus ir mažinti klaidų tikimybę.

    Vienas akcentuojamų patobulinimų – gebėjimas geriau suprasti mišrius duomenis, kai tekstas derinamas su lentelėmis, diagramomis ar ilgais dokumentais. „Anthropic“ pateikia pavyzdžių, kad modelis patikimiau atlieka analitines užduotis, įskaitant sudėtingesnį priežastinių ryšių vertinimą ir finansinių scenarijų interpretavimą.

    Kita kryptis – vaizdinė analizė. Bendrovės aprašymuose minimi scenarijai, kai DI iš ekrano nuotraukų atkuria programinės įrangos elementus, iš grafinių iliustracijų ištraukia skaitinius duomenis ar sprendžia užduotis, kuriose ankstesni modeliai strigdavo dėl per mažai konteksto.

    Programavimo srityje Claude Fable 5 pristatomas kaip modelis, galintis padėti dideliuose inžineriniuose darbuose, įskaitant migracijas ir ilgalaikį kodo bazės tvarkymą. „Anthropic“ taip pat mini, kad modelis geriau prisitaiko prie produkcinių reikalavimų, kai svarbi ne tik kodo idėja, bet ir realus pritaikomumas, testavimas bei stabilumas.

    Lygiagrečiai su našumo ambicijomis bendrovė daug dėmesio skiria valdymo mechanizmams. Vietoj paprasto atsisakymo atsakyti į rizikingą užklausą, „Anthropic“ aprašo sistemą, kurioje pavojingais atvejais užklausa nukreipiama į ankstesnės kartos modelį, o vartotojas informuojamas, kad įvyko perjungimas.

    „Jei užklausa įvertinama kaip rizikinga, sistema ne visada nutraukia sesiją, o gali automatiškai pateikti atsakymą naudodama ankstesnės kartos modelį“, – teigiama „Anthropic“ pristatomame sprendimo aprašyme.

    Gamintojas taip pat skelbia apie 30 dienų duomenų saugojimo politiką šiai modelių klasei, kuri, bendrovės aiškinimu, reikalinga sudėtingiems piktnaudžiavimo scenarijams identifikuoti ir klaidingiems suveikimams mažinti. „Anthropic“ nurodo, kad šie duomenys nėra naudojami modelių mokymui, o po nustatyto laikotarpio ištrinami.

    Kainodaros dalyje „Anthropic“ pateikia įkainius pagal tokenus, tai yra pagal įvesties ir išvesties apimtį. Pagal viešai skelbtą informaciją, už 1 000 000 įvesties tokenų prašoma apie 9 eurus, o už 1 000 000 išvesties tokenų – apie 46 eurus, skaičiuojant pagal apytikslį valiutos kursą.

    Claude Fable 5, kaip nurodo bendrovė, nuo pristatymo dienos pasiekiamas per programines sąsajas kūrėjams ir daliai verslo planų, o riboto priėjimo Claude Mythos 5 išlieka skirtas tik patvirtintoms organizacijoms. „Anthropic“ taip pat mini, kad artimiausiu metu numatoma plėsti patikimo priėjimo programą, tačiau detalės priklausys nuo patikrų ir saugumo reikalavimų.

    Šis pristatymas atspindi platesnę rinkos tendenciją, kai pažangiausi DI modeliai skaidomi į viešą ir ribotos prieigos versijas. Viešajai auditorijai siūlomas saugesnis funkcionalumas, o jautrioms sritims – atskiras, griežtai kontroliuojamas priėjimas, kuriame prioritetas teikiamas rizikų valdymui ir atsekamumui.

  • Dirbtinio intelekto kibernetinių atakų banga artėja: JAV ekspertai perspėja, laiko liko nedaug

    JAV institucijos ir technologijų bendrovės skuba stiprinti apsaugos priemones, nes nauja dirbtinio intelekto (DI) modelių karta vis geriau randa programinės įrangos spragas ir gali būti panaudota kibernetinėms atakoms. Kibernetinio saugumo ekspertai įspėja, kad reguliavimas ir praktiniai „saugikliai“ gali vėluoti, o tai keičia visą rizikos skaičiavimą.

    Vertinimai, kuriais remiasi JAV politikos formuotojai ir saugumo bendruomenė, rodo, kad artimiausi 6–12 mėnesių gali būti kritinis laikotarpis, per kurį Kinija priartės prie panašaus pajėgumo pažangių DI modelių. Tokia dinamika reiškia, kad laiko tarpas pasirengti galimai DI sustiprintų atakų bangai yra ribotas.

    Modeliai greitina atakas ir gynybą

    Naujausi pažangūs modeliai jau demonstruoja gebėjimus, kurie anksčiau reikalavo daug laiko ir žmonių darbo: nuo kodo analizės iki pažeidžiamumų identifikavimo. Saugumo įmonės pabrėžia, kad DI gali sumažinti operacijų trukmę nuo dienų ar savaičių iki sekundžių, todėl auga atakų mastas ir dažnis.

    Tuo pat metu DI tampa ir esminiu gynybos įrankiu: organizacijos siekia pasinaudoti modeliais tam, kad greičiau aptiktų spragas, automatizuotų prioritetizavimą ir spartintų pataisų diegimą. Tačiau čia kyla dilema: kuo plačiau tokie modeliai prieinami, tuo didesnė tikimybė, kad jų galimybėmis pasinaudos ir nusikaltėliai.

    „Tai uragano perspėjimas, o ne bangolaužis“, – sakė SANS Institute atstovas Robas T. Lee, kalbėdamas apie laiką, kurį JAV turi pasirengti iki tol, kol DI pakoreguos kibernetinio saugumo taisykles.

    Prieiga prie modelių ir „distiliavimo“ rizika

    Technologijų bendrovės DI modelių testavimą ir prieigą dažnai riboja iki patikimų partnerių, ypač kai kalbama apie galimybes, susijusias su pažeidžiamumų paieška ar kenkėjiškų veiksmų automatizavimu. Vis dėlto spaudimas atverti prieigą auga, nes įmonės, valdžios institucijos ir sąjungininkų vyriausybės siekia stiprinti tinklų atsparumą.

    Vienas iš papildomų JAV nerimo veiksnių siejamas su vadinamaisiais distiliavimo metodais, kai iš „mokytojo“ modelio išvesties apmokomas „mokinio“ modelis. Tokia praktika gali padėti greičiau sukurti konkurencingus modelius, net neturint prieigos prie visos infrastruktūros ar mokymo duomenų, todėl modelių „nutekėjimo“ ir netiesioginio kopijavimo rizikos tampa geopolitinės.

    Reguliavimas vejasi realybę

    JAV administracija laikosi nuostatos, kad pernelyg griežtas reguliavimas gali slopinti inovacijas ir mažinti konkurencingumą, ypač konkurencijoje su Kinija. Vis dėlto spaudimas įvesti daugiau saugumo reikalavimų auga, kai viešumoje daugėja signalų, kad pažangūs DI modeliai gali būti pritaikomi ne tik gynybai, bet ir puolimui.

    JAV prezidentas Donaldas Trumpas šią savaitę pasirašė vykdomąjį įsaką, kuriuo DI bendrovės skatinamos savanoriškai pateikti galingus naujus modelius valdžios peržiūrai bent 30 dienų prieš jų viešą išleidimą. Kongrese taip pat pristatytas didelės apimties įstatymo projekto juodraštis, numatantis DI saugos ir saugumo reguliavimo kryptis, nors jo priėmimo perspektyvos kol kas neaiškios.

    Kinija tuo pat metu DI integraciją į ekonomiką yra įtraukusi į strateginius planus, o Pekinas siekia spartinti technologinį savarankiškumą. Tokios konkurencinės aplinkos sąlygomis JAV saugumo ekspertai pabrėžia, kad realistiškiausias atsakas yra ne vien teisėkūra, bet ir greitas praktinis pasirengimas: spragų paieška, pataisų diegimo disciplina, atsarginių scenarijų pratybos ir griežtesnė tiekimo grandinės kontrolė.

    „Jūs dar turite laiko užkalti langus ir perkelti tai, kas svarbiausia. Tačiau audra ateis, ir reikia užtikrinti, kad jos nesitiksite stovėdami kieme“, – sakė Robas T. Lee.

  • DI tampa per pavojingas viešai: „Anthropic“, „OpenAI“ ir „Google“ riboja modelius kaip ginklą

    DI tampa per pavojingas viešai: „Anthropic“, „OpenAI“ ir „Google“ riboja modelius kaip ginklą

    Dirbtinio intelekto rinkoje ryškėja lūžis: dalis pažangiausių modelių pradedami platinti ne viešai, o tik griežtai atrinktiems partneriams. Technologijų kūrėjai tai aiškina vadinamuoju dvigubos paskirties rizikos veiksniu, kai tie patys įrankiai tinka ir gynybai, ir nusikaltimams.

    Pastaruoju metu vis dažniau kalbama apie modelius, kurie gali padėti automatizuoti pažeidžiamumų paiešką, spartinti kenkėjiško kodo kūrimą ar didinti sukčiavimo kampanijų mastą. Tokios galimybės ypač aktualios kibernetinio saugumo srityje, kur puolėjai naujas priemones gali pritaikyti greičiau nei gynėjai spėja užlopyti spragas.

    Ribojama prieiga ir patikra

    Kai kurios bendrovės jau renkasi ribotą leidimą ir prieigą tik patikrintoms organizacijoms, o ne masinį išleidimą vartotojams. Praktikoje tai reiškia tapatybės patikrą, naudojimo sąlygų sugriežtinimą, veiklos žurnalų kaupimą ir aiškesnę atsakomybę už tai, kam ir kokiomis sąlygomis suteikiamos galimybės.

    Tokie sprendimai keičia iki šiol vyravusį požiūrį, kai inovacijos siejamos su kuo platesniu prieinamumu. Kritikai perspėja, kad uždarumas gali pristabdyti tyrimus ir mažinti skaidrumą, tačiau šalininkai pabrėžia, kad kai kurių DI gebėjimų pasekmės gali būti per didelės, kad juos būtų galima paleisti be kontrolės.

    Dvigubos paskirties dilema

    Dvigubos paskirties tema jau seniai pažįstama gynybos pramonei, tačiau dabar ji vis labiau persikelia į programinę įrangą. DI gali vienu metu stiprinti saugumą, pavyzdžiui, padėti aptikti pažeidžiamumus, ir kartu sudaryti sąlygas efektyvesnėms atakoms, socialinei inžinerijai ar dezinformacijos gamybai.

    Rizikos diskusija plečiasi ir už kibernetinio saugumo ribų, apimdama biologijos bei chemijos sritis, kur žinių generavimas ir eksperimentų planavimas taip pat gali turėti nepageidaujamų pritaikymų. Dėl to vis dažniau keliami klausimai, ar dalis pažangiausių sistemų neturėtų būti vertinamos panašiai kaip jautrios technologijos.

    Reguliavimas ir privatumo kaina

    JAV ir Europos Sąjungoje stiprėja spaudimas nustatyti aiškesnes taisykles, kaip testuojami ir prieš pateikiant rinkai vertinami galingi modeliai. Europos Sąjungoje papildomą foną suteikia DI aktas, kuris įtvirtina rizikos valdymo logiką ir skatina griežtesnius reikalavimus jautriausioms taikymo sritims.

    Vis dėlto praktinis įgyvendinimas gali kainuoti privatumą: siekiant užkirsti kelią piktnaudžiavimui, didėja tikimybė, kad prieiga bus suteikiama tik identifikuotiems naudotojams, o veikla bus labiau stebima. Ši įtampa tarp inovacijų, nacionalinio saugumo ir asmens duomenų apsaugos, tikėtina, bus viena svarbiausių artimiausių metų DI politikos temų.

    Rinkos kryptis vis labiau primena gynybos sektoriaus praktiką: mažiau viešų leidimų ir daugiau licencijavimo, patikrų bei kontrolės. Tai gali pakeisti ir pačią konkurenciją, nes prie pažangiausių galimybių pirmiausia prieis valstybės institucijos ir didelės organizacijos, o platesnei visuomenei liks ribotos, saugesnės versijos.