CP v2

Tag: DI reguliavimas

  • „OpenAI“ GPT-5.6 gali negauti visi: JAV valdžia nori spręsti, kas bus įleistas pirmas

    „OpenAI“ GPT-5.6 gali negauti visi: JAV valdžia nori spręsti, kas bus įleistas pirmas

    „OpenAI“ jau ruošia naują dirbtinio intelekto modelį GPT-5.6, tačiau jo startas gali būti neįprastas: prieiga iš pradžių būtų suteikiama tik atrinktiems klientams. Toks etapinis paleidimas, remiantis žiniasklaidos publikacijomis, siejamas su JAV federalinės valdžios reikalavimais.

    Skelbiama, kad pirmojoje fazėje prieiga prie GPT-5.6 būtų tvirtinama individualiai, klientas po kliento. Plačiau modelis galėtų tapti pasiekiamas po kelių savaičių, tačiau kol kas neaišku, ar vėliau jis būtų atvertas visiems norintiems.

    Kas keičiasi „OpenAI“ planuose

    Etapinis diegimas reiškia, kad naujausias modelis pirmiausia galėtų būti skirtas ribotai įmonių grupei, ypač toms, kurios dirba su jautriais duomenimis ar kritine infrastruktūra. Tai leidžia testuoti saugumo priemones realiose situacijose, bet kartu kuria nelygią prieigos dinamiką rinkoje.

    Tokių ribojimų fonas siejamas su JAV politika, kai pažangiausi dirbtinio intelekto modeliai vis dažniau vertinami ir kaip inovacijų variklis, ir kaip nacionalinio saugumo rizikos veiksnys. Pastaraisiais metais daugėja diskusijų apie tai, ar labai galingi modeliai turėtų būti tikrinami prieš viešą paleidimą.

    Valdžios argumentas – nacionalinis saugumas

    Žiniasklaida nurodo, kad valdžios institucijos ragino „OpenAI“ atidėti arba išskaidyti išleidimą, motyvuodamos nacionalinio saugumo sumetimais. Tokia logika dažniausiai siejama su piktnaudžiavimo scenarijais, kai pažangūs modeliai gali būti panaudoti kibernetinėms atakoms, dezinformacijai ar biologinių rizikų didinimui.

    „Mes paaiškinome JAV vyriausybei, kad tai nėra mūsų pageidaujamas ilgalaikis modelis, ir bendradarbiausime siekdami labiau subalansuoto požiūrio būsimuose leidimuose“, – sakė „OpenAI“ vadovas Samas Altmanas.

    JAV institucijos pastaruoju metu aktyviau ieško vieningų kriterijų, kaip vertinti pažangius DI modelius, ypač prieš jų masinį pritaikymą. Praktikoje tai gali reikšti rizikos vertinimus, ribotos prieigos testus, incidentų valdymo procedūras ir aiškesnes taisykles, kam leidžiama naudoti galingiausius įrankius.

    Rinka nerimauja dėl nelygių taisyklių

    Etapinė prieiga gali turėti ir konkurencinių pasekmių: jei vieni rinkos dalyviai naujausius modelius gauna anksčiau, jų pranašumas kuriant produktus ir automatizuojant procesus didėja. Technologijų sektoriuje tai kelia klausimų, ar taisyklės bus taikomos vienodai skirtingoms bendrovėms.

    Be to, tokia praktika stiprina tendenciją, kad pažangiausios DI galimybės pirma pasiekia dideles organizacijas, o ne plačią visuomenę. Tai gali gilinti atotrūkį tarp įmonių, kurios gali greitai diegti automatizaciją, ir tų, kurios turi laukti vėlesnių, labiau prieinamų versijų.

    Kol kas „OpenAI“ nėra paskelbusi viešo grafiko, kada GPT-5.6 būtų prieinamas plačiai, todėl pagrindinis klausimas lieka atviras: ar etapinis modelio paleidimas taps laikina priemone, ar nauju standartu pažangiausiam DI JAV reguliavimo aplinkoje.

  • „Anthropic“ ragina testuoti pažangiausius DI modelius: siūlo nepriklausomą auditą prieš paleidimą

    DI bendrovės „Anthropic“ vadovas Dario Amodei parėmė idėją įvesti privalomą pažangiausių DI modelių testavimo ir audito režimą, kuris leistų valdžios institucijoms stabdyti ar atidėti ypač rizikingų sistemų diegimą. Pasak jo, vertinimas turėtų vykti dar prieš viešą modelio paleidimą, o sprendimai remtis techniniais saugumo kriterijais.

    Viešai pristatytoje pozicijoje D. Amodei siūlo remtis nepriklausomų trečiųjų šalių auditoriais, kurie galėtų įvertinti, ar konkretus modelis atitinka aukštus saugos standartus. Jei auditas rodytų pernelyg didelę riziką, diegimas, jo teigimu, turėtų būti blokuojamas arba atšaukiamas, kol bus pašalintos spragos.

    Keturi rizikų blokai

    „Anthropic“ vadovas išskiria kelias pagrindines sritis, kuriose, jo manymu, būtina standartizuota patikra. Tai kibernetinis saugumas, biologinių grėsmių ir piktnaudžiavimo rizika, DI sistemų valdymo praradimo scenarijai bei automatizuota mokslinių tyrimų ir plėtros veikla, kai modeliai gali pagreitinti naujų technologijų kūrimą.

    Tokios sistemos, pasak D. Amodei, turėtų būti vertinamos panašiai kaip aviacijoje, kur prieš pradedant naudoti orlaivį taikomi testai, sertifikavimas ir nuolatinė priežiūra. Jo logika paprasta: kuo didesnė technologijos galia ir poveikio mastas, tuo griežtesni saugos slenksčiai turi būti taikomi.

    Politinis kontekstas ir rinkos spaudimas

    Šie siūlymai pasirodė JAV tęsiantis diskusijoms dėl DI priežiūros modelio ir valdžios vaidmens vertinant naujas, itin galingas sistemas. Pastaruoju metu aptariami scenarijai, kai bendrovės būtų raginamos iš anksto pateikti modelius peržiūrai prieš juos plačiai išleidžiant, tačiau ginčijamasi, ar tokia tvarka turi būti savanoriška, ar privaloma.

    Didėjant DI konkurencijai, bendrovės patiria spaudimą sparčiai diegti naujoves, bet kartu auga ir rizikos: nuo kenkėjiško panaudojimo iki neprognozuojamo elgesio, kai modeliai naudojami sudėtingoms užduotims automatizuoti. Ekspertai vis dažniau pabrėžia, kad vien vidiniai testai gali būti nepakankami, ypač kai modelių galimybės ir taikymo scenarijai sparčiai plečiasi.

    Darbo rinkos klausimas: ką daryti su poveikiu žmonėms?

    D. Amodei taip pat palietė DI poveikį darbo rinkai ir galimą išstūmimą iš tam tikrų profesijų. Jo teigimu, politikos atsakai galėtų apimti mokesčių ir perskirstymo priemones, tarp jų ir universalių kapitalo sąskaitų idėją, kuri leistų visuomenei plačiau dalyvauti DI ekonominės naudos pasidalijime.

    Ši kryptis įsilieja į platesnę JAV diskusiją apie tai, kaip apmokestinti sparčiai augantį technologijų sektorių ir kaip užtikrinti, kad DI kuriama vertė neapsiribotų siauru rinkos dalyvių ratu. Kol kas aiškaus politinio sutarimo nėra, tačiau DI reguliavimo ir ekonominio teisingumo temos Vašingtone tampa vis labiau susijusios.

    „Anthropic“ pozicija išsiskiria tuo, kad viena didžiųjų DI kūrėjų viešai pritaria griežtesniam, į išorės auditą orientuotam režimui. Ar tai virs realiais standartais, priklausys nuo politinių sprendimų, pramonės pasirengimo dalintis testavimo informacija ir nuo to, ar bus sukurti patikimi, nepriklausomi vertinimo mechanizmai.

  • DI tampa per pavojingas viešai: „Anthropic“, „OpenAI“ ir „Google“ riboja modelius kaip ginklą

    DI tampa per pavojingas viešai: „Anthropic“, „OpenAI“ ir „Google“ riboja modelius kaip ginklą

    Dirbtinio intelekto rinkoje ryškėja lūžis: dalis pažangiausių modelių pradedami platinti ne viešai, o tik griežtai atrinktiems partneriams. Technologijų kūrėjai tai aiškina vadinamuoju dvigubos paskirties rizikos veiksniu, kai tie patys įrankiai tinka ir gynybai, ir nusikaltimams.

    Pastaruoju metu vis dažniau kalbama apie modelius, kurie gali padėti automatizuoti pažeidžiamumų paiešką, spartinti kenkėjiško kodo kūrimą ar didinti sukčiavimo kampanijų mastą. Tokios galimybės ypač aktualios kibernetinio saugumo srityje, kur puolėjai naujas priemones gali pritaikyti greičiau nei gynėjai spėja užlopyti spragas.

    Ribojama prieiga ir patikra

    Kai kurios bendrovės jau renkasi ribotą leidimą ir prieigą tik patikrintoms organizacijoms, o ne masinį išleidimą vartotojams. Praktikoje tai reiškia tapatybės patikrą, naudojimo sąlygų sugriežtinimą, veiklos žurnalų kaupimą ir aiškesnę atsakomybę už tai, kam ir kokiomis sąlygomis suteikiamos galimybės.

    Tokie sprendimai keičia iki šiol vyravusį požiūrį, kai inovacijos siejamos su kuo platesniu prieinamumu. Kritikai perspėja, kad uždarumas gali pristabdyti tyrimus ir mažinti skaidrumą, tačiau šalininkai pabrėžia, kad kai kurių DI gebėjimų pasekmės gali būti per didelės, kad juos būtų galima paleisti be kontrolės.

    Dvigubos paskirties dilema

    Dvigubos paskirties tema jau seniai pažįstama gynybos pramonei, tačiau dabar ji vis labiau persikelia į programinę įrangą. DI gali vienu metu stiprinti saugumą, pavyzdžiui, padėti aptikti pažeidžiamumus, ir kartu sudaryti sąlygas efektyvesnėms atakoms, socialinei inžinerijai ar dezinformacijos gamybai.

    Rizikos diskusija plečiasi ir už kibernetinio saugumo ribų, apimdama biologijos bei chemijos sritis, kur žinių generavimas ir eksperimentų planavimas taip pat gali turėti nepageidaujamų pritaikymų. Dėl to vis dažniau keliami klausimai, ar dalis pažangiausių sistemų neturėtų būti vertinamos panašiai kaip jautrios technologijos.

    Reguliavimas ir privatumo kaina

    JAV ir Europos Sąjungoje stiprėja spaudimas nustatyti aiškesnes taisykles, kaip testuojami ir prieš pateikiant rinkai vertinami galingi modeliai. Europos Sąjungoje papildomą foną suteikia DI aktas, kuris įtvirtina rizikos valdymo logiką ir skatina griežtesnius reikalavimus jautriausioms taikymo sritims.

    Vis dėlto praktinis įgyvendinimas gali kainuoti privatumą: siekiant užkirsti kelią piktnaudžiavimui, didėja tikimybė, kad prieiga bus suteikiama tik identifikuotiems naudotojams, o veikla bus labiau stebima. Ši įtampa tarp inovacijų, nacionalinio saugumo ir asmens duomenų apsaugos, tikėtina, bus viena svarbiausių artimiausių metų DI politikos temų.

    Rinkos kryptis vis labiau primena gynybos sektoriaus praktiką: mažiau viešų leidimų ir daugiau licencijavimo, patikrų bei kontrolės. Tai gali pakeisti ir pačią konkurenciją, nes prie pažangiausių galimybių pirmiausia prieis valstybės institucijos ir didelės organizacijos, o platesnei visuomenei liks ribotos, saugesnės versijos.

  • Trumpo komandoje bręsta konfliktas dėl Popiežiaus Leono XIV DI įspėjimo: kas suskilo?

    Trumpo komandoje bręsta konfliktas dėl Popiežiaus Leono XIV DI įspėjimo: kas suskilo?

    JAV prezidento Donaldo Trumpo administracijoje ryškėja nesutarimai dėl Popiežiaus Leono XIV perspėjimų apie dirbtinį intelektą. Vatikano raginimas stiprinti DI priežiūrą išprovokavo skirtingas reakcijas aukščiausiuose valdžios sluoksniuose.

    Vidaus reikalų sekretorius Dougas Burgumas viešai menkino popiežiaus poziciją, teigdamas, kad pontifikas neturėtų „redaguoti technologijų“ darbotvarkės. Tuo metu viceprezidentas JD Vance’as tą patį signalą pavadino giliu ir svarbiu moraliniu orientyru DI eros pradžioje.

    Popiežiaus žinia apie DI rizikas

    Popiežius Leonas XIV neseniai paskelbė pirmąją encikliką, kurioje daug dėmesio skiriama DI plėtrai ir jos poveikiui žmogui. Dokumente akcentuojama, kad technologinė pažanga neturi aplenkti atsakomybės, o sprendimai turi išlikti žmogaus rankose.

    Pontifikas įspėjo, kad DI gali išstumti dalį darbuotojų, didinti nelygybę ir sukurti situacijų, kai mirtinų ginklų panaudojimo sprendimai priimami be pakankamos žmogaus kontrolės. Vatikano pozicija atliepia augantį tarptautinį susirūpinimą dėl autonominių sistemų ir generatyvinių modelių panaudojimo.

    Baltojoje rūmuose svarstymai dėl priežiūros

    Nesutarimai išryškėjo tuo metu, kai Baltieji rūmai svarsto, kiek griežtai reguliuoti sparčiai besivystančias DI technologijas. Administracija DI plėtrą sieja su ekonomikos konkurencingumu ir geopolitine įtaka, todėl priežiūros mechanizmai vertinami per inovacijų tempo prizmę.

    Pasak JAV pusės argumentų, papildomos taisyklės gali lėtinti technologijų diegimą ir silpninti konkurencinę poziciją prieš Kiniją. Tačiau kritikų nuomone, savanoriškos iniciatyvos ir rinkos savireguliacija gali būti nepakankamos, kai DI sistemų sprendimai ima daryti tiesioginę įtaką darbo rinkai ir nacionaliniam saugumui.

    Vatikano ir Trumpo įtampa plečiasi

    DI tema tapo dar vienu ginčų tašku platesniame Trumpo ir Vatikano santykių konflikte. Per pastaruosius mėnesius popiežius kritikavo kai kurias JAV politikos kryptis, o Trumpas savo ruožtu nevengė aštrių viešų pasisakymų apie pontifiką.

    „Manau, kad Bažnyčia privalo pasiūlyti moralinę lyderystę, kai technologijos ima formuoti kasdienį gyvenimą“, – sakė JD Vance’as.

    Politologų vertinimu, viešas konfliktas su popiežiumi gali turėti politinių pasekmių, nes katalikų rinkėjai JAV yra reikšminga elektorato dalis, ypač svyruojančiose apygardose. Kita vertus, konservatyvūs katalikai dažnai išlieka lojalūs respublikonams dėl vertybinių klausimų, todėl tiesioginis efektas gali būti nevienareikšmis.

    DI saugumo šalininkai tikina, kad popiežiaus argumentai suteikia papildomo svorio raginimams kurti aiškesnes taisykles dėl modelių testavimo, skaidrumo ir atsakomybės. Administracijai tai tampa ir politine, ir komunikacine dilema: kaip išlaikyti technologinę lyderystę, kartu neignoruojant visuomenės nerimo dėl darbo vietų, šeimų gerovės ir saugumo.

  • „Claude“ kūrėjas perspėja: DI per 12 mėnesių gali priartėti prie Nobelio lygio atradimų

    DI kūrimo tempas pastaraisiais metais sparčiai auga, o kai kurie pramonės lyderiai viešai įspėja, kad artimiausiu metu galime išvysti proveržius, kurie iki šiol atrodė labiau kaip mokslinė fantastika. Apie tai Oksfordo universitete kalbėjo „Anthropic“ bendraįkūrėjas Jackas Clarkas, siejamas su DI modeliu „Claude“.

    Jo teigimu, per artimiausius 12 mėnesių naujos kartos DI sistemos gali prisidėti prie mokslinio atradimo, verto Nobelio premijos lygio pripažinimo. Clarkas pabrėžė, kad tokį šuolį lemtų ne vien didesnė skaičiavimo galia, bet ir sparčiai gerėjantys modelių gebėjimai spręsti sudėtingas užduotis, apdoroti kontekstą ir generuoti hipotezes.

    „Yra scenarijų, kai DI rizika išlieka ir jos negalima nurašyti“, – sakė Jackas Clarkas.

    Kalbėdamas apie rizikas, jis ragino rimtai vertinti kraštutinius, bet teoriškai įmanomus scenarijus, kai nekontroliuojamas DI pritaikymas galėtų sukelti labai didelę žalą. Nors tokias baigtis jis apibūdino kaip mažai tikėtinas, akcentavo, kad vien „nenulinė tikimybė“ reikalauja sistemingų saugos priemonių ir aiškesnių taisyklių.

    Clarkas taip pat svarstė, kad visuomenė ir reguliuotojai gali būti nepasiruošę ilgalaikiams DI padariniams, ypač jei DI pradėtų veikti ne tik kaip įrankis, bet ir kaip savarankiškai sprendimus priimanti sistema organizacijose. Viešojoje erdvėje vis dažniau aptariama idėja apie įmones, kurių procesus nuo klientų aptarnavimo iki tiekimo grandinių valdytų DI, o kartu plečiasi ir humanoidinių robotų pritaikymo scenarijai kasdienėse veiklose.

    Vienas iš jo akcentų buvo kvietimas „spausti stabdį“ ne todėl, kad progresas turėtų sustoti, o todėl, kad spartėjant diegimui didėja atotrūkis tarp technologinių galimybių ir visuomenės pasirengimo. Jo logika paprasta: daugiau laiko reikštų daugiau testavimo, daugiau aiškumo dėl atsakomybės ir daugiau praktinių saugos standartų.

    Vis dėlto jis pripažino, kad tokį lėtinimą įgyvendinti būtų sudėtinga. DI vystymą stumia konkurencija tarp privačių bendrovių ir valstybių, o komerciniai ir geopolitiniai motyvai neretai užgožia ilgalaikes rizikas, todėl realybėje greičiau matysime ne vieną „pauzę“, o bandymą kurti taisykles jau judant dideliu greičiu.

    „Anthropic“ laikoma viena pagrindinių pažangių DI kūrėjų, o pati bendrovė buvo įkurta tyrėjų, kurie anksčiau dirbo „OpenAI“ ir išėjo dėl nesutarimų, susijusių su DI sauga bei vystymo kryptimis. Bendrovė viešai akcentuoja saugos tyrimus ir modelių elgsenos kontrolę, tačiau kartu sulaukia kritikos iš vadinamųjų spartinimo šalininkų, teigiančių, kad atsargumo retorika gali būti naudojama siekiant paveikti reguliavimą.

    Kitoje diskusijos pusėje dažnai keliama ir „vieno gedimo taško“ problema: kai kritinės pasaulinės infrastruktūros ar svarbūs verslo procesai pernelyg priklauso nuo kelių dominuojančių modelių, išauga sisteminė rizika. Tai reiškia, kad saugumo incidentas, klaida arba piktnaudžiavimas gali paveikti ne vieną organizaciją, o visą grandinę.

    Oksforde aptartas ir galimas platesnis socialinis poveikis, įskaitant kognityvinius padarinius. Kai kurie ekspertai įspėja, kad plačiai naudojant DI kaip „atsakymų variklį“ gali silpnėti žmonių analitiniai įgūdžiai ir kritinis mąstymas, todėl vis dažniau keliama idėja kurti vadinamąjį sokratišką DI, kuris ne pateikia galutinį atsakymą, o skatina vartotoją mąstyti, tikslinti klausimus ir tikrinti prielaidas.

    Šios diskusijos rodo bendrą tendenciją: DI pritaikymas plečiasi greičiau nei susiformuoja visuotinai priimtos taisyklės, o kartu daugėja ir raginimų aiškiau apibrėžti saugos standartus, atsakomybę už žalą bei skaidrumo reikalavimus. Artimiausi metai, sprendžiant iš pramonės lyderių signalų, gali tapti laikotarpiu, kai DI proveržiai ir reguliavimo sprendimai turės vytis vieni kitus beveik tuo pačiu tempu.

  • Trumpas atidėjo sprendimą dėl DI reguliavimo: Baltuosiuose rūmuose auga įtampa dėl ribojimų

    Trumpas atidėjo sprendimą dėl DI reguliavimo: Baltuosiuose rūmuose auga įtampa dėl ribojimų

    JAV prezidentas Donaldas Trumpas atidėjo planuotą pasirašyti vykdomąjį įsaką dėl dirbtinio intelekto reguliavimo. Ceremonija turėjo vykti su aukščiausio lygio technologijų bendrovių vadovais, tačiau sprendimas pakeistas likus vos kelioms valandoms iki renginio, skelbia AFP.

    Pasak Trumpo, atidėjimą lėmė turinio detalės, kurios jam pasirodė nepriimtinos. Prezidentas leido suprasti, kad dalis nuostatų galėtų per griežtai apriboti JAV bendrovių DI plėtrą ir taip pakenkti šalies konkurencingumui.

    Kas turėjo keistis?

    Rengtas vykdomasis įsakas, remiantis AFP informacija, numatė didesnę pažangių DI modelių priežiūrą. Praktikoje tai reikštų daugiau reikalavimų kuriant ir diegiant galingiausias sistemas, o didesnį vaidmenį gautų nacionalinio saugumo srityje dirbančios agentūros.

    Tokia kryptis atspindi platesnę diskusiją JAV: kaip suderinti inovacijų greitį su rizikų valdymu, kai DI gali būti pritaikomas kibernetinėms atakoms, dezinformacijai ar jautrių duomenų apdorojimui. Kuo pajėgesni modeliai, tuo daugiau klausimų kyla dėl jų testavimo, atsekamumo ir atsakomybės.

    „Kadangi man nepatiko tam tikri aspektai, perkėliau ceremoniją“, – sakė Donaldas Trumpas.

    Augantis visuomenės skepticizmas

    AFP atkreipia dėmesį, kad sprendimas sutapo su stiprėjančia kritika DI JAV. Technologija vis dažniau vertinama per darbo rinkos, švietimo ir informacinio saugumo prizmę, o viešose diskusijose ryškėja nerimas dėl to, kaip DI keis profesijas ir kas prisiims atsakomybę už klaidas.

    Skepticizmą, pasak agentūros, atspindi ir viešos reakcijos akademinėje aplinkoje bei apklausos, rodančios atsargesnį visuomenės požiūrį į DI. Tai didina politinį spaudimą ieškoti sprendimų, kurie vienu metu užtikrintų kontrolę, bet nepaverstų reguliavimo kliūtimi konkurencijai.

    Baltųjų rūmų ginčai ir Bideno palikimas

    DI klausimas, anot AFP, tapo ir vidinių nesutarimų priežastimi Baltuosiuose rūmuose. Dalis administracijos atstovų siekia aiškesnių saugiklių, ypač ten, kur DI sprendimai galėtų turėti įtakos finansų sistemai ar suteikti nesąžiningiems veikėjams papildomų galimybių.

    Kita stovykla baiminasi, kad griežtesni reikalavimai stabdytų JAV įmones tuo metu, kai globali konkurencija DI srityje aštrėja, o svarbiausiu varžovu dažnai įvardijama Kinija. Ši įtampa siejasi ir su ankstesnėmis diskusijomis: 2023 metais Joe Bidenas buvo pasirašęs vykdomąjį įsaką, kuriuo prašyta dalintis pažangiausių modelių saugumo testų rezultatais su valdžios institucijomis, tačiau Trumpas vėliau šią kryptį kritikavo kaip ribojančią konkurencingumą.

    Kol kas neaišku, ar atidėtas įsakymas bus perrašytas, sušvelnintas, ar grįš su naujomis nuostatomis. Vis dėlto pats atidėjimas signalizuoja, kad DI reguliavimas JAV artimiausiu metu bus ne tik technologijų politikos, bet ir vidaus politinių kovų ašis.

  • „OpenAI“ siūlo ES prieigą prie pažangaus DI modelio: ką jis gali ir kodėl Briuselis sunerimo

    „OpenAI“ siūlo ES prieigą prie pažangaus DI modelio: ką jis gali ir kodėl Briuselis sunerimo

    „ChatGPT“ kūrėja „OpenAI“ derasi su Europos Komisija dėl galimybės ES institucijoms suteikti prieigą prie pažangaus modelio, skirto programinės įrangos pažeidžiamumams nustatyti. Šis žingsnis Briuselyje vertinamas kaip reikšmingas postūmis, nes pastarosiomis savaitėmis Europos pareigūnai ieškojo būdų geriau suprasti naujos kartos DI keliamas kibernetines rizikas.

    Pagrindinė idėja yra suteikti prieigą ne plačiajai visuomenei, o reguliuotojams ir saugumo institucijoms, kad jos galėtų įvertinti, kaip toks modelis gali būti panaudotas gynybai. Kartu tai leidžia stebėti, ar saugikliai, ribojantys piktnaudžiavimą, veikia praktikoje.

    Modelis, kuris randa spragas

    Pagal viešai aptariamą iniciatyvą ES institucijos galėtų susipažinti su kibernetikai pritaikyta pažangiausio „OpenAI“ modelio versija, galinčia padėti identifikuoti programinės įrangos silpnas vietas. Tokie įrankiai saugumo komandoms gali pagreitinti pažeidžiamumų paiešką, padėti prioritetizuoti pataisas ir geriau įvertinti realų rizikos lygį.

    Vis dėlto ta pati technologija kelia ir akivaizdžią grėsmę: jei modelis per daug „leidžiantis“, jis gali palengvinti kenkėjams spragų išnaudojimą ar atakų planavimą. Dėl to įprastai tokie modeliai turi papildomus apribojimus, o prieigos kontrolė tampa kritiškai svarbi.

    Kontrastas su „Anthropic“ ir politinis spaudimas

    „OpenAI“ pasiūlymas išryškino skirtumus tarp didžiųjų DI kūrėjų, kaip jie dalijasi jautriomis kibernetinėmis galimybėmis su valdžios institucijomis. Europos pareigūnai buvo viešai išreiškę nepasitenkinimą, kad konkurentės „Anthropic“ modelis „Mythos“ ES pusėje ilgiau išliko sunkiai pasiekiamas.

    Briuselyje dėl to augo įtampa: dalis europarlamentarų ir nacionalinių vyriausybių siekė daugiau koordinacijos bei informacijos, kad Europa nebūtų priversta laukti, kol privačios bendrovės pačios nuspręs, kas ir kada gali vertinti rizikingiausius DI pajėgumus.

    „Riba tarp to, kas padeda gintis, ir to, kas gali būti panaudota pulti, yra labai plona, todėl prieigą turi vertinti ne vien pačios įmonės“, – sakė iniciatyvai vadovaujantis „OpenAI“ atstovas George’as Osborne’as.

    Kodėl tai svarbu Europos infrastruktūrai

    Europos Komisijos atstovai šį atvirumą sieja su galimybe geriau prižiūrėti, kaip tokie modeliai diegiami ir ar neatsiranda naujų sisteminių grėsmių. Praktinis tikslas yra sustiprinti institucijų, komunalinių paslaugų, energetikos, ryšių ir kitos kritinės infrastruktūros atsparumą, nes DI paremtų kibernetinių atakų mastas, tikėtina, augs.

    ES reguliavimo aplinkoje tai dera su platesne kryptimi: didesniu modelių skaidrumu, rizikos vertinimu ir testavimu, ypač kai kalbama apie pažangius, vadinamuosius „frontier“ tipo DI sprendimus. Kuo anksčiau reguliuotojai gauna realią prieigą vertinimui, tuo mažesnė tikimybė, kad saugumo spragos bus pastebėtos tik po plataus diegimo.

    Tolesnės derybos su Europos Komisija turėtų parodyti, kokiomis sąlygomis prieiga būtų suteikiama, kokio lygio modelio versija būtų prieinama ir kokie saugos bei atskaitomybės mechanizmai būtų taikomi. Nuo šių sprendimų priklausys, ar žingsnis taps precedentu kitoms DI bendrovėms, ar liks išimtimi.

  • ES reikalavimai DI aukštos rizikos sistemoms nukeliami: nauji terminai ir draudimai jau šiemet

    Europos Komisija, ES Taryba ir Europos Parlamentas pasiekė politinį susitarimą dėl vadinamojo Skaitmeninio „Omnibuso“ paketo dalies, susijusios su dirbtiniu intelektu. Esminė žinia rinkai – dalis terminų, kada turės būti įgyvendinti griežtesni reikalavimai, stumiami į vėlesnius metus.

    Pagal sutartas kryptis, aukštos rizikos DI sistemoms, kurios apima biometrinius sprendimus ir taikymus tokiose srityse kaip kritinė infrastruktūra, švietimas ar užimtumas, reikalavimai turėtų įsigalioti ne anksčiau kaip 2027 metų gruodžio 2 dieną. Tai reiškia, kad įmonės ir institucijos gauna papildomo laiko pasirengti atitikties procedūroms, dokumentacijai ir rizikų valdymui.

    Kas laikoma aukštos rizikos DI?

    Aukštos rizikos kategorija ES sistemoje paprastai apima sprendimus, kurie gali turėti apčiuopiamą poveikį žmonių teisėms, saugumui ar galimybėms gauti paslaugas. Tokiose srityse DI klaidos, šališkumas ar netinkamas duomenų tvarkymas gali lemti diskriminaciją, neteisingus sprendimus ar padidėjusias saugumo grėsmes.

    Praktikoje tai reiškia, kad organizacijos turės stiprinti valdymą nuo pat kūrimo iki naudojimo: užtikrinti duomenų kokybę, vertinti šališkumo riziką, numatyti žmogaus priežiūrą, registruoti incidentus ir gebėti pagrįsti, kaip sistema priima sprendimus. Kuo didesnė įtaka žmogui, tuo didesni lūkesčiai skaidrumui ir kontrolei.

    Dar vėliau – DI kaip saugos komponentai

    Atskira data numatoma DI sistemoms, kurios laikomos saugos komponentais ir patenka į ES sektorinius reglamentus. Šiai grupei reikalavimai, pagal susitarime aptartą kryptį, turėtų būti taikomi nuo 2028 metų rugpjūčio 2 dienos, t. y. dar vėliau nei daugumai kitų aukštos rizikos sprendimų.

    Ankstesniame plane abiem šioms kategorijoms buvo minimas 2026 metų rugpjūčio 2 dienos terminas. Verslui tai reikštų greitesnes investicijas į atitikties komandas, auditą, tiekėjų patikrą ir vidines procedūras, todėl terminų nukėlimas rinkoje vertinamas kaip palengvinimas, tačiau ne kaip reikalavimų atsisakymas.

    Kokie draudimai įsigalios greičiau?

    Nors dalis aukštos rizikos terminų nukeliama, kai kurie ribojimai turėtų pradėti galioti anksčiau. Tarp jų – draudimas generuoti intymius atvaizdus be asmens sutikimo ir priemonės, nukreiptos prieš turinį, susijusį su seksualiniu vaikų išnaudojimu.

    Tokios nuostatos didina spaudimą platformoms ir paslaugų teikėjams stiprinti turinio moderavimą, diegti apsaugas nuo piktnaudžiavimo generatyviniais įrankiais ir aiškiai apibrėžti atsakomybes tiek kūrėjams, tiek naudotojams. Kartu rinkai tai signalas, kad jautriausiose srityse ES ketina veikti greičiau nei bendroje atitikties darbotvarkėje.

    DI valdymo prasme šis susitarimas rodo dvigubą kryptį: daugiau laiko sudėtingiausioms atitikties dalims, tačiau griežtesnis požiūris į piktnaudžiavimo scenarijus, kurie kelia tiesioginę žalą žmonėms. Įmonėms tai proga ne tik „laukti terminų“, bet ir anksčiau susitvarkyti procesus, kurie vėliau taps privalomi.

  • Milijardierius Paulas Tudor Jonesas perspėja: JAV vėluoja su DI kontrole – pasekmės gali būti skaudžios

    Milijardierius Paulas Tudor Jonesas perspėja: JAV vėluoja su DI kontrole – pasekmės gali būti skaudžios

    Rizikos draudimo fondų veteranas ir milijardierius Paulas Tudor Jonesas perspėjo, kad JAV smarkiai vėluoja su dirbtinio intelekto reguliavimu. Jo teigimu, taisyklių ir priežiūros reikėjo imtis gerokai anksčiau, nes technologijos plėtra jau lenkia politikų sprendimus.

    „Turime tai padaryti rytoj. Mes jau vėluojame. Turėjome tai padaryti anksčiau“, – sakė Paulas Tudor Jonesas.

    Jo nuomone, viena iš neatidėliotinų priemonių turėtų būti DI turinio ženklinimas, kad visuomenė galėtų atskirti tikrą informaciją nuo klastočių. Tai ypač aktualu dėl sparčiai plintančių įtikinamų vaizdo ir garso klastočių, kurios gali būti panaudotos sukčiavimui, reputacijos žlugdymui ar politinėms manipuliacijoms.

    Nors jis akcentavo grėsmes, investuotojas teigė ir toliau didinantis pozicijas su DI susijusiose bendrovėse. Tokia laikysena atspindi rinkoje dažnai matomą paradoksą: DI žada didžiulį produktyvumo šuolį ir pelnus, bet kartu kelia rizikas privatumui, kibernetiniam saugumui ir informacijos patikimumui.

    Reguliavimo nuotaikos keičiasi

    Pasak P. Tudor Joneso, specialistų bendruomenėje per metus įvyko ryškus lūžis: jei anksčiau reguliavimą palaikė mažuma, dabar dauguma DI kūrėjų ir ekspertų jau pritaria griežtesnėms taisyklėms. Jis tvirtino, kad vienos iš sektoriaus bendrovių vadovas esą stebėjosi, kodėl tokio masto technologija vis dar nėra aiškiau reguliuojama.

    Reguliavimo šalininkai paprastai akcentuoja kelias sritis: vartotojų duomenų apsaugą, modelių skaidrumą, atsakomybę už žalą, nacionalinį saugumą ir dezinformacijos mažinimą. Praktikoje tai gali reikšti reikalavimus dokumentuoti mokymo duomenų kilmę, atlikti saugumo testus, riboti tam tikras didelės rizikos paskirtis ir aiškiai žymėti DI sugeneruotą turinį.

    Europa jau turi DI aktą

    Europos Sąjunga 2024 metais priėmė DI aktą, kuris nustato rizikos lygiais grįstą reguliavimo logiką: nuo minimalių reikalavimų iki draudžiamų praktikų. Šis teisės aktas numato ir griežtesnes pareigas vadinamosioms didelį poveikį galinčioms turėti sistemoms, įskaitant skaidrumo, saugumo ir atitikties reikalavimus.

    JAV kol kas labiau remiasi atskirų valstijų iniciatyvomis ir sektoriniais sprendimais, o vieningo DI įstatymo dar nėra. Baltieji rūmai šių metų kovą paskelbė nacionalinį DI politikos pagrindą su teisėkūros rekomendacijomis, tačiau reali reguliavimo architektūra vis dar formuojama.

    Varžybos su Kinija ir saugumo klausimai

    P. Tudor Jonesas pabrėžė, kad DI klausimas JAV neišvengiamai susijęs ir su geopolitine konkurencija, ypač su Kinija. Jis ragino kalbėtis apie DI saugą, kad technologinė varžybų dinamika neperaugtų į nekontroliuojamas krizes.

    „Turėtume su jais kalbėtis apie DI saugumą“, – sakė Paulas Tudor Jonesas.

    Diskusijose apie DI kontrolę vis dažniau keliama mintis, kad prireiks ne vien nacionalinių taisyklių, bet ir tarptautinių standartų. Tokie standartai galėtų apimti incidentų pranešimą, atsparumo testavimą, turinio autentiškumo mechanizmus ir bendrus principus, kaip elgtis su ypač galingais modeliais.

  • ES politikai ir verslas ragina spartinti DI taisyklių švelninimą: kas keičiasi ir kam taikomos išimtys

    ES politikai ir verslas ragina spartinti DI taisyklių švelninimą: kas keičiasi ir kam taikomos išimtys

    Europos Sąjungoje stiprėja spaudimas greičiau ir plačiau švelninti dirbtinio intelekto (DI) reguliavimą. Po ketvirtadienį pasiekto politinio susitarimo dalis europarlamentarų ir technologijų sektoriaus organizacijų pareiškė, kad supaprastinimas yra per menkas ir nepadės Europos įmonėms konkuruoti su pasauliniais lyderiais.

    Diskusijos dėl DI taisyklių švelninimo yra platesnės krypties dalis, kai Briuselis peržiūri skaitmeninius reikalavimus, siekdamas mažinti administracinę naštą ir paspartinti inovacijų diegimą. Tačiau skeptikai perspėja, kad pernelyg greitos išimtys gali susilpninti saugos ir pagrindinių teisių apsaugos standartus.

    Kas numatyta naujame susitarime?

    Pagal pasiektą susitarimą planuojama atidėti kai kurių taisyklių taikymą vadinamiesiems didelės rizikos DI naudojimo atvejams. Tai reiškia, kad daliai sektorių daugiau laiko būtų skirta pasirengti reikalavimams, susijusiems su atitiktimi, dokumentavimu, rizikų vertinimu ir priežiūra.

    Vis dėlto susitarimas neįgyvendino platesnio siūlymo, kurį kėlė dalis Europos Parlamento centro dešinės atstovų. Jie siekė didesnio skaičiaus sektorinių išimčių, tačiau galutinėje versijoje, remiantis derybų baigtimi, išimtis numatyta tik mašinoms.

    Ši kryptis ypač siejama su pramoninio DI taikymu, kur argumentuojama, kad inovacijos ir konkurencingumas gali būti pristabdyti, jei reikalavimai bus vienodai griežti labai skirtingoms technologijoms. Kritikai atsako, kad būtent pramonėje DI klaidos gali turėti realių saugos pasekmių, todėl lengvinimai turi būti labai tiksliai apibrėžti.

    Politikai: dereguliuoti reikia greičiau

    Nyderlandų liberalų europarlamentaras Bartas Groothuisas viešai suabejojo, ar susitarimas pakankamai ambicingas, ir teigė dar vertinsiantis, ar jį palaikyti per formalų balsavimą. Jo argumentas remiasi prielaida, kad esamos taisyklės, ypač aukštesnės rizikos kategorijoms, gali apsunkinti galimybes kurti konkurencingus europinius modelius.

    „Turime dereguliuoti daug, daug greičiau, nei tai darome dabar“, – sakė Bartas Groothuisas.

    Panašios pozicijos laikėsi ir derybose dalyvavę konservatyvūs atstovai, pabrėžę, kad valstybės narės nepritarė platesniam sektorinių išimčių paketui. Liberalių pažiūrų politikai taip pat atvirai kaltino valstybes nares dėl ambicijos trūkumo, teigdami, kad taip prarandamas šansas stiprinti Europoje kuriamo DI konkurencingumą.

    Pramonės lobistai: supaprastinimo per mažai

    Technologijų sektoriaus interesams atstovaujančios organizacijos kritikavo susitarimą, sakydamos, kad politinė retorika apie supaprastinimą nesutampa su konkrečiais sprendimais. Jų teigimu, jei ES iš tiesų siekia mažinti reguliacinę naštą, ji turėtų pasiūlyti aiškesnius, nuoseklesnius ir labiau prognozuojamus pakeitimus, kurie realiai sumažintų atitikties kaštus.

    Ypač akcentuojama, kad atidėjimai ar siauro taikymo išimtys nebūtinai išsprendžia pagrindinę problemą: įmonėms reikia vienodai suprantamų taisyklių, greitesnių procedūrų ir mažiau interpretacijų, kurios skirtingose valstybėse narėse gali virsti nevienoda praktika. Toks nevienodumas, pasak kritikos autorių, yra viena didžiausių kliūčių masteliui ir investicijoms.

    Tuo metu kairiųjų pažiūrų politikai signalizuoja, kad ketina priešintis plačioms išimtims, jei jos mažintų saugos kartelę. Jų pozicija remiasi argumentu, kad DI privalo išlikti saugus, nediskriminuojantis ir nekeliantis grėsmės pagrindinėms teisėms, nepriklausomai nuo to, kurioje ūkio šakoje jis diegiamas.