CP v2

Tag: DI reguliavimas

  • Buvęs „Google“ „DeepMind“ inžinierius perspėja dėl DI, Trumpas tai vadina apgaule

    Buvęs „Google“ „DeepMind“ inžinierius perspėja dėl DI, Trumpas tai vadina apgaule

    Diskusijos dėl dirbtinio intelekto saugumo vėl įkaito po buvusio „Google“ padalinio „DeepMind“ darbuotojo įspėjimų, kad sparčiai vystomi modeliai gali kelti egzistencinę riziką. Tuo pat metu Donaldas Trumpas viešai menkina tokias baimes ir vadina jas politine mistifikacija.

    Buvęs „DeepMind“ inžinierius Bilalas Chughtai socialiniuose tinkluose teigė, kad dirbdamas su pažangaus DI saugumo ir suderinamumo tyrimais matė, kaip greitai auga sistemų galimybės. Pasak jo, dabartinė kryptis kelia nerimą, o laiko saugumo sprendimams gali būti mažiau, nei visuomenei atrodo.

    „Tvirtai tikiu, kad DI turi potencialą pražudyti mus visus, ir kad laikas išvengti šio scenarijaus gali sekti“, – rašė Bilalas Chughtai.

    Donaldas Trumpas savo platformoje „Truth Social“ tokias kalbas lygino su ankstesnėmis politinėmis ir klimato temomis, teigdamas, jog tai esą skirta stabdyti JAV pramonę. Jis tvirtino, kad griežtas ribojimas ir reguliavimas labiausiai pasitarnautų užsienio konkurentams, ypač Kinijai.

    „Tai liguistas sąmokslas prieš DI ir duomenų centrus, iš kurio džiaugiasi tik Kinija. Kas laimės DI, tas laimės viską“, – rašė Donaldas Trumpas.

    Kas vyksta su DI reguliavimu

    Pastaraisiais metais DI reguliavimas Vakarų šalyse juda dviem kryptimis: greitas diegimas ekonomikai skatinti ir bandymas mažinti rizikas saugumui, privatumui bei rinkimų procesams. Europos Sąjungoje priimtas DI aktas įtvirtina rizikomis grįstą sistemą, kai pavojingiausi naudojimo atvejai ribojami ar draudžiami, o didelės rizikos sprendimams keliami griežtesni reikalavimai.

    Jungtinėse Valstijose vieningo DI įstatymo kol kas nėra, tačiau daugėja vykdomosios valdžios gairių, sektoriaus standartų ir agentūrų veiksmų. Paraleliai plečiasi diskusija dėl licencijavimo, auditų, skaidrumo ir atsakomybės, kai modeliai sukelia žalą.

    Kodėl rinkos reaguoja jautriai

    Investuotojai į DI temą žiūri kaip į ilgalaikį augimo variklį, tačiau tuo pat metu bijo reguliacinių „stabdžių“ ir reputacinių krizių. Vieši vadovų ir tyrėjų pareiškimai apie grėsmes gali sukelti trumpalaikį neapibrėžtumą, ypač kai kalbama apie galimus apribojimus dideliems modeliams ir duomenų centrų plėtrai.

    Kai kurie technologijų lyderiai viešai remia lėtesnį diegimą, tarptautinę koordinaciją ir privalomus saugumo patikrinimus. Kritikai savo ruožtu perspėja, kad per griežti licencijavimo ir atitikties reikalavimai gali sustiprinti didžiųjų žaidėjų pozicijas, nes mažesnėms įmonėms tai taptų per brangu.

    Ar egzistencinė rizika reali?

    Egzistencinės rizikos tema skamba vis garsiau, tačiau mokslinėje ir politikos bendruomenėje nėra vieningo sutarimo dėl tikimybės ir laiko horizonto. Vis dėlto sutariama, kad jau dabar matomos praktinės rizikos, tokios kaip dezinformacija, kibernetinės atakos, diskriminacija algoritmuose ir kritinės infrastruktūros pažeidžiamumas.

    Dėl to vis dažniau kalbama apie privalomus nepriklausomus vertinimus, „raudonųjų komandų“ testus, incidentų ataskaitas ir aiškius modelių naudojimo apribojimus jautriausiose srityse. Šios priemonės laikomos kompromisu tarp inovacijų tempo ir visuomenės saugumo.

  • Xi siūlo BRICS kurti atvirojo kodo DI zoną: tai gali pakeisti pasaulinę technologijų tvarką

    Xi siūlo BRICS kurti atvirojo kodo DI zoną: tai gali pakeisti pasaulinę technologijų tvarką

    Kinijos vadovas Xi Jinpingas BRICS viršūnių susitikime Naujajame Delyje pasiūlė sukurti vadinamąją atvirojo kodo dirbtinio intelekto zoną, skirtą 11 šalių blokui. Idėja pristatyta kaip siekis stiprinti bendradarbiavimą kuriant ir taikant didžiuosius kalbos modelius bei mažinti technologinę priklausomybę nuo Vakarų sprendimų.

    Pagal Kinijos valstybinės žiniasklaidos paskelbtą Xi kalbos santrauką, iniciatyva apimtų bendrus tyrimus, mokymus ir kompetencijų kėlimą, kad BRICS šalys galėtų greičiau diegti DI sprendimus viešajame sektoriuje ir versle. Xi akcentavo tikslą kurti atvirą ekosistemą, kurioje modelių kodas ir įrankiai būtų lengviau pritaikomi vietiniams poreikiams.

    Ką reikštų atvirojo kodo zona?

    Atvirojo kodo DI modeliai paprastai leidžia trečiosioms šalims peržiūrėti modelio architektūrą, svorius ar dalį kodo, taip pat juos modifikuoti ir pritaikyti. Tokia kryptis ypač patraukli valstybėms ir organizacijoms, kurios nori daugiau kontrolės, skaidrumo ir galimybės DI sprendimus diegti savo infrastruktūroje, o ne debesijos paslaugose.

    Tuo pat metu atvirumas kelia ir saugumo klausimų, nes galingi modeliai gali būti lengviau pritaikomi kenkėjiškiems tikslams. Dėl to pastaraisiais metais pasaulyje ryškėja dviejų požiūrių konkurencija: vieni ragina kuo plačiau atverti DI technologijas inovacijoms skatinti, kiti pabrėžia uždarų sistemų kontrolę ir rizikų valdymą.

    BRICS ambicija ir geopolitika

    BRICS grupė sukurta 2009 metais kaip didžiųjų kylančių ekonomikų formatas, siekiantis didesnės įtakos tarptautinėse institucijose, kuriose tradiciškai dominuoja Vakarų valstybės. DI šiame kontekste tampa ne tik ekonomikos augimo, bet ir strateginės galios įrankiu, nes nuo prieigos prie pažangių modelių, lustų ir duomenų infrastruktūros priklauso šalių konkurencingumas.

    Xi kartu paragino kurti platesnę, konsensusu paremtą pasaulinę DI valdymo sistemą. Pastaraisiais metais DI reguliavimas tapo vienu svarbiausių tarptautinės darbotvarkės klausimų, o skirtingi regionai renkasi nevienodą kelią: vienur akcentuojamos griežtesnės taisyklės ir atsakomybė, kitur labiau pabrėžiama inovacijų sparta.

    Kas toliau?

    Ši iniciatyva gali tapti bandymu sukurti alternatyvų DI standartų ir technologijų mainų kanalą, ypač jei BRICS šalys sutars dėl bendrų mokslinių programų, duomenų dalijimosi principų ir praktinių diegimo projektų. Tačiau reali įtaka priklausys nuo to, ar bus skirta pakankamai finansavimo, kaip bus sprendžiami intelektinės nuosavybės ir saugumo klausimai bei ar bus užtikrinta prieiga prie reikalingos skaičiavimo infrastruktūros.

    Xi taip pat planuoja šį mėnesį vykti į JAV derybų su prezidentu Donaldu Trumpu, o DI valdymas, tikėtina, bus vienas pagrindinių pokalbių klausimų. Technologijų varžyboms aštrėjant, DI tema vis dažniau atsiduria greta tradicinių saugumo ir ekonominių derybų punktų.

  • „Anthropic“ meta iššūkį „OpenAI“: JAV valstijose siūlo griežtinti DI saugos taisykles vietoj vienodų

    DI bendrovė „Anthropic“ JAV valstijose renkasi strategiją, kuri aiškiai skiriasi nuo konkurentės „OpenAI“: vietoj vienodų taisyklių visoje šalyje ji skatina priimti vis griežtesnius saugos reikalavimus. Toks kelias reiškia, kad skirtingos valstijos gali tapti savotiškomis bandymų laboratorijomis, keliančiomis kartelę sparčiai tobulėjantiems DI modeliams.

    „OpenAI“ savo ruožtu daugiausia kalba apie vadinamąjį atvirkštinį federalizmą, kai panašūs įstatymai būtų priimami valstija po valstijos, taip palaipsniui sukuriant vieningą nacionalinį reguliavimo pagrindą. „Anthropic“ atstovai teigia, kad toks suvienodinimas neturėtų virsti minimalių reikalavimų lubomis, ypač kai didžiausios galios DI sistemos kelia naujų rizikų.

    Skirtingos taisyklės ar vienas standartas?

    „Anthropic“ akcentuoja, kad skaidrumo deklaracijų ir savireguliacijos nebeužtenka, todėl valstijoms siūlo realias prievoles: saugos planus, jų vykdymo įrodymus ir išorinį vertinimą. Ši kryptis ypač ryški po Kalifornijos sprendimų, kurie JAV tapo vienu pirmųjų bandymų apibrėžti pažangių DI modelių atsakomybes.

    Tuo metu „OpenAI“ argumentuoja, kad skirtingų taisyklių mozaika gali sukurti praktinių problemų: įmonėms tektų taikytis prie nesuderinamų reikalavimų, o tai brangintų atitiktį ir lėtintų inovacijas. Vis dėlto net ir „OpenAI“ pastaruoju metu kai kuriais atvejais pritarė griežtesniems sprendimams, ypač ten, kur atsiranda aiškus audito ar nepriklausomo patikrinimo mechanizmas.

    Auditas tampa nauju standartu

    Vienas svarbiausių pastarojo meto poslinkių JAV valstijose yra dėmesys nepriklausomam vertinimui. Ilinojuje patvirtintos nuostatos dėl kasmetinių trečiųjų šalių auditų DI bendrovių saugos planams išskiriamos kaip precedentas, rodantis, kad vien pažadai ar vidinės ataskaitos politikams nebeatrodo pakankami.

    „Kiekvienas šių projektų buvo stipresnis už ankstesnį ir realiai stūmė į priekį saugos pareigas“, – sakė „Anthropic“ atstovas Cesaras Fernandezas.

    „Skaidrumas ir saviregistracija, mūsų manymu, jau nebeužtenka“, – pridūrė jis.

    Kodėl spaudimas didėja būtent dabar?

    DI reguliavimo spaudimas stiprėja todėl, kad federaliniu lygmeniu JAV sprendimai juda lėtai, o politiniai signalai dažnai kinta. Dėl to valstijos tampa vieta, kur greičiausiai atsiranda apčiuopiamos taisyklės, ypač susijusios su pažangiais modeliais, galinčiais paveikti kibernetinį saugumą ar būti pritaikytus pavojingiems scenarijams.

    „Anthropic“ pabrėžia ir praktinę pusę: modelių galimybės, įskaitant bandymus išnaudoti sistemų pažeidžiamumus, kelia poreikį ne tik aprašyti rizikas, bet ir nustatyti, kas, kada ir kaip privalo jas tikrinti. Dėl to kai kuriuose projektuose svarstomos nuostatos, susijusios su nepriklausomų vertintojų pasitelkimu ir aiškesnėmis vykdymo užtikrinimo galiomis, pavyzdžiui, valstijos generalinio prokuroro įsitraukimu.

    Praktinis šių kovojančių požiūrių rezultatas gali būti dvejopas: arba ilgainiui valstijos susivienodins aplink vieną modelį, arba vis griežtės tarpusavio konkurencija, keliant saugos kartelę. Bet kuriuo atveju DI bendrovėms tai reiškia naują realybę, kur politinė strategija ir atitikties reikalavimai tampa tokie pat svarbūs kaip technologinė pažanga.

  • „OpenAI“ GPT-5.6 gali negauti visi: JAV valdžia nori spręsti, kas bus įleistas pirmas

    „OpenAI“ GPT-5.6 gali negauti visi: JAV valdžia nori spręsti, kas bus įleistas pirmas

    „OpenAI“ jau ruošia naują dirbtinio intelekto modelį GPT-5.6, tačiau jo startas gali būti neįprastas: prieiga iš pradžių būtų suteikiama tik atrinktiems klientams. Toks etapinis paleidimas, remiantis žiniasklaidos publikacijomis, siejamas su JAV federalinės valdžios reikalavimais.

    Skelbiama, kad pirmojoje fazėje prieiga prie GPT-5.6 būtų tvirtinama individualiai, klientas po kliento. Plačiau modelis galėtų tapti pasiekiamas po kelių savaičių, tačiau kol kas neaišku, ar vėliau jis būtų atvertas visiems norintiems.

    Kas keičiasi „OpenAI“ planuose

    Etapinis diegimas reiškia, kad naujausias modelis pirmiausia galėtų būti skirtas ribotai įmonių grupei, ypač toms, kurios dirba su jautriais duomenimis ar kritine infrastruktūra. Tai leidžia testuoti saugumo priemones realiose situacijose, bet kartu kuria nelygią prieigos dinamiką rinkoje.

    Tokių ribojimų fonas siejamas su JAV politika, kai pažangiausi dirbtinio intelekto modeliai vis dažniau vertinami ir kaip inovacijų variklis, ir kaip nacionalinio saugumo rizikos veiksnys. Pastaraisiais metais daugėja diskusijų apie tai, ar labai galingi modeliai turėtų būti tikrinami prieš viešą paleidimą.

    Valdžios argumentas – nacionalinis saugumas

    Žiniasklaida nurodo, kad valdžios institucijos ragino „OpenAI“ atidėti arba išskaidyti išleidimą, motyvuodamos nacionalinio saugumo sumetimais. Tokia logika dažniausiai siejama su piktnaudžiavimo scenarijais, kai pažangūs modeliai gali būti panaudoti kibernetinėms atakoms, dezinformacijai ar biologinių rizikų didinimui.

    „Mes paaiškinome JAV vyriausybei, kad tai nėra mūsų pageidaujamas ilgalaikis modelis, ir bendradarbiausime siekdami labiau subalansuoto požiūrio būsimuose leidimuose“, – sakė „OpenAI“ vadovas Samas Altmanas.

    JAV institucijos pastaruoju metu aktyviau ieško vieningų kriterijų, kaip vertinti pažangius DI modelius, ypač prieš jų masinį pritaikymą. Praktikoje tai gali reikšti rizikos vertinimus, ribotos prieigos testus, incidentų valdymo procedūras ir aiškesnes taisykles, kam leidžiama naudoti galingiausius įrankius.

    Rinka nerimauja dėl nelygių taisyklių

    Etapinė prieiga gali turėti ir konkurencinių pasekmių: jei vieni rinkos dalyviai naujausius modelius gauna anksčiau, jų pranašumas kuriant produktus ir automatizuojant procesus didėja. Technologijų sektoriuje tai kelia klausimų, ar taisyklės bus taikomos vienodai skirtingoms bendrovėms.

    Be to, tokia praktika stiprina tendenciją, kad pažangiausios DI galimybės pirma pasiekia dideles organizacijas, o ne plačią visuomenę. Tai gali gilinti atotrūkį tarp įmonių, kurios gali greitai diegti automatizaciją, ir tų, kurios turi laukti vėlesnių, labiau prieinamų versijų.

    Kol kas „OpenAI“ nėra paskelbusi viešo grafiko, kada GPT-5.6 būtų prieinamas plačiai, todėl pagrindinis klausimas lieka atviras: ar etapinis modelio paleidimas taps laikina priemone, ar nauju standartu pažangiausiam DI JAV reguliavimo aplinkoje.

  • „Anthropic“ ragina testuoti pažangiausius DI modelius: siūlo nepriklausomą auditą prieš paleidimą

    DI bendrovės „Anthropic“ vadovas Dario Amodei parėmė idėją įvesti privalomą pažangiausių DI modelių testavimo ir audito režimą, kuris leistų valdžios institucijoms stabdyti ar atidėti ypač rizikingų sistemų diegimą. Pasak jo, vertinimas turėtų vykti dar prieš viešą modelio paleidimą, o sprendimai remtis techniniais saugumo kriterijais.

    Viešai pristatytoje pozicijoje D. Amodei siūlo remtis nepriklausomų trečiųjų šalių auditoriais, kurie galėtų įvertinti, ar konkretus modelis atitinka aukštus saugos standartus. Jei auditas rodytų pernelyg didelę riziką, diegimas, jo teigimu, turėtų būti blokuojamas arba atšaukiamas, kol bus pašalintos spragos.

    Keturi rizikų blokai

    „Anthropic“ vadovas išskiria kelias pagrindines sritis, kuriose, jo manymu, būtina standartizuota patikra. Tai kibernetinis saugumas, biologinių grėsmių ir piktnaudžiavimo rizika, DI sistemų valdymo praradimo scenarijai bei automatizuota mokslinių tyrimų ir plėtros veikla, kai modeliai gali pagreitinti naujų technologijų kūrimą.

    Tokios sistemos, pasak D. Amodei, turėtų būti vertinamos panašiai kaip aviacijoje, kur prieš pradedant naudoti orlaivį taikomi testai, sertifikavimas ir nuolatinė priežiūra. Jo logika paprasta: kuo didesnė technologijos galia ir poveikio mastas, tuo griežtesni saugos slenksčiai turi būti taikomi.

    Politinis kontekstas ir rinkos spaudimas

    Šie siūlymai pasirodė JAV tęsiantis diskusijoms dėl DI priežiūros modelio ir valdžios vaidmens vertinant naujas, itin galingas sistemas. Pastaruoju metu aptariami scenarijai, kai bendrovės būtų raginamos iš anksto pateikti modelius peržiūrai prieš juos plačiai išleidžiant, tačiau ginčijamasi, ar tokia tvarka turi būti savanoriška, ar privaloma.

    Didėjant DI konkurencijai, bendrovės patiria spaudimą sparčiai diegti naujoves, bet kartu auga ir rizikos: nuo kenkėjiško panaudojimo iki neprognozuojamo elgesio, kai modeliai naudojami sudėtingoms užduotims automatizuoti. Ekspertai vis dažniau pabrėžia, kad vien vidiniai testai gali būti nepakankami, ypač kai modelių galimybės ir taikymo scenarijai sparčiai plečiasi.

    Darbo rinkos klausimas: ką daryti su poveikiu žmonėms?

    D. Amodei taip pat palietė DI poveikį darbo rinkai ir galimą išstūmimą iš tam tikrų profesijų. Jo teigimu, politikos atsakai galėtų apimti mokesčių ir perskirstymo priemones, tarp jų ir universalių kapitalo sąskaitų idėją, kuri leistų visuomenei plačiau dalyvauti DI ekonominės naudos pasidalijime.

    Ši kryptis įsilieja į platesnę JAV diskusiją apie tai, kaip apmokestinti sparčiai augantį technologijų sektorių ir kaip užtikrinti, kad DI kuriama vertė neapsiribotų siauru rinkos dalyvių ratu. Kol kas aiškaus politinio sutarimo nėra, tačiau DI reguliavimo ir ekonominio teisingumo temos Vašingtone tampa vis labiau susijusios.

    „Anthropic“ pozicija išsiskiria tuo, kad viena didžiųjų DI kūrėjų viešai pritaria griežtesniam, į išorės auditą orientuotam režimui. Ar tai virs realiais standartais, priklausys nuo politinių sprendimų, pramonės pasirengimo dalintis testavimo informacija ir nuo to, ar bus sukurti patikimi, nepriklausomi vertinimo mechanizmai.

  • DI tampa per pavojingas viešai: „Anthropic“, „OpenAI“ ir „Google“ riboja modelius kaip ginklą

    DI tampa per pavojingas viešai: „Anthropic“, „OpenAI“ ir „Google“ riboja modelius kaip ginklą

    Dirbtinio intelekto rinkoje ryškėja lūžis: dalis pažangiausių modelių pradedami platinti ne viešai, o tik griežtai atrinktiems partneriams. Technologijų kūrėjai tai aiškina vadinamuoju dvigubos paskirties rizikos veiksniu, kai tie patys įrankiai tinka ir gynybai, ir nusikaltimams.

    Pastaruoju metu vis dažniau kalbama apie modelius, kurie gali padėti automatizuoti pažeidžiamumų paiešką, spartinti kenkėjiško kodo kūrimą ar didinti sukčiavimo kampanijų mastą. Tokios galimybės ypač aktualios kibernetinio saugumo srityje, kur puolėjai naujas priemones gali pritaikyti greičiau nei gynėjai spėja užlopyti spragas.

    Ribojama prieiga ir patikra

    Kai kurios bendrovės jau renkasi ribotą leidimą ir prieigą tik patikrintoms organizacijoms, o ne masinį išleidimą vartotojams. Praktikoje tai reiškia tapatybės patikrą, naudojimo sąlygų sugriežtinimą, veiklos žurnalų kaupimą ir aiškesnę atsakomybę už tai, kam ir kokiomis sąlygomis suteikiamos galimybės.

    Tokie sprendimai keičia iki šiol vyravusį požiūrį, kai inovacijos siejamos su kuo platesniu prieinamumu. Kritikai perspėja, kad uždarumas gali pristabdyti tyrimus ir mažinti skaidrumą, tačiau šalininkai pabrėžia, kad kai kurių DI gebėjimų pasekmės gali būti per didelės, kad juos būtų galima paleisti be kontrolės.

    Dvigubos paskirties dilema

    Dvigubos paskirties tema jau seniai pažįstama gynybos pramonei, tačiau dabar ji vis labiau persikelia į programinę įrangą. DI gali vienu metu stiprinti saugumą, pavyzdžiui, padėti aptikti pažeidžiamumus, ir kartu sudaryti sąlygas efektyvesnėms atakoms, socialinei inžinerijai ar dezinformacijos gamybai.

    Rizikos diskusija plečiasi ir už kibernetinio saugumo ribų, apimdama biologijos bei chemijos sritis, kur žinių generavimas ir eksperimentų planavimas taip pat gali turėti nepageidaujamų pritaikymų. Dėl to vis dažniau keliami klausimai, ar dalis pažangiausių sistemų neturėtų būti vertinamos panašiai kaip jautrios technologijos.

    Reguliavimas ir privatumo kaina

    JAV ir Europos Sąjungoje stiprėja spaudimas nustatyti aiškesnes taisykles, kaip testuojami ir prieš pateikiant rinkai vertinami galingi modeliai. Europos Sąjungoje papildomą foną suteikia DI aktas, kuris įtvirtina rizikos valdymo logiką ir skatina griežtesnius reikalavimus jautriausioms taikymo sritims.

    Vis dėlto praktinis įgyvendinimas gali kainuoti privatumą: siekiant užkirsti kelią piktnaudžiavimui, didėja tikimybė, kad prieiga bus suteikiama tik identifikuotiems naudotojams, o veikla bus labiau stebima. Ši įtampa tarp inovacijų, nacionalinio saugumo ir asmens duomenų apsaugos, tikėtina, bus viena svarbiausių artimiausių metų DI politikos temų.

    Rinkos kryptis vis labiau primena gynybos sektoriaus praktiką: mažiau viešų leidimų ir daugiau licencijavimo, patikrų bei kontrolės. Tai gali pakeisti ir pačią konkurenciją, nes prie pažangiausių galimybių pirmiausia prieis valstybės institucijos ir didelės organizacijos, o platesnei visuomenei liks ribotos, saugesnės versijos.

  • Trumpo komandoje bręsta konfliktas dėl Popiežiaus Leono XIV DI įspėjimo: kas suskilo?

    Trumpo komandoje bręsta konfliktas dėl Popiežiaus Leono XIV DI įspėjimo: kas suskilo?

    JAV prezidento Donaldo Trumpo administracijoje ryškėja nesutarimai dėl Popiežiaus Leono XIV perspėjimų apie dirbtinį intelektą. Vatikano raginimas stiprinti DI priežiūrą išprovokavo skirtingas reakcijas aukščiausiuose valdžios sluoksniuose.

    Vidaus reikalų sekretorius Dougas Burgumas viešai menkino popiežiaus poziciją, teigdamas, kad pontifikas neturėtų „redaguoti technologijų“ darbotvarkės. Tuo metu viceprezidentas JD Vance’as tą patį signalą pavadino giliu ir svarbiu moraliniu orientyru DI eros pradžioje.

    Popiežiaus žinia apie DI rizikas

    Popiežius Leonas XIV neseniai paskelbė pirmąją encikliką, kurioje daug dėmesio skiriama DI plėtrai ir jos poveikiui žmogui. Dokumente akcentuojama, kad technologinė pažanga neturi aplenkti atsakomybės, o sprendimai turi išlikti žmogaus rankose.

    Pontifikas įspėjo, kad DI gali išstumti dalį darbuotojų, didinti nelygybę ir sukurti situacijų, kai mirtinų ginklų panaudojimo sprendimai priimami be pakankamos žmogaus kontrolės. Vatikano pozicija atliepia augantį tarptautinį susirūpinimą dėl autonominių sistemų ir generatyvinių modelių panaudojimo.

    Baltojoje rūmuose svarstymai dėl priežiūros

    Nesutarimai išryškėjo tuo metu, kai Baltieji rūmai svarsto, kiek griežtai reguliuoti sparčiai besivystančias DI technologijas. Administracija DI plėtrą sieja su ekonomikos konkurencingumu ir geopolitine įtaka, todėl priežiūros mechanizmai vertinami per inovacijų tempo prizmę.

    Pasak JAV pusės argumentų, papildomos taisyklės gali lėtinti technologijų diegimą ir silpninti konkurencinę poziciją prieš Kiniją. Tačiau kritikų nuomone, savanoriškos iniciatyvos ir rinkos savireguliacija gali būti nepakankamos, kai DI sistemų sprendimai ima daryti tiesioginę įtaką darbo rinkai ir nacionaliniam saugumui.

    Vatikano ir Trumpo įtampa plečiasi

    DI tema tapo dar vienu ginčų tašku platesniame Trumpo ir Vatikano santykių konflikte. Per pastaruosius mėnesius popiežius kritikavo kai kurias JAV politikos kryptis, o Trumpas savo ruožtu nevengė aštrių viešų pasisakymų apie pontifiką.

    „Manau, kad Bažnyčia privalo pasiūlyti moralinę lyderystę, kai technologijos ima formuoti kasdienį gyvenimą“, – sakė JD Vance’as.

    Politologų vertinimu, viešas konfliktas su popiežiumi gali turėti politinių pasekmių, nes katalikų rinkėjai JAV yra reikšminga elektorato dalis, ypač svyruojančiose apygardose. Kita vertus, konservatyvūs katalikai dažnai išlieka lojalūs respublikonams dėl vertybinių klausimų, todėl tiesioginis efektas gali būti nevienareikšmis.

    DI saugumo šalininkai tikina, kad popiežiaus argumentai suteikia papildomo svorio raginimams kurti aiškesnes taisykles dėl modelių testavimo, skaidrumo ir atsakomybės. Administracijai tai tampa ir politine, ir komunikacine dilema: kaip išlaikyti technologinę lyderystę, kartu neignoruojant visuomenės nerimo dėl darbo vietų, šeimų gerovės ir saugumo.

  • „Claude“ kūrėjas perspėja: DI per 12 mėnesių gali priartėti prie Nobelio lygio atradimų

    DI kūrimo tempas pastaraisiais metais sparčiai auga, o kai kurie pramonės lyderiai viešai įspėja, kad artimiausiu metu galime išvysti proveržius, kurie iki šiol atrodė labiau kaip mokslinė fantastika. Apie tai Oksfordo universitete kalbėjo „Anthropic“ bendraįkūrėjas Jackas Clarkas, siejamas su DI modeliu „Claude“.

    Jo teigimu, per artimiausius 12 mėnesių naujos kartos DI sistemos gali prisidėti prie mokslinio atradimo, verto Nobelio premijos lygio pripažinimo. Clarkas pabrėžė, kad tokį šuolį lemtų ne vien didesnė skaičiavimo galia, bet ir sparčiai gerėjantys modelių gebėjimai spręsti sudėtingas užduotis, apdoroti kontekstą ir generuoti hipotezes.

    „Yra scenarijų, kai DI rizika išlieka ir jos negalima nurašyti“, – sakė Jackas Clarkas.

    Kalbėdamas apie rizikas, jis ragino rimtai vertinti kraštutinius, bet teoriškai įmanomus scenarijus, kai nekontroliuojamas DI pritaikymas galėtų sukelti labai didelę žalą. Nors tokias baigtis jis apibūdino kaip mažai tikėtinas, akcentavo, kad vien „nenulinė tikimybė“ reikalauja sistemingų saugos priemonių ir aiškesnių taisyklių.

    Clarkas taip pat svarstė, kad visuomenė ir reguliuotojai gali būti nepasiruošę ilgalaikiams DI padariniams, ypač jei DI pradėtų veikti ne tik kaip įrankis, bet ir kaip savarankiškai sprendimus priimanti sistema organizacijose. Viešojoje erdvėje vis dažniau aptariama idėja apie įmones, kurių procesus nuo klientų aptarnavimo iki tiekimo grandinių valdytų DI, o kartu plečiasi ir humanoidinių robotų pritaikymo scenarijai kasdienėse veiklose.

    Vienas iš jo akcentų buvo kvietimas „spausti stabdį“ ne todėl, kad progresas turėtų sustoti, o todėl, kad spartėjant diegimui didėja atotrūkis tarp technologinių galimybių ir visuomenės pasirengimo. Jo logika paprasta: daugiau laiko reikštų daugiau testavimo, daugiau aiškumo dėl atsakomybės ir daugiau praktinių saugos standartų.

    Vis dėlto jis pripažino, kad tokį lėtinimą įgyvendinti būtų sudėtinga. DI vystymą stumia konkurencija tarp privačių bendrovių ir valstybių, o komerciniai ir geopolitiniai motyvai neretai užgožia ilgalaikes rizikas, todėl realybėje greičiau matysime ne vieną „pauzę“, o bandymą kurti taisykles jau judant dideliu greičiu.

    „Anthropic“ laikoma viena pagrindinių pažangių DI kūrėjų, o pati bendrovė buvo įkurta tyrėjų, kurie anksčiau dirbo „OpenAI“ ir išėjo dėl nesutarimų, susijusių su DI sauga bei vystymo kryptimis. Bendrovė viešai akcentuoja saugos tyrimus ir modelių elgsenos kontrolę, tačiau kartu sulaukia kritikos iš vadinamųjų spartinimo šalininkų, teigiančių, kad atsargumo retorika gali būti naudojama siekiant paveikti reguliavimą.

    Kitoje diskusijos pusėje dažnai keliama ir „vieno gedimo taško“ problema: kai kritinės pasaulinės infrastruktūros ar svarbūs verslo procesai pernelyg priklauso nuo kelių dominuojančių modelių, išauga sisteminė rizika. Tai reiškia, kad saugumo incidentas, klaida arba piktnaudžiavimas gali paveikti ne vieną organizaciją, o visą grandinę.

    Oksforde aptartas ir galimas platesnis socialinis poveikis, įskaitant kognityvinius padarinius. Kai kurie ekspertai įspėja, kad plačiai naudojant DI kaip „atsakymų variklį“ gali silpnėti žmonių analitiniai įgūdžiai ir kritinis mąstymas, todėl vis dažniau keliama idėja kurti vadinamąjį sokratišką DI, kuris ne pateikia galutinį atsakymą, o skatina vartotoją mąstyti, tikslinti klausimus ir tikrinti prielaidas.

    Šios diskusijos rodo bendrą tendenciją: DI pritaikymas plečiasi greičiau nei susiformuoja visuotinai priimtos taisyklės, o kartu daugėja ir raginimų aiškiau apibrėžti saugos standartus, atsakomybę už žalą bei skaidrumo reikalavimus. Artimiausi metai, sprendžiant iš pramonės lyderių signalų, gali tapti laikotarpiu, kai DI proveržiai ir reguliavimo sprendimai turės vytis vieni kitus beveik tuo pačiu tempu.

  • Trumpas atidėjo sprendimą dėl DI reguliavimo: Baltuosiuose rūmuose auga įtampa dėl ribojimų

    Trumpas atidėjo sprendimą dėl DI reguliavimo: Baltuosiuose rūmuose auga įtampa dėl ribojimų

    JAV prezidentas Donaldas Trumpas atidėjo planuotą pasirašyti vykdomąjį įsaką dėl dirbtinio intelekto reguliavimo. Ceremonija turėjo vykti su aukščiausio lygio technologijų bendrovių vadovais, tačiau sprendimas pakeistas likus vos kelioms valandoms iki renginio, skelbia AFP.

    Pasak Trumpo, atidėjimą lėmė turinio detalės, kurios jam pasirodė nepriimtinos. Prezidentas leido suprasti, kad dalis nuostatų galėtų per griežtai apriboti JAV bendrovių DI plėtrą ir taip pakenkti šalies konkurencingumui.

    Kas turėjo keistis?

    Rengtas vykdomasis įsakas, remiantis AFP informacija, numatė didesnę pažangių DI modelių priežiūrą. Praktikoje tai reikštų daugiau reikalavimų kuriant ir diegiant galingiausias sistemas, o didesnį vaidmenį gautų nacionalinio saugumo srityje dirbančios agentūros.

    Tokia kryptis atspindi platesnę diskusiją JAV: kaip suderinti inovacijų greitį su rizikų valdymu, kai DI gali būti pritaikomas kibernetinėms atakoms, dezinformacijai ar jautrių duomenų apdorojimui. Kuo pajėgesni modeliai, tuo daugiau klausimų kyla dėl jų testavimo, atsekamumo ir atsakomybės.

    „Kadangi man nepatiko tam tikri aspektai, perkėliau ceremoniją“, – sakė Donaldas Trumpas.

    Augantis visuomenės skepticizmas

    AFP atkreipia dėmesį, kad sprendimas sutapo su stiprėjančia kritika DI JAV. Technologija vis dažniau vertinama per darbo rinkos, švietimo ir informacinio saugumo prizmę, o viešose diskusijose ryškėja nerimas dėl to, kaip DI keis profesijas ir kas prisiims atsakomybę už klaidas.

    Skepticizmą, pasak agentūros, atspindi ir viešos reakcijos akademinėje aplinkoje bei apklausos, rodančios atsargesnį visuomenės požiūrį į DI. Tai didina politinį spaudimą ieškoti sprendimų, kurie vienu metu užtikrintų kontrolę, bet nepaverstų reguliavimo kliūtimi konkurencijai.

    Baltųjų rūmų ginčai ir Bideno palikimas

    DI klausimas, anot AFP, tapo ir vidinių nesutarimų priežastimi Baltuosiuose rūmuose. Dalis administracijos atstovų siekia aiškesnių saugiklių, ypač ten, kur DI sprendimai galėtų turėti įtakos finansų sistemai ar suteikti nesąžiningiems veikėjams papildomų galimybių.

    Kita stovykla baiminasi, kad griežtesni reikalavimai stabdytų JAV įmones tuo metu, kai globali konkurencija DI srityje aštrėja, o svarbiausiu varžovu dažnai įvardijama Kinija. Ši įtampa siejasi ir su ankstesnėmis diskusijomis: 2023 metais Joe Bidenas buvo pasirašęs vykdomąjį įsaką, kuriuo prašyta dalintis pažangiausių modelių saugumo testų rezultatais su valdžios institucijomis, tačiau Trumpas vėliau šią kryptį kritikavo kaip ribojančią konkurencingumą.

    Kol kas neaišku, ar atidėtas įsakymas bus perrašytas, sušvelnintas, ar grįš su naujomis nuostatomis. Vis dėlto pats atidėjimas signalizuoja, kad DI reguliavimas JAV artimiausiu metu bus ne tik technologijų politikos, bet ir vidaus politinių kovų ašis.

  • „OpenAI“ siūlo ES prieigą prie pažangaus DI modelio: ką jis gali ir kodėl Briuselis sunerimo

    „OpenAI“ siūlo ES prieigą prie pažangaus DI modelio: ką jis gali ir kodėl Briuselis sunerimo

    „ChatGPT“ kūrėja „OpenAI“ derasi su Europos Komisija dėl galimybės ES institucijoms suteikti prieigą prie pažangaus modelio, skirto programinės įrangos pažeidžiamumams nustatyti. Šis žingsnis Briuselyje vertinamas kaip reikšmingas postūmis, nes pastarosiomis savaitėmis Europos pareigūnai ieškojo būdų geriau suprasti naujos kartos DI keliamas kibernetines rizikas.

    Pagrindinė idėja yra suteikti prieigą ne plačiajai visuomenei, o reguliuotojams ir saugumo institucijoms, kad jos galėtų įvertinti, kaip toks modelis gali būti panaudotas gynybai. Kartu tai leidžia stebėti, ar saugikliai, ribojantys piktnaudžiavimą, veikia praktikoje.

    Modelis, kuris randa spragas

    Pagal viešai aptariamą iniciatyvą ES institucijos galėtų susipažinti su kibernetikai pritaikyta pažangiausio „OpenAI“ modelio versija, galinčia padėti identifikuoti programinės įrangos silpnas vietas. Tokie įrankiai saugumo komandoms gali pagreitinti pažeidžiamumų paiešką, padėti prioritetizuoti pataisas ir geriau įvertinti realų rizikos lygį.

    Vis dėlto ta pati technologija kelia ir akivaizdžią grėsmę: jei modelis per daug „leidžiantis“, jis gali palengvinti kenkėjams spragų išnaudojimą ar atakų planavimą. Dėl to įprastai tokie modeliai turi papildomus apribojimus, o prieigos kontrolė tampa kritiškai svarbi.

    Kontrastas su „Anthropic“ ir politinis spaudimas

    „OpenAI“ pasiūlymas išryškino skirtumus tarp didžiųjų DI kūrėjų, kaip jie dalijasi jautriomis kibernetinėmis galimybėmis su valdžios institucijomis. Europos pareigūnai buvo viešai išreiškę nepasitenkinimą, kad konkurentės „Anthropic“ modelis „Mythos“ ES pusėje ilgiau išliko sunkiai pasiekiamas.

    Briuselyje dėl to augo įtampa: dalis europarlamentarų ir nacionalinių vyriausybių siekė daugiau koordinacijos bei informacijos, kad Europa nebūtų priversta laukti, kol privačios bendrovės pačios nuspręs, kas ir kada gali vertinti rizikingiausius DI pajėgumus.

    „Riba tarp to, kas padeda gintis, ir to, kas gali būti panaudota pulti, yra labai plona, todėl prieigą turi vertinti ne vien pačios įmonės“, – sakė iniciatyvai vadovaujantis „OpenAI“ atstovas George’as Osborne’as.

    Kodėl tai svarbu Europos infrastruktūrai

    Europos Komisijos atstovai šį atvirumą sieja su galimybe geriau prižiūrėti, kaip tokie modeliai diegiami ir ar neatsiranda naujų sisteminių grėsmių. Praktinis tikslas yra sustiprinti institucijų, komunalinių paslaugų, energetikos, ryšių ir kitos kritinės infrastruktūros atsparumą, nes DI paremtų kibernetinių atakų mastas, tikėtina, augs.

    ES reguliavimo aplinkoje tai dera su platesne kryptimi: didesniu modelių skaidrumu, rizikos vertinimu ir testavimu, ypač kai kalbama apie pažangius, vadinamuosius „frontier“ tipo DI sprendimus. Kuo anksčiau reguliuotojai gauna realią prieigą vertinimui, tuo mažesnė tikimybė, kad saugumo spragos bus pastebėtos tik po plataus diegimo.

    Tolesnės derybos su Europos Komisija turėtų parodyti, kokiomis sąlygomis prieiga būtų suteikiama, kokio lygio modelio versija būtų prieinama ir kokie saugos bei atskaitomybės mechanizmai būtų taikomi. Nuo šių sprendimų priklausys, ar žingsnis taps precedentu kitoms DI bendrovėms, ar liks išimtimi.