Tag: DI reguliavimas

  • „Nvidia“ vadovas J. Huangas po pokalbio su Trumpu: dirbtiniam intelektui naujų įstatymų nereikia

    „Nvidia“ generalinis direktorius Jensenas Huangas San Franciske vykusioje „Dreamforce“ konferencijoje pareiškė, kad dirbtinio intelekto sričiai nereikia naujų įstatymų ar papildomo reguliavimo. Jo žodžiai nuskambėjo tuo metu, kai dalis technologijų lyderių ir tyrėjų ragina spartų DI vystymą stabdyti ir griežtinti saugumo patikras.

    Vadovas savo poziciją siejo su idėja, kad už saugumą pirmiausia turi atsakyti pačios įmonės, o ne įstatymų leidėjai, kurių sprendimai dažnai atsilieka nuo technologinės realybės. Huangas pabrėžė, kad jei bendrovė nėra tikra dėl produkto patikimumo ar saugumo, ji neturėtų jo išleisti į rinką.

    „Mums nereikia naujų įstatymų. Mums nereikia naujų reguliavimų“, – sakė Jensenas Huangas.

    Huangas taip pat atmetė nuogąstavimus, kad DI masiškai atims darbo vietas, tokius argumentus pavadindamas nepagrįstais. Ši diskusija pastaraisiais metais tapo viena svarbiausių technologijų politikoje, nes DI įrankiai vis plačiau taikomi biuruose, klientų aptarnavime, programavime ir kūrybinėse industrijose.

    Jo pasisakymai išryškino vis ryškesnį susiskaldymą tarp didžiųjų rinkos žaidėjų. Vieni akcentuoja savireguliaciją ir inovacijų greitį, kiti ragina kurti bendrus standartus, įtvirtinti nepriklausomus saugumo vertinimus ir numatyti aiškią atsakomybę už žalą, kuri gali kilti dėl klaidingų ar piktybiškai panaudotų DI sistemų.

    Pranešama, kad Huangas neseniai bendravo su JAV prezidentu Donaldu Trumpu ir vėliau viešai kartojo panašias mintis, jog egzistencinės grėsmės dėl DI esą dažnai perdedamos. Tuo pat metu JAV politikoje stiprėja nuomonė, kad per griežtas reguliavimas galėtų pristabdyti amerikietiškų technologijų konkurencingumą, ypač varžantis su Kinijos DI ekosistema.

    Diskusijos dėl DI taisyklių vyksta ne tik JAV. Europos Sąjunga yra patvirtinusi DI aktą, kuriuo numatomas rizika grįstas požiūris: griežčiausios taisyklės taikomos aukštos rizikos sistemoms, o kai kurie naudojimo atvejai apskritai draudžiami. Šis modelis dažnai minimas kaip alternatyva savireguliacijai, tačiau verslas nuogąstauja dėl administracinės naštos ir inovacijų tempo.

    „Dreamforce“ scenoje kalbėję technologijų vadovai iš esmės sutaria dėl vieno: DI rinka yra itin dinamiška, o sprendimai dėl saugumo ir atsakomybės turės tiesioginę įtaką ne tik vartotojų pasitikėjimui, bet ir investicijoms. Skirtingos pozicijos dėl to, ar taisykles turi kurti valstybė, ar pati industrija, artimiausiais metais greičiausiai tik aštrės.

  • Von der Leyen kviečia DI lyderius tartis dėl pažangiausių modelių tempo: Europa ieško saugiklių

    Von der Leyen kviečia DI lyderius tartis dėl pažangiausių modelių tempo: Europa ieško saugiklių

    Europos Komisijos pirmininkė Ursula von der Leyen pareiškė planuojanti sukviesti pagrindinių dirbtinio intelekto bendrovių vadovus į diskusiją dėl to, kaip suderinti spartų pažangiausių DI modelių vystymą su visuomenės saugumu. Šią iniciatyvą ji įvardijo kaip siekį paremti pramonės pastangas atsakingai „reguliuoti tempą“ sparčiausiai judančioje DI vystymo dalyje.

    Kalbėdama per metinį pranešimą apie Europos Sąjungos padėtį, von der Leyen akcentavo, kad didėja susirūpinimas dėl vadinamųjų pažangiausių, arba fronto linijos, DI sistemų rizikų. Pastaruoju metu šią temą į viešąją darbotvarkę vėl grąžino ir keli ryškūs technologijų sektoriaus lyderiai, raginantys atsargesnį diegimą ir daugiau testavimo.

    Kodėl kalbama apie DI tempo ribojimą?

    Diskusijos dėl DI „tempo“ iš esmės sukasi apie tai, kaip greitai rinkai ir visuomenei pristatomi vis galingesni modeliai, kai jų poveikis ne visada iki galo išmatuotas. Rizikos dažniausiai siejamos su kenkėjiško turinio generavimu, manipuliacijomis informacija, kibernetinėmis atakomis, taip pat su sudėtingesnėmis, sunkiai prognozuojamomis sistemų elgsenomis.

    Von der Leyen tiesiogiai neįvertino atskirų vadovų raginimų stabdyti plėtrą, tačiau pabrėžė, kad Europa pasirengusi prisidėti prie pramonės iniciatyvų, kurios orientuotos į atsakingą pažangiausių modelių kūrimą. Tai signalas, kad Europos Komisija siekia ne tik taisyklių, bet ir praktinių susitarimų su rinka dėl testavimo, skaidrumo ir diegimo principų.

    Tarptautinis testavimas ir bendros taisyklės

    Europos Komisijos vadovė taip pat iškėlė tarptautinio bendradarbiavimo idėją, ypač dėl pažangiausių DI modelių testavimo ir vertinimo. Tokia kryptis atspindi siekį turėti suderintas metodikas, kurios leistų palyginti modelių rizikas, nustatyti minimalias saugos karteles ir greičiau reaguoti į incidentus.

    Viešai buvo užsiminta, kad į bendradarbiavimą gali būti kviečiamos tokios partnerės kaip Jungtinė Karalystė ir Kanada. Tai dera su ES pastangomis formuoti tarptautinius standartus, kai DI tampa ne vien technologijų, bet ir geopolitinės konkurencijos klausimu.

    Europa nori ne tik kurti, bet ir gauti vertę

    Von der Leyen pabrėžė, kad Europai svarbu ne vien varžytis dėl lyderystės kuriant pažangiausius modelius, bet ir tapti regionu, kuris iš DI pritaikymo išsineša didžiausią ekonominę ir visuomeninę naudą. Jos teigimu, Europos Komisijos dėmesys krypsta į sritis, kuriose DI gali duoti apčiuopiamą efektą ir kur kartu būtina aiški atsakomybė.

    Tarp prioritetinių krypčių įvardytos sveikatos apsauga, transportas, žemės ūkio ir maisto sektorius, pažangioji gamyba, taip pat gynyba ir kosmosas. Šiose srityse DI sprendimai gali didinti produktyvumą, gerinti paslaugų kokybę ir kurti konkurencinį pranašumą, tačiau kartu kelia aukštus saugos, patikimumo ir duomenų apsaugos reikalavimus.

    Ši iniciatyva rodo, kad ES lygiu stiprėja politinė valia DI temą spręsti ne vien per reglamentavimą, bet ir per tiesioginį dialogą su pažangiausius modelius kuriančiomis laboratorijomis. Artimiausiu metu svarbiausias klausimas bus tai, ar pavyks suderinti inovacijų greitį su realiai veikiančiais saugikliais, kuriuos pripažintų ir pramonė, ir valdžios institucijos.

  • „OpenAI“, „Anthropic“ ir „Google“ jungiasi dėl DI saugumo: kodėl varžovai staiga ieško bendrų taisyklių

    Varžovai imasi bendrų žingsnių

    Trys didžiausi pažangių modelių kūrėjai – „OpenAI“, „Anthropic“ ir „Google“ – pastarosiomis savaitėmis derino galimo bendradarbiavimo kryptis, kuriose prioritetas būtų DI saugumas ir rizikų valdymas. Apie tai viešai kalbėjo „OpenAI“ atstovas Chrisas Lehane, Vašingtone susitinkantis su JAV įstatymų leidėjais.

    Pats faktas, kad konkurentai aptaria bendrą darbotvarkę, rodo augantį spaudimą pramonei aiškiau parodyti, kaip bus valdoma vis galingesnių modelių plėtra. Tuo pačiu tai ženklas, kad reguliavimo klausimai tampa ne tik politinėmis diskusijomis, bet ir praktiniais verslo sprendimais.

    „Geriau bandyti dirbti kartu taip, kad prioritetu taptų saugumas“, – sakė Chrisas Lehane.

    Ką reiškia DI saugumas?

    Diskusijų centre – idėja kurti mechanizmus, kurie leistų anksčiau pastebėti ir riboti pavojingą DI elgesį, pavyzdžiui, modelių gebėjimą vykdyti kenkėjiškas instrukcijas, kurti apgaulingą turinį ar padėti automatizuoti kibernetines atakas. Praktikoje tai apima testavimą prieš paleidžiant sistemas, raudonąsias komandas, aiškesnius incidentų raportavimo standartus ir prieigos kontrolę.

    Kartu svarstoma ir apie platesnį priežiūros modelį – instituciją ar tarptautiniu mastu suderintas taisykles, kurios įvertintų pažangiausių modelių keliamas grėsmes. Tokios iniciatyvos dažnai siejamos su „frontier“ modeliais, kai sistemos pasiekia lygį, galintį daryti reikšmingą poveikį saugumui ar ekonomikai.

    Mažesnių žaidėjų įtarimai

    Ne visi sektoriuje šią kryptį vertina vienareikšmiškai. Mažesnės DI bendrovės viešai įspėja, kad saugumo argumentas gali tapti patogia priemone didiesiems sulėtinti rinkos dinamiką ir įtvirtinti dominuojančias pozicijas.

    Šioje logikoje baiminamasi, kad griežtesni reikalavimai, kuriuos lengviau atlaiko technologijų gigantai, gali tapti įėjimo į rinką barjeru startuoliams. Dėl to saugumo standartų kūrimas neišvengiamai persipina su konkurencijos politika.

    Ekspertų perspėjimai aštrina toną

    „Anthropic“ vadovas Dario Amodei pastaruoju metu kartoja, kad proveržis gali būti arčiau, nei visuomenė įsivaizduoja, o netinkamai valdant plėtrą galima prarasti kontrolę. Šiuos perspėjimus palaikė ir „OpenAI“ vadovas Samas Altmanas bei „xAI“ įkūrėjas Elonas Muskas.

    Viešojoje erdvėje pasirodė ir kitų specialistų kritikos, susijusios su skuba siekti itin pažangių sistemų. Tokie pareiškimai kuria foną, kuriame politikai vis dažniau prašo ne pažadų, o patikrinamų saugumo procedūrų.

    Ar reikalinga tarptautinė priežiūra?

    Diskusijose vis dažniau skamba mintis, kad DI plėtrai gali prireikti tarptautinio koordinavimo, panašiai kaip reguliuojamos jautrios, didelę riziką keliančios technologijos. Argumentas paprastas: pažangūs modeliai lengvai peržengia valstybių sienas, o vienos šalies taisyklės ne visada apsaugo nuo globalių pasekmių.

    Kita vertus, pernelyg lėtas ar fragmentuotas reguliavimas gali atsilikti nuo technologinės realybės. Todėl būtent pramonės lyderių susitarimai dėl minimalių saugumo standartų gali tapti tarpine stotele, kol valstybės ir tarptautinės organizacijos susitars dėl bendrų rėmų.

  • Buvęs „Google“ „DeepMind“ inžinierius perspėja dėl DI, Trumpas tai vadina apgaule

    Buvęs „Google“ „DeepMind“ inžinierius perspėja dėl DI, Trumpas tai vadina apgaule

    Diskusijos dėl dirbtinio intelekto saugumo vėl įkaito po buvusio „Google“ padalinio „DeepMind“ darbuotojo įspėjimų, kad sparčiai vystomi modeliai gali kelti egzistencinę riziką. Tuo pat metu Donaldas Trumpas viešai menkina tokias baimes ir vadina jas politine mistifikacija.

    Buvęs „DeepMind“ inžinierius Bilalas Chughtai socialiniuose tinkluose teigė, kad dirbdamas su pažangaus DI saugumo ir suderinamumo tyrimais matė, kaip greitai auga sistemų galimybės. Pasak jo, dabartinė kryptis kelia nerimą, o laiko saugumo sprendimams gali būti mažiau, nei visuomenei atrodo.

    „Tvirtai tikiu, kad DI turi potencialą pražudyti mus visus, ir kad laikas išvengti šio scenarijaus gali sekti“, – rašė Bilalas Chughtai.

    Donaldas Trumpas savo platformoje „Truth Social“ tokias kalbas lygino su ankstesnėmis politinėmis ir klimato temomis, teigdamas, jog tai esą skirta stabdyti JAV pramonę. Jis tvirtino, kad griežtas ribojimas ir reguliavimas labiausiai pasitarnautų užsienio konkurentams, ypač Kinijai.

    „Tai liguistas sąmokslas prieš DI ir duomenų centrus, iš kurio džiaugiasi tik Kinija. Kas laimės DI, tas laimės viską“, – rašė Donaldas Trumpas.

    Kas vyksta su DI reguliavimu

    Pastaraisiais metais DI reguliavimas Vakarų šalyse juda dviem kryptimis: greitas diegimas ekonomikai skatinti ir bandymas mažinti rizikas saugumui, privatumui bei rinkimų procesams. Europos Sąjungoje priimtas DI aktas įtvirtina rizikomis grįstą sistemą, kai pavojingiausi naudojimo atvejai ribojami ar draudžiami, o didelės rizikos sprendimams keliami griežtesni reikalavimai.

    Jungtinėse Valstijose vieningo DI įstatymo kol kas nėra, tačiau daugėja vykdomosios valdžios gairių, sektoriaus standartų ir agentūrų veiksmų. Paraleliai plečiasi diskusija dėl licencijavimo, auditų, skaidrumo ir atsakomybės, kai modeliai sukelia žalą.

    Kodėl rinkos reaguoja jautriai

    Investuotojai į DI temą žiūri kaip į ilgalaikį augimo variklį, tačiau tuo pat metu bijo reguliacinių „stabdžių“ ir reputacinių krizių. Vieši vadovų ir tyrėjų pareiškimai apie grėsmes gali sukelti trumpalaikį neapibrėžtumą, ypač kai kalbama apie galimus apribojimus dideliems modeliams ir duomenų centrų plėtrai.

    Kai kurie technologijų lyderiai viešai remia lėtesnį diegimą, tarptautinę koordinaciją ir privalomus saugumo patikrinimus. Kritikai savo ruožtu perspėja, kad per griežti licencijavimo ir atitikties reikalavimai gali sustiprinti didžiųjų žaidėjų pozicijas, nes mažesnėms įmonėms tai taptų per brangu.

    Ar egzistencinė rizika reali?

    Egzistencinės rizikos tema skamba vis garsiau, tačiau mokslinėje ir politikos bendruomenėje nėra vieningo sutarimo dėl tikimybės ir laiko horizonto. Vis dėlto sutariama, kad jau dabar matomos praktinės rizikos, tokios kaip dezinformacija, kibernetinės atakos, diskriminacija algoritmuose ir kritinės infrastruktūros pažeidžiamumas.

    Dėl to vis dažniau kalbama apie privalomus nepriklausomus vertinimus, „raudonųjų komandų“ testus, incidentų ataskaitas ir aiškius modelių naudojimo apribojimus jautriausiose srityse. Šios priemonės laikomos kompromisu tarp inovacijų tempo ir visuomenės saugumo.

  • Xi siūlo BRICS kurti atvirojo kodo DI zoną: tai gali pakeisti pasaulinę technologijų tvarką

    Xi siūlo BRICS kurti atvirojo kodo DI zoną: tai gali pakeisti pasaulinę technologijų tvarką

    Kinijos vadovas Xi Jinpingas BRICS viršūnių susitikime Naujajame Delyje pasiūlė sukurti vadinamąją atvirojo kodo dirbtinio intelekto zoną, skirtą 11 šalių blokui. Idėja pristatyta kaip siekis stiprinti bendradarbiavimą kuriant ir taikant didžiuosius kalbos modelius bei mažinti technologinę priklausomybę nuo Vakarų sprendimų.

    Pagal Kinijos valstybinės žiniasklaidos paskelbtą Xi kalbos santrauką, iniciatyva apimtų bendrus tyrimus, mokymus ir kompetencijų kėlimą, kad BRICS šalys galėtų greičiau diegti DI sprendimus viešajame sektoriuje ir versle. Xi akcentavo tikslą kurti atvirą ekosistemą, kurioje modelių kodas ir įrankiai būtų lengviau pritaikomi vietiniams poreikiams.

    Ką reikštų atvirojo kodo zona?

    Atvirojo kodo DI modeliai paprastai leidžia trečiosioms šalims peržiūrėti modelio architektūrą, svorius ar dalį kodo, taip pat juos modifikuoti ir pritaikyti. Tokia kryptis ypač patraukli valstybėms ir organizacijoms, kurios nori daugiau kontrolės, skaidrumo ir galimybės DI sprendimus diegti savo infrastruktūroje, o ne debesijos paslaugose.

    Tuo pat metu atvirumas kelia ir saugumo klausimų, nes galingi modeliai gali būti lengviau pritaikomi kenkėjiškiems tikslams. Dėl to pastaraisiais metais pasaulyje ryškėja dviejų požiūrių konkurencija: vieni ragina kuo plačiau atverti DI technologijas inovacijoms skatinti, kiti pabrėžia uždarų sistemų kontrolę ir rizikų valdymą.

    BRICS ambicija ir geopolitika

    BRICS grupė sukurta 2009 metais kaip didžiųjų kylančių ekonomikų formatas, siekiantis didesnės įtakos tarptautinėse institucijose, kuriose tradiciškai dominuoja Vakarų valstybės. DI šiame kontekste tampa ne tik ekonomikos augimo, bet ir strateginės galios įrankiu, nes nuo prieigos prie pažangių modelių, lustų ir duomenų infrastruktūros priklauso šalių konkurencingumas.

    Xi kartu paragino kurti platesnę, konsensusu paremtą pasaulinę DI valdymo sistemą. Pastaraisiais metais DI reguliavimas tapo vienu svarbiausių tarptautinės darbotvarkės klausimų, o skirtingi regionai renkasi nevienodą kelią: vienur akcentuojamos griežtesnės taisyklės ir atsakomybė, kitur labiau pabrėžiama inovacijų sparta.

    Kas toliau?

    Ši iniciatyva gali tapti bandymu sukurti alternatyvų DI standartų ir technologijų mainų kanalą, ypač jei BRICS šalys sutars dėl bendrų mokslinių programų, duomenų dalijimosi principų ir praktinių diegimo projektų. Tačiau reali įtaka priklausys nuo to, ar bus skirta pakankamai finansavimo, kaip bus sprendžiami intelektinės nuosavybės ir saugumo klausimai bei ar bus užtikrinta prieiga prie reikalingos skaičiavimo infrastruktūros.

    Xi taip pat planuoja šį mėnesį vykti į JAV derybų su prezidentu Donaldu Trumpu, o DI valdymas, tikėtina, bus vienas pagrindinių pokalbių klausimų. Technologijų varžyboms aštrėjant, DI tema vis dažniau atsiduria greta tradicinių saugumo ir ekonominių derybų punktų.

  • „Anthropic“ meta iššūkį „OpenAI“: JAV valstijose siūlo griežtinti DI saugos taisykles vietoj vienodų

    DI bendrovė „Anthropic“ JAV valstijose renkasi strategiją, kuri aiškiai skiriasi nuo konkurentės „OpenAI“: vietoj vienodų taisyklių visoje šalyje ji skatina priimti vis griežtesnius saugos reikalavimus. Toks kelias reiškia, kad skirtingos valstijos gali tapti savotiškomis bandymų laboratorijomis, keliančiomis kartelę sparčiai tobulėjantiems DI modeliams.

    „OpenAI“ savo ruožtu daugiausia kalba apie vadinamąjį atvirkštinį federalizmą, kai panašūs įstatymai būtų priimami valstija po valstijos, taip palaipsniui sukuriant vieningą nacionalinį reguliavimo pagrindą. „Anthropic“ atstovai teigia, kad toks suvienodinimas neturėtų virsti minimalių reikalavimų lubomis, ypač kai didžiausios galios DI sistemos kelia naujų rizikų.

    Skirtingos taisyklės ar vienas standartas?

    „Anthropic“ akcentuoja, kad skaidrumo deklaracijų ir savireguliacijos nebeužtenka, todėl valstijoms siūlo realias prievoles: saugos planus, jų vykdymo įrodymus ir išorinį vertinimą. Ši kryptis ypač ryški po Kalifornijos sprendimų, kurie JAV tapo vienu pirmųjų bandymų apibrėžti pažangių DI modelių atsakomybes.

    Tuo metu „OpenAI“ argumentuoja, kad skirtingų taisyklių mozaika gali sukurti praktinių problemų: įmonėms tektų taikytis prie nesuderinamų reikalavimų, o tai brangintų atitiktį ir lėtintų inovacijas. Vis dėlto net ir „OpenAI“ pastaruoju metu kai kuriais atvejais pritarė griežtesniems sprendimams, ypač ten, kur atsiranda aiškus audito ar nepriklausomo patikrinimo mechanizmas.

    Auditas tampa nauju standartu

    Vienas svarbiausių pastarojo meto poslinkių JAV valstijose yra dėmesys nepriklausomam vertinimui. Ilinojuje patvirtintos nuostatos dėl kasmetinių trečiųjų šalių auditų DI bendrovių saugos planams išskiriamos kaip precedentas, rodantis, kad vien pažadai ar vidinės ataskaitos politikams nebeatrodo pakankami.

    „Kiekvienas šių projektų buvo stipresnis už ankstesnį ir realiai stūmė į priekį saugos pareigas“, – sakė „Anthropic“ atstovas Cesaras Fernandezas.

    „Skaidrumas ir saviregistracija, mūsų manymu, jau nebeužtenka“, – pridūrė jis.

    Kodėl spaudimas didėja būtent dabar?

    DI reguliavimo spaudimas stiprėja todėl, kad federaliniu lygmeniu JAV sprendimai juda lėtai, o politiniai signalai dažnai kinta. Dėl to valstijos tampa vieta, kur greičiausiai atsiranda apčiuopiamos taisyklės, ypač susijusios su pažangiais modeliais, galinčiais paveikti kibernetinį saugumą ar būti pritaikytus pavojingiems scenarijams.

    „Anthropic“ pabrėžia ir praktinę pusę: modelių galimybės, įskaitant bandymus išnaudoti sistemų pažeidžiamumus, kelia poreikį ne tik aprašyti rizikas, bet ir nustatyti, kas, kada ir kaip privalo jas tikrinti. Dėl to kai kuriuose projektuose svarstomos nuostatos, susijusios su nepriklausomų vertintojų pasitelkimu ir aiškesnėmis vykdymo užtikrinimo galiomis, pavyzdžiui, valstijos generalinio prokuroro įsitraukimu.

    Praktinis šių kovojančių požiūrių rezultatas gali būti dvejopas: arba ilgainiui valstijos susivienodins aplink vieną modelį, arba vis griežtės tarpusavio konkurencija, keliant saugos kartelę. Bet kuriuo atveju DI bendrovėms tai reiškia naują realybę, kur politinė strategija ir atitikties reikalavimai tampa tokie pat svarbūs kaip technologinė pažanga.

  • „OpenAI“ GPT-5.6 gali negauti visi: JAV valdžia nori spręsti, kas bus įleistas pirmas

    „OpenAI“ GPT-5.6 gali negauti visi: JAV valdžia nori spręsti, kas bus įleistas pirmas

    „OpenAI“ jau ruošia naują dirbtinio intelekto modelį GPT-5.6, tačiau jo startas gali būti neįprastas: prieiga iš pradžių būtų suteikiama tik atrinktiems klientams. Toks etapinis paleidimas, remiantis žiniasklaidos publikacijomis, siejamas su JAV federalinės valdžios reikalavimais.

    Skelbiama, kad pirmojoje fazėje prieiga prie GPT-5.6 būtų tvirtinama individualiai, klientas po kliento. Plačiau modelis galėtų tapti pasiekiamas po kelių savaičių, tačiau kol kas neaišku, ar vėliau jis būtų atvertas visiems norintiems.

    Kas keičiasi „OpenAI“ planuose

    Etapinis diegimas reiškia, kad naujausias modelis pirmiausia galėtų būti skirtas ribotai įmonių grupei, ypač toms, kurios dirba su jautriais duomenimis ar kritine infrastruktūra. Tai leidžia testuoti saugumo priemones realiose situacijose, bet kartu kuria nelygią prieigos dinamiką rinkoje.

    Tokių ribojimų fonas siejamas su JAV politika, kai pažangiausi dirbtinio intelekto modeliai vis dažniau vertinami ir kaip inovacijų variklis, ir kaip nacionalinio saugumo rizikos veiksnys. Pastaraisiais metais daugėja diskusijų apie tai, ar labai galingi modeliai turėtų būti tikrinami prieš viešą paleidimą.

    Valdžios argumentas – nacionalinis saugumas

    Žiniasklaida nurodo, kad valdžios institucijos ragino „OpenAI“ atidėti arba išskaidyti išleidimą, motyvuodamos nacionalinio saugumo sumetimais. Tokia logika dažniausiai siejama su piktnaudžiavimo scenarijais, kai pažangūs modeliai gali būti panaudoti kibernetinėms atakoms, dezinformacijai ar biologinių rizikų didinimui.

    „Mes paaiškinome JAV vyriausybei, kad tai nėra mūsų pageidaujamas ilgalaikis modelis, ir bendradarbiausime siekdami labiau subalansuoto požiūrio būsimuose leidimuose“, – sakė „OpenAI“ vadovas Samas Altmanas.

    JAV institucijos pastaruoju metu aktyviau ieško vieningų kriterijų, kaip vertinti pažangius DI modelius, ypač prieš jų masinį pritaikymą. Praktikoje tai gali reikšti rizikos vertinimus, ribotos prieigos testus, incidentų valdymo procedūras ir aiškesnes taisykles, kam leidžiama naudoti galingiausius įrankius.

    Rinka nerimauja dėl nelygių taisyklių

    Etapinė prieiga gali turėti ir konkurencinių pasekmių: jei vieni rinkos dalyviai naujausius modelius gauna anksčiau, jų pranašumas kuriant produktus ir automatizuojant procesus didėja. Technologijų sektoriuje tai kelia klausimų, ar taisyklės bus taikomos vienodai skirtingoms bendrovėms.

    Be to, tokia praktika stiprina tendenciją, kad pažangiausios DI galimybės pirma pasiekia dideles organizacijas, o ne plačią visuomenę. Tai gali gilinti atotrūkį tarp įmonių, kurios gali greitai diegti automatizaciją, ir tų, kurios turi laukti vėlesnių, labiau prieinamų versijų.

    Kol kas „OpenAI“ nėra paskelbusi viešo grafiko, kada GPT-5.6 būtų prieinamas plačiai, todėl pagrindinis klausimas lieka atviras: ar etapinis modelio paleidimas taps laikina priemone, ar nauju standartu pažangiausiam DI JAV reguliavimo aplinkoje.

  • „Anthropic“ ragina testuoti pažangiausius DI modelius: siūlo nepriklausomą auditą prieš paleidimą

    DI bendrovės „Anthropic“ vadovas Dario Amodei parėmė idėją įvesti privalomą pažangiausių DI modelių testavimo ir audito režimą, kuris leistų valdžios institucijoms stabdyti ar atidėti ypač rizikingų sistemų diegimą. Pasak jo, vertinimas turėtų vykti dar prieš viešą modelio paleidimą, o sprendimai remtis techniniais saugumo kriterijais.

    Viešai pristatytoje pozicijoje D. Amodei siūlo remtis nepriklausomų trečiųjų šalių auditoriais, kurie galėtų įvertinti, ar konkretus modelis atitinka aukštus saugos standartus. Jei auditas rodytų pernelyg didelę riziką, diegimas, jo teigimu, turėtų būti blokuojamas arba atšaukiamas, kol bus pašalintos spragos.

    Keturi rizikų blokai

    „Anthropic“ vadovas išskiria kelias pagrindines sritis, kuriose, jo manymu, būtina standartizuota patikra. Tai kibernetinis saugumas, biologinių grėsmių ir piktnaudžiavimo rizika, DI sistemų valdymo praradimo scenarijai bei automatizuota mokslinių tyrimų ir plėtros veikla, kai modeliai gali pagreitinti naujų technologijų kūrimą.

    Tokios sistemos, pasak D. Amodei, turėtų būti vertinamos panašiai kaip aviacijoje, kur prieš pradedant naudoti orlaivį taikomi testai, sertifikavimas ir nuolatinė priežiūra. Jo logika paprasta: kuo didesnė technologijos galia ir poveikio mastas, tuo griežtesni saugos slenksčiai turi būti taikomi.

    Politinis kontekstas ir rinkos spaudimas

    Šie siūlymai pasirodė JAV tęsiantis diskusijoms dėl DI priežiūros modelio ir valdžios vaidmens vertinant naujas, itin galingas sistemas. Pastaruoju metu aptariami scenarijai, kai bendrovės būtų raginamos iš anksto pateikti modelius peržiūrai prieš juos plačiai išleidžiant, tačiau ginčijamasi, ar tokia tvarka turi būti savanoriška, ar privaloma.

    Didėjant DI konkurencijai, bendrovės patiria spaudimą sparčiai diegti naujoves, bet kartu auga ir rizikos: nuo kenkėjiško panaudojimo iki neprognozuojamo elgesio, kai modeliai naudojami sudėtingoms užduotims automatizuoti. Ekspertai vis dažniau pabrėžia, kad vien vidiniai testai gali būti nepakankami, ypač kai modelių galimybės ir taikymo scenarijai sparčiai plečiasi.

    Darbo rinkos klausimas: ką daryti su poveikiu žmonėms?

    D. Amodei taip pat palietė DI poveikį darbo rinkai ir galimą išstūmimą iš tam tikrų profesijų. Jo teigimu, politikos atsakai galėtų apimti mokesčių ir perskirstymo priemones, tarp jų ir universalių kapitalo sąskaitų idėją, kuri leistų visuomenei plačiau dalyvauti DI ekonominės naudos pasidalijime.

    Ši kryptis įsilieja į platesnę JAV diskusiją apie tai, kaip apmokestinti sparčiai augantį technologijų sektorių ir kaip užtikrinti, kad DI kuriama vertė neapsiribotų siauru rinkos dalyvių ratu. Kol kas aiškaus politinio sutarimo nėra, tačiau DI reguliavimo ir ekonominio teisingumo temos Vašingtone tampa vis labiau susijusios.

    „Anthropic“ pozicija išsiskiria tuo, kad viena didžiųjų DI kūrėjų viešai pritaria griežtesniam, į išorės auditą orientuotam režimui. Ar tai virs realiais standartais, priklausys nuo politinių sprendimų, pramonės pasirengimo dalintis testavimo informacija ir nuo to, ar bus sukurti patikimi, nepriklausomi vertinimo mechanizmai.

  • DI tampa per pavojingas viešai: „Anthropic“, „OpenAI“ ir „Google“ riboja modelius kaip ginklą

    DI tampa per pavojingas viešai: „Anthropic“, „OpenAI“ ir „Google“ riboja modelius kaip ginklą

    Dirbtinio intelekto rinkoje ryškėja lūžis: dalis pažangiausių modelių pradedami platinti ne viešai, o tik griežtai atrinktiems partneriams. Technologijų kūrėjai tai aiškina vadinamuoju dvigubos paskirties rizikos veiksniu, kai tie patys įrankiai tinka ir gynybai, ir nusikaltimams.

    Pastaruoju metu vis dažniau kalbama apie modelius, kurie gali padėti automatizuoti pažeidžiamumų paiešką, spartinti kenkėjiško kodo kūrimą ar didinti sukčiavimo kampanijų mastą. Tokios galimybės ypač aktualios kibernetinio saugumo srityje, kur puolėjai naujas priemones gali pritaikyti greičiau nei gynėjai spėja užlopyti spragas.

    Ribojama prieiga ir patikra

    Kai kurios bendrovės jau renkasi ribotą leidimą ir prieigą tik patikrintoms organizacijoms, o ne masinį išleidimą vartotojams. Praktikoje tai reiškia tapatybės patikrą, naudojimo sąlygų sugriežtinimą, veiklos žurnalų kaupimą ir aiškesnę atsakomybę už tai, kam ir kokiomis sąlygomis suteikiamos galimybės.

    Tokie sprendimai keičia iki šiol vyravusį požiūrį, kai inovacijos siejamos su kuo platesniu prieinamumu. Kritikai perspėja, kad uždarumas gali pristabdyti tyrimus ir mažinti skaidrumą, tačiau šalininkai pabrėžia, kad kai kurių DI gebėjimų pasekmės gali būti per didelės, kad juos būtų galima paleisti be kontrolės.

    Dvigubos paskirties dilema

    Dvigubos paskirties tema jau seniai pažįstama gynybos pramonei, tačiau dabar ji vis labiau persikelia į programinę įrangą. DI gali vienu metu stiprinti saugumą, pavyzdžiui, padėti aptikti pažeidžiamumus, ir kartu sudaryti sąlygas efektyvesnėms atakoms, socialinei inžinerijai ar dezinformacijos gamybai.

    Rizikos diskusija plečiasi ir už kibernetinio saugumo ribų, apimdama biologijos bei chemijos sritis, kur žinių generavimas ir eksperimentų planavimas taip pat gali turėti nepageidaujamų pritaikymų. Dėl to vis dažniau keliami klausimai, ar dalis pažangiausių sistemų neturėtų būti vertinamos panašiai kaip jautrios technologijos.

    Reguliavimas ir privatumo kaina

    JAV ir Europos Sąjungoje stiprėja spaudimas nustatyti aiškesnes taisykles, kaip testuojami ir prieš pateikiant rinkai vertinami galingi modeliai. Europos Sąjungoje papildomą foną suteikia DI aktas, kuris įtvirtina rizikos valdymo logiką ir skatina griežtesnius reikalavimus jautriausioms taikymo sritims.

    Vis dėlto praktinis įgyvendinimas gali kainuoti privatumą: siekiant užkirsti kelią piktnaudžiavimui, didėja tikimybė, kad prieiga bus suteikiama tik identifikuotiems naudotojams, o veikla bus labiau stebima. Ši įtampa tarp inovacijų, nacionalinio saugumo ir asmens duomenų apsaugos, tikėtina, bus viena svarbiausių artimiausių metų DI politikos temų.

    Rinkos kryptis vis labiau primena gynybos sektoriaus praktiką: mažiau viešų leidimų ir daugiau licencijavimo, patikrų bei kontrolės. Tai gali pakeisti ir pačią konkurenciją, nes prie pažangiausių galimybių pirmiausia prieis valstybės institucijos ir didelės organizacijos, o platesnei visuomenei liks ribotos, saugesnės versijos.

  • Trumpo komandoje bręsta konfliktas dėl Popiežiaus Leono XIV DI įspėjimo: kas suskilo?

    Trumpo komandoje bręsta konfliktas dėl Popiežiaus Leono XIV DI įspėjimo: kas suskilo?

    JAV prezidento Donaldo Trumpo administracijoje ryškėja nesutarimai dėl Popiežiaus Leono XIV perspėjimų apie dirbtinį intelektą. Vatikano raginimas stiprinti DI priežiūrą išprovokavo skirtingas reakcijas aukščiausiuose valdžios sluoksniuose.

    Vidaus reikalų sekretorius Dougas Burgumas viešai menkino popiežiaus poziciją, teigdamas, kad pontifikas neturėtų „redaguoti technologijų“ darbotvarkės. Tuo metu viceprezidentas JD Vance’as tą patį signalą pavadino giliu ir svarbiu moraliniu orientyru DI eros pradžioje.

    Popiežiaus žinia apie DI rizikas

    Popiežius Leonas XIV neseniai paskelbė pirmąją encikliką, kurioje daug dėmesio skiriama DI plėtrai ir jos poveikiui žmogui. Dokumente akcentuojama, kad technologinė pažanga neturi aplenkti atsakomybės, o sprendimai turi išlikti žmogaus rankose.

    Pontifikas įspėjo, kad DI gali išstumti dalį darbuotojų, didinti nelygybę ir sukurti situacijų, kai mirtinų ginklų panaudojimo sprendimai priimami be pakankamos žmogaus kontrolės. Vatikano pozicija atliepia augantį tarptautinį susirūpinimą dėl autonominių sistemų ir generatyvinių modelių panaudojimo.

    Baltojoje rūmuose svarstymai dėl priežiūros

    Nesutarimai išryškėjo tuo metu, kai Baltieji rūmai svarsto, kiek griežtai reguliuoti sparčiai besivystančias DI technologijas. Administracija DI plėtrą sieja su ekonomikos konkurencingumu ir geopolitine įtaka, todėl priežiūros mechanizmai vertinami per inovacijų tempo prizmę.

    Pasak JAV pusės argumentų, papildomos taisyklės gali lėtinti technologijų diegimą ir silpninti konkurencinę poziciją prieš Kiniją. Tačiau kritikų nuomone, savanoriškos iniciatyvos ir rinkos savireguliacija gali būti nepakankamos, kai DI sistemų sprendimai ima daryti tiesioginę įtaką darbo rinkai ir nacionaliniam saugumui.

    Vatikano ir Trumpo įtampa plečiasi

    DI tema tapo dar vienu ginčų tašku platesniame Trumpo ir Vatikano santykių konflikte. Per pastaruosius mėnesius popiežius kritikavo kai kurias JAV politikos kryptis, o Trumpas savo ruožtu nevengė aštrių viešų pasisakymų apie pontifiką.

    „Manau, kad Bažnyčia privalo pasiūlyti moralinę lyderystę, kai technologijos ima formuoti kasdienį gyvenimą“, – sakė JD Vance’as.

    Politologų vertinimu, viešas konfliktas su popiežiumi gali turėti politinių pasekmių, nes katalikų rinkėjai JAV yra reikšminga elektorato dalis, ypač svyruojančiose apygardose. Kita vertus, konservatyvūs katalikai dažnai išlieka lojalūs respublikonams dėl vertybinių klausimų, todėl tiesioginis efektas gali būti nevienareikšmis.

    DI saugumo šalininkai tikina, kad popiežiaus argumentai suteikia papildomo svorio raginimams kurti aiškesnes taisykles dėl modelių testavimo, skaidrumo ir atsakomybės. Administracijai tai tampa ir politine, ir komunikacine dilema: kaip išlaikyti technologinę lyderystę, kartu neignoruojant visuomenės nerimo dėl darbo vietų, šeimų gerovės ir saugumo.