Tag: DI reguliavimas

  • „Microsoft“ vadovas perspėja: dirbtinis intelektas reguliuojamas silpniau nei pienas ar skalbyklės

    „Microsoft“ prezidentas Bradas Smithas teigia, kad šiandien kasdieniai produktai, tokie kaip pienas ar buitinė technika, yra prižiūrimi griežčiau nei dirbtinis intelektas. Jo vertinimu, DI plėtra vyksta greitai, o aiškių, visuotinai taikomų saugos standartų ir priežiūros mechanizmų daug kur vis dar trūksta.

    Pasak B. Smitho, dėl to būtina spartinti tarptautinių taisyklių kūrimą, kad būtų aišku, kokie saugumo reikalavimai taikomi DI sistemoms, kada jos privalo būti testuojamos ir kas atsako už žalą. Jo akcentuojama problema yra ne tik technologijos galia, bet ir tai, kad klaidos ar piktnaudžiavimas gali paveikti labai plačias visuomenės grupes.

    Ko, pasak „Microsoft“, trūksta dabar?

    Vadovas pabrėžia, kad įmonėms reikia vadinamųjų avarinio stabdymo priemonių, leidžiančių sustabdyti arba sulėtinti DI veikimą, jei sistema ima elgtis neprognozuojamai. Tokios priemonės, jo teigimu, turėtų būti suprantamos kaip bazinis saugos standartas, panašiai kaip avariniai mygtukai pramonėje ar griežti reikalavimai vartotojų prekėms.

    Kitas siūlymas – įtvirtinti prievolę rengti incidentų ataskaitas ir informuoti nukentėjusius, jeigu DI sukelia žalą ar veikia pavojingai. Tai reikštų aiškesnę praktiką, kada įmonės privalo viešinti problemą, ką turi pateikti reguliuotojams ir kaip greitai vartotojai turi sužinoti apie riziką.

    B. Smithas taip pat pasisako už nepriklausomą naujų DI sprendimų vertinimą, kurį atliktų valstybės paskirti ekspertai. Idėja – turėti patikrą prieš platesnį diegimą, ypač ten, kur DI naudojamas jautriose srityse, pavyzdžiui, švietime, sveikatos apsaugoje, finansuose ar kritinėje infrastruktūroje.

    Diskusija vyksta ir politiniame lygmenyje

    DI reguliavimo kryptys tampa politinių diskusijų objektu, ypač kalbant apie konkurenciją tarp JAV, Europos ir Kinijos technologijų ekosistemų. Viena stovyklos dalis pabrėžia, kad per griežtos taisyklės gali sulėtinti inovacijas, o kita akcentuoja, kad aiškios prievolės yra būtinos pasitikėjimui ir saugumui užtikrinti.

    Šioje diskusijoje B. Smitho pozicija – griežtesnė priežiūra ir globalios taisyklės – kertasi su požiūriu, jog DI sektorius turėtų labiau reguliuotis pats, kad įmonės neprarastų tempo tarptautinėse lenktynėse. Praktikoje vis dažniau kalbama apie kompromisą: inovacijų skatinimą derinti su aiškia atsakomybe, skaidrumu ir rizikų valdymu.

    Kodėl minima Jungtinė Karalystė?

    „Microsoft“ vadovas išskiria Jungtinę Karalystę kaip šalį, kuri, jo vertinimu, yra gerai pasirengusi prisidėti prie tarptautinių DI saugos taisyklių formavimo. Argumentas siejamas su pastaraisiais metais stiprinta kompetencija ir specializuotomis institucijomis, skirtomis DI saugumo klausimams.

    Diskusijas dėl reguliavimo taip pat kursto vis dažniau pasigirstantys ekspertų perspėjimai apie galimas DI grėsmes, pradedant klaidinančiu turiniu ir sukčiavimu, baigiant sisteminėmis rizikomis, kai pažangios sistemos naudojamos be pakankamos kontrolės. Dėl to rinkoje auga spaudimas turėti taisykles, kurios būtų suprantamos tiek kūrėjams, tiek vartotojams.

    „Šiandien skalbyklė dažnai turi daugiau saugos reikalavimų nei dirbtinis intelektas, o pieno pakuotė parduotuvėje praeina griežtesnes patikras“, – sakė Bradas Smithas.

  • JK DI ministras ragina pažangiausias laboratorijas griežtinti saugą, o šalis stiprina kibernetinę gynybą

    JK DI ministras ragina pažangiausias laboratorijas griežtinti saugą, o šalis stiprina kibernetinę gynybą

    Jungtinės Karalystės dirbtinio intelekto ministras Kanishka Narayan Londone paragino pažangiausius DI modelius kuriančias laboratorijas reikšmingai didinti jų sistemų saugumą. Tuo pačiu metu JK Vyriausybė pranešė stiprinanti kibernetinę gynybą ir svarstanti papildomas teisines priemones, siekiant pasirengti galimiems rimtiems DI sukeltiems incidentams.

    Ministro teigimu, sparčiai augant pažangiausių modelių gebėjimams ir jų autonomiškumui, rizikos valdymas turi tapti ne priedu prie inovacijų, o privaloma kūrimo dalimi. Jis pabrėžė, kad įmonės turi skirti daugiau dėmesio netikėtam modelių elgesiui, o atsargumo principas turėtų galioti iki tol, kol rizikos suvaldymas yra įrodytas praktikoje.

    „Bendrovėms, kuriančioms galingiausias pasaulyje DI sistemas, mano žinutė paprasta: klausykite, kai mokslininkai įspėja apie rimtus pavojus. Tirpkite netikėtą elgesį. O jei negalite tinkamai suvaldyti rizikų, sistemos neleiskite į viešą naudojimą“, – sakė Kanishka Narayan.

    Pasak ministro, pastarojo meto atvejai, kai agentinio tipo DI sistemos gali inicijuoti veiksmus su ribota žmogaus priežiūra, parodė, kad incidentai gali vystytis greitai ir neturėti aiškių ribų tarp skirtingų organizacijų bei valstybių. Dėl to JK siekia, kad kritinės infrastruktūros operatoriai, viešasis sektorius ir technologijų kūrėjai turėtų aiškesnes taisykles, kaip reaguoti į incidentus, kuriuose dalyvauja autonomiškai veikiančios DI sistemos.

    JK taip pat akcentuoja praktinius pasirengimo darbus: peržiūrimas valstybės sistemų saugumas, identifikuojami silpnumai ir diegiamos priemonės, mažinančios tikimybę, kad DI būtų panaudotas atakoms automatizuoti, paslėpti ar sustiprinti. Ministras nurodė, kad jau buvo pašalinta daugiau nei 1 000 potencialių kibernetinių pažeidžiamumų įvairiose valdžios sistemose.

    Vyriausybė svarsto, kaip sustiprinti Kibernetinio saugumo ir atsparumo teisės aktų paketą, kad geriau būtų apsaugotos esminės paslaugos, tokios kaip ligoninės, energetikos ar komunalinių paslaugų sektorius. Šiose srityse didžiausias dėmesys skiriamas tiek prevencijai, tiek greitam incidentų suvaldymui, nes net trumpalaikis sistemų sutrikdymas gali sukelti didelę žalą.

    Ministro teigimu, viena svarbiausių krypčių tampa DI verifikavimas, kai nepriklausomais metodais tikrinama, ar modeliai atitinka nustatytus saugos reikalavimus ir ar jų elgesys numatomose situacijose yra prognozuojamas. Šį darbą JK sieja su DI Saugumo instituto veikla ir bendradarbiavimu su DI kūrėjais bei partneriais tarptautiniu mastu.

    JK pasirinktas tonas rodo platesnę tendenciją: valstybės vis dažniau kelia reikalavimus ne tik duomenų apsaugai ar kibernetinei higienai, bet ir pačių DI modelių patikimumui, valdomumui bei incidentų atskaitomybei. Tai reiškia, kad laboratorijoms ir produktų kūrėjams gali tekti investuoti daugiau į testavimą, rizikų vertinimą ir kontrolės priemones dar iki sistemoms pasiekiant vartotojus.

  • Trumpas pristatė Baltųjų rūmų susitarimą dėl DI: „Google“ ir kiti žada daugiau kontrolės

    JAV prezidentas Donaldas Trumpas po susitikimo su didžiausių technologijų bendrovių vadovais paskelbė apie naują dokumentą, kuriame išdėstomi pažadai dėl pažangių DI sistemų saugumo. Jis teigė, kad tai esą primena konstituciją, o oficialiai dokumentas įvardijamas kaip Baltųjų rūmų susitarimas dėl superintelekto.

    Pasak Trumpo, susitarimą pasirašė „Google“, „Meta“, „OpenAI“, „Anthropic“, „xAI“ ir „Nvidia“ vadovai. Jis taip pat pareiškė, kad administracija sieks oficialiuose tekstuose vartoti terminą superintelektas vietoj dirbtinis intelektas, nors praktinė tokio sprendimo reikšmė kol kas neaiški.

    Keturi žadami saugikliai

    Dokumente numatomi keturi pagrindiniai kontrolės lygiai, kuriuos bendrovės įsipareigoja taikyti kuriant ir diegiant pažangiausius modelius. Pirmasis lygis – nuolatinė vidinė modelių stebėsena ir atitikties užtikrinimas, kad sistemos neveiktų prieš kūrėjų nustatytas taisykles.

    Antrasis lygis – specialios vidinės testavimo komandos, kurios ieškotų pažeidžiamumų ir bandytų įvertinti, kaip modeliai elgiasi ekstremaliose situacijose. Trečiasis – nepriklausomi išoriniai auditai, kai saugumo patikra patikima trečiosioms šalims.

    Ketvirtasis lygis – atskiras priežiūros komitetas, sudarytas iš įmonių valdybų narių, kuris prižiūrėtų visą procesą ir priimtų ataskaitas. Taip pat numatoma reguliariai susitikti ir derinti bendrus standartus, kurie ateityje galėtų tapti formalesnėmis taisyklėmis.

    Savanoriški įsipareigojimai ar reali priežiūra?

    Svarbiausia detalė – tai savanoriškas susitarimas, paremtas bendrovių savikontrole, nenumatant naujų privalomų valstybės reguliavimo priemonių. Trumpas leido suprasti, kad valdžia šiuo etapu labiau remsis bendrovių pažadais ir viešu atsiskaitymu, o ne naujais įstatymais.

    Tokio tipo susitarimai JAV praktikoje nėra naujiena, tačiau DI atveju jie vertinami nevienareikšmiškai. Kritikai dažnai pabrėžia, kad vien savanoriškų principų gali nepakakti, jei rinkos spaudimas skatina greitį, o ne saugumą, ypač kai technologijų varžybos vyksta globaliai.

    Susitikime dalyvavę bendrovių vadovai akcentavo, kad pasitikėjimas yra būtina sąlyga DI produktams plisti, o rizikos turi būti valdomos nuo pat kūrimo pradžios. Kartu nuskambėjo mintis, kad pažanga ir saugumas gali būti derinami, tačiau tam reikia nuolatinio testavimo ir atskaitomybės.

    „Jeigu kažkas pasisuks ne taip, apie tai pasakysiu pasauliui“, – sakė Donaldas Trumpas.

    DI reguliavimo kontekste JAV toliau renkasi lankstesnę kryptį nei Europos Sąjunga, kuri ėmėsi detalesnio teisinio režimo ir rizika grįsto požiūrio. Todėl rinkai svarbu ne tik deklaruojami principai, bet ir tai, ar bendrovės iš tiesų atvers daugiau duomenų auditams, testavimui ir nepriklausomai kontrolei.

  • DI jau lenks žmones? Trys modeliai pateikė datas – skirtumai pribloškia

    Diskusijos, kada dirbtinis intelektas galėtų prilygti žmogui ar net jį pranokti, pastaraisiais metais tapo viena karščiausių technologijų temų. Ukrainos portalas Komentarі pabandė tai iliustruoti paprastu eksperimentu: paklausė trijų populiarių modelių „Gemini“, „ChatGPT“ ir „Claude“, kada DI galėtų tapti protingesnis už žmones.

    Atsakymai išsiskyrė: vienas modelis kaip ribą įvardijo 2031 metus, kitas – 2038 metus, trečias – 2040 metus. Nors tokie skaičiai skamba kaip tiksli prognozė, iš tiesų tai labiau skirtingų prielaidų ir neapibrėžtumo atspindys nei patikimas kalendorius.

    Modelis, pateikęs ankstyviausią datą, aiškino, kad lūžis galėtų įvykti tada, kai sistemos gebėtų reikšmingai tobulinti pačios save: automatizuotai kurti geresnius algoritmus, efektyviau mokytis ir greičiau perkelti žinias į naujas užduotis. Tokia idėja dažnai siejama su technologinės singularumo sąvoka, tačiau mokslinėje bendruomenėje ji vertinama nevienareikšmiškai.

    Vidurinę datą minėjęs modelis argumentavo, kad DI proveržį galėtų pagreitinti naujos kartos skaičiavimo metodai ir aparatūra. Viešojoje erdvėje dažnai minimi kvantiniai skaičiavimai, tačiau praktikoje dauguma DI pažangos šiandien vis dar priklauso nuo klasikinių lustų, duomenų centrų masto ir efektyvesnių neuroninių tinklų architektūrų.

    Atsargesnė prognozė, nukelianti galimą lūžį į 2040 metus, labiau remiasi prielaida, kad pažanga bus evoliucinė. Tai reikštų ne vieną staigų šuolį, o laipsnišką gebėjimų plėtrą, kol sistemos galėtų patikimai atlikti daugumą intelektinių užduočių bent jau ne prasčiau už žmogų.

    Svarbu atskirti sąvokas: šiandien plačiai naudojami modeliai yra specializuoti, jie puikiai generuoja tekstą, kodą ar vaizdus, tačiau neturi žmogui būdingo supratimo ir patirties pasaulyje. Todėl diskusijose dažnai vartojamas terminas AGI, apibūdinantis hipotetinį bendrosios paskirties DI, gebantį mokytis ir veikti universaliai įvairiose srityse.

    Dalis tyrėjų pabrėžia, kad vien skaičiavimo galia nėra lemiamas veiksnys. Ribojančiais veiksniais tampa duomenų kokybė, klaidų ir haliucinacijų problema, gebėjimas planuoti ilgas užduočių grandines, patikimumas realiose situacijose, taip pat saugumo ir valdymo klausimai, kurie tampa vis aktualesni diegiant DI į kritines sritis.

    Ne mažiau svarbi ir reguliavimo kryptis: Europos Sąjungoje priimtas DI aktas numato rizika grįstą sistemų priežiūrą ir griežtesnius reikalavimus didelės rizikos sprendimams. Tai gali sulėtinti kai kurių produktų diegimą, tačiau kartu didina pasitikėjimą ir skatina atsakingą vystymą.

    Apibendrinant, trijų modelių nurodytos datos labiau parodo, kokios skirtingos yra prielaidos apie technologijų raidą, o ne tai, kad jau dabar būtų įmanoma tiksliai numatyti lūžio momentą. Kol kas aišku viena: DI gebėjimai sparčiai auga, tačiau klausimas, kada ir ar apskritai jis taps protingesnis už žmones, išlieka atviras tiek moksliškai, tiek politiškai.

  • Billas Gatesas perspėja dėl kibernetinių ir bioatakų: reguliuoti DI bus sunkiau nei branduolines derybas

    „Microsoft“ įkūrėjas ir filantropas Billas Gatesas perspėja, kad dirbtinis intelektas (DI) gali tapti įrankiu ne tik verslui ar mokslui, bet ir piktavaliams, galintiems surengti kibernetines ar biologines atakas dideliu mastu. Jo teigimu, tarptautinis DI reguliavimas bus itin sudėtingas, tačiau delsimas didina riziką, kad rimtos krizės įvyks anksčiau, nei bus sutarta dėl saugiklių.

    Interviu JAV žiniasklaidai Gatesas pabrėžė, kad technologijų pažanga pasiekė etapą, kai mažos grupės, turinčios prieigą prie pažangių DI modelių, teoriškai gali atlikti tai, kas anksčiau buvo įmanoma tik valstybėms. Didžiausia problema, anot jo, yra ta, kad DI ne visada galima „paprastai išjungti“ kaip įprastą sistemą, o jo poveikis gali būti išskaidytas per daugybę paslaugų ir infrastruktūros grandžių.

    Kas kelia didžiausią nerimą?

    Gateso vertinimu, didžiausia grėsmė kyla tuomet, kai pažangūs modeliai atsiduria blogų ketinimų turinčių žmonių rankose. Tokiais atvejais DI gali pagreitinti kenkėjiškų programų kūrimą, padėti ieškoti sistemų pažeidžiamumų ar automatizuoti dezinformacijos kampanijas, kurios išnaudoja visuomenės įtampas.

    Dar jautresnė sritis – biologinė sauga, kur DI potencialiai gali sumažinti barjerus planuojant pavojingus eksperimentus ar ieškant būdų apeiti saugumo protokolus. Nors reali rizika priklauso nuo daugybės veiksnių, įskaitant prieigą prie laboratorinės infrastruktūros, Gatesas ragina DI kūrimą vertinti kaip nacionalinio ir tarptautinio saugumo klausimą.

    „Vienintelis klausimas – ar tai padarysime prieš didelio masto kibernetinę ar biologinę ataką, ar po jos“, – sakė Billas Gatesas.

    Reguliavimo dilema: greitis prieš saugumą

    Gatesas ragina JAV imtis iniciatyvos ir stumti DI reguliavimo principus į tarptautinį lygmenį, nes atskirų valstybių taisyklės lengvai apėjamos globalioje skaitmeninėje rinkoje. Jo požiūriu, reikalingi bendri standartai, apimantys modelių testavimą, rizikos vertinimą, incidentų atskleidimą ir atsakomybės mechanizmus, kai DI panaudojamas žalingai.

    Pastaruoju metu DI saugumo tema aštrėja ir dėl to, kad net tarpusavyje konkuruojančios bendrovės ima ieškoti bendrų taisyklių. Viešojoje erdvėje dažniau kalbama apie nepriklausomą priežiūrą, modelių auditus ir privalomas procedūras prieš pateikiant ypač galingus modelius plačiajai rinkai.

    Tuo pat metu reguliavimo idėjos susiduria su politiniu pasipriešinimu. JAV politinėje diskusijoje dalis lyderių laikosi pozicijos, kad griežtesnės taisyklės gali sulėtinti inovacijas ir mažinti ekonominį konkurencingumą, o rinkos lūkesčiai dėl DI proveržio esą tapo svarbiu augimo veiksniu.

    Kodėl tai svarbu Europai ir Lietuvai?

    Nors Gateso komentarai skamba JAV kontekste, DI rizikos valdymas vis labiau tampa tarptautiniu klausimu, aktualiu ir Europai. Europos Sąjungoje didelis dėmesys skiriamas tam, kad pažangios sistemos būtų diegiamos su aiškiais atsakomybės ir saugumo reikalavimais, ypač srityse, kurios gali paveikti infrastruktūrą, sveikatą ar demokratinius procesus.

    Lietuvai, kaip mažai ir skaitmenizuotai valstybei, kibernetinis atsparumas yra kritiškai svarbus: nuo viešųjų paslaugų iki energetikos ir finansų sektoriaus. Todėl diskusija apie DI saugumą neišvengiamai palies ne tik technologijų įmones, bet ir valstybės institucijas, kritinės infrastruktūros valdytojus bei švietimo sistemą, kuri ruošia specialistus naujai rizikų aplinkai.

  • JT Saugumo Taryboje išryškėjo DI reguliavimo takoskyra: JAV prieš, Kinija ragina taisykles

    Jungtinių Tautų susitikime dėl dirbtinio intelekto saugumo Jungtinės Valstijos ir Kinija pristatė aiškiai skirtingas kryptis, kaip turėtų atrodyti tarptautinės taisyklės. Vašingtonas ragino neskurti naujos globalios DI valdymo sistemos, o Pekinas kalbėjo apie bendrus standartus ir tarptautinius saugiklius.

    Diskusija vyko JT sistemoje, kur vis dažniau keliami klausimai, kaip pažangių DI modelių plėtra gali paveikti saugumą, ekonomiką ir geopolitinę konkurenciją. Skirtingi požiūriai rodo, kad sutarti dėl vieningų principų bus sudėtinga net tada, kai abi pusės viešai pabrėžia dialogo svarbą.

    JAV atstovai akcentavo, kad DI reguliavimas pirmiausia turi išlikti nacionaliniu lygmeniu, o valstybės neturėtų perduoti sprendimų tarptautinėms institucijoms. Vašingtono argumentas remiasi suvereniteto principu ir baime, kad per griežti globalūs rėmai gali slopinti inovacijas ir technologinę lyderystę.

    „Jungtinės Valstijos visiškai atmeta bet kokius bandymus kurti globalų superintelekto kontrolės mechanizmą“, – sakė JAV atstovas, perteikdamas prezidento Donaldo Trumpo poziciją, išsakytą JT Generalinėje Asamblėjoje.

    Kinijos atstovas JT, priešingai, ragino greičiau kurti konsensusu paremtą pasaulinę DI valdymo sistemą, suderinant valstybių strategijas, techninius standartus ir saugumo priemones. Pekinas pabrėžė, kad tai esą padėtų įtvirtinti institucinius saugiklius, kurie mažintų rizikas tarptautinei taikai ir saugumui.

    „Turėtume stiprinti DI plėtros strategijų, valdymo ir techninių standartų suderinimą ir kuo anksčiau suformuoti konsensusu paremtą globalų valdymo pagrindą“, – sakė Kinijos atstovas Fu Cong.

    Kinijos pusė taip pat perspėjo, kad „mes prieš juos“ logika gali tapti įrankiu didžiosioms valstybėms siekiant išlaikyti technologinį pranašumą. Tai atspindi platesnį geopolitinį kontekstą, kuriame DI laikomas strategine technologija, darančia įtaką ne tik verslui, bet ir gynybai, žvalgybai bei informacinei erdvei.

    Tuo pat metu dalis JAV technologijų sektoriaus lyderių kalba apie būtinybę derinti nacionalinius ir tarptautinius „pažangiojo“ DI standartus. Tokia pozicija kyla iš praktinio poreikio turėti aiškesnes žaidimo taisykles kuriant galingus modelius, ypač kalbant apie jų testavimą, rizikų vertinimą ir atsakomybę už galimą žalą.

    Susitikimas išryškino, kad globalus DI reguliavimas artimiausiu metu greičiausiai judės ne viena bendra sutartimi, o keliomis lygiagrečiomis kryptimis. Viena jų būtų savanoriški saugumo įsipareigojimai ir standartai, kita – skirtingų regionų teisėkūra, kurioje valstybės bandys suderinti inovacijų skatinimą su rizikų kontrole.

  • Trumpas JT atmetė pasaulinę DI priežiūrą: JAV žada savas taisykles ir „superintelekto“ terminą

    JAV prezidentas Donaldas Trumpas Jungtinių Tautų Generalinėje Asamblėjoje sukritikavo siūlymus kurti pasaulinį dirbtinio intelekto priežiūros mechanizmą. Pasak jo, Jungtinės Valstijos nepritaria bandymams DI valdymą perkelti į tarptautinį lygmenį ir ketina remtis nacionalinėmis institucijomis.

    Kalbėdamas Niujorke, Trumpas teigė, kad JAV šiuo metu pirmauja DI inovacijų lenktynėse ir sieks šį pranašumą išlaikyti. Jis taip pat perspėjo, kad griežtesnė reguliacija, jo vertinimu, galėtų pristabdyti augimą ir sudaryti sąlygas Kinijai greičiau vytis ar aplenkti.

    „JAV atmeta bet kokį bandymą kurti globalistinę schemą, kuri kontroliuotų dirbtinį intelektą“, – sakė Donaldas Trumpas.

    Prezidentas taip pat siūlė keisti patį terminą ir vietoj dirbtinio intelekto vartoti sąvoką „superintelektas“. Tokia retorika išsiskiria platesniame kontekste, kuriame dalis valstybių ragina stiprinti tarptautinį koordinavimą ir aiškiau apibrėžti atsakomybę už pažangių modelių kūrimą bei naudojimą.

    Šie pareiškimai nuskambėjo tuo metu, kai JT savaitės paraštėse grupė valstybių pritarė deklaracijai, pabrėžiančiai, kad DI turi išlikti žmogaus krypties, priežiūros ir kontrolės ribose. Dokumente taip pat keliama idėja apie bendras tarptautines apsaugas, kurios padėtų valdyti rizikas, susijusias su saugumu, dezinformacija ir kritinės infrastruktūros pažeidžiamumu.

    DI reguliavimo diskusijose dažniausiai susiduria du požiūriai: vieni akcentuoja inovacijų skatinimą ir kuo mažesnę administracinę naštą, kiti pabrėžia patikimumą, atsekamumą ir saugumo reikalavimus. Praktikoje tai reiškia debatą dėl to, ar svarbiausiems DI sprendimams turėtų pakakti nacionalinių taisyklių, ar reikalingi tarptautiniai standartai ir priežiūros modeliai.

    Artimiausiais mėnesiais DI tema, tikėtina, išliks vienu pagrindinių JAV užsienio politikos ir technologijų darbotvarkės klausimų, ypač santykiuose su Kinija. Dėl to bet kokie pareiškimai apie globalios priežiūros atmetimą ar terminijos keitimą tampa ne tik vidaus politikos, bet ir geopolitinio signalavimo dalimi.

  • 22 valstybės ragina DI palikti žmogaus kontrolėje: siūloma kurti pasaulinę priežiūros instituciją

    22 valstybės ragina DI palikti žmogaus kontrolėje: siūloma kurti pasaulinę priežiūros instituciją

    22 valstybės Jungtinių Tautų Generalinės Asamblėjos savaitės paraštėse priėmė deklaraciją, kurioje pabrėžiama, kad dirbtinis intelektas turi likti žmogaus krypties, priežiūros ir kontrolės rėmuose. Dokumente DI įvardijamas kaip galintis gerinti gyvenimą ir stiprinti ekonomiką, tačiau kartu perspėjama dėl sparčiai tobulėjančių pažangiausių modelių keliamų saugumo rizikų.

    Iniciatyva pristatyta tuo metu, kai pasaulio dėmesys krypsta į JAV ir Kinijos lyderių susitikimą Vašingtone. Nei JAV, nei Kinija prie deklaracijos neprisijungė, tačiau jos rengėjai tikisi, kad tekstas sukurs politinį impulsą ir paskatins platesnį sutarimą dėl tarptautinių apsaugos taisyklių.

    Vienas pagrindinių iniciatyvos veidų, Suomijos prezidentas Alexanderis Stubbas, teigė, kad abiem didžiausioms DI ekosistemoms būtų naudingi aiškūs saugikliai.

    „Mūsų žinutė paprasta: reikia žmogaus įsikišimo, todėl žmonės turi likti atsakingi“, – sakė Alexanderis Stubbas.

    Deklaracijoje siūloma stiprinti bendrus standartus ir skaidrumą, įskaitant rimtų saugumo incidentų pranešimų dalijimąsi tarp valstybių. Taip pat raginama įpareigoti DI bendroves turėti aiškius saugos protokolus, atlikti privalomus testus prieš diegimą ir sudaryti sąlygas nepriklausomam vertinimui, suteikiant vertintojams pakankamą prieigą rizikoms įvertinti.

    Ypatingas dėmesys skiriamas vadinamiesiems pažangiausiems DI modeliams, kurių gebėjimai gali būti pritaikyti tiek teisėtiems, tiek žalingiems tikslams. Pastarųjų mėnesių diskusijas papildė ir realūs incidentai skaitmeninėje erdvėje, kai DI agentų automatizavimas kėlė papildomų rizikų kibernetiniam saugumui.

    Nors deklaracija nekviečia stabdyti ar pristabdyti DI plėtros, jos autoriai akcentuoja rizikų valdymą ir aiškesnę atsakomybės architektūrą. Tai atitinka vis dažniau tarptautinėse diskusijose skambančią kryptį: technologijų raidos nestabdyti, bet užtikrinti, kad sauga, atsekamumas ir atskaitomybė būtų įdiegti dar prieš sprendimams pasiekiant masinį naudojimą.

    Vienas ambicingiausių siūlymų yra tarptautinės institucijos sukūrimas, kuri prižiūrėtų DI saugą panašiai, kaip atskirose srityse veikia specializuotos tarptautinės agentūros. Deklaracijos rengėjai mini variantą tokį mechanizmą kurti Jungtinių Tautų sistemoje, tačiau palieka atvirą formatą, kad iniciatyva būtų priimtinesnė platesniam valstybių ratui.

    Prie deklaracijos prisijungė dalis Europos valstybių, tačiau tarp didžiųjų žaidėjų Europoje paramos žemėlapis nevienodas. Vokietijos kancleris Friedrichas Merzas iniciatyvą palaiko, o Prancūzijos, Italijos ir Lenkijos parašų kol kas nėra, kaip nėra ir Jungtinės Karalystės, nors raginama, kad klausimą aktyviau keltų ir G7 bei G20.

    Argumentuodami būtinybę didinti priežiūrą, iniciatoriai įvardija tris grėsmių kryptis: biologinių grėsmių stiprinimą, automatizuotas kibernetines atakas ir mirtinų autonominių ginklų riziką. Tuo pat metu jie pabrėžia, kad teisingai valdant DI, potenciali nauda gali būti didžiulė, nuo medicinos proveržių iki produktyvumo augimo ir efektyvesnių viešųjų paslaugų.

  • Seimas pritarė DI komisijos vadovei: Pam. Krzypkowska surinko 271 balsą, laukia Senato

    Seimas balsavimu pritarė Pameli Krzypkowskai, kuri siūloma skirti Komisijos plėtros ir dirbtinio intelekto saugumo komisijos pirmininke. Už kandidatūrą balsavo 271 parlamentaras, prieš buvo 24, o 140 susilaikė.

    Galutiniam paskyrimui dar reikalingas Senato pritarimas. Vis dėlto Lenkijos parlamento žemuosiuose rūmuose tai įvardijama kaip formalumas, nes Seimo balsavimas užtikrino reikiamą absoliučią daugumą.

    Kaip skiriamas komisijos vadovas

    Pagal naująją tvarką, DI priežiūrą vykdančios Komisijos plėtros ir dirbtinio intelekto saugumo komisijos pirmininką penkerių metų kadencijai skiria Seimas, gavęs Senato sutikimą. Kandidatūra tvirtinama absoliučia balsų dauguma.

    Prieš balsavimą Senatas surengė viešą kandidatės klausymą, po kurio Seimo komitetas pateikė teigiamą išvadą dėl paskyrimo. Šis procesas atitinka pastaraisiais metais Europoje stiprėjančią tendenciją kurti atskiras institucijas DI rizikoms, atitikčiai ir saugumui prižiūrėti.

    Diskusijos Seime ir politiniai akcentai

    Parlamentinių diskusijų metu dalis politikų pabrėžė, kad DI reguliavimo institucija tampa kritiškai svarbi tiek inovacijoms, tiek nacionaliniam saugumui. Keli pasisakymai akcentavo ir tarptautinį kontekstą, kai didžiosios technologijų bendrovės bei ekspertai ragina stiprinti saugumo ir atsakomybės priemones.

    „Šiandien skiriame labai svarbios institucijos vadovę. Pastaruoju metu technologijų gigantai ragino sulėtinti DI plėtrą, o šis sprendimas yra atsakas į saugumo lūkesčius“, – sakė Seimo narys Grzegorzas Napieralskis.

    „Tai įrodymas, kad tęsiame pradėtus darbus. Kandidatė atėjo iš rinkos dirbti valstybei, ir gerai, kad tokie žmonės skiriami į tokias pareigas“, – sakė Seimo narys Januszas Cieszyńskis.

    Patirtis ir prioritetai

    Pamela Krzypkowska pastaruoju metu dirbo Skaitmenizacijos ministerijoje, kur ėjo su proveržio technologijomis susijusių veiklų vadovės pareigas bei buvo atsakinga už GovTech kryptį. Anksčiau ji vadovavo ministerijos tyrimų ir inovacijų padaliniui, dirbo su tarpsektorinėmis ekspertų grupėmis, apjungiančiomis administraciją, mokslą ir verslą.

    Jos karjeroje yra ir darbas bendrovėje „Microsoft“, kur ji užėmė pareigas, susijusias su debesijos sprendimais, duomenimis ir DI. Taip pat ji dėsto Akademijoje Leono Koźmińskio ir Varšuvos politechnikos universitete, o tai, pasak šalininkų, sustiprina ryšį tarp politikos formavimo ir akademinės kompetencijos.

    Viešuose pasisakymuose kandidatė pabrėžė, kad komisijos veiklą norėtų grįsti keturiais principais: teisiniu aiškumu, parama inovacijas kuriančioms institucijoms, švietimu ir veiksmingu bendradarbiavimu. Tarp įrankių, kurie galėtų padėti suderinti inovacijas ir atitiktį, ji minėjo reguliavimo smėlio dėžes, leidžiančias testuoti sprendimus kontroliuojamomis sąlygomis.

    Kartu ši žinia atskleidė ir konkurencijos elementą: nors oficialiai buvo pateikta tik viena kandidatūra, viešumoje minėta, kad savo kandidatūrą buvo pateikęs ir teisininkas Robertas Kroplewskis. Jis teigė negavęs atsakymo ir nepakviestas į procedūras, o klausimai dėl komunikacijos buvo nukreipti Seimo kanceliarijai.

  • Kanada ir Vokietija skiria apie 250 mln. eurų saugesniam DI modeliui: ką žada „Scientist AI“

    Kanada ir Vokietija pranešė pradedančios bendrovės „LawZero“ kuriamam projektui skiriančios apie 250 mln. eurų. Tikslas – sukurti naują didelį dirbtinio intelekto modelį „Scientist AI“, kurio prioritetas būtų saugumas, patikimumas ir aiškesnis faktų atskyrimas nuo nuomonių.

    Apie planus paskelbta Monrealyje vykusioje dviejų dienų konferencijoje, sutraukusioje DI tyrėjus ir politikos formuotojus. Kanada įsipareigoja finansuoti apie 100 mln. eurų, Vokietija – apie 150 mln. eurų, o iniciatyva pristatoma kaip bandymas pasiūlyti alternatyvą sparčiai komercializuojamiems didiesiems modeliams.

    Kas yra „Scientist AI“?

    „Scientist AI“ sumanymas siejamas su idėja kurti DI, kuris būtų naudingas moksliniams tyrimams, bet ribotųsi nuo savarankiškų tikslų kūrimo. Projekto šalininkai teigia, kad toks architektūrinis principas galėtų sumažinti rizikas, susijusias su autonomiškai veikiančiais agentais, kurie geba planuoti veiksmus ir vykdyti sudėtingas užduotis be nuolatinės žmogaus kontrolės.

    Taip pat akcentuojama patikimumo kryptis: modelis turėtų labiau remtis faktais, aiškiau pažymėti neapibrėžtumą ir būti lengviau prižiūrimas. Tokie tikslai atliepia pastarųjų metų diskusijas, kurias paskatino generatyvaus DI klaidos, vadinamosios haliucinacijos, ir rizika, kad sistemos pateiks įtikinamai skambančią, bet neteisingą informaciją.

    Bengio pozicija ir politinis fonas

    „LawZero“ įkūrėjas, Monrealyje dirbantis profesorius Yoshua Bengio, ne kartą yra perspėjęs, kad DI be tinkamos priežiūros gali kelti egzistencinę grėsmę. Jo vardas dažnai minimas tarp svarbiausių šiuolaikinio mašininio mokymosi tyrėjų, todėl iniciatyva sulaukė išskirtinio dėmesio.

    „Noriu, kad mano vaikai ir anūkai turėtų ateitį“, – sakė Yoshua Bengio.

    Projektas pristatomas platesniame reguliavimo kontekste, kai valstybės ir tarptautinės institucijos ieško būdų suderinti inovacijas su rizikų valdymu. Diskusijose vis dažniau kalbama apie prievolę testuoti modelius, vertinti jų poveikį, užtikrinti atsakomybės grandinę ir aiškias taisykles kūrėjams bei naudotojams.

    Idėja apie pasaulinę priežiūrą

    Kanados ministras pirmininkas Mark Carney viešai iškėlė mintį apie pasaulinę DI priežiūros instituciją, kuri būtų nepriklausoma nuo šio sektoriaus bendrovių. Tokia kryptis primena jau taikomus modelius kitose srityse, kai kuriami tarptautiniai standartai, audito principai ir rizikų valdymo procedūros, tačiau DI atveju iššūkiu tampa ypač greitas technologijų progresas.

    Kol kas „Scientist AI“ tebėra ankstyvoji iniciatyva, tačiau investicijų mastas rodo, kad saugesnio DI kryptis tampa ne tik akademine, bet ir strategine valstybės politikos tema. Jei projektui pavyktų pasiūlyti praktiškai taikomą, patikimesnį modelį, jis galėtų paveikti tiek mokslinių tyrimų spartą, tiek visuomenės pasitikėjimą DI sprendimais.