CP v2

Tag: DI reguliavimas

  • DI jau lenks žmones? Trys modeliai pateikė datas – skirtumai pribloškia

    Diskusijos, kada dirbtinis intelektas galėtų prilygti žmogui ar net jį pranokti, pastaraisiais metais tapo viena karščiausių technologijų temų. Ukrainos portalas Komentarі pabandė tai iliustruoti paprastu eksperimentu: paklausė trijų populiarių modelių „Gemini“, „ChatGPT“ ir „Claude“, kada DI galėtų tapti protingesnis už žmones.

    Atsakymai išsiskyrė: vienas modelis kaip ribą įvardijo 2031 metus, kitas – 2038 metus, trečias – 2040 metus. Nors tokie skaičiai skamba kaip tiksli prognozė, iš tiesų tai labiau skirtingų prielaidų ir neapibrėžtumo atspindys nei patikimas kalendorius.

    Modelis, pateikęs ankstyviausią datą, aiškino, kad lūžis galėtų įvykti tada, kai sistemos gebėtų reikšmingai tobulinti pačios save: automatizuotai kurti geresnius algoritmus, efektyviau mokytis ir greičiau perkelti žinias į naujas užduotis. Tokia idėja dažnai siejama su technologinės singularumo sąvoka, tačiau mokslinėje bendruomenėje ji vertinama nevienareikšmiškai.

    Vidurinę datą minėjęs modelis argumentavo, kad DI proveržį galėtų pagreitinti naujos kartos skaičiavimo metodai ir aparatūra. Viešojoje erdvėje dažnai minimi kvantiniai skaičiavimai, tačiau praktikoje dauguma DI pažangos šiandien vis dar priklauso nuo klasikinių lustų, duomenų centrų masto ir efektyvesnių neuroninių tinklų architektūrų.

    Atsargesnė prognozė, nukelianti galimą lūžį į 2040 metus, labiau remiasi prielaida, kad pažanga bus evoliucinė. Tai reikštų ne vieną staigų šuolį, o laipsnišką gebėjimų plėtrą, kol sistemos galėtų patikimai atlikti daugumą intelektinių užduočių bent jau ne prasčiau už žmogų.

    Svarbu atskirti sąvokas: šiandien plačiai naudojami modeliai yra specializuoti, jie puikiai generuoja tekstą, kodą ar vaizdus, tačiau neturi žmogui būdingo supratimo ir patirties pasaulyje. Todėl diskusijose dažnai vartojamas terminas AGI, apibūdinantis hipotetinį bendrosios paskirties DI, gebantį mokytis ir veikti universaliai įvairiose srityse.

    Dalis tyrėjų pabrėžia, kad vien skaičiavimo galia nėra lemiamas veiksnys. Ribojančiais veiksniais tampa duomenų kokybė, klaidų ir haliucinacijų problema, gebėjimas planuoti ilgas užduočių grandines, patikimumas realiose situacijose, taip pat saugumo ir valdymo klausimai, kurie tampa vis aktualesni diegiant DI į kritines sritis.

    Ne mažiau svarbi ir reguliavimo kryptis: Europos Sąjungoje priimtas DI aktas numato rizika grįstą sistemų priežiūrą ir griežtesnius reikalavimus didelės rizikos sprendimams. Tai gali sulėtinti kai kurių produktų diegimą, tačiau kartu didina pasitikėjimą ir skatina atsakingą vystymą.

    Apibendrinant, trijų modelių nurodytos datos labiau parodo, kokios skirtingos yra prielaidos apie technologijų raidą, o ne tai, kad jau dabar būtų įmanoma tiksliai numatyti lūžio momentą. Kol kas aišku viena: DI gebėjimai sparčiai auga, tačiau klausimas, kada ir ar apskritai jis taps protingesnis už žmones, išlieka atviras tiek moksliškai, tiek politiškai.

  • Billas Gatesas perspėja dėl kibernetinių ir bioatakų: reguliuoti DI bus sunkiau nei branduolines derybas

    „Microsoft“ įkūrėjas ir filantropas Billas Gatesas perspėja, kad dirbtinis intelektas (DI) gali tapti įrankiu ne tik verslui ar mokslui, bet ir piktavaliams, galintiems surengti kibernetines ar biologines atakas dideliu mastu. Jo teigimu, tarptautinis DI reguliavimas bus itin sudėtingas, tačiau delsimas didina riziką, kad rimtos krizės įvyks anksčiau, nei bus sutarta dėl saugiklių.

    Interviu JAV žiniasklaidai Gatesas pabrėžė, kad technologijų pažanga pasiekė etapą, kai mažos grupės, turinčios prieigą prie pažangių DI modelių, teoriškai gali atlikti tai, kas anksčiau buvo įmanoma tik valstybėms. Didžiausia problema, anot jo, yra ta, kad DI ne visada galima „paprastai išjungti“ kaip įprastą sistemą, o jo poveikis gali būti išskaidytas per daugybę paslaugų ir infrastruktūros grandžių.

    Kas kelia didžiausią nerimą?

    Gateso vertinimu, didžiausia grėsmė kyla tuomet, kai pažangūs modeliai atsiduria blogų ketinimų turinčių žmonių rankose. Tokiais atvejais DI gali pagreitinti kenkėjiškų programų kūrimą, padėti ieškoti sistemų pažeidžiamumų ar automatizuoti dezinformacijos kampanijas, kurios išnaudoja visuomenės įtampas.

    Dar jautresnė sritis – biologinė sauga, kur DI potencialiai gali sumažinti barjerus planuojant pavojingus eksperimentus ar ieškant būdų apeiti saugumo protokolus. Nors reali rizika priklauso nuo daugybės veiksnių, įskaitant prieigą prie laboratorinės infrastruktūros, Gatesas ragina DI kūrimą vertinti kaip nacionalinio ir tarptautinio saugumo klausimą.

    „Vienintelis klausimas – ar tai padarysime prieš didelio masto kibernetinę ar biologinę ataką, ar po jos“, – sakė Billas Gatesas.

    Reguliavimo dilema: greitis prieš saugumą

    Gatesas ragina JAV imtis iniciatyvos ir stumti DI reguliavimo principus į tarptautinį lygmenį, nes atskirų valstybių taisyklės lengvai apėjamos globalioje skaitmeninėje rinkoje. Jo požiūriu, reikalingi bendri standartai, apimantys modelių testavimą, rizikos vertinimą, incidentų atskleidimą ir atsakomybės mechanizmus, kai DI panaudojamas žalingai.

    Pastaruoju metu DI saugumo tema aštrėja ir dėl to, kad net tarpusavyje konkuruojančios bendrovės ima ieškoti bendrų taisyklių. Viešojoje erdvėje dažniau kalbama apie nepriklausomą priežiūrą, modelių auditus ir privalomas procedūras prieš pateikiant ypač galingus modelius plačiajai rinkai.

    Tuo pat metu reguliavimo idėjos susiduria su politiniu pasipriešinimu. JAV politinėje diskusijoje dalis lyderių laikosi pozicijos, kad griežtesnės taisyklės gali sulėtinti inovacijas ir mažinti ekonominį konkurencingumą, o rinkos lūkesčiai dėl DI proveržio esą tapo svarbiu augimo veiksniu.

    Kodėl tai svarbu Europai ir Lietuvai?

    Nors Gateso komentarai skamba JAV kontekste, DI rizikos valdymas vis labiau tampa tarptautiniu klausimu, aktualiu ir Europai. Europos Sąjungoje didelis dėmesys skiriamas tam, kad pažangios sistemos būtų diegiamos su aiškiais atsakomybės ir saugumo reikalavimais, ypač srityse, kurios gali paveikti infrastruktūrą, sveikatą ar demokratinius procesus.

    Lietuvai, kaip mažai ir skaitmenizuotai valstybei, kibernetinis atsparumas yra kritiškai svarbus: nuo viešųjų paslaugų iki energetikos ir finansų sektoriaus. Todėl diskusija apie DI saugumą neišvengiamai palies ne tik technologijų įmones, bet ir valstybės institucijas, kritinės infrastruktūros valdytojus bei švietimo sistemą, kuri ruošia specialistus naujai rizikų aplinkai.

  • JT Saugumo Taryboje išryškėjo DI reguliavimo takoskyra: JAV prieš, Kinija ragina taisykles

    Jungtinių Tautų susitikime dėl dirbtinio intelekto saugumo Jungtinės Valstijos ir Kinija pristatė aiškiai skirtingas kryptis, kaip turėtų atrodyti tarptautinės taisyklės. Vašingtonas ragino neskurti naujos globalios DI valdymo sistemos, o Pekinas kalbėjo apie bendrus standartus ir tarptautinius saugiklius.

    Diskusija vyko JT sistemoje, kur vis dažniau keliami klausimai, kaip pažangių DI modelių plėtra gali paveikti saugumą, ekonomiką ir geopolitinę konkurenciją. Skirtingi požiūriai rodo, kad sutarti dėl vieningų principų bus sudėtinga net tada, kai abi pusės viešai pabrėžia dialogo svarbą.

    JAV atstovai akcentavo, kad DI reguliavimas pirmiausia turi išlikti nacionaliniu lygmeniu, o valstybės neturėtų perduoti sprendimų tarptautinėms institucijoms. Vašingtono argumentas remiasi suvereniteto principu ir baime, kad per griežti globalūs rėmai gali slopinti inovacijas ir technologinę lyderystę.

    „Jungtinės Valstijos visiškai atmeta bet kokius bandymus kurti globalų superintelekto kontrolės mechanizmą“, – sakė JAV atstovas, perteikdamas prezidento Donaldo Trumpo poziciją, išsakytą JT Generalinėje Asamblėjoje.

    Kinijos atstovas JT, priešingai, ragino greičiau kurti konsensusu paremtą pasaulinę DI valdymo sistemą, suderinant valstybių strategijas, techninius standartus ir saugumo priemones. Pekinas pabrėžė, kad tai esą padėtų įtvirtinti institucinius saugiklius, kurie mažintų rizikas tarptautinei taikai ir saugumui.

    „Turėtume stiprinti DI plėtros strategijų, valdymo ir techninių standartų suderinimą ir kuo anksčiau suformuoti konsensusu paremtą globalų valdymo pagrindą“, – sakė Kinijos atstovas Fu Cong.

    Kinijos pusė taip pat perspėjo, kad „mes prieš juos“ logika gali tapti įrankiu didžiosioms valstybėms siekiant išlaikyti technologinį pranašumą. Tai atspindi platesnį geopolitinį kontekstą, kuriame DI laikomas strategine technologija, darančia įtaką ne tik verslui, bet ir gynybai, žvalgybai bei informacinei erdvei.

    Tuo pat metu dalis JAV technologijų sektoriaus lyderių kalba apie būtinybę derinti nacionalinius ir tarptautinius „pažangiojo“ DI standartus. Tokia pozicija kyla iš praktinio poreikio turėti aiškesnes žaidimo taisykles kuriant galingus modelius, ypač kalbant apie jų testavimą, rizikų vertinimą ir atsakomybę už galimą žalą.

    Susitikimas išryškino, kad globalus DI reguliavimas artimiausiu metu greičiausiai judės ne viena bendra sutartimi, o keliomis lygiagrečiomis kryptimis. Viena jų būtų savanoriški saugumo įsipareigojimai ir standartai, kita – skirtingų regionų teisėkūra, kurioje valstybės bandys suderinti inovacijų skatinimą su rizikų kontrole.

  • Trumpas JT atmetė pasaulinę DI priežiūrą: JAV žada savas taisykles ir „superintelekto“ terminą

    JAV prezidentas Donaldas Trumpas Jungtinių Tautų Generalinėje Asamblėjoje sukritikavo siūlymus kurti pasaulinį dirbtinio intelekto priežiūros mechanizmą. Pasak jo, Jungtinės Valstijos nepritaria bandymams DI valdymą perkelti į tarptautinį lygmenį ir ketina remtis nacionalinėmis institucijomis.

    Kalbėdamas Niujorke, Trumpas teigė, kad JAV šiuo metu pirmauja DI inovacijų lenktynėse ir sieks šį pranašumą išlaikyti. Jis taip pat perspėjo, kad griežtesnė reguliacija, jo vertinimu, galėtų pristabdyti augimą ir sudaryti sąlygas Kinijai greičiau vytis ar aplenkti.

    „JAV atmeta bet kokį bandymą kurti globalistinę schemą, kuri kontroliuotų dirbtinį intelektą“, – sakė Donaldas Trumpas.

    Prezidentas taip pat siūlė keisti patį terminą ir vietoj dirbtinio intelekto vartoti sąvoką „superintelektas“. Tokia retorika išsiskiria platesniame kontekste, kuriame dalis valstybių ragina stiprinti tarptautinį koordinavimą ir aiškiau apibrėžti atsakomybę už pažangių modelių kūrimą bei naudojimą.

    Šie pareiškimai nuskambėjo tuo metu, kai JT savaitės paraštėse grupė valstybių pritarė deklaracijai, pabrėžiančiai, kad DI turi išlikti žmogaus krypties, priežiūros ir kontrolės ribose. Dokumente taip pat keliama idėja apie bendras tarptautines apsaugas, kurios padėtų valdyti rizikas, susijusias su saugumu, dezinformacija ir kritinės infrastruktūros pažeidžiamumu.

    DI reguliavimo diskusijose dažniausiai susiduria du požiūriai: vieni akcentuoja inovacijų skatinimą ir kuo mažesnę administracinę naštą, kiti pabrėžia patikimumą, atsekamumą ir saugumo reikalavimus. Praktikoje tai reiškia debatą dėl to, ar svarbiausiems DI sprendimams turėtų pakakti nacionalinių taisyklių, ar reikalingi tarptautiniai standartai ir priežiūros modeliai.

    Artimiausiais mėnesiais DI tema, tikėtina, išliks vienu pagrindinių JAV užsienio politikos ir technologijų darbotvarkės klausimų, ypač santykiuose su Kinija. Dėl to bet kokie pareiškimai apie globalios priežiūros atmetimą ar terminijos keitimą tampa ne tik vidaus politikos, bet ir geopolitinio signalavimo dalimi.

  • 22 valstybės ragina DI palikti žmogaus kontrolėje: siūloma kurti pasaulinę priežiūros instituciją

    22 valstybės ragina DI palikti žmogaus kontrolėje: siūloma kurti pasaulinę priežiūros instituciją

    22 valstybės Jungtinių Tautų Generalinės Asamblėjos savaitės paraštėse priėmė deklaraciją, kurioje pabrėžiama, kad dirbtinis intelektas turi likti žmogaus krypties, priežiūros ir kontrolės rėmuose. Dokumente DI įvardijamas kaip galintis gerinti gyvenimą ir stiprinti ekonomiką, tačiau kartu perspėjama dėl sparčiai tobulėjančių pažangiausių modelių keliamų saugumo rizikų.

    Iniciatyva pristatyta tuo metu, kai pasaulio dėmesys krypsta į JAV ir Kinijos lyderių susitikimą Vašingtone. Nei JAV, nei Kinija prie deklaracijos neprisijungė, tačiau jos rengėjai tikisi, kad tekstas sukurs politinį impulsą ir paskatins platesnį sutarimą dėl tarptautinių apsaugos taisyklių.

    Vienas pagrindinių iniciatyvos veidų, Suomijos prezidentas Alexanderis Stubbas, teigė, kad abiem didžiausioms DI ekosistemoms būtų naudingi aiškūs saugikliai.

    „Mūsų žinutė paprasta: reikia žmogaus įsikišimo, todėl žmonės turi likti atsakingi“, – sakė Alexanderis Stubbas.

    Deklaracijoje siūloma stiprinti bendrus standartus ir skaidrumą, įskaitant rimtų saugumo incidentų pranešimų dalijimąsi tarp valstybių. Taip pat raginama įpareigoti DI bendroves turėti aiškius saugos protokolus, atlikti privalomus testus prieš diegimą ir sudaryti sąlygas nepriklausomam vertinimui, suteikiant vertintojams pakankamą prieigą rizikoms įvertinti.

    Ypatingas dėmesys skiriamas vadinamiesiems pažangiausiems DI modeliams, kurių gebėjimai gali būti pritaikyti tiek teisėtiems, tiek žalingiems tikslams. Pastarųjų mėnesių diskusijas papildė ir realūs incidentai skaitmeninėje erdvėje, kai DI agentų automatizavimas kėlė papildomų rizikų kibernetiniam saugumui.

    Nors deklaracija nekviečia stabdyti ar pristabdyti DI plėtros, jos autoriai akcentuoja rizikų valdymą ir aiškesnę atsakomybės architektūrą. Tai atitinka vis dažniau tarptautinėse diskusijose skambančią kryptį: technologijų raidos nestabdyti, bet užtikrinti, kad sauga, atsekamumas ir atskaitomybė būtų įdiegti dar prieš sprendimams pasiekiant masinį naudojimą.

    Vienas ambicingiausių siūlymų yra tarptautinės institucijos sukūrimas, kuri prižiūrėtų DI saugą panašiai, kaip atskirose srityse veikia specializuotos tarptautinės agentūros. Deklaracijos rengėjai mini variantą tokį mechanizmą kurti Jungtinių Tautų sistemoje, tačiau palieka atvirą formatą, kad iniciatyva būtų priimtinesnė platesniam valstybių ratui.

    Prie deklaracijos prisijungė dalis Europos valstybių, tačiau tarp didžiųjų žaidėjų Europoje paramos žemėlapis nevienodas. Vokietijos kancleris Friedrichas Merzas iniciatyvą palaiko, o Prancūzijos, Italijos ir Lenkijos parašų kol kas nėra, kaip nėra ir Jungtinės Karalystės, nors raginama, kad klausimą aktyviau keltų ir G7 bei G20.

    Argumentuodami būtinybę didinti priežiūrą, iniciatoriai įvardija tris grėsmių kryptis: biologinių grėsmių stiprinimą, automatizuotas kibernetines atakas ir mirtinų autonominių ginklų riziką. Tuo pat metu jie pabrėžia, kad teisingai valdant DI, potenciali nauda gali būti didžiulė, nuo medicinos proveržių iki produktyvumo augimo ir efektyvesnių viešųjų paslaugų.

  • Seimas pritarė DI komisijos vadovei: Pam. Krzypkowska surinko 271 balsą, laukia Senato

    Seimas balsavimu pritarė Pameli Krzypkowskai, kuri siūloma skirti Komisijos plėtros ir dirbtinio intelekto saugumo komisijos pirmininke. Už kandidatūrą balsavo 271 parlamentaras, prieš buvo 24, o 140 susilaikė.

    Galutiniam paskyrimui dar reikalingas Senato pritarimas. Vis dėlto Lenkijos parlamento žemuosiuose rūmuose tai įvardijama kaip formalumas, nes Seimo balsavimas užtikrino reikiamą absoliučią daugumą.

    Kaip skiriamas komisijos vadovas

    Pagal naująją tvarką, DI priežiūrą vykdančios Komisijos plėtros ir dirbtinio intelekto saugumo komisijos pirmininką penkerių metų kadencijai skiria Seimas, gavęs Senato sutikimą. Kandidatūra tvirtinama absoliučia balsų dauguma.

    Prieš balsavimą Senatas surengė viešą kandidatės klausymą, po kurio Seimo komitetas pateikė teigiamą išvadą dėl paskyrimo. Šis procesas atitinka pastaraisiais metais Europoje stiprėjančią tendenciją kurti atskiras institucijas DI rizikoms, atitikčiai ir saugumui prižiūrėti.

    Diskusijos Seime ir politiniai akcentai

    Parlamentinių diskusijų metu dalis politikų pabrėžė, kad DI reguliavimo institucija tampa kritiškai svarbi tiek inovacijoms, tiek nacionaliniam saugumui. Keli pasisakymai akcentavo ir tarptautinį kontekstą, kai didžiosios technologijų bendrovės bei ekspertai ragina stiprinti saugumo ir atsakomybės priemones.

    „Šiandien skiriame labai svarbios institucijos vadovę. Pastaruoju metu technologijų gigantai ragino sulėtinti DI plėtrą, o šis sprendimas yra atsakas į saugumo lūkesčius“, – sakė Seimo narys Grzegorzas Napieralskis.

    „Tai įrodymas, kad tęsiame pradėtus darbus. Kandidatė atėjo iš rinkos dirbti valstybei, ir gerai, kad tokie žmonės skiriami į tokias pareigas“, – sakė Seimo narys Januszas Cieszyńskis.

    Patirtis ir prioritetai

    Pamela Krzypkowska pastaruoju metu dirbo Skaitmenizacijos ministerijoje, kur ėjo su proveržio technologijomis susijusių veiklų vadovės pareigas bei buvo atsakinga už GovTech kryptį. Anksčiau ji vadovavo ministerijos tyrimų ir inovacijų padaliniui, dirbo su tarpsektorinėmis ekspertų grupėmis, apjungiančiomis administraciją, mokslą ir verslą.

    Jos karjeroje yra ir darbas bendrovėje „Microsoft“, kur ji užėmė pareigas, susijusias su debesijos sprendimais, duomenimis ir DI. Taip pat ji dėsto Akademijoje Leono Koźmińskio ir Varšuvos politechnikos universitete, o tai, pasak šalininkų, sustiprina ryšį tarp politikos formavimo ir akademinės kompetencijos.

    Viešuose pasisakymuose kandidatė pabrėžė, kad komisijos veiklą norėtų grįsti keturiais principais: teisiniu aiškumu, parama inovacijas kuriančioms institucijoms, švietimu ir veiksmingu bendradarbiavimu. Tarp įrankių, kurie galėtų padėti suderinti inovacijas ir atitiktį, ji minėjo reguliavimo smėlio dėžes, leidžiančias testuoti sprendimus kontroliuojamomis sąlygomis.

    Kartu ši žinia atskleidė ir konkurencijos elementą: nors oficialiai buvo pateikta tik viena kandidatūra, viešumoje minėta, kad savo kandidatūrą buvo pateikęs ir teisininkas Robertas Kroplewskis. Jis teigė negavęs atsakymo ir nepakviestas į procedūras, o klausimai dėl komunikacijos buvo nukreipti Seimo kanceliarijai.

  • Kanada ir Vokietija skiria apie 250 mln. eurų saugesniam DI modeliui: ką žada „Scientist AI“

    Kanada ir Vokietija pranešė pradedančios bendrovės „LawZero“ kuriamam projektui skiriančios apie 250 mln. eurų. Tikslas – sukurti naują didelį dirbtinio intelekto modelį „Scientist AI“, kurio prioritetas būtų saugumas, patikimumas ir aiškesnis faktų atskyrimas nuo nuomonių.

    Apie planus paskelbta Monrealyje vykusioje dviejų dienų konferencijoje, sutraukusioje DI tyrėjus ir politikos formuotojus. Kanada įsipareigoja finansuoti apie 100 mln. eurų, Vokietija – apie 150 mln. eurų, o iniciatyva pristatoma kaip bandymas pasiūlyti alternatyvą sparčiai komercializuojamiems didiesiems modeliams.

    Kas yra „Scientist AI“?

    „Scientist AI“ sumanymas siejamas su idėja kurti DI, kuris būtų naudingas moksliniams tyrimams, bet ribotųsi nuo savarankiškų tikslų kūrimo. Projekto šalininkai teigia, kad toks architektūrinis principas galėtų sumažinti rizikas, susijusias su autonomiškai veikiančiais agentais, kurie geba planuoti veiksmus ir vykdyti sudėtingas užduotis be nuolatinės žmogaus kontrolės.

    Taip pat akcentuojama patikimumo kryptis: modelis turėtų labiau remtis faktais, aiškiau pažymėti neapibrėžtumą ir būti lengviau prižiūrimas. Tokie tikslai atliepia pastarųjų metų diskusijas, kurias paskatino generatyvaus DI klaidos, vadinamosios haliucinacijos, ir rizika, kad sistemos pateiks įtikinamai skambančią, bet neteisingą informaciją.

    Bengio pozicija ir politinis fonas

    „LawZero“ įkūrėjas, Monrealyje dirbantis profesorius Yoshua Bengio, ne kartą yra perspėjęs, kad DI be tinkamos priežiūros gali kelti egzistencinę grėsmę. Jo vardas dažnai minimas tarp svarbiausių šiuolaikinio mašininio mokymosi tyrėjų, todėl iniciatyva sulaukė išskirtinio dėmesio.

    „Noriu, kad mano vaikai ir anūkai turėtų ateitį“, – sakė Yoshua Bengio.

    Projektas pristatomas platesniame reguliavimo kontekste, kai valstybės ir tarptautinės institucijos ieško būdų suderinti inovacijas su rizikų valdymu. Diskusijose vis dažniau kalbama apie prievolę testuoti modelius, vertinti jų poveikį, užtikrinti atsakomybės grandinę ir aiškias taisykles kūrėjams bei naudotojams.

    Idėja apie pasaulinę priežiūrą

    Kanados ministras pirmininkas Mark Carney viešai iškėlė mintį apie pasaulinę DI priežiūros instituciją, kuri būtų nepriklausoma nuo šio sektoriaus bendrovių. Tokia kryptis primena jau taikomus modelius kitose srityse, kai kuriami tarptautiniai standartai, audito principai ir rizikų valdymo procedūros, tačiau DI atveju iššūkiu tampa ypač greitas technologijų progresas.

    Kol kas „Scientist AI“ tebėra ankstyvoji iniciatyva, tačiau investicijų mastas rodo, kad saugesnio DI kryptis tampa ne tik akademine, bet ir strategine valstybės politikos tema. Jei projektui pavyktų pasiūlyti praktiškai taikomą, patikimesnį modelį, jis galėtų paveikti tiek mokslinių tyrimų spartą, tiek visuomenės pasitikėjimą DI sprendimais.

  • „Nvidia“ vadovas J. Huangas po pokalbio su Trumpu: dirbtiniam intelektui naujų įstatymų nereikia

    „Nvidia“ generalinis direktorius Jensenas Huangas San Franciske vykusioje „Dreamforce“ konferencijoje pareiškė, kad dirbtinio intelekto sričiai nereikia naujų įstatymų ar papildomo reguliavimo. Jo žodžiai nuskambėjo tuo metu, kai dalis technologijų lyderių ir tyrėjų ragina spartų DI vystymą stabdyti ir griežtinti saugumo patikras.

    Vadovas savo poziciją siejo su idėja, kad už saugumą pirmiausia turi atsakyti pačios įmonės, o ne įstatymų leidėjai, kurių sprendimai dažnai atsilieka nuo technologinės realybės. Huangas pabrėžė, kad jei bendrovė nėra tikra dėl produkto patikimumo ar saugumo, ji neturėtų jo išleisti į rinką.

    „Mums nereikia naujų įstatymų. Mums nereikia naujų reguliavimų“, – sakė Jensenas Huangas.

    Huangas taip pat atmetė nuogąstavimus, kad DI masiškai atims darbo vietas, tokius argumentus pavadindamas nepagrįstais. Ši diskusija pastaraisiais metais tapo viena svarbiausių technologijų politikoje, nes DI įrankiai vis plačiau taikomi biuruose, klientų aptarnavime, programavime ir kūrybinėse industrijose.

    Jo pasisakymai išryškino vis ryškesnį susiskaldymą tarp didžiųjų rinkos žaidėjų. Vieni akcentuoja savireguliaciją ir inovacijų greitį, kiti ragina kurti bendrus standartus, įtvirtinti nepriklausomus saugumo vertinimus ir numatyti aiškią atsakomybę už žalą, kuri gali kilti dėl klaidingų ar piktybiškai panaudotų DI sistemų.

    Pranešama, kad Huangas neseniai bendravo su JAV prezidentu Donaldu Trumpu ir vėliau viešai kartojo panašias mintis, jog egzistencinės grėsmės dėl DI esą dažnai perdedamos. Tuo pat metu JAV politikoje stiprėja nuomonė, kad per griežtas reguliavimas galėtų pristabdyti amerikietiškų technologijų konkurencingumą, ypač varžantis su Kinijos DI ekosistema.

    Diskusijos dėl DI taisyklių vyksta ne tik JAV. Europos Sąjunga yra patvirtinusi DI aktą, kuriuo numatomas rizika grįstas požiūris: griežčiausios taisyklės taikomos aukštos rizikos sistemoms, o kai kurie naudojimo atvejai apskritai draudžiami. Šis modelis dažnai minimas kaip alternatyva savireguliacijai, tačiau verslas nuogąstauja dėl administracinės naštos ir inovacijų tempo.

    „Dreamforce“ scenoje kalbėję technologijų vadovai iš esmės sutaria dėl vieno: DI rinka yra itin dinamiška, o sprendimai dėl saugumo ir atsakomybės turės tiesioginę įtaką ne tik vartotojų pasitikėjimui, bet ir investicijoms. Skirtingos pozicijos dėl to, ar taisykles turi kurti valstybė, ar pati industrija, artimiausiais metais greičiausiai tik aštrės.

  • Von der Leyen kviečia DI lyderius tartis dėl pažangiausių modelių tempo: Europa ieško saugiklių

    Von der Leyen kviečia DI lyderius tartis dėl pažangiausių modelių tempo: Europa ieško saugiklių

    Europos Komisijos pirmininkė Ursula von der Leyen pareiškė planuojanti sukviesti pagrindinių dirbtinio intelekto bendrovių vadovus į diskusiją dėl to, kaip suderinti spartų pažangiausių DI modelių vystymą su visuomenės saugumu. Šią iniciatyvą ji įvardijo kaip siekį paremti pramonės pastangas atsakingai „reguliuoti tempą“ sparčiausiai judančioje DI vystymo dalyje.

    Kalbėdama per metinį pranešimą apie Europos Sąjungos padėtį, von der Leyen akcentavo, kad didėja susirūpinimas dėl vadinamųjų pažangiausių, arba fronto linijos, DI sistemų rizikų. Pastaruoju metu šią temą į viešąją darbotvarkę vėl grąžino ir keli ryškūs technologijų sektoriaus lyderiai, raginantys atsargesnį diegimą ir daugiau testavimo.

    Kodėl kalbama apie DI tempo ribojimą?

    Diskusijos dėl DI „tempo“ iš esmės sukasi apie tai, kaip greitai rinkai ir visuomenei pristatomi vis galingesni modeliai, kai jų poveikis ne visada iki galo išmatuotas. Rizikos dažniausiai siejamos su kenkėjiško turinio generavimu, manipuliacijomis informacija, kibernetinėmis atakomis, taip pat su sudėtingesnėmis, sunkiai prognozuojamomis sistemų elgsenomis.

    Von der Leyen tiesiogiai neįvertino atskirų vadovų raginimų stabdyti plėtrą, tačiau pabrėžė, kad Europa pasirengusi prisidėti prie pramonės iniciatyvų, kurios orientuotos į atsakingą pažangiausių modelių kūrimą. Tai signalas, kad Europos Komisija siekia ne tik taisyklių, bet ir praktinių susitarimų su rinka dėl testavimo, skaidrumo ir diegimo principų.

    Tarptautinis testavimas ir bendros taisyklės

    Europos Komisijos vadovė taip pat iškėlė tarptautinio bendradarbiavimo idėją, ypač dėl pažangiausių DI modelių testavimo ir vertinimo. Tokia kryptis atspindi siekį turėti suderintas metodikas, kurios leistų palyginti modelių rizikas, nustatyti minimalias saugos karteles ir greičiau reaguoti į incidentus.

    Viešai buvo užsiminta, kad į bendradarbiavimą gali būti kviečiamos tokios partnerės kaip Jungtinė Karalystė ir Kanada. Tai dera su ES pastangomis formuoti tarptautinius standartus, kai DI tampa ne vien technologijų, bet ir geopolitinės konkurencijos klausimu.

    Europa nori ne tik kurti, bet ir gauti vertę

    Von der Leyen pabrėžė, kad Europai svarbu ne vien varžytis dėl lyderystės kuriant pažangiausius modelius, bet ir tapti regionu, kuris iš DI pritaikymo išsineša didžiausią ekonominę ir visuomeninę naudą. Jos teigimu, Europos Komisijos dėmesys krypsta į sritis, kuriose DI gali duoti apčiuopiamą efektą ir kur kartu būtina aiški atsakomybė.

    Tarp prioritetinių krypčių įvardytos sveikatos apsauga, transportas, žemės ūkio ir maisto sektorius, pažangioji gamyba, taip pat gynyba ir kosmosas. Šiose srityse DI sprendimai gali didinti produktyvumą, gerinti paslaugų kokybę ir kurti konkurencinį pranašumą, tačiau kartu kelia aukštus saugos, patikimumo ir duomenų apsaugos reikalavimus.

    Ši iniciatyva rodo, kad ES lygiu stiprėja politinė valia DI temą spręsti ne vien per reglamentavimą, bet ir per tiesioginį dialogą su pažangiausius modelius kuriančiomis laboratorijomis. Artimiausiu metu svarbiausias klausimas bus tai, ar pavyks suderinti inovacijų greitį su realiai veikiančiais saugikliais, kuriuos pripažintų ir pramonė, ir valdžios institucijos.

  • „OpenAI“, „Anthropic“ ir „Google“ jungiasi dėl DI saugumo: kodėl varžovai staiga ieško bendrų taisyklių

    Varžovai imasi bendrų žingsnių

    Trys didžiausi pažangių modelių kūrėjai – „OpenAI“, „Anthropic“ ir „Google“ – pastarosiomis savaitėmis derino galimo bendradarbiavimo kryptis, kuriose prioritetas būtų DI saugumas ir rizikų valdymas. Apie tai viešai kalbėjo „OpenAI“ atstovas Chrisas Lehane, Vašingtone susitinkantis su JAV įstatymų leidėjais.

    Pats faktas, kad konkurentai aptaria bendrą darbotvarkę, rodo augantį spaudimą pramonei aiškiau parodyti, kaip bus valdoma vis galingesnių modelių plėtra. Tuo pačiu tai ženklas, kad reguliavimo klausimai tampa ne tik politinėmis diskusijomis, bet ir praktiniais verslo sprendimais.

    „Geriau bandyti dirbti kartu taip, kad prioritetu taptų saugumas“, – sakė Chrisas Lehane.

    Ką reiškia DI saugumas?

    Diskusijų centre – idėja kurti mechanizmus, kurie leistų anksčiau pastebėti ir riboti pavojingą DI elgesį, pavyzdžiui, modelių gebėjimą vykdyti kenkėjiškas instrukcijas, kurti apgaulingą turinį ar padėti automatizuoti kibernetines atakas. Praktikoje tai apima testavimą prieš paleidžiant sistemas, raudonąsias komandas, aiškesnius incidentų raportavimo standartus ir prieigos kontrolę.

    Kartu svarstoma ir apie platesnį priežiūros modelį – instituciją ar tarptautiniu mastu suderintas taisykles, kurios įvertintų pažangiausių modelių keliamas grėsmes. Tokios iniciatyvos dažnai siejamos su „frontier“ modeliais, kai sistemos pasiekia lygį, galintį daryti reikšmingą poveikį saugumui ar ekonomikai.

    Mažesnių žaidėjų įtarimai

    Ne visi sektoriuje šią kryptį vertina vienareikšmiškai. Mažesnės DI bendrovės viešai įspėja, kad saugumo argumentas gali tapti patogia priemone didiesiems sulėtinti rinkos dinamiką ir įtvirtinti dominuojančias pozicijas.

    Šioje logikoje baiminamasi, kad griežtesni reikalavimai, kuriuos lengviau atlaiko technologijų gigantai, gali tapti įėjimo į rinką barjeru startuoliams. Dėl to saugumo standartų kūrimas neišvengiamai persipina su konkurencijos politika.

    Ekspertų perspėjimai aštrina toną

    „Anthropic“ vadovas Dario Amodei pastaruoju metu kartoja, kad proveržis gali būti arčiau, nei visuomenė įsivaizduoja, o netinkamai valdant plėtrą galima prarasti kontrolę. Šiuos perspėjimus palaikė ir „OpenAI“ vadovas Samas Altmanas bei „xAI“ įkūrėjas Elonas Muskas.

    Viešojoje erdvėje pasirodė ir kitų specialistų kritikos, susijusios su skuba siekti itin pažangių sistemų. Tokie pareiškimai kuria foną, kuriame politikai vis dažniau prašo ne pažadų, o patikrinamų saugumo procedūrų.

    Ar reikalinga tarptautinė priežiūra?

    Diskusijose vis dažniau skamba mintis, kad DI plėtrai gali prireikti tarptautinio koordinavimo, panašiai kaip reguliuojamos jautrios, didelę riziką keliančios technologijos. Argumentas paprastas: pažangūs modeliai lengvai peržengia valstybių sienas, o vienos šalies taisyklės ne visada apsaugo nuo globalių pasekmių.

    Kita vertus, pernelyg lėtas ar fragmentuotas reguliavimas gali atsilikti nuo technologinės realybės. Todėl būtent pramonės lyderių susitarimai dėl minimalių saugumo standartų gali tapti tarpine stotele, kol valstybės ir tarptautinės organizacijos susitars dėl bendrų rėmų.