CP v2

Tag: Kibernetinis saugumas

  • NASK pristatė „DROZD“: naujas įrankis aptinka deepfake’us ir parodo, kaip lengvai jie kuriami

    Lenkijos valstybinis tyrimų institutas NASK pristatė „DROZD“ – sukurtą sprendimą, skirtą aptikti ir analizuoti deepfake turinį, kuriame vaizdas, garsas ar tekstas būna suklastoti pasitelkiant DI. Institutas pabrėžia, kad tokių klastočių kūrimo barjeras mažėja, o jų mastas socialiniuose tinkluose auga.

    NASK atstovai akcentuoja, kad įtikinamai sintetinei medžiagai kartais pakanka kelių ar keliolikos sekundžių žmogaus kalbos pavyzdžio, vienos nuotraukos ar trumpo viešai prieinamo vaizdo įrašo. Dėl to vis dažniau klastotėse pasitelkiami vieši asmenys, kurių atpažįstamas veidas ar balsas sukuria klaidingą patikimumą.

    Kas rodo mastą?

    NASK teigimu, per penkių savaičių socialinių tinklų stebėseną buvo identifikuota apie 16 000 klaidinančių reklamų, kuriose aptikta sintetinės ar manipuliuotos medžiagos požymių. Ekspertai taip pat fiksavo daugiau nei 450 skirtingų tapatybių panaudojimo atvejų, kai klastotėse pasitelkiami realių žmonių veidai ar balsai.

    „Įtikinamai sintetinei medžiagai sukurti šiandien dažnai pakanka keliolikos sekundžių žmogaus kalbos, o kartais net kelių sekundžių. Tai gali būti viena nuotrauka arba trumpas, viešai prieinamas įrašo fragmentas“, – sakė NASK Audiovizualinių analizių ir biometrinių sistemų padalinio vadovė dr. inž. Ewelina Bartuzi-Trokielewicz.

    Institutas pažymi ir kitą problemą: kai kuriose turinio generavimo paslaugose norint sukurti vaizdo įrašą su konkretaus viešo asmens atvaizdu gali pakakti tik patvirtinti, kad turite teisę tą atvaizdą naudoti. Tai sukuria palankias sąlygas masinei klastočių gamybai.

    Kaip veikia „DROZD“?

    „DROZD“ sukurtas kaip daugiasluoksnis analizės įrankis, vertinantis vaizdą, garsą ir turinio prasmę bei kontekstą. NASK pabrėžia, kad tikslas yra sprendimas, galintis dirbti realiomis sąlygomis, kai įrašai būna suspausti, triukšmingi ar perkelti per socialinių tinklų platformas.

    „Analizuojame vaizdinį sluoksnį, garso takelį ir žinutę, kuri perduodama įraše. Svarbiausia, kad sprendimai veiktų realiomis operacinėmis sąlygomis, įskaitant sudėtingą, triukšmingą medžiagą iš socialinių tinklų“, – sakė E. Bartuzi-Trokielewicz.

    NASK aiškina, kad sistema gali išskirti garso takelį, paversti kalbą tekstu, vertinti balso bei garso požymius, grupuoti panašius veidus ir atskirai analizuoti skirtingus kalbėtojus. Taip tyrėjams nereikia vertinti viso ilgo įrašo kaip vieno objekto, o galima tiksliau tikrinti atskiras jo dalis.

    „DROZD“ taip pat orientuotas į įrašų, analizės rezultatų ir etaloninių duomenų kaupimą, kad būtų galima greičiau atpažinti dažniausiai apgaulėse išnaudojamus veidus ar balsus. NASK pabrėžia, kad sprendimas yra modulinis, todėl atskiras dalis galima keisti ir pritaikyti pagal institucijų poreikius.

    Kodėl deepfake’ai taip sunkiai suvaldomi?

    Vienas didžiausių iššūkių – greitis ir mastas: apgaulingos kampanijos dažnai kuriamos iš dešimčių ar šimtų failų ir daugybės reklamų variantų su smulkiomis korekcijomis. Tai apsunkina moderavimą, ypač kai sukčiai naudoja technikas, skirtas paslėpti tikrąjį reklamos turinį nuo automatinės patikros.

    NASK išskiria ir lip sync tipo manipuliacijas, kai paimamas autentiškas vaizdo įrašas, sugeneruojamas naujas balso pranešimas ir suderinamas lūpų judesys. Instituto vertinimu, būtent tokios klastotės ilgą laiką buvo sunkiai aptinkamos daugeliui rinkoje prieinamų detekcijos sprendimų.

    Kartu daugėja ir kitų formatų: skaitmeniniai avatarai, sukurti iš vienos nuotraukos ar trumpo klipo, bei hibridinės klastotės, kur klasikinės vaizdo manipuliacijos maišomos su generatyviniais modeliais. NASK taip pat įspėja, kad vis dažniau gali plisti netikri „didelių įvykių“ vaizdai, pavyzdžiui, tariami gaisrai, sprogimai ar stichinės nelaimės.

  • Svarbus pokytis visiems TPS „Vartai“ naudotojams: nuo rugsėjo privalomas 2VA

    Kas keičiasi portale

    VšĮ „Statybos sektoriaus vystymo agentūra“ pranešė, kad portale TPS „Vartai“ įdiegtas privalomas dviejų veiksnių autentifikavimas. Naujovė įsigalios 2026 metų rugsėjo 24 dieną ir bus taikoma visiems sistemos naudotojams.

    SSVA teigia, kad sprendimas priimtas nuosekliai stiprinant kibernetinį saugumą ir siekiant geriau apsaugoti naudotojų paskyras. Dviejų veiksnių autentifikavimas laikomas viena efektyviausių priemonių mažinant neteisėto prisijungimo riziką, kai slaptažodžiai nuteka ar būna atspėjami.

    Kaip veiks 2VA

    Nuo nurodytos datos prisijungiant prie TPS „Vartai“ reikės atlikti papildomą žingsnį: įvesti vienkartinį saugumo kodą, gautą el. paštu. Šis reikalavimas skirtas patvirtinti, kad prie paskyros jungiasi būtent jos valdytojas.

    SSVA nurodo, kad pirmą kartą jungiantis po pokyčio visi naudotojai turės patvirtinti savo el. pašto adresą. El. pašto patvirtinimas bus privalomas nepriklausomai nuo to, ar prisijungiama su naudotojo vardu ir slaptažodžiu, ar per Elektroninius valdžios vartus.

    Vėliau vienkartiniai kodai el. paštu bus siunčiami tiems, kurie ir toliau rinksis prisijungimą su naudotojo vardu ir slaptažodžiu. Tuo metu per Elektroninius valdžios vartus prisijungiantiems naudotojams papildomo kodo kiekvieną kartą įvesti nereikės.

    Kodėl to reikia ir ką daryti dabar

    Kibernetinio saugumo praktikoje 2VA diegimas siejamas su augančiu bandymų perimti paskyras skaičiumi, ypač kai naudojami tie patys slaptažodžiai keliose paslaugose ar pasitaiko apgaulingų laiškų. Papildomas patvirtinimas sumažina riziką net ir tuo atveju, jei slaptažodis patektų į pašalinių rankas.

    Naudotojams patariama iš anksto pasitikrinti, ar paskyroje nurodytas teisingas el. pašto adresas ir ar prie jo yra nuolatinė prieiga. Taip pat verta įsitikinti, kad sistemos siunčiami laiškai nepatenka į šlamšto aplanką, nes kodas bus reikalingas prisijungimo metu.

    TPS „Vartai“ portalas naudojamas elektroniniu būdu teikiant paslaugas, susijusias su teritorijų planavimu, statybos procesais, topografija ir inžinerine infrastruktūra bei valstybinės žemės administravimu. SSVA primena, kad sistemoje veikia keli tarpusavyje integruoti sprendimai ir registrai, todėl prisijungimo saugumas tiesiogiai svarbus tiek gyventojams, tiek įmonėms.

    Kilus klausimų dėl naujo prisijungimo proceso, SSVA ragina kreiptis į agentūros konsultantus įprastais klientų aptarnavimo kanalais. Iki įsigaliojimo datos naudotojams rekomenduojama neatidėlioti el. pašto patikslinimo, kad prisijungimas po pokyčio nekeltų trikdžių.

  • 5 dalykai, kurių niekada nepatikėkite DI pokalbių robotams: klaida gali brangiai kainuoti

    DI patogumas turi kainą

    DI pokalbių robotai, tokie kaip „ChatGPT“, „Gemini“ ar „Claude“, vis dažniau naudojami tekstams, idėjoms, dokumentams ir kasdienėms užduotims. Tačiau kuo detaliau aprašoma situacija ar įkeliami failai, tuo didesnė rizika, kad jautrūs duomenys bus panaudoti ne taip, kaip tikitės.

    Nors dalis paslaugų siūlo privatumo nustatymus, pokalbių turinys gali būti saugomas, peržiūrimas kokybės gerinimo tikslais ar panaudojamas saugumo incidentų tyrimui. Todėl svarbiausia taisyklė paprasta: jei informacija galėtų pakenkti jums ar jūsų organizacijai, jos geriau nekelti į viešą DI įrankį.

    Asmens ir finansiniai duomenys

    Venkite siųsti duomenis, kurie tiesiogiai identifikuoja žmogų: vardą ir pavardę, asmens kodą, paso ar tapatybės dokumento numerius, gyvenamosios vietos adresą, telefono numerį. Atsargiai vertinkite ir gyvenimo aprašymus, sutartis ar prašymus, nes juose dažnai būna perteklinių identifikatorių.

    Ypač pavojingi finansiniai duomenys: mokėjimo kortelių numeriai, banko sąskaitos, prisijungimai, mokesčių dokumentai, atlyginimo detalės ar investicijų suvestinės. Dažniausiai patarimui pakanka situaciją aprašyti bendrai, nenurodant konkrečių rekvizitų.

    Sveikata, intymumas ir darbo paslaptys

    DI gali padėti suprasti medicininius terminus ar suformuluoti klausimus gydytojui, bet tai nereiškia, kad verta kelti ligos istorijas, tyrimų išklotines ar dokumentus su vardu, diagnoze ir įstaigų žymomis. Tokia informacija yra jautri ir gali tapti taikiniu sukčiams ar šantažui.

    Panašiai ir su intymiais ar itin asmeniškais pasakojimais: ilgas dialogas su ramiu ir palaikančiu botu gali sukurti klaidingą saugumo jausmą. Vis dėlto tokias detales geriau pasilikti sau arba aptarti su žmogumi specialistu, o ne kaupti pokalbių istorijoje.

    Ne mažiau svarbu ir darbinė informacija: vidiniai dokumentai, klientų duomenys, komercinės sąlygos, kainodara, slaptažodžių valdymo praktikos, programinis kodas, informacija, saugoma konfidencialumo sutartimis. Net jei tik norite greičiau parengti laišką ar ataskaitą, į viešą DI paslaugą keliami failai gali tapti nutekėjimo rizika.

    Ką daryti, jei jau pasidalijote

    Jei jautrūs duomenys jau pateko į DI pokalbį, pirmiausia ištrinkite konkrečią istoriją ir peržiūrėkite naudojamos paslaugos privatumo nustatymus. Kai kurios platformos leidžia išjungti pokalbių naudojimą tobulinimui arba valdyti duomenų saugojimo terminus.

    Ateityje saugiau naudoti anonimizavimą: vietoje realių vardų rašyti neutralias žymas, o dokumentuose prieš įkeliant pašalinti identifikuojančią informaciją. Jei užduotis susijusi su darbu, verta rinktis organizacijos patvirtintus įrankius ir vidines taisykles, o ne improvizuoti su viešomis paslaugomis.

  • DI lenktynės lenkų fabrikuose: kodėl svarbiau duomenys, energijos kaina ir kibernetinis saugumas

    Lenkijos pramonė vis dažniau bando diegti dirbtinis intelektas sprendimus, tačiau reali transformacija prasideda ne nuo madingų įrankių, o nuo duomenų, energetinio efektyvumo ir sistemų integracijos. Pramonės automatizavimo bendrovės „ABB“ atstovai pabrėžia, kad DI turi būti vertinamas pagal galutinį rezultatą, o ne pagal tai, kiek resursų sunavojama eksperimentams.

    Dideliuose gamybos kompleksuose DI dažniausiai tampa dar viena priemone produktyvumui didinti šalia jutiklių, procesų optimizavimo, planavimo ir turto valdymo sistemų. Praktikoje tai reiškia, kad investicijų prioritetas dažnai atitenka energijos sąnaudų mažinimui, nes būtent jos tiesiogiai veikia gamybos savikainą ir konkurencingumą.

    DI negali valdyti „aklai“

    Pramonėje kritinės reikšmės valdymo sistemos negali būti „tiesiog prijungiamos“ prie DI ir paliekamos veikti be aiškių ribų. Esminis principas yra atskirti procesų valdymo sluoksnį nuo optimizavimo ir analizės sluoksnio, kad gamyba išliktų stabili net testuojant naujas technologijas.

    Tokia architektūra dažnai remiasi kraštiniu skaičiavimu, skaitmeniniais dvyniais ir atskiromis analitinėmis aplikacijomis, kurios naudoja procesinius duomenis, bet tiesiogiai nevaldo kritinių komandų. Tai mažina riziką, kai sprendimai dar nėra iki galo patikrinti realiomis gamybos sąlygomis.

    Kodėl energijos taupymas stringa?

    Nors aukštos energijos kainos pramonėje laikomos viena didžiausių grėsmių pelningumui, diegimas neretai juda lėčiau nei norėtųsi. Viena priežasčių yra investicijų grąžos logika: įmonės dažnai vertina ketvirčio ar metų rezultatą, o energetinio efektyvumo projektai atsiperka per ilgesnį laiką.

    Kita dažna kliūtis yra matavimo ir supratimo trūkumas: jei energijos suvartojimas nematuojamas pakankamai detaliai, sunku nustatyti, kuris proceso etapas yra labiausiai „ėdrus“ ir kur investicija duotų didžiausią efektą. Šiuolaikiniai jutikliai leidžia nusileisti iki konkretaus įrenginio lygio, tačiau didžiausia vertė atsiranda ne iš papildomų prietaisų, o iš to, kaip duomenys pritaikomi sprendimams.

    Skalavimą stabdo atsakomybė ir saugumas

    Pilotiniai DI projektai dažnai parodo greitą pirmą rezultatą, ypač ten, kur sprendimai remiasi dideliais kalbos modeliais ar agentinėmis sistemomis. Tačiau perkėlus į gamybą išauga reikalavimai duomenų kokybei, kontekstui, procesų išmanymui ir atsakomybės paskirstymui.

    „Autonomija pramonėje greitai tampa atsakomybės, kibernetinio saugumo ir sprendimų paaiškinamumo klausimu“, – sakė „ABB“ Korporacinio technologijų centro Lenkijoje vadovas Przemysławas Zakrzewskis.

    Kuo daugiau sprendimų priima sistema, tuo svarbiau aiškiai apibrėžti, kas atsako už jos veikimą, kokiais duomenimis ji remiasi ir ar sprendimus galima atsekti. Dėl to pramonėje pabrėžiama, kad debesų sprendimai, DI ir mašininis mokymasis turi naudoti procesinius duomenis, bet būti atskirti nuo kritinio valdymo.

    Kibernetinio saugumo kontekste vis dažniau akcentuojama „higiena“: turto inventorizacija, konfigūracijų kontrolė, atnaujinimų disciplina ir aiškus matomumas, kas ir kaip yra pasiekiama iš vidaus bei išorės. Didėjant prijungtų įrenginių skaičiui, plečiasi ir potencialaus atakos paviršius, todėl IT ir OT aplinkų sujungimas turi vykti pagal standartizuotus architektūrinius principus.

    Kiek pažengusi Lenkijos pramonė?

    Technologinė branda nėra vienoda visoms įmonėms: didelės gamyklos dažniau turi gamybos, logistikos ir planavimo valdymo sistemas, o DI diegimą sieja su optimizavimu ir skirtingų sistemų sujungimu. Ekspertų vertinimu, dideli Lenkijos pramonės objektai dažnai pasiekia 7–8 lygį dešimties balų skalėje, tačiau iki visiškos autonomijos dar trūksta visos grandinės integracijos.

    Mažesnėms įmonėms transformaciją gali pagreitinti kompetencijų stiprinimas, bendradarbiavimas su mokslo institucijomis ir finansavimo prieinamumas. Praktikoje tai reiškia, kad DI sėkmė pramonėje dažniausiai priklauso nuo trijų dalykų: kokybiškų duomenų, aiškios architektūros ir saugumo, o tik tada nuo pačio algoritmo.

  • KPO skaitmenizavimo paskolos: pasirašyta 53 sutartys, beveik 700 mln eurų DI ir debesijai

    Beveik 700 mln eurų skaitmenizavimui

    Lenkijos plėtros bankas Bank Gospodarstwa Krajowego pranešė pasirašęs 53 sutartis pagal KPO priemonę Skaitmenizavimo paskola. Bendra sutarčių vertė viršija 670 mln eurų, o lėšos keliauja universitetams, ligoninėms, savivaldybėms, komunalinėms įmonėms ir energetikos bendrovėms.

    Priemonė finansuojama iš Nacionalinio atkūrimo ir atsparumo didinimo plano lėšų ir skirta skaitmeninei transformacijai paspartinti. BGK nurodo, kad investicijos turi didinti veiklos efektyvumą, gerinti duomenų panaudojimą, automatizuoti procesus ir kelti kibernetinio saugumo lygį.

    Kur daugiausia keliauja pinigai?

    Didžiausia dalis, apie 350 mln eurų, numatyta informacinių ir ryšių technologijų infrastruktūrai. Tai apima didelio masto kompiuterinę įrangą, duomenų centrus, duomenų apsaugos sprendimus ir telekomunikacijų infrastruktūros modernizavimą.

    Į šią kryptį taip pat patenka išmaniosios vandens apskaitos ir tinklų stebėsenos sistemos, energijos valdymo sprendimai bei technologijos, padedančios sveikatos priežiūros įstaigoms greičiau atlikti diagnostiką ir gerinti pacientų gydymą. Tokios investicijos dažniausiai siejamos su kritinės infrastruktūros atsparumu ir paslaugų prieinamumu.

    Apie 170 mln eurų skiriama pažangioms skaitmeninėms technologijoms, įskaitant duomenų apdorojimą, administracinių ir operacinių procesų skaitmeninimą, kibernetinio saugumo stiprinimą ir debesijos diegimus. Šioje dalyje taip pat finansuojami sprendimai, kuriuose naudojamas dirbtinis intelektas, ir virtualios laboratorijos.

    Dar maždaug 155 mln eurų numatyta išmaniosioms energetikos sistemoms, įskaitant išmaniuosius tinklus ir su jais susijusias ICT platformas. Energetikos sektoriuje tokios investicijos laikomos vienu iš pagrindų efektyvesniam tinklų valdymui ir didesniam patikimumui.

    Paklausa kelis kartus viršijo biudžetą

    BGK teigimu, susidomėjimas skaitmenizavimo paskolomis gerokai viršijo programos finansavimo galimybes. Bendra pateiktų paraiškų vertė siekė apie 2 260 mln eurų, tai yra daugiau nei tris kartus viršijo lėšas, skirtas šiai priemonei.

    Toks paraiškų šuolis rodo, kad viešasis sektorius ir su juo susijusios įmonės skaitmeninimą vis dažniau traktuoja kaip būtinybę, o ne papildomą projektą. Praktikoje tai reiškia didesnį dėmesį duomenų valdymui, sistemų integralumui, kibernetinei rizikai ir paslaugų perkėlimui į debesiją.

    „Be skaitmeninės Lenkijos nesukursime ekonomikos atsparumo ir saugumo. Šis projektas parodė sinchronizacijos jėgą ir tai, kad kaip lenkai gebame bendradarbiauti ir nebijome iššūkių“, – sakė prof. Marta Postuła.

    Bank Gospodarstwa Krajowego yra Lenkijos plėtros bankas, dalyvaujantis strateginių investicijų finansavime ir priemonių, susijusių su ekonomikos transformacija, administravime. Bankas pabrėžia, kad skaitmenizavimo paskolos turėtų padėti greičiau modernizuoti paslaugas ir sustiprinti institucijų atsparumą.

  • „Google“ skirta 403 mln. eurų bauda: Airijos priežiūra įvertino, kaip tvarkyti buvimo vietos duomenys

    „Google“ skirta 403 mln. eurų bauda: Airijos priežiūra įvertino, kaip tvarkyti buvimo vietos duomenys

    Airijos duomenų apsaugos komisija skyrė „Google“ 403 mln. eurų baudą už Europos Sąjungos Bendrojo duomenų apsaugos reglamento pažeidimus, susijusius su naudotojų buvimo vietos duomenų tvarkymu. Tai viena didžiausių šios institucijos pritaikytų sankcijų ir pirmoji tokio masto bauda „Google“ atžvilgiu.

    Tyrimas buvo pradėtas 2020 metais, gavus vartotojų organizacijų skundų iš įvairių ES šalių. Skunduose keltas klausimas, ar žmonėms buvo pakankamai aiškiai paaiškinta, kaip renkami, naudojami ir saugomi buvimo vietos duomenys, taip pat ar jų sutikimas buvo gautas sąžiningai.

    Reguliuotojas nurodė, kad problemos susijusios su keliomis „Google“ funkcijomis ir jų tarpusavio sąsajomis: veikla žiniatinklyje ir programėlėse, vietovių istorija bei vietos tikslumo nustatymai. Vertinta ne tik pati duomenų tvarkymo logika, bet ir skaidrumas, tai yra, kaip aiškiai vartotojui pateikiama informacija ir kokią realią kontrolę jis turi.

    Vartotojų atstovai yra teigę, kad dalis sprendimų vartotojo sąsajoje galėjo paskatinti įjungti nustatymus, kurie leidžia plačiau dalintis buvimo vietos informacija. Tokios praktikos ES reguliavimo kontekste dažnai vertinamos per sutikimo laisvumo ir informuotumo prizmę, nes BDAR reikalauja, kad sutikimas būtų konkretus, aiškus ir nedviprasmiškas.

    „Ši byla susijusi su istorinėmis politikomis, kurios nuo to laiko buvo atnaujintos. Nuo 2019 metų reikšmingai patobulinome praktikas ir sukūrėme priemones, kurios supaprastina buvimo vietos duomenų valdymą“, – sakė „Google“ atstovė Mathilde Méchin.

    „Sprendimas yra gera žinia vartotojams, nes patvirtina, kad neteisėta buvo tai, kaip buvo gaunamas sutikimas naudoti žmonių buvimo vietos duomenis. Tačiau laikas, kurio prireikė padaryti išvadoms, yra neproporcingas pažeidimų rimtumui“, – sakė BEUC generalinis direktorius Agustín Reyna.

    Airija yra pagrindinė daugelio didžiųjų technologijų bendrovių priežiūros valstybė ES, nes jų Europos būstinės dažnai registruotos būtent čia. Dėl to sprendimai, priimami Dubline, turi platesnį poveikį visoje Europos Sąjungoje, o baudos ir įpareigojimai tampa reikšmingu precedentu, kaip praktikoje taikomi BDAR reikalavimai.

    Airijos reguliuotojas taip pat turi ir kitų vykdomų tyrimų prieš „Google“, susijusių su duomenų tvarkymu ir skirtingais produktais bei paslaugomis. Augant spaudimui dėl skaidrumo, reklamos personalizavimo ir naujų technologijų, įskaitant DI modelius, įmonėms vis dažniau tenka įrodyti ne tik atitiktį taisyklėms, bet ir tai, kad vartotojui suteikiama reali, lengvai suprantama kontrolė.

  • 22 valstybės ragina DI palikti žmogaus kontrolėje: siūloma kurti pasaulinę priežiūros instituciją

    22 valstybės ragina DI palikti žmogaus kontrolėje: siūloma kurti pasaulinę priežiūros instituciją

    22 valstybės Jungtinių Tautų Generalinės Asamblėjos savaitės paraštėse priėmė deklaraciją, kurioje pabrėžiama, kad dirbtinis intelektas turi likti žmogaus krypties, priežiūros ir kontrolės rėmuose. Dokumente DI įvardijamas kaip galintis gerinti gyvenimą ir stiprinti ekonomiką, tačiau kartu perspėjama dėl sparčiai tobulėjančių pažangiausių modelių keliamų saugumo rizikų.

    Iniciatyva pristatyta tuo metu, kai pasaulio dėmesys krypsta į JAV ir Kinijos lyderių susitikimą Vašingtone. Nei JAV, nei Kinija prie deklaracijos neprisijungė, tačiau jos rengėjai tikisi, kad tekstas sukurs politinį impulsą ir paskatins platesnį sutarimą dėl tarptautinių apsaugos taisyklių.

    Vienas pagrindinių iniciatyvos veidų, Suomijos prezidentas Alexanderis Stubbas, teigė, kad abiem didžiausioms DI ekosistemoms būtų naudingi aiškūs saugikliai.

    „Mūsų žinutė paprasta: reikia žmogaus įsikišimo, todėl žmonės turi likti atsakingi“, – sakė Alexanderis Stubbas.

    Deklaracijoje siūloma stiprinti bendrus standartus ir skaidrumą, įskaitant rimtų saugumo incidentų pranešimų dalijimąsi tarp valstybių. Taip pat raginama įpareigoti DI bendroves turėti aiškius saugos protokolus, atlikti privalomus testus prieš diegimą ir sudaryti sąlygas nepriklausomam vertinimui, suteikiant vertintojams pakankamą prieigą rizikoms įvertinti.

    Ypatingas dėmesys skiriamas vadinamiesiems pažangiausiems DI modeliams, kurių gebėjimai gali būti pritaikyti tiek teisėtiems, tiek žalingiems tikslams. Pastarųjų mėnesių diskusijas papildė ir realūs incidentai skaitmeninėje erdvėje, kai DI agentų automatizavimas kėlė papildomų rizikų kibernetiniam saugumui.

    Nors deklaracija nekviečia stabdyti ar pristabdyti DI plėtros, jos autoriai akcentuoja rizikų valdymą ir aiškesnę atsakomybės architektūrą. Tai atitinka vis dažniau tarptautinėse diskusijose skambančią kryptį: technologijų raidos nestabdyti, bet užtikrinti, kad sauga, atsekamumas ir atskaitomybė būtų įdiegti dar prieš sprendimams pasiekiant masinį naudojimą.

    Vienas ambicingiausių siūlymų yra tarptautinės institucijos sukūrimas, kuri prižiūrėtų DI saugą panašiai, kaip atskirose srityse veikia specializuotos tarptautinės agentūros. Deklaracijos rengėjai mini variantą tokį mechanizmą kurti Jungtinių Tautų sistemoje, tačiau palieka atvirą formatą, kad iniciatyva būtų priimtinesnė platesniam valstybių ratui.

    Prie deklaracijos prisijungė dalis Europos valstybių, tačiau tarp didžiųjų žaidėjų Europoje paramos žemėlapis nevienodas. Vokietijos kancleris Friedrichas Merzas iniciatyvą palaiko, o Prancūzijos, Italijos ir Lenkijos parašų kol kas nėra, kaip nėra ir Jungtinės Karalystės, nors raginama, kad klausimą aktyviau keltų ir G7 bei G20.

    Argumentuodami būtinybę didinti priežiūrą, iniciatoriai įvardija tris grėsmių kryptis: biologinių grėsmių stiprinimą, automatizuotas kibernetines atakas ir mirtinų autonominių ginklų riziką. Tuo pat metu jie pabrėžia, kad teisingai valdant DI, potenciali nauda gali būti didžiulė, nuo medicinos proveržių iki produktyvumo augimo ir efektyvesnių viešųjų paslaugų.

  • „Google“ DI „Gemini“ per testą įsilaužė į 3 įmones: kas nutiko ir kodėl tai kelia nerimą

    „Google“ DI „Gemini“ per testą įsilaužė į 3 įmones: kas nutiko ir kodėl tai kelia nerimą

    Per išorinį kibernetinio saugumo vertinimą „Google“ dirbtinio intelekto modelis „Gemini“ gavo neautorizuotą prieigą prie trijų realių įmonių sistemų. Incidentas, kaip teigiama, įvyko 2026 metais gegužę, kai testus vykdė tyrimų bendrovė Irregular. Tai vadinama pirmuoju plačiau aprašytu atveju, kai „Google“ autonomiškas DI tokio pobūdžio veiksmus atliko už testinės aplinkos ribų.

    Pagal oficialiai aptariamą versiją, vertinimas turėjo vykti izoliuotoje, nuo interneto atjungtoje aplinkoje ir naudoti fiktyvius taikinius. Tačiau dėl konfigūracijos klaidos „Gemini“ esą gavo prieigą prie atviro interneto. Prisijungęs prie tinklo modelis pradėjo realias įmones klaidingai laikyti pratybų tikslais.

    Kaip DI pasiekė sistemas

    Vienu atveju „Gemini“ bandė išgauti duomenis iš simuliuojamos įmonės programinės įrangos, tačiau pavadinimas sutapo su realiai egzistuojančia bendrove. Modelis atspėjo slaptažodį ir įveikė tikro serviso apsaugą. Likusiais dviem atvejais DI aptiko prisijungimo duomenis viešuose kodo saugyklų įrašuose ir jais pasinaudojo prisijungdamas prie saugomų sistemų.

    „Google“ atstovai nurodė, kad „Gemini“ nutraukė veiksmus, kai suprato, jog sąveikauja su realiais subjektais. Taip pat pabrėžta, kad automatiniai saugikliai suveikė, o pažeistos sistemos nepatyrė žalos. Vis dėlto pats faktas, kad testavimo metu DI galėjo peržengti ribas, išryškino silpną vietą ne tik modelių elgsenoje, bet ir testų organizavime.

    Kodėl tokie atvejai kartojasi

    Pastaraisiais metais daugėja vadinamųjų agentinių DI sistemų, kurios ne tik generuoja tekstą, bet ir vykdo veiksmus: naršo internete, naudoja įrankius, jungiasi prie paslaugų, automatizuoja užduotis. Kuo daugiau teisių ir priėjimų suteikiama agentams, tuo didesnė rizika, kad klaida konfigūracijoje ar netiksliai suformuluotas tikslas nuves prie nepageidaujamo rezultato.

    Ši istorija įsipaišo į platesnį kontekstą, kuriame technologijų bendrovės ir nepriklausomi vertintojai ieško būdų, kaip realistiškai patikrinti modelių atsparumą piktnaudžiavimui. Tuo pačiu tai kelia dilemą: testai turi būti pakankamai artimi realybei, tačiau privalo turėti griežtas technines ribas, kad „išėjimas į internetą“ taptų neįmanomas net ir įvykus klaidai.

    Reguliavimas ir sektoriaus reakcija

    Incidentai, susiję su autonomiškų sistemų elgsena, dar labiau paaštrina diskusijas dėl privalomų saugumo standartų. Europos Sąjungoje DI rizikos valdymo kryptį stiprina DI aktas, o kibernetinio saugumo srityje vis didesnę reikšmę įgauna tiekimo grandinės kontrolė, pažeidžiamumų atskleidimo tvarka ir incidentų pranešimo disciplina. Praktikoje tai reiškia, kad vien techninių pažadų nebeužtenka, o testavimo procedūros turės tapti audituojamos ir atsekamos.

    Irregular teigimu, nustatytos procedūrinės spragos buvo pašalintos per kelias savaites nuo aptikimo, o dabar rengiami saugesni gerosios praktikos principai DI kibernetinio saugumo vertinimams. „Google“ nurodė, kad apie situaciją informavo tris paveiktus subjektus ir kartu su mokymų partneriu koregavo testavimo procesus.

    „Užtikrinome, kad trys paveikti subjektai buvo informuoti, ir kartu su mūsų mokymų partneriu įgyvendinome procesų pakeitimus“, – sakė „Google“ saugumo inžinerijos viceprezidentė Heather Adkins.

    Nors šiuo atveju kalbama apie klaidą testavimo metu, ekspertai pabrėžia, kad panašūs scenarijai yra signalas visai rinkai. Didėjant agentų galimybėms, svarbiausia tampa principas mažiausios būtinos prieigos, aiškios „užtvaros“ nuo viešo interneto, patikimi stebėsenos žurnalai ir greitas incidentų eskalavimas, kai tik DI elgesys nukrypsta nuo numatyto.

  • DI agentai pradėjo kurti savo kalbą: mokslininkai sunerimę, kontrolė gali slysti

    DI agentai pradėjo kurti savo kalbą: mokslininkai sunerimę, kontrolė gali slysti

    Mokslininkai vis dažniau kelia klausimą, kas nutinka, kai šimtai ar tūkstančiai dirbtinio intelekto agentų veikia kartu ir ilgą laiką bendrauja tarpusavyje be žmogaus įsikišimo. Naujesni eksperimentai rodo, kad tokiose aplinkose agentai ima trumpinti žinutes, keisti gramatiką ir kurti savitus „dialektus“, kurių prasmė žmonėms tampa sunkiai atsekama.

    Tokią tendenciją aprašė bendrovė „Emergence AI“, atlikusi kelių paralelinių skaitmeninių pasaulių simuliacijas su agentais, turinčiais skirtingas užduotis ir elgsenos taisykles. Ilgesnės trukmės bandymai leido pamatyti, kaip nauji žodžiai ar formuluotės atsiranda staiga ir greitai išplinta visoje agentų „bendruomenėje“, nes kiti agentai jas perima kaip patogesnes.

    „Esame giliai susirūpinę, nes ne iki galo suprantame, kodėl šios sistemos pradeda komunikuoti taip, kad žmogui darosi vis sunkiau tai perskaityti ir patikrinti“, – sakė „Emergence AI“ vadovas Satya Nitta.

    Ekspertai pabrėžia, kad problema susijusi ir su vadinamuoju juodosios dėžės efektu, kai net kūrėjams sudėtinga paaiškinti, kodėl modelis priima vieną ar kitą sprendimą. Kai agentų tarpusavio dialogas tampa labiau sutankintas ir „kodinis“, žmogaus galimybės audituoti ketinimus, klaidas ar piktnaudžiavimą mažėja, ypač jei agentai veikia realiose sistemose.

    Tyrėjai aiškina, kad agentų kalbos pokyčius gali skatinti patys mokymo metodai. Šiuolaikiniai modeliai siekia efektyvumo, todėl natūralios kalbos aiškumas jiems nėra būtinybė, jei tik užduotys atliekamos greičiau ir su mažesnėmis skaičiavimo sąnaudomis. Daugiagentėse aplinkose prie to prisideda ir „užkrato“ efektas, kai vieno agento patogi formuluotė kitų greitai nukopijuojama ir įtvirtinama.

    Kita rizikos pusė – kibernetinis saugumas. Tekste minimi atvejai, kai analitikams būna sunku interpretuoti automatizuotų sistemų vidinius mainus, nes komunikacija per trumpą laiką tampa stipriai iškraipyta. Specialistai lygina tai su žmonių naudojamais kodais ar žargonu, kai siekiama apsunkinti stebėseną, tik šiuo atveju greitį ir mastą užtikrina automatizavimas.

    Technologijų bendrovės ir reguliuotojai vis dažniau kalba apie poreikį nustatyti taisykles, kad autonominės sistemos privalėtų bendrauti žmonėms suprantamu, audituojamu būdu. Pavyzdžiui, „Microsoft“ yra viešai aptarusi principą, kad autonominis programinis agentas neturėtų naudoti nepermatomo, žmogui neįskaitomo komunikacijos formato nei bendraudamas su žmogumi, nei su kitais agentais.

    Vis dėlto dalis inžinierių mato ir pragmatinę pusę: mašinoms optimizuota kalba teoriškai galėtų sumažinti dviprasmybes, kurios natūraliose kalbose išsprendžiamos kontekstu. Tokios iniciatyvos kaip „Ainglish“ siekia sukurti tikslesnį, mažiau dviprasmišką dialektą, kuris būtų efektyvesnis mašinų tarpusavio koordinacijai, tačiau kartu išlaikytų galimybę viską išversti atgal į žmonių kalbą.

    Kritikai primena, kad čia slypi esminė dilema: kuo komunikacija labiau optimizuojama mašinoms, tuo sunkiau garantuoti, kad žmogus išliks galutinis sprendimų prižiūrėtojas. Todėl vis dažniau akcentuojama ne tik modelių „protingumo“, bet ir jų skaidrumo, atsekamumo bei saugaus diegimo praktika, ypač kai agentai pradedami taikyti infrastruktūroje, kibernetinėje gynyboje ar moksliniuose tyrimuose.

    „Emergence AI“ teigia paviešinusi eksperimentų žurnalus ir konfigūracijas, kad kitos tyrėjų grupės galėtų tikrinti rezultatus ir gilintis į mechanizmus, dėl kurių atsiranda tokie dialektai. Ekspertų vertinimu, šių procesų supratimas tampa viena svarbiausių sąlygų saugiai plėsti daugiagenčių DI sistemų naudojimą realiame pasaulyje.

  • DI Lenkijos gamyklose: kodėl svarbiausi ne „tokenai“, o energijos taupymas, duomenys ir sauga

    Lenkijos pramonė vis aktyviau bando diegti dirbtinį intelektą, tačiau didžiausi pokyčiai vyksta ne dėl madingų įrankių, o dėl labai konkrečių tikslų: energijos sąnaudų mažinimo, procesų našumo ir patikimų duomenų. ABB Korporacinio technologijų centro Lenkijoje vadovas Przemysławas Zakrzewskis pabrėžia, kad DI yra tik viena priemonė produktyvumui kelti, o ne tikslas savaime.

    Jo teigimu, pramonėje svarbiausia yra galutinis rezultatas: trumpesnis ciklo laikas, mažesnės energijos sąnaudos, geresnė kokybė ir efektyvesnė įrangos priežiūra. DI sprendimų vertė matuojama tuo, ar jie realiai gerina operacinius rodiklius, o ne tuo, kiek „išteklių“ sunaudojama eksperimentams.

    DI negalima „prijungti“ prie valdymo

    Didelėse gamyklose kritinės infrastruktūros valdymas negali tapti bandymų poligonu. Todėl praktikoje atskiriamas pagrindinis valdymo sluoksnis nuo optimizavimo sluoksnio, kuriame gali veikti skaitmeniniai dvyniai ar sprendimai tinklo pakraštyje.

    Toks atskyrimas padeda diegti inovacijas nekeliant pavojaus gamybos stabilumui. Pramonės valdymo sistemos turi veikti patikimai, todėl DI dažniau pasitelkiamas analizei, rekomendacijoms ir planavimui, o ne tiesioginiam kritinių procesų valdymui.

    Energijos efektyvumas prasideda nuo matavimo

    Energetinis efektyvumas Lenkijos pramonėje įvardijamas kaip vienas svarbiausių prioritetų, tačiau realios investicijos į modernizaciją dažnai stringa dėl trumpo planavimo horizonto. Pokyčiai, susiję su energijos taupymu, paprastai atsiperka per ilgesnį laiką, todėl įmonės neretai vertina juos per vienų metų rezultatų prizmę.

    Kitas praktinis barjeras – nežinojimas, kur energijos prarandama daugiausia. Zakrzewskis akcentuoja, kad jei procesas nematuojamas, jo neįmanoma suprasti ir optimizuoti, o šiandien matavimą galima nuleisti iki konkretaus įrenginio lygio, paverčiant jį patikimu duomenų šaltiniu.

    Vis dėlto vien duomenų rinkimas problemos neišsprendžia. Reikia duomenų konteksto, modelių ir tarpusavyje sujungtų sistemų, kad būtų galima pereiti nuo paprastos automatizacijos prie didesnės autonomijos, kai sistema gali ne tik stebėti, bet ir prognozuoti, siūlyti veiksmus ar tam tikrose ribose reaguoti pati.

    Didžiausios kliūtys: mastelis ir atsakomybė

    Pasak ABB atstovo, pilotinius DI projektus pradėti lengva, ypač kai sprendimai greitai parodo pirmą efektą. Tačiau kuo procesas sudėtingesnis, tuo daugiau klausimų kyla dėl duomenų kokybės, tinkamų informacijos šaltinių, modelių parinkimo ir to, kur sprendimą gali priimti sistema, o kur būtinas žmogus.

    Diegimas pramonėje reiškia ir investicijas: pilotas paprastai apima mažą proceso dalį, o vėliau reikia apimti kur kas daugiau duomenų, sistemų ir organizacinių pokyčių. Būtent čia išryškėja organizacijos pasirengimas keisti kasdienį darbą, pavyzdžiui, įrangos priežiūros komandų sprendimų priėmimą.

    Kibernetinis saugumas – ne priedas

    Didelė dalis gamyklų vis dar dirba su senomis sistemomis, todėl saugumo stiprinimas dažnai prasideda nuo bazinės „higienos“: inventorizacijos, konfigūracijų kontrolės, atnaujinimų disciplinos ir aiškaus matomumo, kas ir kaip jungiasi prie infrastruktūros. Kuo daugiau įrenginių ir sistemų sujungiama, tuo didesnis galimos atakos paviršius.

    „Prieš galvojant apie kibernetinį saugumą kaip apie pažangų karą su įsilaužėliais, reikia pasirūpinti profilaktika“, – sakė Przemysławas Zakrzewskis.

    Jo teigimu, sprendimai, susiję su debesija, DI ar mašininiu mokymusi, gali naudoti procesinius duomenis, tačiau turi būti tinkamai atskirti nuo kritinio valdymo. Tokia architektūra padeda suderinti inovacijas su saugumu ir patikimumu, kurie pramonėje yra lemiami.

    Kiek pažengusi Lenkijos pramonė?

    Vertinant technologinę brandą, vieno balo visai rinkai nėra: dideli ir maži gamintojai veikia skirtingoje rizikos, investicijų ir atsakomybės skalėje. ABB atstovo vertinimu, didelės Lenkijos gamyklos, turinčios gamybos, logistikos ir planavimo sistemas bei diegiančios optimizavimo priemones, dažnai pasiekia 7–8 lygį dešimties balų skalėje.

    Aukščiausias lygis reikštų situaciją, kai didžioji dalis sistemų yra sujungtos tiek, kad autonominės operacijos gali apimti visą grandinę nuo įeinančios logistikos iki gamybos, kokybės kontrolės ir išsiuntimo. Mažesnėms įmonėms, anot pašnekovo, reikšmingą vaidmenį gali atlikti inovacijų ekosistemos, kompetencijos ir finansavimas, nes vien technologijos neužtenka.