CP v2

Tag: Deepfake

  • Allegro ir kitos platformos susiduria su grąžinimų sukčiavimu: DI kuria įtikinamas „defektų“ nuotraukas

    Kaip veikia nauja schema

    E. prekybos platformose daugėja atvejų, kai nesąžiningi pirkėjai, pasitelkę dirbtinis intelektas, sukuria įtikinamas prekių „defektų“ ar „pažeistų siuntų“ nuotraukas. Tokie vaizdai vėliau pateikiami kaip įrodymas ginčuose, prašant grąžinti pinigus, tačiau prekė dažnai taip ir negrąžinama.

    Schema dažnai vadinama grąžinimų sukčiavimu, kai pirkėjas bando susigrąžinti sumokėtą sumą už realiai tvarkingą prekę. DI įrankiai šią praktiką išplečia, nes leidžia greitai sugeneruoti vizualiai „patikimus“ vaizdus ir sumažina riziką būti demaskuotam vien iš nuotraukų.

    Kodėl pardavėjai atsiduria silpnesnėje pusėje

    Pardavėjai pabrėžia, kad ginčuose platformos neretai linkusios prioritetą teikti pirkėjo pateiktiems „įrodymams“, ypač jei jie atrodo aiškūs ir vizualiai įtikinami. Kai nuotraukos sugeneruotos ar pakoreguotos DI, pardavėjui tampa sudėtinga greitai paneigti kaltinimus ir apginti savo poziciją.

    Tokio tipo konfliktai ypač skausmingi mažesniems verslams ir individualiems pardavėjams, nes vienas nepagrįstas pinigų grąžinimas reiškia ne tik prarastą prekę, bet ir papildomas siuntimo, administravimo bei reputacijos sąnaudas. Augant atvejų skaičiui, rizika pradeda panašėti į sisteminę e. prekybos problemą.

    Kaip platformos vertina DI naudojimą

    Platformos viešuose komentaruose paprastai pabrėžia, kad pats dirbtinis intelektas ne visada yra draudžiamas, jei jis naudojamas korektiškai ir neapgaudinėjant. Pavyzdžiui, DI gali būti taikomas fono pašalinimui ar asmens duomenų apsaugai, jei realus prekės vaizdas išlieka nepakitęs.

    Tačiau klaidinantis ar apgaulingas DI naudojimas, ypač ginčuose pateikiant suklastotus „įrodymus“, vertinamas kaip rimtas taisyklių pažeidimas. Vis dėlto praktikoje didžiausias iššūkis išlieka greitas ir patikimas atskyrimas, ar pateikta medžiaga yra autentiška.

    Ką daro pardavėjai ir kur link juda tendencijos

    Pardavėjai vis dažniau renka prevencinius įrodymus, kad galėtų apsiginti kilus ginčui. Populiarėja siuntinio pakavimo filmavimas, konkretaus egzemplioriaus identifikavimas serijos numeriais ar kitais žymėjimais, taip pat failų archyvavimas su kriptografiniais maišos kodais, kad būtų lengviau įrodyti medžiagos autentiškumą.

    Kita kryptis yra bandymas nustatyti, ar nuotraukos galėjo būti sugeneruotos ar modifikuotos DI. Tokie įrankiai gali padėti kaip signalas, tačiau dažnai neleidžia pateikti šimtaprocentinio įrodymo, todėl ginčuose ir toliau svarbiausi išlieka pirminiai pardavėjo surinkti faktai.

    Teisinė pusė ir rizikos augimas

    Nors konkrečios atsakomybės ribos priklauso nuo valstybės teisės ir aplinkybių, tyčinis pardavėjo klaidinimas siekiant gauti pinigų grąžinimą paprastai gali būti vertinamas kaip sukčiavimas. Skaitmeninių duomenų klastojimas ar manipuliavimas įrodymais taip pat dažnai patenka į atskiras nusikalstamų veikų kategorijas.

    Ekspertai prognozuoja, kad toliau tobulėjant DI įrankiams tokių bandymų daugės, o ginčų dėl „įrodymų“ kokybės bus daugiau. Kol neatsiras brandesnių automatizuotų patikros sprendimų ir vienodesnių taisyklių, didžioji apsaugos dalis ir toliau kris ant pačių pardavėjų pečių.

  • Lenkijos NASK pristatė DROZD: įrankis, padedantis atpažinti deepfake vaizdus, garsą ir apgavystes

    Lenkijos valstybinis tyrimų institutas NASK-PIB pristatė autorių sukurtą įrankį DROZD, skirtą aptikti ir analizuoti deepfake turinį. Sistema vienu metu vertina vaizdą, garsą ir teksto prasmę, kad nustatytų, kur medžiaga galėjo būti sukurta ar pakeista dirbtinis intelektas.

    Institutas pabrėžia, kad įtikinamam suklastotam įrašui šiandien dažnai pakanka kelių ar keliolikos sekundžių žmogaus kalbos, o kartais ir vienos nuotraukos. Dėl to deepfake vis dažniau naudojami sukčiavimui, ypač socialiniuose tinkluose platinamose reklamose, kuriose išnaudojami žinomų žmonių veidai ir balsai.

    Kas labiausiai kelia riziką?

    NASK analitikai per penkias savaites vykdytą socialinių tinklų stebėseną nustatė apie 16 000 su sintetiniais elementais siejamų apgaulingų reklamų atvejų. Pasak instituto, tokio tipo kampanijos dažnai kuriamos masiškai, su daugybe variantų, o sukčiai nuolat keičia failus, kad išvengtų moderavimo.

    „Įtikinamam sintetinės medžiagos sukūrimui šiandien dažnai pakanka keliolikos sekundžių žmogaus kalbos, o kartais net kelių sekundžių“, – sakė NASK Audiovizualinės analizės ir biometrinių sistemų padalinio vadovė dr. inž. Ewelina Bartuzi-Trokielewicz.

    Ekspertai atkreipia dėmesį į sparčiai plintančius vadinamuosius lip-sync klastojimus, kai naudojamas tikras vaizdo įrašas, tačiau pakeičiamas balsas ir suderinamas lūpų judėjimas. Toks metodas dažnai atrodo įtikinamiau nei visiškai sugeneruotas vaizdas, todėl automatinėms sistemoms jį aptikti sunkiau.

    Kaip veikia DROZD?

    DROZD sukurtas taip, kad padėtų atlikti daugiapakopę analizę: nuo vaizdo ir garso požymių iki turinio konteksto bei kalbos struktūros. NASK teigimu, vienas tikslų yra užtikrinti, kad įrankis veiktų realiomis sąlygomis, įskaitant prastos kokybės ar „užterštą“ socialinių tinklų medžiagą.

    „Analizuojame vizualinį sluoksnį, garso takelį ir pačią žinutę. Mums svarbu, kad įrankiai veiktų realiomis operacinėmis sąlygomis, įskaitant sudėtingą, triukšmingą medžiagą iš socialinių tinklų“, – sakė E. Bartuzi-Trokielewicz.

    Praktikoje sistema gali išskirti garso takelį iš vaizdo įrašo, paversti kalbą tekstu, įvertinti balso ir vaizdo požymius, taip pat grupuoti panašius veidus ir balsus ilgesniuose įrašuose. Tai leidžia analizuoti ne visą įrašą kaip vieną objektą, o atskirus kalbėtojus ar kadrus, kur tikėtina manipuliacija.

    NASK pabrėžia ir modulį, kuris gali būti pritaikomas konkrečių institucijų poreikiams, keičiant atskiras sistemos dalis. Institutas nurodo, kad šiuo metu vyksta pirmieji bandomieji diegimai, o demonstracinė versija apima tik dalį planuojamų funkcijų.

    Kodėl deepfake aptikti taip sunku?

    Didžiausias iššūkis, anot analitikų, yra mastas ir kaita: sukčiavimo kampanijos dažnai remiasi dešimtimis ar šimtais failų, kurie nuolat modifikuojami. Be to, pasitelkiamas vadinamasis cloaking, kai po reklamos publikavimo jos turinys pakeičiamas taip, kad moderavimo sistemoms būtų sunkiau susieti pradinę apgaulę su vėliau rodomu „padoriu“ turiniu.

    Kita problema yra tai, kad kai kuriose turinio generavimo priemonėse pakanka formaliai patvirtinti teisę naudoti viešo asmens atvaizdą ar balsą. Tai sudaro sąlygas greitai dauginti klastotes, o NASK teigimu, jų stebėsenose fiksuotas šimtų skirtingų tapatybių panaudojimas deepfake turiniui.

  • NASK pristatė „DROZD“: naujas įrankis aptinka deepfake’us ir parodo, kaip lengvai jie kuriami

    Lenkijos valstybinis tyrimų institutas NASK pristatė „DROZD“ – sukurtą sprendimą, skirtą aptikti ir analizuoti deepfake turinį, kuriame vaizdas, garsas ar tekstas būna suklastoti pasitelkiant DI. Institutas pabrėžia, kad tokių klastočių kūrimo barjeras mažėja, o jų mastas socialiniuose tinkluose auga.

    NASK atstovai akcentuoja, kad įtikinamai sintetinei medžiagai kartais pakanka kelių ar keliolikos sekundžių žmogaus kalbos pavyzdžio, vienos nuotraukos ar trumpo viešai prieinamo vaizdo įrašo. Dėl to vis dažniau klastotėse pasitelkiami vieši asmenys, kurių atpažįstamas veidas ar balsas sukuria klaidingą patikimumą.

    Kas rodo mastą?

    NASK teigimu, per penkių savaičių socialinių tinklų stebėseną buvo identifikuota apie 16 000 klaidinančių reklamų, kuriose aptikta sintetinės ar manipuliuotos medžiagos požymių. Ekspertai taip pat fiksavo daugiau nei 450 skirtingų tapatybių panaudojimo atvejų, kai klastotėse pasitelkiami realių žmonių veidai ar balsai.

    „Įtikinamai sintetinei medžiagai sukurti šiandien dažnai pakanka keliolikos sekundžių žmogaus kalbos, o kartais net kelių sekundžių. Tai gali būti viena nuotrauka arba trumpas, viešai prieinamas įrašo fragmentas“, – sakė NASK Audiovizualinių analizių ir biometrinių sistemų padalinio vadovė dr. inž. Ewelina Bartuzi-Trokielewicz.

    Institutas pažymi ir kitą problemą: kai kuriose turinio generavimo paslaugose norint sukurti vaizdo įrašą su konkretaus viešo asmens atvaizdu gali pakakti tik patvirtinti, kad turite teisę tą atvaizdą naudoti. Tai sukuria palankias sąlygas masinei klastočių gamybai.

    Kaip veikia „DROZD“?

    „DROZD“ sukurtas kaip daugiasluoksnis analizės įrankis, vertinantis vaizdą, garsą ir turinio prasmę bei kontekstą. NASK pabrėžia, kad tikslas yra sprendimas, galintis dirbti realiomis sąlygomis, kai įrašai būna suspausti, triukšmingi ar perkelti per socialinių tinklų platformas.

    „Analizuojame vaizdinį sluoksnį, garso takelį ir žinutę, kuri perduodama įraše. Svarbiausia, kad sprendimai veiktų realiomis operacinėmis sąlygomis, įskaitant sudėtingą, triukšmingą medžiagą iš socialinių tinklų“, – sakė E. Bartuzi-Trokielewicz.

    NASK aiškina, kad sistema gali išskirti garso takelį, paversti kalbą tekstu, vertinti balso bei garso požymius, grupuoti panašius veidus ir atskirai analizuoti skirtingus kalbėtojus. Taip tyrėjams nereikia vertinti viso ilgo įrašo kaip vieno objekto, o galima tiksliau tikrinti atskiras jo dalis.

    „DROZD“ taip pat orientuotas į įrašų, analizės rezultatų ir etaloninių duomenų kaupimą, kad būtų galima greičiau atpažinti dažniausiai apgaulėse išnaudojamus veidus ar balsus. NASK pabrėžia, kad sprendimas yra modulinis, todėl atskiras dalis galima keisti ir pritaikyti pagal institucijų poreikius.

    Kodėl deepfake’ai taip sunkiai suvaldomi?

    Vienas didžiausių iššūkių – greitis ir mastas: apgaulingos kampanijos dažnai kuriamos iš dešimčių ar šimtų failų ir daugybės reklamų variantų su smulkiomis korekcijomis. Tai apsunkina moderavimą, ypač kai sukčiai naudoja technikas, skirtas paslėpti tikrąjį reklamos turinį nuo automatinės patikros.

    NASK išskiria ir lip sync tipo manipuliacijas, kai paimamas autentiškas vaizdo įrašas, sugeneruojamas naujas balso pranešimas ir suderinamas lūpų judesys. Instituto vertinimu, būtent tokios klastotės ilgą laiką buvo sunkiai aptinkamos daugeliui rinkoje prieinamų detekcijos sprendimų.

    Kartu daugėja ir kitų formatų: skaitmeniniai avatarai, sukurti iš vienos nuotraukos ar trumpo klipo, bei hibridinės klastotės, kur klasikinės vaizdo manipuliacijos maišomos su generatyviniais modeliais. NASK taip pat įspėja, kad vis dažniau gali plisti netikri „didelių įvykių“ vaizdai, pavyzdžiui, tariami gaisrai, sprogimai ar stichinės nelaimės.

  • Politikai spaudžia riboti „Meta“ ir kitų platformų galią: vaikams žada griežtesnius ribojimus

    Lenkijoje stiprėja politinis spaudimas griežčiau suvaldyti didžiųjų skaitmeninių platformų įtaką, ypač kalbant apie vaikų saugumą internete. Seimo Vaikų ir jaunimo komisijoje nuskambėjo raginimai greičiau taikyti sankcijas platformoms ir įtvirtinti aiškesnius nacionalinius ribojimus socialiniams tinklams.

    Diskusijose akcentuota, kad Europos Sąjungos Skaitmeninių paslaugų aktas jau suteikia priemonių veikti prieš vadinamąsias labai dideles interneto platformas. Tačiau politikų ir institucijų atstovų vertinimu, praktinis šių taisyklių įgyvendinimas bei tyrimai juda per lėtai, o rizikos vaikams auga.

    DSA vykdymas kelia lūkesčių

    Posėdyje pabrėžta, kad už didžiausių platformų priežiūrą pagal Skaitmeninių paslaugų aktą atsakinga Europos Komisija. Nurodyta, kad sankcijos už taisyklių nesilaikymą jau taikytos tokioms platformoms kaip „X“, „Temu“ ir „Aliexpress“, o tyrimai vyksta ir dėl „Meta“ valdomų paslaugų bei kitų populiarių programų.

    Lenkijos skaitmeninimo viceministras Dariuszas Standerskis teigė, kad grėsmingi reiškiniai internete dažniausiai identifikuojami teisingai, tačiau didžiausia problema lieka sprendimų ir baudų greitis. Pasak jo, valstybės siekia stiprinti spaudimą Europos Komisijai ir burti platesnę koaliciją, kad atsakas į platformų veiksmus būtų nuoseklesnis.

    „DSA vykdymo efektyvumas nėra toks, kokio tikėjomės. Matome, kad grėsmės atpažįstamos, bet problema yra taisyklių įgyvendinimas“, – sakė Dariuszas Standerskis.

    Vaikams iki 13 metų – be socialinių tinklų?

    Svarbiu fonu diskusijai tapo Europos Komisijos planai pristatyti vadinamąjį Kids Act paketą, orientuotą į vaikų apsaugą internete. Tarp aptariamų krypčių minimas scenarijus, kad jaunesni nei 13 metų vaikai apskritai negalėtų naudotis socialiniais tinklais.

    Taip pat svarstoma griežtesnė prieiga 13–14 metų paaugliams, kai paskyros būtų riboto funkcionalumo ir prižiūrimos tėvų. Vyresniems, 15–18 metų jaunuoliams, platformoms galėtų būti taikoma pareiga užtikrinti saugesnes paslaugų versijas, mažinant priklausomybę skatinančių algoritmų ir žalingo turinio riziką.

    Lenkijos atstovai Seime nurodė, kad paraleliai rengiami ir nacionaliniai sprendimai, įkvėpti kai kurių Prancūzijos taikomų modelių. Pagrindinė kryptis – vaikų amžiaus patikra, aiškesnės prieigos taisyklės ir papildomos pareigos platformoms.

    Deepfake ir DI standartai mokyklose

    Posėdyje atskirai iškelta seksualinio pobūdžio deepfake problema, kai vaizdai ar įrašai kuriami be asmens sutikimo. Politikų teigimu, ruošiami siūlymai tokias veikas aiškiau kriminalizuoti, įtraukiant atsakomybę į Baudžiamąjį kodeksą.

    Ekspertai taip pat kėlė klausimą, kaip viešosios institucijos turėtų elgtis su technologijų bendrovių atstovų dalyvavimu patariamosiose tarybose, kai tuo pat metu vyksta tyrimai dėl galimų Skaitmeninių paslaugų akto pažeidimų. Akcentuota, kad interesų konfliktai turi būti valdomi, o viešajam sektoriui reikalingi skaidrūs standartai.

    Diskusijoje nuskambėjo ir raginimai aiškiau apibrėžti dirbtinis intelektas naudojimą švietime. Kalbėta, kad mokykloms trūksta vienodų taisyklių, o vien tik raginimas „mokyti DI“ neišsprendžia problemos, jei nėra aiškių ribų, atsakomybės ir vertinimo kriterijų.

    Švietimo viceministrė Katarzyna Lubnauer pabrėžė, kad vien draudimai problemos neišspręs, todėl būtina derinti ribojimus su nuoseklia prevencija ir ugdymu. „Negalime reikalauti, kad paauglys vienas laimėtų prieš algoritmą“, – sakė ji.

    Politikai ir institucijų atstovai sutaria dėl vieno: vaikų apsauga internete tampa nebe vien švietimo, o ir realaus reguliavimo klausimu. Artimiausi sprendimai priklausys nuo to, kaip greitai bus priimti ir įgyvendinti tiek Europos Komisijos, tiek nacionaliniai teisės aktai.

  • Instagramas sugriežtina taisykles: DI sukurti influenceriai privalės aiškiai išsiduoti

    Instagramas sugriežtina taisykles: DI sukurti influenceriai privalės aiškiai išsiduoti

    Kas keičiasi „Instagram“ platformoje

    „Instagram“ pradeda griežčiau reguliuoti profilius, kuriuose vaizduojami dirbtinio intelekto sukurti, tikro žmogaus išvaizdą ir elgesį imituojantys avatarai. Nuo šiol tokių paskyrų valdytojai turės aiškiai nurodyti, kad profilis yra generuotas, kitaip rizikuos prarasti pasiekiamumą.

    Iki šiol žymėjimas daugeliu atvejų buvo labiau savanoriškas, todėl dalis kūrėjų galėjo klaidinti auditoriją, sudarydami įspūdį, kad už profilio stovi realus asmuo. „Instagram“ teigimu, aiškesnės taisyklės skirtos didinti skaidrumą ir pasitikėjimą turiniu.

    Kokios sankcijos gresia nepažymėjus profilio

    Platforma numato tiesiogines pasekmes paskyroms, kurios neįsijungs reikiamo statuso ar ignoruos atnaujintas nuostatas. Toks turinys gali būti išimtas iš rekomendacijų sistemų, todėl nauji vartotojai jo paprasčiau neberas per siūlomus įrašus ar kitus atradimo kanalus.

    Praktikoje tai reiškia mažesnį matomumą, lėtesnį sekėjų augimą ir ribotesnes galimybes pasiekti auditoriją be mokamos reklamos. Tokie ribojimai socialiniuose tinkluose dažnai prilygsta reikšmingam veiklos pristabdymui.

    Nauja žyma ir kuo ji skiriasi

    „Instagram“ atnaujina ir patį žymėjimo pavadinimą: vietoje ankstesnio „AI Creator“ diegiama tikslesnė formuluotė „AI-generated profile“. Taip siekiama atskirti paskyras, kurios yra pilnai sugeneruotos, nuo kūrėjų, kurie DI naudoja tik kaip įrankį, pavyzdžiui, idėjoms, montažui ar vizualams kurti.

    „Generatyvus dirbtinis intelektas tampa vis svarbesne kūrybos dalimi, o iš vartotojų signalų matome, kad jiems nepatinka profiliai, kurie atrodo kaip žmonės, bet vėliau paaiškėja, jog asmuo buvo sugeneruotas“, – sakė „Meta“ komanda „Instagram“ tinklaraštyje.

    Kaip vyks patikra ir ką daryti, jei sistema suklydo

    Prisitaikymas prie naujų taisyklių reikalauja aktyvių veiksmų iš paskyrų administratorių. Tie, kurie anksčiau naudojo senesnį žymėjimą, galės peržiūrėti statusą ir atnaujinti nustatymus pagal naujas gaires.

    Jei savininkas nereaguos, „Instagram“ gali pats identifikuoti įtartinus profilius automatinėmis priemonėmis ir pritaikyti ribojimus. Tokiu atveju numatytos dvi išeitys: įsijungti reikiamą žymą arba pateikti apeliaciją, ypač jei autentiška paskyra buvo klaidingai priskirta prie generuotų.

    Kodėl tai aktualu: virtualūs influenceriai ir deepfake rizika

    Virtualūs influenceriai socialiniuose tinkluose populiarėja jau ne vienus metus, o vaizdo ir vaizdo įrašų generavimo įrankiams tobulėjant realistiškų personažų kūrimas tapo paprastesnis ir pigesnis. Dėl to daugėja paskyrų, imituojančių modelius ar nuomonės formuotojus, kurių auditorija ne visada supranta, kad mato fikciją.

    Šalia to auga ir deepfake problema, kai skaitmeniniai avatarai ar suklastoti vaizdo įrašai mėgina apsimesti realiais žmonėmis, įskaitant žinomus asmenis ar politikus. Tokie atvejai didina sukčiavimo riziką ir mažina pasitikėjimą socialinių tinklų turiniu, todėl skaidrumo reikalavimai tampa viena svarbiausių priemonių.

    „Šis pokytis yra mūsų nuolatinių pastangų didinti skaidrumą dalis ir tikimės, kad jis padės žmonėms geriau suprasti, ką jie mato „Instagram“ turinyje“, – sakė platformos komanda.

  • DI turinys ir deepfake’ai pagal AI aktą: kada privaloma žymėti, o kada užtenka sveiko proto?

    Nuo 2024 metų rugpjūčio 2 dienos Europos Sąjungoje pradėtos taikyti pirmosios AI akto skaidrumo pareigos, susijusios su turiniu, sukurtu ar pakeistu naudojant DI. Praktikoje daugiausia klausimų kelia ne pats reikalavimas, o riba, kada žymėjimas tampa privalomas.

    Teisininkas Grzegorz Antonowicz iš „Baker Tilly Legal Poland“ pabrėžia, kad lemiamas kriterijus dažnai nėra tai, ar naudotas DI, bet ar turinys gali būti palaikytas autentišku. Būtent ši „patikimumo“ riba atskiria, kas laikoma deepfake’u ir kada auditoriją būtina aiškiai informuoti.

    Kas laikoma deepfake’u?

    AI aktas deepfake’u laiko DI sugeneruotą ar DI pakeistą vaizdą, garsą ar vaizdo įrašą, kuris primena realybę ir gali klaidinti žiūrovą. Europos Komisijos gairės šią sąvoką aiškina plačiau: reikšminga ne tik tai, ar vaizduojamas žmogus ar objektas egzistuoja, bet ir ar jis galėtų įtikinamai egzistuoti.

    Todėl, pavyzdžiui, realistiškas įmonės vadovo avataras, tariantis sveikinimo kalbą, gali būti laikomas deepfake’u ir reikalauti žymėjimo. Tuo metu akivaizdžiai fantazinis vaizdas, pavyzdžiui, neįmanomas gyvūnas ar mitinė būtybė virš atpažįstamo miesto, dažniausiai nelaikomas klaidinančiu, nes racionalus žiūrovas jo nepriimtų kaip tikrovės.

    „Tai, kas akivaizdžiai negali egzistuoti, paprastai nebus deepfake’as, nes racionalus gavėjas to nelaikys autentišku turiniu“, – sakė Grzegorz Antonowicz.

    Kada privaloma žymėti DI turinį?

    Pagal AI akto 50 straipsnį žymėjimo pareiga pirmiausia taikoma vaizdams, garso ir vaizdo turiniui, kai jis yra sugeneruotas ar pakeistas DI ir gali būti palaikytas tikru. Tai apima veidų keitimus, sintetinius balsus, realistinius avatarus ar vaizdus, kuriuose tikri žmonės pateikiami situacijose, kuriose jie nedalyvavo.

    Tekstams taikomas siauresnis režimas: žymėti reikia tuomet, kai DI sukurtas ar reikšmingai pakeistas tekstas skirtas informuoti visuomenę apie viešojo intereso klausimus. Vis dėlto yra svarbi išimtis: jei turinį patikrina ir redaguoja žmogus, o redakcija ar konkretus asmuo prisiima redakcinę atsakomybę, žymėjimo prievolė gali būti netaikoma.

    Kur ir kaip turi būti pateiktas žymėjimas?

    Esminė taisyklė – žymėjimas turi būti pastebimas, aiškus ir nepraeinamas „pro šalį“. Informacija turi pasiekti auditoriją ne vėliau kaip pirmo kontakto su turiniu metu, taip pat turi atitikti prieinamumo reikalavimus, kad ją galėtų suprasti skirtingi vartotojai.

    Praktikoje vien tik platformos nustatymuose pažymėta informacija gali būti laikoma nepakankama, jei žiūrovas jos realiai nemato. Dėl to socialiniuose tinkluose neretai rekomenduojama žymėjimą pateikti pačiame įraše arba ant vaizdo, ypač kai turinys realistiškas ir gali būti palaikytas tikru.

    „Žymėjimas turi būti pastebimas, lengvai suprantamas ir pateiktas taip, kad jo nebūtų paprasta praleisti“, – sakė Grzegorz Antonowicz.

    Ar reikia žymėti asmeninėse paskyrose?

    AI akto skaidrumo pareigos gali paliesti ir socialinių tinklų įrašus, jei jie kuriami ne tik asmeniniams, bet ir profesiniams ar komerciniams tikslams. Jei turinys kuriamas privačiai, nekomercinei veiklai, žymėjimo prievolė paprastai netaikoma, tačiau situacija keičiasi, kai paskyra susijusi su darbu, reklama ar auditorijos monetizavimu.

    Influenceriams ir turinio kūrėjams tai reiškia paprastą taisyklę: jei paskyra yra darbo dalis, o turinys realistiškas ir galėtų klaidinti, saugiausia jį aiškiai pažymėti. Tai aktualu ir tada, kai DI naudojamas padėkos įrašui, reklaminei vizualizacijai ar „reališkai“ atrodančiam žmogaus balsui.

    Baudos didelės, bet rizika – ne tik teisinė

    AI aktas numato reikšmingas baudas už skaidrumo pareigų pažeidimus: iki 15 000 000 eurų arba iki 3 proc. visos pasaulinės metinės apyvartos, priklausomai nuo to, kuri suma didesnė. Tačiau net ir tais atvejais, kai nacionalinis priežiūros mechanizmas dar formuojamas, reputacinė rizika gali būti greitesnė ir skaudesnė nei formalus procesas.

    Ekspertai pabrėžia, kad dviprasmiškose situacijose žymėjimas dažnai yra pigiausias būdas išvengti įtarimų manipuliacija. Ilgainiui auditorija prie tokių žymų pripranta, o skaidrumas tampa ne trukdžiu, bet pasitikėjimo elementu.

    „Žymėjimas nėra blogis. Dviprasmėse situacijose geriau pažymėti, nei rizikuoti kaltinimais dėl klaidinimo“, – sakė Grzegorz Antonowicz.

  • Skandalas „Meta“ reklamoje: „Bielik.AI“ kūrėjas aptiko DI programos, kuriančios seksualinius deepfake, reklamą

    „Meta“ reklamos sistemos vėl atsidūrė kritikos centre: socialiniuose tinkluose „Facebook“ ir „Instagram“ aptinkamos apmokėtos reklamos, kurios, pasak kritikų, turėtų būti blokuojamos. Po ilgiau trunkančių skundų dėl sukčiavimo reklamų dėmesys krypsta į dar jautresnę temą – seksualinio pobūdžio deepfake turinį.

    Lenkijoje apie tai viešai prabilo „Bielik.AI“ bendraautoris Sebastianas Kondrackis. Jis teigė savo paskyroje pamatęs sponsorintą programėlės reklamą, skirtą generuoti seksualinio pobūdžio deepfake vaizdus, įskaitant turinį, kuris gali būti siejamas su nepilnamečių išnaudojimo rizika.

    Reklama, kurią, pasak kritiko, turėjo sustabdyti

    S. Kondrackis viešai kėlė klausimą, kaip tokia reklama apskritai praeina platformos patikras ir pasiekia vartotojus. Jo vertinimu, tai rodo sisteminę problemą: ne vien pavienį pažeidimą, o mechanizmą, leidžiantį produktą reklamuoti, išplatinti ir algoritmiškai pasiūlyti tiems, kuriuos jis gali sudominti.

    Jis nurodė užfiksavęs įrodymus ekrano nuotraukomis ir vaizdo įrašu, tačiau po šių veiksmų esą pradėjo matyti dar daugiau panašaus pobūdžio turinio. Tai, jo teigimu, iliustruoja, kaip greitai rekomendavimo ir reklamos sistemos gali „užkabinti“ jautrias temas ir jas kartoti.

    „Norėčiau tai pranešti kaip privatus asmuo, nes esu priblokštas. Viena vertus, dokumentuojame DI reguliavimo reikalavimus, kita vertus – matau tokį reklaminį turinį“, – sakė Sebastianas Kondrackis.

    Platesnis kontekstas: sukčiavimo reklamos ir deepfake banga

    Ši istorija pasirodė tuo metu, kai „Meta“ kritikuojama ir dėl kitokio tipo reklamų – sukčiavimo skelbimų, imituojančių žinomus žmones ar siūlančių fiktyvias investicijas. Tokie atvejai kelia klausimą, ar reklamos moderavimas pajėgus neatsilikti nuo klastočių, kai apgaulingas turinys kuriamas vis įtikinamiau.

    Deepfake technologijos, ypač naudojamos seksualiniam turiniui generuoti, tampa viena sparčiausiai augančių skaitmeninės prievartos formų. Ekspertai pabrėžia, kad problema čia dažnai ne vien turinio sukūrimas, bet ir jo platinimas, monetizacija bei reklaminiai kanalai, kurie suteikia pasiekiamumą.

    Reguliavimas griežtėja, bet iššūkių daug

    Europos Sąjungoje įsigalioja ir plečiasi dirbtinio intelekto reguliavimas, įtvirtinantis skaidrumo pareigas ir reikalavimą aiškiau informuoti apie sintetiniu būdu sukurtą turinį. Praktikoje tai reiškia didesnę atsakomybę tiek DI sistemų kūrėjams, tiek tiems, kurie DI naudoja komerciniais tikslais.

    Tačiau vien taisyklės automatiškai neišsprendžia reklamos ekosistemos problemų. Net ir esant formaliems draudimams, realus efektyvumas priklauso nuo platformų gebėjimo laiku aptikti pažeidimus, stabdyti apmokamas kampanijas, identifikuoti skelbimų užsakovus ir bendradarbiauti su priežiūros institucijomis.

    „Meta“ buvo paprašyta komentaro dėl minėtos reklamos ir jos patikros mechanizmų. Atsakymo laukiama.

  • Šeima metus slėpė sūnaus mirtį: 80-metė kasdien kalbėjosi su DI sukurtu jo avataru

    Šeima metus slėpė sūnaus mirtį: 80-metė kasdien kalbėjosi su DI sukurtu jo avataru

    Kinijoje paviešinta istorija, kuri daugeliui priminė distopinį serialo siužetą: 80 metų pensininkė ilgiau nei metus kasdien vaizdo skambučiais bendravo su sūnumi, nežinodama, kad jis jau miręs. Artimieji, baimindamiesi dėl moters sveikatos, vietoje tikro žmogaus jai pateikė DI sukurtą avatarą.

    Pasak žiniasklaidos pranešimų, tragedija įvyko 2025 metų pradžioje, kai moters sūnus žuvo autoavarijoje. Šeima nusprendė mirties fakto neatskleisti, nes pensininkė turėjo širdies problemų ir artimieji baiminosi, kad staigi žinia gali sukelti infarktą.

    Skaitmeninė kopija buvo sukurta pasitelkus specialistus ir didelį kiekį asmeninių duomenų: nuotraukas, vaizdo įrašus bei šimtus garso fragmentų. Tokie sprendimai pasaulyje vis dažniau vadinami skaitmeninėmis replikomis, kai žmogaus balsas, veido mimika ir kalbėjimo manieros atkartojamos algoritmais.

    Moters kasdieniai pokalbiai esą atrodė įprasti: ji ragino sūnų šiltai rengtis, gerai valgyti ir saugotis lauke. Avataras atsakydavo, kad yra užsiėmęs darbu kitame mieste, atsiprašydavo dėl retų skambučių ir žadėdavo grįžti, kai sutaupys pakankamai pinigų.

    Viešojoje erdvėje ši istorija sukėlė audringą diskusiją apie etiką ir ribas, kur baigiasi pagalba gedint ir prasideda apgaulė. Kritikai pabrėžia, kad ilgalaikis melas gali dar labiau sužeisti, kai tiesa vis dėlto paaiškėja, o palaikantieji tai vadina bandymu švelninti skausmą ir atidėti šoką.

    Psichologai ne kartą yra atkreipę dėmesį, kad gedėjimas yra procesas, kuriam svarbus realybės pripažinimas, o dirbtinai palaikomas ryšio įspūdis gali jį komplikuoti. Kita vertus, technologijos jau dabar plačiai naudojamos prisiminimams saugoti, pavyzdžiui, kuriant balsu valdomus prisiminimų archyvus ar atkuriant senus vaizdus, todėl visuomenė vis dažniau susiduria su klausimu, kas yra priimtina.

    Pastaraisiais metais DI įrankiai itin sparčiai patobulėjo: galima gana tiksliai atkurti balsą iš trumpo įrašo, o vaizdo generavimo sistemos leidžia sukurti įtikinamą „kalbančio žmogaus“ vaizdą. Dėl to daugelyje šalių griežtinamos taisyklės ir rekomendacijos dėl sutikimo, duomenų naudojimo bei klaidinančio turinio, ypač kai jis gali paveikti pažeidžiamus žmones.

    Šeimos tapatybė viešai neatskleidžiama, o pranešimuose teigiama, kad moteris iki šiol nežino tikrosios istorijos. Šis atvejis tapo dar vienu priminimu, kad technologijų galimybės auga greičiau nei visuomenės susitarimas, kur yra riba tarp paguodos ir manipuliacijos.

  • „Meta“ reklamos vėl praleidžia deepfake’us: DI kūrėjas perspėja dėl seksualinio turinio programėlių

    „Meta“ reklamos sistemos vėl atsidūrė kritikos centre, kai socialiniuose tinkluose pasirodė apmokėtos reklamos, siejamos su apgaulėmis ir dirbtinio intelekto generuojamais klastojimais. Pastarosiomis dienomis diskusijas kursto ne tik netikros investicijų reklamos, bet ir dar jautresnė tema – seksualinio pobūdžio deepfake’ų kūrimo įrankių reklama.

    Lenkijoje jau ne vienerius metus viešai su „Meta“ kovoja verslininkas Rafałas Brzoska, kurio atvaizdas, pasitelkiant deepfake technologiją, esą vėl naudojamas klaidinančiose reklamose „Facebook“ ir „Instagram“. Tokios schemos dažniausiai taikosi į vartotojų pinigus arba asmens duomenis, o žalos rizika išauga dėl didelio reklamos pasiekiamumo.

    Diskusijai naują kryptį suteikė DI projekto „Bielik.AI“ bendraautoris Sebastianas Kondrackis. Jis viešai pranešė socialiniame tinkle „LinkedIn“ pastebėjęs sponsorinę reklamą, kurioje buvo reklamuojama programėlė, skirta generuoti seksualinio pobūdžio deepfake turinį, įskaitant „nusižeminimo“ ar „drabužių pašalinimo“ efektą iš nuotraukos.

    „Esu priblokštas, kad tokia reklama apskritai praeina patikrą ir tampa apmokama kampanija“, – sakė Sebastianas Kondrackis.

    Pasak jo, tokie įrankiai gali tapti skaitmeninio smurto priemone, ypač kai turinys kuriamas be žmogaus sutikimo, o taikiniais neretai tampa nepilnamečiai ar jauni asmenys. Kondrackis teigia užfiksavęs reklamos įrašus ekrano nuotraukomis ir vaizdo įrašu, o po to algoritmai jam ėmė siūlyti daugiau panašaus pobūdžio turinio, kas, jo vertinimu, parodo sistemos mastą.

    „Meta“ viešai deklaruoja ribojanti seksualinį išnaudojimą skatinantį turinį ir draudžianti reklamas, kurios padeda kurti intymius klastojimus. Tačiau kritikai pabrėžia, kad praktikoje kontrolė dažnai atsilieka nuo reklamos pirkimo greičio ir nuo to, kaip greitai kūrėjai pritaiko naujus apėjimo būdus.

    Ši istorija sutampa su platesne Europos Sąjungos kryptimi griežtinti dirbtinio intelekto skaidrumo ir atsakomybės reikalavimus. DI reglamentavime vis daugiau dėmesio skiriama tam, kad vartotojai būtų informuojami apie sintetinį turinį, o deepfake’ai būtų atpažįstami ir tinkamai pažymimi, ypač kai jie naudojami manipuliacijai ar žalai.

    Ekspertai atkreipia dėmesį, kad vien teisinių reikalavimų nepakanka, jei platformos realiu laiku neįgyvendina griežtesnės reklamos patikros, greitesnio reagavimo į pranešimus ir aiškesnės atsakomybės grandinės. Tokiose situacijose esminis klausimas tampa ne tai, ar taisyklės egzistuoja, o ar jos veiksmingai pritaikomos, kai turinys platinamas mokamos reklamos kanalais.

    Žurnalistai kreipėsi į „Meta“ prašydami komentaro dėl minimų reklamų ir jų patikros mechanizmų. Atsakymo rengiant publikaciją dar nebuvo.

  • DI klonuoja balsą per 3 sekundes: ekspertai įspėja, kaip nepakliūti į sukčių pinkles

    DI klonuoja balsą per 3 sekundes: ekspertai įspėja, kaip nepakliūti į sukčių pinkles

    Dirbtinis intelektas sparčiai atpigino ir supaprastino kibernetinius nusikaltimus: šiandien sukčiams užtenka kelių sekundžių garso įrašo ar vienos nuotraukos, kad sukurtų įtikinamą klastotę. Didžiausią riziką kelia vadinamieji deepfake įrašai ir balso klonavimas, kurie vis dažniau naudojami apgauti šeimas, darbuotojus ir įmones.

    JAV institucijų duomenys rodo, kad vien per pastaruosius metus su DI siejami finansiniai nusikaltimai atnešė šimtus milijonų eurų nuostolių, o reikšminga dalis jų susijusi su investiciniais ir mokėjimų sukčiavimais. Ekspertai pabrėžia, kad žala kyla ne tik dėl technologijų, bet ir dėl to, kaip greitai jos pritaikomos socialinei inžinerijai.

    Kaip veikia balso klonavimas

    Balso klonavimui gali pakakti maždaug 3 sekundžių garso, kad būtų sugeneruotas panašus tembras ir kalbėjimo maniera. Tokie skambučiai dažnai kuriami skubos ir emocijų principu: prašoma skubiai pervesti pinigus, atsiųsti kodą ar patvirtinti mokėjimą, apsimetant artimuoju ar vadovu.

    Saugumo specialistai rekomenduoja su šeima ar komanda susitarti dėl paprasto slaptažodžio ar kontrolinio klausimo, kurio sukčius nežinotų. Jei skambutis kelia įtarimų, patariama nedelsiant padėti ragelį ir perskambinti oficialiu, iš anksto žinomu numeriu, o ne tuo, iš kurio buvo skambinta.

    Deepfake vaizdas ir nuotoliniai susitikimai

    DI leidžia realiu laiku keisti veidą ir balsą vaizdo skambučių metu, todėl apgaulė gali atrodyti įtikinama net per „Zoom“ ar „Teams“. Tyrėjai atkreipia dėmesį, kad klastotės dažnai išsiduoda staigiais judesiais, prastu lūpų ir garso sinchronu, neryškiais kraštais aplink veidą ar trumpais „mirksniais“, kai filtras nesuspėja prisitaikyti.

    Praktinis patarimas pokalbio metu paprastas: paprašykite žmogaus pasisukti, atsistoti, priartėti prie kameros ar trumpai uždengti veidą ranka ir atitraukti. Jei vaizdas elgiasi nenatūraliai, verta nutraukti kontaktą ir patikrinti tapatybę kitu kanalu, pavyzdžiui, per įmonės telefonų knygą.

    Slaptažodžiai ir paskyrų apsauga

    DI įrankiai taip pat padeda greičiau spėti slaptažodžius, ypač kai jie kuriami pagal nuspėjamus šablonus, remiantis nutekėjusiais duomenimis ar vieša informacija apie žmogų. Dėl to specialistai siūlo rinktis ilgas slaptafrazes, o ne trumpus slaptažodžius su privalomomis simbolių kombinacijomis.

    Kasdienėje apsaugoje svarbiausia naudoti slaptažodžių tvarkykles, dviejų veiksnių autentifikavimą ir, kur įmanoma, prisijungimą raktiniais prieigos būdais. Taip pat verta reguliariai peržiūrėti, kokios programos turi prieigą prie pašto, kontaktų ar failų, ir atjungti nereikalingas, ypač „Google“, „Microsoft“ ar „Meta“ paskyrose.

    Dar viena auganti grėsmė yra netikros CAPTCHA patikros, kurios vietoj paprasto patvirtinimo ragina įvesti komandą ar atsisiųsti failą. Tokiais atvejais saugiausia yra neužbaigti veiksmų, uždaryti puslapį ir patikrinti, ar neprisijungėte prie suklastotos svetainės, o jei įtarimai rimti, pakeisti slaptažodį ir patikrinti prisijungimų istoriją.

    „Jei kyla nors menkiausia abejonė, saugiausias veiksmas yra padėti ragelį ir patiems perskambinti patikrintu numeriu“, – pabrėžia kibernetinio saugumo ekspertai.