Internetą vis sunkiau atpažinti
Dar visai neseniai internetas atrodė kaip vieta, kur žmonės tiesiogiai bendrauja tarpusavyje. Dabar vis dažniau kyla įtarimas, kad dalį komentarų, įrašų ar net profilių kuria ne žmogus, o automatizuotos sistemos.
DI įrankiai tapo kasdienybe: jais rašomi tekstai, generuojamos iliustracijos, kuriami vaizdo įrašai, o klientų aptarnavime vis dažniau atsako pokalbių robotai. Šis pokytis kelia ne tik patogumo, bet ir pasitikėjimo klausimą: kas iš tiesų yra kitoje ekrano pusėje?
Botai dominavo dar iki DI
Botai internete nėra naujiena, jie veikė gerokai prieš generatyvinio DI proveržį. Jau anksčiau buvo paplitę botnetai, tai yra perimtų įrenginių tinklai, kuriuos valdo vienas operatorius ir kurie gali vykdyti masines užklausas ar atakas.
Vėliau socialiniuose tinkluose išaugo netikrų paskyrų armijos. Dalis jų buvo valdomos automatizuotai, dalis pusiau rankiniu būdu, bet tikslas dažnai tas pats: dirbtinai sukurti įspūdį, kad tam tikra žinutė ar kampanija turi didžiulį palaikymą.
Tokios praktikos tapo tokios masto, kad akademikai ėmė sistemingai tirti vadinamąją skaitmeninę propagandą. Oxford Internet Institute analizuoti duomenys rodė, kad organizuotos manipuliavimo kampanijos socialiniuose tinkluose jau prieš kelerius metus buvo fiksuojamos dešimtyse valstybių.
Ką iš tiesų reiškia, kad botų daugiau?
Pastaraisiais metais atsirado naujas lūžis: automatai ne tik platina paruoštas žinutes, bet ir patys kuria turinį. Tai ypač sustiprino generatyvinis DI, leidžiantis per trumpą laiką prigaminti milžiniškus kiekius tekstų ar vaizdų.
Imperva 2024 metų ataskaitoje teigiama, kad automatizuotas srautas sudarė 51 proc. viso stebėto interneto srauto, o žmonių generuojamas srautas siekė 49 proc. Tuo pat metu apie 37 proc. viso srauto buvo priskirta žalingiems botams, kurie siejami su sukčiavimu, atakomis ar paskyrų perėmimu.
Vis dėlto šie skaičiai dažnai klaidingai suprantami. Interneto srautas nėra tas pats, kas žmonių skaičius ar turinio kiekis, nes vienas botų tinklas gali sugeneruoti milžinišką užklausų kiekį, o žmogus gali tiesiog perskaityti straipsnį ir išeiti.
Be to, botai ne visada yra blogis: dalis jų atlieka naudingas funkcijas, pavyzdžiui, indeksuoja svetaines paieškos sistemoms. Todėl vien tik procentas dar neatsako į svarbiausią klausimą, kiek internete iš tiesų yra autentiškų žmonių pokalbių.
Turinį kurti tampa per lengva
DI masiškai keičia ekonomikos logiką internete: turinį galima gaminti greičiau ir pigiau, todėl atsiranda pagunda užpildyti paiešką ar socialinius tinklus dideliais, bet menkai vertingais tekstų ir vaizdų kiekiais. Dėl to daugėja vadinamojo DI šiukšlinio turinio, kurio tikslas dažnai yra ne informuoti, o sugeneruoti peržiūras.
Šis reiškinys pavojingas tuo, kad vienas žmogus, pasitelkęs automatizaciją, gali paskelbti šimtus ar tūkstančius įrašų per dieną. Rezultatas paprastas: internete ima dominuoti ne kokybė, o apimtis.
Keičiasi ir auditorija, nes turinį vis dažniau vartoja ne vien žmogus. Svetaines nuolat skenuoja robotai, renkantys informaciją paieškai ar DI atsakymams, todėl informacijos grandinėje daugėja tarpininkų, o tiesioginis ryšys su skaitytoju silpnėja.
Grėsmė: DI mokysis iš DI
Didėjant sintetinio turinio kiekiui kyla ir duomenų kokybės klausimas. Jei internete daugės tekstų bei vaizdų, sukurtų DI, atsiras rizika, kad būsimi modeliai bus mokomi iš jau sintetinių duomenų, o tai gali mažinti tikrovės įvairovę ir stiprinti klaidas.
Šią problemą moksle aprašo modelio degradacijos idėja, kai vėlesnės sistemos, mokomos iš ankstesnių generacijų produkcijos, palaipsniui praranda dalį informacijos ir tampa mažiau patikimos. Praktikoje tai reiškia, kad autentiški, patikrinti ir aiškios kilmės duomenys gali tapti dar vertingesni.
Galbūt didžiausias pokytis bus ne tai, kad botai visiškai išstums žmones. Labiau tikėtina, kad vis daugiau to, ką matome internete, bus kuriama pirmiausia algoritmams, o ne žmogui.
„Svarbiausias klausimas šiandien ne tai, ar internete dar yra žmonių, o kiek turinio vis dar kuriama žmogui“, – teigia skaitmeninės aplinkos tyrėjai, vertindami DI plėtros pasekmes.
Leave a Reply