CP v2

Tag: Dideli kalbos modeliai

  • Kinija sparčiai diegia DI kariuomenėje: „Tianji“ modelis ir naujas JAV ir Kinijos varžybų etapas

    Kinija intensyvina dirbtinio intelekto diegimą kariniams tikslams ir, Vakarų analitikų vertinimu, vis sparčiau mažina atotrūkį nuo Jungtinių Valstijų. JAV Gynybos departamento dokumentuose teigiama, kad Pekinas aktyviai ieško generatyvinio DI pritaikymų nuo žvalgybos analizės iki sprendimų priėmimo ir informacinių operacijų.

    Vienas dažniausiai minimas pavyzdys – Kinijos bendrovės „DataExa“ kuriama didelė kalbos modelių sistema „Tianji“, kuri, kaip skelbiama, naudojama Kinijos Liaudies išlaisvinimo armijos struktūrose. Ji siejama su užduotimis, kurios kariuomenei yra kritinės: planavimu, pajėgų paskirstymu, didelių duomenų rinkinių apdorojimu ir operaciniu optimizavimu.

    Kas žinoma apie „Tianji“?

    Apžvalgose nurodoma, kad „Tianji“ kuriamas kaip modulinė sistema, turinti skirtingo dydžio modelių versijas, pritaikomas pagal poreikį ir turimus skaičiavimo išteklius. Tokia architektūra leidžia tą patį sprendimą naudoti tiek centriniuose štabuose, tiek konkrečioms užduotims skirtuose padaliniuose, kur reikalingas greitas, bet siauresnis funkcionalumas.

    Viešai aptariama, kad „Tianji“ gali būti taikomas karinių pajėgumų vertinimui, scenarijų modeliavimui, logistikos automatizavimui ir žvalgybinės informacijos apibendrinimui. Tarp minimų pavyzdžių – užklausos apie konkrečių laivų, radarų ar ginkluotės parametrus, kai sistema turėtų greitai pateikti suvestines ir palyginimus.

    „Dirbtinis intelektas leidžia sprendimų ciklą sutrumpinti nuo minučių iki sekundžių, o tai keičia operacinį tempą“, – sakė vienas JAV gynybos politikos dokumentuose cituojamas pareigūnas.

    Modelių distiliacija ir duomenų klausimas

    Didelį dėmesį kelia ir vadinamoji modelių distiliacija, kai iš didelių modelių sugeneruoti atsakymai ar pavyzdžiai naudojami apmokyti mažesnius, lengviau lokaliai paleidžiamus modelius. Tai svarbu kariniam sektoriui, nes mažesni modeliai gali veikti uždarose infrastruktūrose, arčiau sensorių ir įrenginių, kuriuose ribota skaičiavimo galia.

    Tyrėjai ir žiniasklaida taip pat atkreipia dėmesį į riziką, kad komerciškai prieinami Vakarų DI įrankiai gali netiesiogiai prisidėti prie kitų valstybių karinių pajėgumų augimo, jei jų išvestys naudojamos treniravimui ar metodikų perėmimui. Tokios praktikos teisinės ir etinės ribos tampa vis aktualesnės, ypač kai kalbama apie su gynyba susijusius pritaikymus.

    Kodėl tai svarbu JAV ir Kinijos varžybose?

    JAV Gynybos departamento vertinimu, generatyvinis DI kariniame kontekste apima ne tik autonomines ar pusiau autonomines sistemas, bet ir sprendimų paramą, kibernetines operacijas bei informacines kampanijas. Ypač pabrėžiama, kad DI gali būti naudojamas greitesniam duomenų sujungimui iš skirtingų šaltinių ir tikslesniam situacijos suvokimui.

    Tuo pat metu ekspertai pažymi ir ribojančius veiksnius: pažangiausiems modeliams reikalingi dideli skaičiavimo pajėgumai, specializuoti lustai bei patikimi duomenų vamzdynai. Dėl to Kinija investuoja į alternatyvias architektūras, efektyvesnį modelių „lengvinimą“ ir sprendimus, kurie leistų DI veikti arčiau naudojimo vietos, pavyzdžiui, dronuose ar kitose platformose.

    Bendra kryptis aiški: DI tampa ne tik technologijų sektoriaus, bet ir nacionalinio saugumo konkurencijos ašimi. Analitikai įspėja, kad didžiausias pokytis gali būti ne atskiras įrankis, o sisteminis pranašumas, kai sprendimai priimami greičiau, remiantis didesniu duomenų kiekiu ir automatizuotomis rekomendacijomis.

  • Ukraina kuria savo „ChatGPT“: valdžia atskleidė, kur jis atsiras ir kodėl tai svarbu duomenims

    Ukraina pradėjo kurti nuosavą didelį kalbos modelį, kuris būtų nacionalinis „ChatGPT“ tipo sprendimo atitikmuo. Apie projektą pranešė Ukrainos Skaitmeninės transformacijos ministerija, pabrėždama, kad tikslas yra spartinti viešųjų paslaugų teikimą ir automatizuoti dalį administracinių procesų.

    Pastaraisiais metais dideli kalbos modeliai tapo ne vien pokalbių robotais: jie vis dažniau naudojami dokumentų analizėje, užklausų klasifikavime, tekstų santraukose ir sprendimų paramoje. Valstybėms tai reiškia galimybę greičiau aptarnauti gyventojus ir mažinti biurokratines „rankines“ procedūras, kurios įprastai užtrunka dienas ar savaites.

    Nuo saugumo iki kalbos tikslumo

    Viena svarbiausių priežasčių, kodėl kuriamas nacionalinis modelis, yra duomenų saugumas ir kontrolė. Naudojant užsienio tiekėjų sistemas, dalis informacijos gali būti apdorojama infrastruktūroje, kuri nepriklauso valstybei, o tai kelia papildomų rizikų jautriems duomenims ir kritinių paslaugų tęstinumui.

    Kitas argumentas susijęs su kalbos tikslumu ir teisine aplinka. Nacionalinis modelis gali būti mokomas iš ukrainietiškų šaltinių, įskaitant teisės aktus, administracinius dokumentus ir oficialią terminiją, todėl turėtų geriau suprasti formuluotes, kontekstą bei dažniausiai pasitaikančius gyventojų klausimus.

    Kur gali būti pritaikytas?

    Ministerija nurodo, kad tokia technologija pirmiausia galėtų būti integruota į skaitmeninių paslaugų ekosistemą „Dija“. Praktikoje tai reikštų, kad gyventojas galėtų paprasta kalba paklausti, kokių veiksmų reikia norint gauti konkrečią paslaugą, o sistema pateiktų aiškų veiksmų planą ir nukreiptų į tinkamas procedūras.

    Tokie sprendimai taip pat dažnai naudojami kontaktų centruose, kur DI gali padėti išrūšiuoti užklausas, pasiūlyti atsakymų juodraščius arba aptarnauti dalį tipinių klausimų visą parą. Tai mažina eiles ir leidžia darbuotojams sutelkti dėmesį į sudėtingesnes situacijas, kur reikalingas žmogaus sprendimas.

    Ambicijos ir realūs iššūkiai

    Ukraina viešai deklaruoja ambiciją patekti tarp pasaulio lyderių pagal DI naudojimą viešajame sektoriuje. Tokie tikslai dera su ankstesniais šalies skaitmenizacijos sprendimais, tačiau nacionalinio modelio kūrimas paprastai reikalauja didelių skaičiavimo resursų, patikimų duomenų rinkinių, aiškių atsakomybės taisyklių ir nuolatinio kokybės vertinimo.

    Ne mažiau svarbu ir tai, kaip bus valdoma rizika: dideli kalbos modeliai gali pateikti netikslią informaciją, todėl viešajame sektoriuje būtini patikros mechanizmai, aiškūs naudojimo scenarijai ir ribos, kad automatiniai atsakymai nepakeistų oficialių sprendimų priėmimo tvarkos.

    Ministerija projektą sieja ir su technologiniu suverenitetu, kai kritinės skaitmeninės paslaugos remiasi vietine infrastruktūra bei kompetencijomis. Tokiu atveju DI tampa ne vien produktyvumo įrankiu, bet ir atsparumo elementu, ypač kai auga kibernetinių grėsmių ir informacinių atakų mastas.

  • Dawkinso žodžiai apie DI įplieskė audrą: ar „Claude“ tik imituoja sąmonę?

    Dawkinso žodžiai apie DI įplieskė audrą: ar „Claude“ tik imituoja sąmonę?

    Garsaus evoliucijos biologo Richardo Dawkinso pastebėjimai apie pokalbius su pokalbių robotu „Claude“ vėl įžiebė seną, bet vis aktualesnį klausimą: ar DI gali turėti sąmonę. Mokslininkas yra sakęs, kad dialogai kartais būna tokie įtikinami, jog lengva pajusti įspūdį, lyg kitoje pusėje būtų ne vien programa.

    Vis dėlto ekspertai pabrėžia, kad įspūdis dar nereiškia fakto. Šiuolaikinės generatyvinės sistemos geba puikiai atkurti žmogaus kalbos ritmą, emocinį toną ir logišką argumentavimo seką, tačiau tai savaime nėra įrodymas, kad jos patiria jausmus ar turi vidinę patirtį.

    Kaip atsiranda sąmonės iliuzija

    Didelė dalis šiandieninių pokalbių robotų remiasi dideliais kalbos modeliais, kurie mokomi iš milžiniškų tekstų rinkinių ir prognozuoja, koks žodis ar frazė turėtų sekti toliau. Tokia veikimo logika primena labai pažangų automatinį teksto užbaigimą, tik nepalyginamai sudėtingesnį ir pritaikytą dialogui.

    Žmogui natūraliai lengva supainioti sklandžią kalbą su vidine būsena, nes kasdienybėje sąmoningumą dažniausiai atpažįstame iš elgesio ir komunikacijos. Prie įspūdžio prisideda ir sąsajos dizainas, kai sistema kalba pirmuoju asmeniu, vartoja žodžius apie ketinimus ar jausmus, o atsakymai pateikiami tarsi gyvo pašnekovo.

    „Žmonės jau dešimtmečius linkę priskirti mašinoms savybes, kurių jos greičiausiai neturi“, – teigė bioetikos ir filosofijos tyrėjai, komentuodami panašias diskusijas akademinėje erdvėje.

    Elizos pamoka ir kodėl ji vėl svarbi

    Istorinis pavyzdys, dažnai minimas kalbant apie DI ir sąmonės įspūdį, yra 7 dešimtmetyje sukurta programa „Eliza“. Nors ji veikė pagal palyginti paprastas taisykles ir šablonus, dalis žmonių su ja elgėsi tarsi su tikru pašnekovu, pasakodami asmenines problemas ir tikėdamiesi supratimo.

    Šiandien situacija pasikeitė tuo, kad modeliai tapo gerokai galingesni, o tekstas kuriamas daug įtikinamiau. Tačiau pati psichologinė schema išlieka panaši: kai sistema greitai reaguoja, „pagauna“ toną ir atsako empatiškai, žmogus gali pradėti įžvelgti daugiau, nei ten iš tiesų yra.

    Kodėl klaidingas įsitikinimas gali kainuoti

    Tyrėjai atkreipia dėmesį į rizikas, kurios kyla, kai DI pradedamas laikyti sąmoningu. Viena jų yra emocinis prisirišimas prie sistemos, kuri iš esmės neturi gebėjimo išgyventi ir atliepti jausmų taip, kaip tai daro žmogus, todėl santykis gali tapti vienpusis ir klaidinantis.

    Kita rizika – viešosios diskusijos kryptis: dėmesys gali nukrypti į tariamas pokalbių robotų „teises“, kai tuo pačiu metu realūs klausimai lieka nuošalyje. Praktikoje tai apima duomenų privatumą, atsakomybę už klaidinančią informaciją, priklausomybės nuo skaitmeninių pašnekovų požymius ir tai, kaip tokios sistemos daro įtaką vaikams bei pažeidžiamesnėms grupėms.

    Ekspertai ragina neapsiriboti vien tik kategorišku teiginiu, kad DI sąmonės neturi, o aiškinti žmonėms, kaip šios sistemos veikia ir kodėl jos gali atrodyti gyvos. Tokia perspektyva, anot jų, padeda sumažinti iliuzijų riziką ir leidžia atsakingiau vertinti DI panaudojimą kasdienybėje.

  • Hong Kong PolyU researchers unveil AI tool to score large language model personality, with implications for business compliance and education

    Large language models have become a default interface for many AI products, but researchers still struggle to describe their behaviour in a consistent, measurable way. A team at The Hong Kong Polytechnic University says it has built a system that aims to quantify an LLM’s personality based on linguistic output.

    The tool, called Language Model Linguistic Personality Assessment, or LMLPA, is designed to translate model responses into numerical scores tied to personality traits. The researchers describe it as a step toward making model behaviour easier to compare across systems and deployments.

    How the LMLPA system works

    LMLPA combines two components: an adapted version of the Big Five Inventory and an AI rater that grades the model’s answers. The process focuses on patterns such as wording, style and other language features found in generated text.

    By using a standardised questionnaire structure, the approach attempts to bring more consistency to assessments that often rely on subjective impressions. The researchers say the outcome is a data-driven profile that can be tracked and tested across different prompts and settings.

    Why personality metrics could matter

    Developers and organisations increasingly want AI assistants to behave predictably in sensitive contexts, including classrooms, customer support and internal decision workflows. The team argues that quantifying communication tendencies could help tailor a model’s tone and interaction style to a specific use case.

    The researchers also point to potential value in governance and oversight, where firms are under pressure to document how AI tools behave and how risks are managed. They suggest that structured behavioural metrics could complement existing evaluation methods focused on accuracy and safety.

    From research to compliance applications

    PolyU said the work has also informed a business compliance platform that uses natural language processing to analyse large volumes of reports and other text. In that context, automation is intended to speed up data collection, analysis and insight generation for reporting tasks.

    The study, led by Prof. Lik-Hang Lee of PolyU’s Department of Industrial and Systems Engineering, was published in the journal Computational Linguistics. The researchers position LMLPA as part of a broader effort to align AI systems with human values and practical operational needs.

  • „Google“ triukas DI gali sukti 6 kartus mažiau atminties: ar tai numuš RAM kainas?

    „Google“ triukas DI gali sukti 6 kartus mažiau atminties: ar tai numuš RAM kainas?

    „Google“ inžinieriai pristatė naują metodą, kuris gali iki 6 kartų sumažinti DI modeliams reikalingą darbinę atmintį. Technologija pavadinta „TurboQuant“ ir skirta vienai brangiausių didelių kalbos modelių vietų – pokalbio konteksto saugojimui.

    Pagrindinis taikinys yra vadinamoji KV cache atmintis, kuri leidžia modeliui greitai prisiminti ankstesnes vartotojo žinutes. Be jos sistema turėtų nuolat iš naujo perskaičiuoti visą kontekstą, todėl atsakymai lėtėtų, o serverių sąnaudos augtų.

    KV cache galima suprasti kaip trumpalaikę pokalbio atmintį, kurioje laikomi tarpinių skaičiavimų duomenys. Ilgesni kontekstai ir didesnis vartotojų skaičius reiškia, kad ši atmintis sparčiai „suvalgo“ gigabaitus, o duomenų centrams tenka investuoti į vis didesnius resursus.

    Kas yra „TurboQuant“?

    „TurboQuant“ remiasi kvantizacija, kai skaitinės reikšmės atvaizduojamos mažesniu bitų skaičiumi ir taip užima mažiau vietos atmintyje. „Google“ teigia, kad šį kartą svarbiausia naujovė yra dinaminis veikimas realiuoju laiku, kai KV cache suspaudžiama pokalbio metu.

    Toks priėjimas yra techniškai sudėtingas, nes suspaudimas neturi pastebimai pabloginti atsakymų kokybės. Pagal pristatytą informaciją, siekiama mažinti atminties „butelio kaklelį“, kai ribojanti grandis tampa ne skaičiavimo galia, o būtent konteksto saugojimas.

    Ką rodo bandymai ir kam tai naudinga?

    „Google“ tyrėjai nurodo, kad metodas išbandytas su keliomis skirtingomis atvirojo kodo ir komercinėmis modelių šeimomis. Tokie testai svarbūs, nes leidžia įvertinti, ar sprendimas pritaikomas plačiau, o ne tik vienoje konkrečioje architektūroje.

    „TurboQuant“ labiausiai aktualus paslaugoms, kuriose vienu metu aptarnaujama daug užklausų ir reikia ilgų kontekstų, pavyzdžiui, klientų aptarnavimo pokalbiams, dokumentų analizės asistentams ar paieškos sistemoms. Mažesnis atminties poreikis teoriškai leidžia tame pačiame serveryje aptarnauti daugiau vartotojų arba didinti konteksto ilgį.

    „Šis metodas atrodo perspektyvus mažinant atminties key-value siaurąją vietą neaukojant modelių našumo“, – teigiama „Google“ pristatymo medžiagoje.

    Ar tai reiškia pigesnę RAM?

    Rinkoje seniai aptariama, kad duomenų centrų apetitas atminčiai auga dėl DI plėtros, todėl brangsta serverinė įranga ir jos komponentai. Vis dėlto vien technologinis proveržis dar negarantuoja, kad sutaupytas resursas automatiškai virs mažesne paklausa.

    Ekspertai atkreipia dėmesį į vadinamąjį atšokimo efektą: jei atmintis tampa „pigesnė“ skaičiavimuose, dalis tiekėjų gali ne mažinti infrastruktūrą, o didinti modelių tikslumą, konteksto ilgį ar paslaugų apimtį. Tokiu atveju galutinis atminties poreikis gali ir toliau augti, o vartotojai kainų pokyčius pajus ne iš karto.

    Kol kas „TurboQuant“ įvardijamas kaip laboratorinis sprendimas, kuriam reikia platesnės validacijos realiose sistemose. Jei technologija pasieks gamybinį lygį ir bus plačiai įdiegta, ji gali tapti vienu svarbių žingsnių mažinant DI paslaugų savikainą, tačiau kainų rinkoje tai priklausys nuo to, kaip pramonė panaudos sutaupytą atmintį.