CP v2

Tag: Dideli kalbos modeliai

  • Dawkinso žodžiai apie DI įplieskė audrą: ar „Claude“ tik imituoja sąmonę?

    Dawkinso žodžiai apie DI įplieskė audrą: ar „Claude“ tik imituoja sąmonę?

    Garsaus evoliucijos biologo Richardo Dawkinso pastebėjimai apie pokalbius su pokalbių robotu „Claude“ vėl įžiebė seną, bet vis aktualesnį klausimą: ar DI gali turėti sąmonę. Mokslininkas yra sakęs, kad dialogai kartais būna tokie įtikinami, jog lengva pajusti įspūdį, lyg kitoje pusėje būtų ne vien programa.

    Vis dėlto ekspertai pabrėžia, kad įspūdis dar nereiškia fakto. Šiuolaikinės generatyvinės sistemos geba puikiai atkurti žmogaus kalbos ritmą, emocinį toną ir logišką argumentavimo seką, tačiau tai savaime nėra įrodymas, kad jos patiria jausmus ar turi vidinę patirtį.

    Kaip atsiranda sąmonės iliuzija

    Didelė dalis šiandieninių pokalbių robotų remiasi dideliais kalbos modeliais, kurie mokomi iš milžiniškų tekstų rinkinių ir prognozuoja, koks žodis ar frazė turėtų sekti toliau. Tokia veikimo logika primena labai pažangų automatinį teksto užbaigimą, tik nepalyginamai sudėtingesnį ir pritaikytą dialogui.

    Žmogui natūraliai lengva supainioti sklandžią kalbą su vidine būsena, nes kasdienybėje sąmoningumą dažniausiai atpažįstame iš elgesio ir komunikacijos. Prie įspūdžio prisideda ir sąsajos dizainas, kai sistema kalba pirmuoju asmeniu, vartoja žodžius apie ketinimus ar jausmus, o atsakymai pateikiami tarsi gyvo pašnekovo.

    „Žmonės jau dešimtmečius linkę priskirti mašinoms savybes, kurių jos greičiausiai neturi“, – teigė bioetikos ir filosofijos tyrėjai, komentuodami panašias diskusijas akademinėje erdvėje.

    Elizos pamoka ir kodėl ji vėl svarbi

    Istorinis pavyzdys, dažnai minimas kalbant apie DI ir sąmonės įspūdį, yra 7 dešimtmetyje sukurta programa „Eliza“. Nors ji veikė pagal palyginti paprastas taisykles ir šablonus, dalis žmonių su ja elgėsi tarsi su tikru pašnekovu, pasakodami asmenines problemas ir tikėdamiesi supratimo.

    Šiandien situacija pasikeitė tuo, kad modeliai tapo gerokai galingesni, o tekstas kuriamas daug įtikinamiau. Tačiau pati psichologinė schema išlieka panaši: kai sistema greitai reaguoja, „pagauna“ toną ir atsako empatiškai, žmogus gali pradėti įžvelgti daugiau, nei ten iš tiesų yra.

    Kodėl klaidingas įsitikinimas gali kainuoti

    Tyrėjai atkreipia dėmesį į rizikas, kurios kyla, kai DI pradedamas laikyti sąmoningu. Viena jų yra emocinis prisirišimas prie sistemos, kuri iš esmės neturi gebėjimo išgyventi ir atliepti jausmų taip, kaip tai daro žmogus, todėl santykis gali tapti vienpusis ir klaidinantis.

    Kita rizika – viešosios diskusijos kryptis: dėmesys gali nukrypti į tariamas pokalbių robotų „teises“, kai tuo pačiu metu realūs klausimai lieka nuošalyje. Praktikoje tai apima duomenų privatumą, atsakomybę už klaidinančią informaciją, priklausomybės nuo skaitmeninių pašnekovų požymius ir tai, kaip tokios sistemos daro įtaką vaikams bei pažeidžiamesnėms grupėms.

    Ekspertai ragina neapsiriboti vien tik kategorišku teiginiu, kad DI sąmonės neturi, o aiškinti žmonėms, kaip šios sistemos veikia ir kodėl jos gali atrodyti gyvos. Tokia perspektyva, anot jų, padeda sumažinti iliuzijų riziką ir leidžia atsakingiau vertinti DI panaudojimą kasdienybėje.

  • Hong Kong PolyU researchers unveil AI tool to score large language model personality, with implications for business compliance and education

    Large language models have become a default interface for many AI products, but researchers still struggle to describe their behaviour in a consistent, measurable way. A team at The Hong Kong Polytechnic University says it has built a system that aims to quantify an LLM’s personality based on linguistic output.

    The tool, called Language Model Linguistic Personality Assessment, or LMLPA, is designed to translate model responses into numerical scores tied to personality traits. The researchers describe it as a step toward making model behaviour easier to compare across systems and deployments.

    How the LMLPA system works

    LMLPA combines two components: an adapted version of the Big Five Inventory and an AI rater that grades the model’s answers. The process focuses on patterns such as wording, style and other language features found in generated text.

    By using a standardised questionnaire structure, the approach attempts to bring more consistency to assessments that often rely on subjective impressions. The researchers say the outcome is a data-driven profile that can be tracked and tested across different prompts and settings.

    Why personality metrics could matter

    Developers and organisations increasingly want AI assistants to behave predictably in sensitive contexts, including classrooms, customer support and internal decision workflows. The team argues that quantifying communication tendencies could help tailor a model’s tone and interaction style to a specific use case.

    The researchers also point to potential value in governance and oversight, where firms are under pressure to document how AI tools behave and how risks are managed. They suggest that structured behavioural metrics could complement existing evaluation methods focused on accuracy and safety.

    From research to compliance applications

    PolyU said the work has also informed a business compliance platform that uses natural language processing to analyse large volumes of reports and other text. In that context, automation is intended to speed up data collection, analysis and insight generation for reporting tasks.

    The study, led by Prof. Lik-Hang Lee of PolyU’s Department of Industrial and Systems Engineering, was published in the journal Computational Linguistics. The researchers position LMLPA as part of a broader effort to align AI systems with human values and practical operational needs.

  • „Google“ triukas DI gali sukti 6 kartus mažiau atminties: ar tai numuš RAM kainas?

    „Google“ triukas DI gali sukti 6 kartus mažiau atminties: ar tai numuš RAM kainas?

    „Google“ inžinieriai pristatė naują metodą, kuris gali iki 6 kartų sumažinti DI modeliams reikalingą darbinę atmintį. Technologija pavadinta „TurboQuant“ ir skirta vienai brangiausių didelių kalbos modelių vietų – pokalbio konteksto saugojimui.

    Pagrindinis taikinys yra vadinamoji KV cache atmintis, kuri leidžia modeliui greitai prisiminti ankstesnes vartotojo žinutes. Be jos sistema turėtų nuolat iš naujo perskaičiuoti visą kontekstą, todėl atsakymai lėtėtų, o serverių sąnaudos augtų.

    KV cache galima suprasti kaip trumpalaikę pokalbio atmintį, kurioje laikomi tarpinių skaičiavimų duomenys. Ilgesni kontekstai ir didesnis vartotojų skaičius reiškia, kad ši atmintis sparčiai „suvalgo“ gigabaitus, o duomenų centrams tenka investuoti į vis didesnius resursus.

    Kas yra „TurboQuant“?

    „TurboQuant“ remiasi kvantizacija, kai skaitinės reikšmės atvaizduojamos mažesniu bitų skaičiumi ir taip užima mažiau vietos atmintyje. „Google“ teigia, kad šį kartą svarbiausia naujovė yra dinaminis veikimas realiuoju laiku, kai KV cache suspaudžiama pokalbio metu.

    Toks priėjimas yra techniškai sudėtingas, nes suspaudimas neturi pastebimai pabloginti atsakymų kokybės. Pagal pristatytą informaciją, siekiama mažinti atminties „butelio kaklelį“, kai ribojanti grandis tampa ne skaičiavimo galia, o būtent konteksto saugojimas.

    Ką rodo bandymai ir kam tai naudinga?

    „Google“ tyrėjai nurodo, kad metodas išbandytas su keliomis skirtingomis atvirojo kodo ir komercinėmis modelių šeimomis. Tokie testai svarbūs, nes leidžia įvertinti, ar sprendimas pritaikomas plačiau, o ne tik vienoje konkrečioje architektūroje.

    „TurboQuant“ labiausiai aktualus paslaugoms, kuriose vienu metu aptarnaujama daug užklausų ir reikia ilgų kontekstų, pavyzdžiui, klientų aptarnavimo pokalbiams, dokumentų analizės asistentams ar paieškos sistemoms. Mažesnis atminties poreikis teoriškai leidžia tame pačiame serveryje aptarnauti daugiau vartotojų arba didinti konteksto ilgį.

    „Šis metodas atrodo perspektyvus mažinant atminties key-value siaurąją vietą neaukojant modelių našumo“, – teigiama „Google“ pristatymo medžiagoje.

    Ar tai reiškia pigesnę RAM?

    Rinkoje seniai aptariama, kad duomenų centrų apetitas atminčiai auga dėl DI plėtros, todėl brangsta serverinė įranga ir jos komponentai. Vis dėlto vien technologinis proveržis dar negarantuoja, kad sutaupytas resursas automatiškai virs mažesne paklausa.

    Ekspertai atkreipia dėmesį į vadinamąjį atšokimo efektą: jei atmintis tampa „pigesnė“ skaičiavimuose, dalis tiekėjų gali ne mažinti infrastruktūrą, o didinti modelių tikslumą, konteksto ilgį ar paslaugų apimtį. Tokiu atveju galutinis atminties poreikis gali ir toliau augti, o vartotojai kainų pokyčius pajus ne iš karto.

    Kol kas „TurboQuant“ įvardijamas kaip laboratorinis sprendimas, kuriam reikia platesnės validacijos realiose sistemose. Jei technologija pasieks gamybinį lygį ir bus plačiai įdiegta, ji gali tapti vienu svarbių žingsnių mažinant DI paslaugų savikainą, tačiau kainų rinkoje tai priklausys nuo to, kaip pramonė panaudos sutaupytą atmintį.