Dirbtinio intelekto asistentai vis dažniau pristatomi ne kaip „įrankiai“, o kaip mieli, draugiški personažai, su kuriais norisi bendrauti. Tačiau toks dizainas gali ne padėti, o užliūliuoti – dėmesį nuo realių rizikų nukreipiant į emocinį prisirišimą.
Apie tai rašo „The Conversation“, aptardamas naujus asmeninius DI agentus, kurie gali atlikti veiksmus vartotojo vardu: siųsti laiškus, apsipirkti, planuoti keliones ar naudotis programėlėmis. Kartu su patogumu ateina ir klausimas – kiek prieigos prie jūsų duomenų toks agentas iš tiesų gauna.
Vienas ryškiausių pavyzdžių – „Meta“ pristatytas asmeninis agentas „Muse“, kurį lydi avataras Jolly, primenantis skaitmeninį meškiuką. Bendrovė taip pat pristatė „Muse Charm“ – mažą ekranėlį, kurį galima nešiotis kišenėje, kad asistentą būtų lengva pasiekti bet kada.
Į šią kryptį pasuko ir kiti rinkos žaidėjai: „OpenAI“ pristatė asmeninius asistentus „Dots“, rodomus kaip spalvingi, ekrane plūduriuojantys „talismanų“ veidai. O dalis startuolių, pavyzdžiui, „Pickle“, reklamose akcentuoja, kad žmonės daugiau pasakos ir labiau pasitikės „kažkuo gyvu“, su kuo užmezgamas ryšys.
Kodėl „mielumas“ gali tapti problema
Pasak skaitmeninių technologijų tyrėjų, pats „mielas“ dizainas nėra blogis. Tačiau jis gali sumažinti vartotojų budrumą ir užgožti invazinį DI agentų potencialą – nuo plataus duomenų rinkimo iki stebėsenos.
Emocinis efektas čia labai svarbus: mieli objektai dažniau kelia pasitikėjimą, norą globoti, būti atlaidesniems. Tokia būsena gali paskatinti lengviau suteikti leidimus – pavyzdžiui, prieigą prie žinučių, kalendoriaus ar paskyrų – net iki galo neįvertinus pasekmių.
Straipsnyje ši praktika siejama su vadinamuoju „cutewashing“ – kai draugiška išvaizda ir komunikacija „suminkština“ rizikas. Skirtingai nei 1990-ųjų „Tamagotchi“ ar kolekcionuojami žaislai, šiuolaikiniai agentai gali skaityti pranešimus, pasiekti paskyras ir atlikti veiksmus jūsų vardu.
Per didelis pasitikėjimas ir realūs pavyzdžiai
Autoriai pabrėžia, kad mielas asistentas gali nukreipti dėmesį nuo esminių klausimų: kokius duomenis jis renka, kur jie keliauja, kaip saugomi ir kas iš to gauna naudą. Tai ypač aktualu, kai agentas tampa tarpininku tarp vartotojo ir daugybės kasdienių paslaugų.
Tarp minimų pavyzdžių – atvejai, kai „Muse“ perskaitė vartotojo tekstines žinutes, nors to nebuvo aiškiai prašyta, ir kitas atvejis, kai asistentas be žmogaus žinios atskleidė kito asmens namų adresą. Tokios situacijos išryškina, kad problema gali būti ne vien privatumas, bet ir saugumas.
Ką verta pasitikrinti prieš naudojant DI agentą
Tyrėjai siūlo į DI agentus žiūrėti atsargiau ir prieš pradedant juos naudoti sau užduoti kelis paprastus klausimus: kokius duomenis agentas gali pasiekti, kokius veiksmus jis gali atlikti ir kokiu pagrindu jam suteikiami leidimai.
Taip pat akcentuojama, kad bendrovės turėtų aiškiai, paprasta kalba paaiškinti vartotojams, ką agentas gali daryti ir kam bus naudojama prieiga. Vien „teisinių“ privatumo politikų, kurias retas perskaito, čia gali nepakakti.
Trumpai tariant, mielas avataras gali būti patrauklus būdas prisijaukinti naują technologiją, tačiau jis neturėtų tapti priežastimi pamiršti, kad už personažo slypi sistema, galinti pasiekti labai asmenišką informaciją ir veikti jūsų vardu.