Blog

Leidinys „The Information“ pranešė, kad praėjusią savaitę bendrovėje „Meta“ įvyko saugumo incidentas, kurį netiesiogiai išprovokavo vidinis agentinis dirbtinio intelekto sprendimas, ėmęsis veiksmų be aiškaus darbuotojo nurodymo.

Pasak publikacijos, vienas darbuotojas vidiniame forume pasitelkė įmonės kuriamą agentinį DI įrankį, kad šis išanalizuotų kito darbuotojo užklausą. Tačiau DI agentas neapsiribojo analize ir pats paskelbė atsakymą antrajam darbuotojui, pateikdamas rekomenduojamus veiksmus, nors pirmasis darbuotojas jam nebuvo liepęs to daryti.

Antrasis darbuotojas, vadovaudamasis DI agento patarimu, ėmėsi siūlomo veiksmo. Tai, kaip teigiama, sukėlė grandininę reakciją, po kurios dalis inžinierių tam tikrą laiką gavo prieigą prie „Meta“ sistemų, kurias pagal suteiktas teises neturėjo matyti.

„Meta“ atstovas incidentą patvirtino „The Information“ ir nurodė, kad „naudotojų duomenys nebuvo netinkamai tvarkomi“. Vidinėje „Meta“ ataskaitoje taip pat paminėta, jog prie pažeidimo prisidėjo ir papildomi, neįvardyti veiksniai.

Šaltinis teigė, kad nėra požymių, jog kas nors būtų spėjęs pasinaudoti netikėtai atsivėrusia prieiga, ar kad duomenys būtų tapę vieši per maždaug dvi valandas, kol incidentas buvo aktyvus. Vis dėlto pažymima, kad tai galėjo lemti labiau sėkmė nei sisteminės apsaugos priemonės.

Technologijų lyderiams ir įmonėms toliau pabrėžiant dirbtinio intelekto naudą, šis atvejis įvardijamas kaip dar vienas incidentas, rodantis, kaip darbuotojai gali prarasti kontrolę dėl DI agentų veiksmų. Pavyzdžiu minimas ir „Amazon Web Services“ atvejis, kai šiemet fiksuotas ilgai trukęs sutrikimas, siejamas su įmonės DI įrankiais.

Taip pat primenama, kad socialinis tinklas DI agentams „Moltbook“, kurį įsigijo „Meta“, anksčiau susidūrė su saugumo spraga, dėl kurios, kaip teigiama, dėl platformos kūrimo klaidų galėjo būti atskleista dalis naudotojų informacijos.

„Google“ testuoja savo dirbtinio intelekto asistento „Gemini“ programėlės versiją, skirtą „macOS“, pranešama žiniasklaidoje. Iki šiol „Gemini“ buvo lengviausiai pasiekiamas per naršyklę, o atskira programėlė „Mac“ kompiuteriams reikštų dar tiesioginę konkurenciją su „OpenAI“ „ChatGPT“ ir „Anthropic“ „Claude“, kurie jau turi savarankiškas „macOS“ aplikacijas.

Teigiama, kad „macOS“ skirta „Gemini“ programėlė siūlytų iš esmės tas pačias galimybes kaip ir internetinė versija: atsakyti į užklausas, ieškoti internete, generuoti tekstą, vaizdus bei kodą. Vis dėlto pagrindiniu išskirtinumu gali tapti funkcija, vadinama „Desktop Intelligence“.

Pasak pranešimuose minimų programėlės kodo užuominų, ši funkcija suteiktų „Gemini“ papildomą kontekstą iš paties kompiuterio aplinkos. Nurodoma, kad įjungus programoms skirtą „Desktop Intelligence“, „Gemini“ galėtų „matyti tai, ką matote jūs“ (pavyzdžiui, ekrano kontekstą) ir iš pasirinktų programų tiesiogiai paimti turinį, kad atsakymai būtų tikslesni ir labiau suasmeninti, kai „Gemini“ naudojamas.

Panašias galimybes, kai asistentas gali remtis tuo, kas rodoma ekrane ar esančia informacija programose, jau siūlo ir „Claude“, ir „ChatGPT“ „macOS“ aplikacijos. Tuo metu „Gemini“ tokio tipo funkcijas jau diegia ir mobiliuosiuose įrenginiuose.

Kol kas neaišku, ar „Gemini“ „macOS“ versija apsiribos tik ekrano ir programų turinio „skaitymu“, ar galės ir atlikti veiksmus pačiose programose. Vis dėlto „Google“ jau yra pradėjusi siūlyti ribotą panašios patirties variantą išmaniuosiuose telefonuose, todėl neatmetama, kad tokie sprendimai galėtų persikelti ir į stalinių kompiuterių operacines sistemas.

Taip pat pranešama, kad „Gemini“ programėlė testuojama ne vien „Google“ darbuotojų, o tai gali reikšti pasirengimą viešam pristatymui. Net jei atskira programėlė galiausiai ir nepasirodytų, „macOS“ ateityje vis tiek gali sulaukti „Gemini“ technologijos: „Apple“ ir „Google“ yra paskelbusios apie dirbtinio intelekto bendradarbiavimą, pagal kurį „Gemini“ modeliai turėtų prisidėti prie būsimų „Apple Intelligence“ versijų. Be to, pranešimuose minima, kad „Apple“ pertvarko „Siri“ į labiau pokalbių asistento tipo sprendimą, o tai, tikėtina, bus įgyvendinama pasitelkiant „Gemini“.

„Baltieji rūmai“ pristatė naują dirbtinio intelekto (AI) politikos gaires, kuriomis raginama JAV Kongresą sukurti federalinį reguliavimą, galintį nustelbti atskirų valstijų priimamus AI įstatymus.

Administracija jau anksčiau ne kartą bandė apriboti griežtesnį valstijų lygmens reguliavimą, tačiau iki šiol reikšmingo proveržio nepasiekė. Naujosiose gairėse teigiama, kad vieningos taisyklės esą būtinos, nes priešingu atveju skirtingi valstijų reikalavimai kurtų painiavą ir silpnintų JAV konkurencingumą pasaulinėse AI lenktynėse.

Gairės apima platų temų spektrą – nuo vaikų privatumo iki AI taikymo darbo rinkoje. „Baltieji rūmai“ pabrėžia, kad sėkmė įmanoma tik tada, jei taisyklės būtų taikomos vienodai visoje šalyje, o „nesuderinamų valstijų įstatymų mozaika“ esą galėtų stabdyti inovacijas.

Kalbant apie vaikų privatumo apsaugą, siūloma įpareigoti įmones suteikti tėvams ir naudotojams daugiau kontrolės priemonių, pavyzdžiui, ekrano laiko, matomo turinio ir paskyros valdymo nustatymus. Taip pat akcentuojama, kad galiojančios vaikų privatumo nuostatos turi būti taikomos ir AI sistemoms, įskaitant ribojimus, kaip duomenys renkami ir naudojami AI mokymui.

Kartu nurodoma, kad valstijoms turėtų likti galimybė taikyti bendro pobūdžio vaikų apsaugos įstatymus, pavyzdžiui, draudimus, susijusius su seksualinio išnaudojimo medžiaga, net jei tokia medžiaga būtų sugeneruota AI.

Gairėse paliečiamas ir AI infrastruktūros poveikis energetikai bei aplinkai, tačiau didžiausias dėmesys skiriamas duomenų centrų kaštams. Siūloma užtikrinti, kad didesnės elektros kainos nebūtų perkeliamos žmonėms, gyvenantiems šalia duomenų centrų, taip pat supaprastinti leidimų išdavimą AI infrastruktūros statyboms, kad įmonės galėtų diegti vietinę elektros gamybą.

Programinės AI plėtros pusėje siūloma mažiau ribojimų: minimos vadinamosios „reguliacinės smėlio dėžės“ AI taikymams, taip pat raginama skirti išteklių, kad federaliniai duomenų rinkiniai būtų prieinami pramonei ir akademinei bendruomenei AI naudojimui tinkamais formatais.

Turinio moderavimo klausimais gairės siūlo kryptį, kuri, regis, skiriasi nuo kai kurių kitų iniciatyvų. „Baltieji rūmai“ rašo, kad Kongresas turėtų užkirsti kelią JAV valdžios institucijoms daryti spaudimą technologijų tiekėjams, įskaitant AI kūrėjus, kad šie draustų, primestų ar keistų turinį dėl partinių ar ideologinių tikslų.

Autorių teisių ir intelektinės nuosavybės naudojimo AI mokymui srityje tonas taip pat atsargesnis. Gairėse teigiama, kad administracija mano, jog AI modelių mokymas naudojant autorių teisėmis saugomą medžiagą nepažeidžia autorių teisių įstatymų, tačiau kartu siūloma, kad šį klausimą geriau išspręstų teismai, o ne nauji įstatymai. Vis dėlto Kongresui siūloma apsvarstyti licencijavimo sistemas, kurios leistų teisių turėtojams derėtis dėl kompensacijų su AI paslaugų teikėjais.

Esminis ir daugiausia diskusijų keliantis pasiūlymų paketas – federalinio reguliavimo viršenybė prieš valstijų teisę. Gairėse nurodoma, kad valstijos neturėtų „reguliuoti AI plėtros“, neturėtų „nepagrįstai apsunkinti“ teisėtos veiklos, kuri būtų teisėta ir be AI, taip pat neturėtų bausti AI bendrovių už trečiųjų šalių neteisėtus veiksmus, susijusius su jų modeliais.

Kritikai pabrėžia, kad idėja, jog AI įmonės nėra atsakingos už neteisėtą ar žalingą jų produktų panaudojimą, yra ypač problemiška. Ji susijusi su keliais šiuo metu opiais klausimais, įskaitant AI naudojimą kuriant seksualinio pobūdžio vaikų atvaizdus ir galimą AI vaidmenį žalingose situacijose, kurios, kaip teigiama, prisideda prie savižalos ar savižudybių.

Tuo metu „Demokratijos ir technologijų centro“ politikos viceprezidentas Samiras Jainas teigia, kad gairės turi racionalių principų, tačiau jų vertę įstatymų leidėjams mažina vidiniai prieštaravimai ir ne iki galo išspręstos įtampos tarp skirtingų požiūrių į vaikų saugumą internete.

„„Baltųjų rūmų“ aukšto lygio AI gairėse yra keletas pagrįstų principų teiginių, tačiau jų naudingumą įstatymų leidėjams riboja vidiniai prieštaravimai ir nesugebėjimas spręsti esminių įtampų tarp skirtingų požiūrių į svarbias temas, tokias kaip vaikų saugumas internete. Teisingai sakoma, kad valdžia neturėtų versti AI bendrovių drausti ar keisti turinį dėl „partinių ar ideologinių tikslų“, tačiau administracijos vasarą paskelbtas „woke AI“ vykdomasis įsakymas daro būtent tai. Dėl viršenybės principo gairėse teigiama, kad valstijoms neturėtų būti leidžiama reguliuoti AI plėtros, tačiau kartu teisingai pažymima, kad federalinė teisė neturėtų silpninti tradicinių valstijų galių taikyti savo įstatymus AI kūrėjams. Šiuo metu valstijos pirmauja ginant amerikiečius nuo žalos, kurią gali sukelti AI sistemos, o Kongresas du kartus teisingai nusprendė nesiekti plataus valstijų įstatymų nustelbimo“, – teigiama S. Jaino pareiškime.

Pasak apžvalgininkų, prezidentas Donaldas Trumpas bandė aktyviau formuoti AI kūrimo ir reguliavimo kryptį JAV, tačiau rezultatai buvo nevienareikšmiai – daugiausia dėl to, kad Kongresas nenori atsisakyti valstijų teisės reguliuoti technologijas savarankiškai. Todėl kol kas neaišku, kiek šių gairių nuostatų realiai virs federaliniais įstatymais.

Kai daugelis technologijų bendrovių metai iš metų mažina darbuotojų skaičių, „OpenAI“ renkasi priešingą kryptį. „Financial Times“ praneša, kad dirbtinio intelekto bendrovė iki 2026 metų pabaigos planuoja išplėsti komandą iki 8 tūkst. darbuotojų – tai būtų beveik dvigubai daugiau nei dabartinis maždaug 4,5 tūkst. žmonių kolektyvas.

Anot „Financial Times“, nauji darbuotojai būtų samdomi įvairiose srityse: produktų kūrimo, inžinerijos, mokslinių tyrimų ir pardavimų komandose. Taip pat numatoma ieškoti specialistų vadinamajai techninei ambasadorystei – darbuotojų, kurie padėtų įmonėms praktiškai ir efektyviai pritaikyti „OpenAI“ dirbtinio intelekto įrankius.

Leidinys pažymi, kad toks samdos tempas gali būti susijęs ir su siekiu sustiprinti konkurencines pozicijas prieš „Anthropic“ bei jos pokalbių robotą „Claude“. Remiantis „Ramp“ sudarytu dirbtinio intelekto indeksu, įmonės, pirmą kartą įsigyjančios dirbtinio intelekto paslaugas, yra 70 proc. labiau linkusios rinktis „Anthropic“, o ne „OpenAI“.

„OpenAI“ dėmesio sulaukė ir vasarį, kai paskelbė apie sutartį su „JAV Gynybos departamentu“ dėl savo dirbtinio intelekto modelių naudojimo. Tai įvyko po viešai aptartų nesutarimų tarp „Anthropic“ ir federalinės agentūros.

Be valstybinių užsakymų, „OpenAI“, pasak „Reuters“, taip pat veda pažangias derybas su privataus kapitalo fondais, įskaitant „Brookfield Asset Management“. Skelbiama, kad tikslas – diegti „OpenAI“ sprendimus šių investuotojų valdomų įmonių portfeliuose.