Tag: OpenAI

  • DI lyderiai įspėja apie prarastą kontrolę, bet Donaldas Trumpas stabdžių nespaus

    DI lyderiai įspėja apie prarastą kontrolę, bet Donaldas Trumpas stabdžių nespaus

    Pasaulio technologijų sektoriuje auga įtampa dėl dirbtinio intelekto pažangos tempo ir saugumo. Pastarosiomis savaitėmis kelių pagrindinių DI laboratorijų vadovai viešai pripažino, kad modelių galimybės plečiasi greičiau nei susitarta rizikų valdymo praktika.

    OpenAI vyriausiasis mokslininkas Jakubas Pachockis pabrėžė, kad visuomenė ir institucijos nėra pasirengusios pokyčiams, kuriuos gali atnešti sparčiai tobulėjantys modeliai. Jo teigimu, būtinos aiškesnės saugos priemonės, vertinant ne tik naudą, bet ir galimus piktnaudžiavimo scenarijus.

    „Žmonija dar nėra pasirengusi pokyčiams, kuriuos atneša itin spartus DI vystymasis“, – sakė Jakubas Pachockis.

    Panašios pozicijos laikosi ir „Anthropic“ vadovas Dario Amodei, kuris ragina atsakingiau dozuoti pažangiausių modelių diegimo tempą. Jis siūlo nepriklausomą vertinimą, aiškesnes tarptautines taisykles ir didesnį skaidrumą, kad rizikos būtų fiksuojamos anksčiau, o ne po incidentų.

    Diskusijas dar labiau įkaitino vieši perspėjimai, kad autonomiškesni agentiniai sprendimai gali kelti didesnę kibernetinio saugumo grėsmę. Pastaraisiais metais jau tapo įprasta, kad generatyviniai modeliai gali padėti rasti programinės įrangos spragas, todėl didžiausias dėmesys krypsta į tai, kaip apriboti jų panaudojimą puolamosioms operacijoms.

    Dalies rinkos dalyvių akimis, tokie pareiškimai gali būti ir reputacijos bei reguliavimo derybų dalis, tačiau jie turi realias pasekmes kapitalo rinkoms. Investuotojai jautriai reaguoja į bet kokius signalus, kad DI plėtra gali lėtėti, nes tai didina riziką neatsipirkti milijardinėms investicijoms į duomenų centrus, lustus ir energijos tiekimą.

    JAV politiniame lauke ryškėja skirtingos stovyklos: vieni ragina kuo greičiau nustatyti taisykles, kiti baiminasi, kad griežtesnis reguliavimas pakenks konkurencijai su Kinija. Kontekste minimas ir Donaldas Trumpas, kuris kritiškai vertina raginimus lėtinti DI lenktynes ir akcentuoja geopolitinę lyderystę.

    „Jei sustosime, pralaimėsime konkurencinę kovą su Pekinu“, – sakė Donaldas Trumpas.

    Kinija, savo ruožtu, viešai atmeta retoriką, kuri DI plėtrą pateikia kaip neišvengiamą grėsmę, ir pabrėžia tarptautinio bendradarbiavimo svarbą. Tuo pat metu abi pusės pripažįsta, kad pažangūs DI sprendimai tampa strateginės infrastruktūros dalimi, todėl susitarimai dėl bendrų ribų ir kontrolės mechanizmų bus itin sudėtingi.

    Ekspertai pabrėžia, kad artimiausiais metais DI politikoje svarbiausia tema bus ne vien technologinė pažanga, o gebėjimas sukurti patikimus saugos standartus. Tai apimtų modelių testavimą prieš paleidimą, incidentų ataskaitų teikimą, kibernetinio saugumo stiprinimą ir aiškias atsakomybes, kai DI sistemomis pasinaudojama žalai.

    Kas kelia didžiausią nerimą?

    Didžiausią nerimą kelia autonomiškesni agentai, galintys savarankiškai planuoti veiksmus, ieškoti spragų ir vykdyti užduotis skirtingose sistemose. Kuo mažiau žmogaus įsikišimo reikia procesui, tuo sunkiau užtikrinti, kad sistema neperžengs ribų ar nebus panaudota kenkėjiškai.

    Kita rizikos sritis yra infrastruktūros pažeidžiamumas: augant modelių pajėgumui, auga ir jų potencialas padėti automatizuoti atakas, socialinę inžineriją bei kenkėjiško kodo adaptavimą. Dėl to įmonėms tenka ne tik kurti naujus produktus, bet ir greitinti spragų taisymo bei apsaugos procesus.

    Reguliavimas ir konkurencija

    Reguliavimo šalininkai teigia, kad be aiškių taisyklių ir nepriklausomų auditų rinka bus linkusi rizikuoti dėl greitesnio augimo. Kritikai atsako, kad per griežti reikalavimai gali paskatinti inovacijas persikelti į mažiau reguliuojamas jurisdikcijas ir susilpninti JAV pozicijas prieš Kiniją.

    Kol kas aišku viena: DI klausimas tampa ne tik technologijų, bet ir nacionalinio saugumo bei ekonomikos politikos dalimi. Todėl artėjantys politiniai sprendimai gali nulemti, ar DI plėtra bus labiau valdoma taisyklėmis, ar ir toliau vyks lenktynių principu.

  • DI keičia mokslo žaidimo taisykles: universiteto rektorius įspėja dėl priklausomybės ir ragina veikti

    Dirbtinis intelektas sparčiai keičia akademinę aplinką, o universitetams vien gynybinės pozicijos nebeužtenka. Tokią žinutę viešoje diskusijoje akcentavo Silezijos universiteto rektorius prof. dr. hab. Ryszardas Koziołekas, ragindamas mokslo bendruomenę DI matyti ne tik kaip riziką, bet ir kaip realų pagalbininką tyrimuose bei studijose.

    Pasak jo, šiuolaikinių DI sistemų proveržis neatsiejamas nuo didelės apimties kokybiškų duomenų, sukauptų dar analoginėje epochoje. Kartu tai kelia klausimų, kam iš tiesų atitenka atvirosios mokslo praktikos sukurta vertė, jei tie patys duomenys naudojami komercinių modelių treniravimui.

    Kibernetinės grėsmės universitetams

    Diskusijos fone išryškėjo ir kita problema – kibernetinis saugumas, nes aukštosios mokyklos yra patrauklūs taikiniai dėl jautrios informacijos ir plataus vartotojų tinklo. Silezijos politechnikos ir Silezijos universiteto inicijuota programa „Cyberedu“ siekia kelti vadovų, dėstytojų, doktorantų ir studentų kompetencijas, apimančias praktinius mokymus ir edukacines priemones.

    Programai numatytas finansavimas viršija 1 400 000 eurų. Didžioji dalis lėšų skiriama mokymų organizavimui, o dalis – turinio kūrimui, kuris turėtų padėti universitetų bendruomenei atpažinti incidentus, stiprinti atsparumą socialinei inžinerijai ir gerinti kasdienę skaitmeninę higieną.

    Ar artėja naujas mokslo lūžis?

    Rektorius atkreipė dėmesį į pastarųjų savaičių diskusijas apie DI gebėjimą spręsti itin sudėtingas matematikos ir fizikos užduotis, įskaitant ir ilgai spręstus teorinius klausimus. Vis dėlto, šalia optimizmo iškyla ir patikimumo tema: akademinėje bendruomenėje vis dažniau klausiama, ar modeliai problemų „neišmoksta“ iš iš anksto egzistuojančių, bet ne visuomet aiškiai identifikuotų šaltinių.

    Koziołeko teigimu, universitetų pareiga yra racionaliai įvertinti, kur DI gali pagreitinti pažintinius procesus, o kur būtina užtikrinti aiškias taisykles, skaidrumą ir atsakomybę. Jis pabrėžė, kad DI gali tapti realia pagalba tiek mokslui, tiek didaktikai, tačiau tik tuomet, jei bus kuriamas ir naudojamas atsakingai.

    „Kalbėdami apie kibernetinį saugumą, dažniausiai susitelkiame į grėsmes ir baimes, bet neturime pamiršti ir teigiamų pokyčių, kurie gali sustiprinti pažinimo procesus“, – sakė Ryszardas Koziołekas.

    Atviro mokslo paradoksas ir priklausomybės rizika

    Rektorius apibūdino paradoksą, su kuriuo šiandien susiduria universitetai: atvirasis mokslas remiasi laisvu dalijimusi tyrimų rezultatais, bet kartu auga nerimas, kad šie duomenys naudojami pažangių DI modelių tobulinimui, o akademinė bendruomenė ne visuomet žino, kas ir kokiu tikslu iš to gauna naudą.

    Dar didesnė rizika, pasak jo, yra priklausomybė nuo privačių kompanijų kuriamų modelių. Jei prieiga prie įrankių gali būti apribota ar pakeista mokamu režimu per labai trumpą laiką, universitetai rizikuoja prarasti kritiškai svarbius procesus palaikančias priemones, o kartu ir planavimo stabilumą tyrimuose bei studijų organizavime.

    Todėl, rektoriaus vertinimu, būtina stiprinti teisinę ir technologinę bazę, kuri leistų DI plėtrą vykdyti saugiai ir atsakingai. Jis taip pat akcentavo valstybės vaidmenį – siekį, kad pažangūs sprendimai, darantys įtaką švietimui ir mokslui, nebūtų palikti vien privačių interesų logikai.

  • „SoftBank“ akcijos smuko dviženkliu skaičiumi: DI lyderiai ragina lėtinti lenktynes

    „SoftBank“ akcijos smuko dviženkliu skaičiumi: DI lyderiai ragina lėtinti lenktynes

    Japonijos investicijų grupės „SoftBank“ akcijos pirmadienį smuko daugiau nei 10 proc., investuotojams sureagavus į vis garsėjančius raginimus lėtinti pažangiausių dirbtinio intelekto modelių kūrimą. Kartu žemyn judėjo ir dalies kitų technologijų sektoriaus bendrovių vertė, nes rinkos pradėjo kainuoti didesnę reguliavimo ir verslo riziką.

    Šis išpardavimas siejamas su pastarosiomis diskusijomis, kuriose DI kūrėjai vis dažniau pabrėžia, kad saugumas turi eiti prieš greitį, o atsakomybė turi būti svarbesnė už trumpalaikį pelną. Investuotojams tai reiškia vieną dalyką: jei naujų modelių diegimas bus pristabdytas, lūkesčiai dėl pajamų ir augimo gali būti peržiūrėti.

    Vienas ryškiausių perspėjimų nuskambėjo iš „Anthropic“ vadovo Dario Amodei, kuris ragino koordinuotai pristabdyti pažangiausių modelių plėtrą. Jo teigimu, tokia pauzė suteiktų daugiau laiko suprasti rizikas ir įdiegti valdymo priemones, kol technologija neperžengė ribos, kai ją sunku kontroliuoti.

    „Jei nekreipsime dėmesio, pažangiausių sistemų raida gali aplenkti mūsų gebėjimą jas suprasti ir suvaldyti, todėl tai būtina daryti itin atsargiai, jei apskritai daryti“, – sakė Dario Amodei.

    Diskusijų centre atsidūrė vadinamasis rekursyvus savęs tobulinimas, kai DI sistemos padeda kurti naujos kartos modelius. Kritikai baiminasi, kad tokia dinamika gali paspartinti technologijos pažangą iki lygio, kai saugos testavimas ir kontrolė taps nebespėjančiais paskui realų diegimą.

    Viešai išsakytus perspėjimus parėmė ir kitų įtakingų bendrovių vadovai, tarp jų „OpenAI“ generalinis direktorius Samas Altmanas bei „xAI“ vadovas Elonas Muskas. Rinkose tokie pareiškimai paprastai interpretuojami kaip ženklas, kad pramonės viduje didėja susirūpinimas, o tai gali paskatinti griežtesnes taisykles ar naujus savireguliacijos standartus.

    Pasak analitikų, „SoftBank“ akcijų kritimas atspindi riziką, kad reguliuotojai gali siekti pristabdyti DI plėtrą, kad būtų išvengta blogiausių scenarijų. Kita rizikos dalis susijusi su reputaciniais ir techniniais incidentais: jei pažangūs modeliai demonstruotų netikėtą elgesį ar kontrolės spragas, rinkos gali dar labiau sugriežtinti vertinimą visam sektoriui.

    Neigiamas impulsas palietė ir kitas su DI infrastruktūra susijusias įmones Azijoje. Smuko atminties lustų gamintojų ir puslaidininkių įrangos bendrovių akcijos, nes DI bumas tiesiogiai didina duomenų centrų paklausą, o bet koks plėtros sulėtėjimas gali reikšti mažesnius užsakymus ir atsargesnes investicijas.

    Geopolitika ir lustų kontrolė

    Dario Amodei taip pat ragino griežtinti Kinijos prieigą prie pažangių DI lustų ir puslaidininkių gamybos įrangos, argumentuodamas, kad būtent skaičiavimo pajėgumai lems realias valstybių galimybes kurti ir diegti pažangius modelius. Tačiau jis pripažino ir esminę problemą: net jei Vakarų šalys susitartų dėl tempo mažinimo, Kinija gali tokio koordinuoto sprendimo nepalaikyti.

    Tuo pat metu Kinijoje skamba priešinga retorika, kritikuojanti raginimus riboti technologijų eksportą ir vadinanti tai bandymu stabdyti konkurentų progresą. Ši įtampa sustiprina platesnę tendenciją, kai DI tampa ne tik verslo, bet ir nacionalinio saugumo bei pramonės politikos klausimu.

    Ką tai reiškia investuotojams?

    Rinkos pastaraisiais metais DI tema buvo linkusios „užbėgti į priekį“, vertindamos bendroves pagal ateities augimo pažadus. Kai atsiranda signalų apie galimą tempo mažinimą, investuotojai dažnai peržiūri lūkesčius, ypač bendrovių, kurių vertė remiasi prognozėmis apie spartų naujų produktų ir paslaugų komercializavimą.

    Trumpuoju laikotarpiu tai gali reikšti didesnį svyravimą technologijų akcijose, o ilgesniu laikotarpiu vis daugiau priklausys nuo to, kaip sparčiai bus kuriamos aiškios saugos taisyklės. Jei sektoriui pavyktų suderinti inovaciją ir atsakomybę, DI plėtra gali tapti tvaresnė, tačiau pereinamasis laikotarpis investuotojams išliks jautrus naujienoms ir politiniams sprendimams.

  • Elonas Muskas ir Samas Altmanas pritaria „Anthropic“ raginimui lėtinti DI: dėl ko nerimaujama?

    „OpenAI“ vadovas Samas Altmanas ir „xAI“ savininkas Elonas Muskas pritarė „Anthropic“ vadovo Dario Amodei raginimui lėtinti dirbtinio intelekto plėtrą. Jis siūlo keisti tempą ne dėl technologinės pažangos stabdymo, o dėl aiškesnių saugumo ribų ir nepriklausomo vertinimo.

    Pasak D. Amodei, problema kyla tuomet, kai vis galingesni modeliai diegiami greičiau, nei spėjama patikrinti jų patikimumą ir piktnaudžiavimo rizikas. Jis pabrėžia, kad įmonės turėtų skirti daugiau laiko modelių apsaugoms, testavimui ir rizikos valdymui, kol sprendimai tampa masiškai prieinami.

    Kas siūloma keisti?

    D. Amodei siūlo etapais pereiti prie aiškesnio DI vystymo reguliavimo, kuris leistų suderinti inovacijas ir visuomenės saugumą. Tarp siūlymų – daugiau resursų rizikos vertinimui, geresnė vidinė kontrolė ir išorinių ekspertų įtraukimas.

    „Anthropic“ taip pat skelbia planuojanti nuolat įdarbinti išorinius recenzentus, kurie turėtų realią prieigą prie vertinimo priemonių ir vidinių procesų. Tokia praktika, įmonės teigimu, padėtų sumažinti interesų konfliktų riziką, kai saugumą vertina vien tik pati organizacija.

    „Dario yra teisus“, – sakė Elonas Muskas.

    „Sutinku su Dario, turime nustatyti naujas ribas“, – sakė Samas Altmanas.

    Rizikos signalai: nuo sukčiavimo iki kibernetinių operacijų

    Diskusijas sustiprino ir „Anthropic“ paskelbta informacija apie „Claude“ modelių panaudojimą kenksmingiems tikslams. Bendrovė nurodė fiksavusi atvejų, kai DI buvo pasitelkiamas su ginkluotės kūrimu susijusiam planavimui, kibernetinėms operacijoms, sekimui bei sukčiavimo schemoms.

    Viešo dėmesio sulaukė ir matematiko Jacobo Coxono pasitraukimas iš „Anthropic“ – jis teigė nusivylęs tuo, kaip greitai įmonės siekia vis pažangesnių sistemų. Jis kritikavo tiek „Anthropic“, tiek „OpenAI“, sakydamas, kad požiūris į saugumą ir vystymo tempą praktikoje esą skiriasi mažiau, nei tikėtasi.

    Pastaraisiais metais DI saugumo tema tampa vis aktualesnė ir reguliuotojams: Europos Sąjungoje jau priimtas DI aktas, numatantis skirtingas pareigas pagal rizikos lygį, o JAV vis daugiau dėmesio skiriama modelių testavimui ir atsakomybei už žalą. Ekspertai pabrėžia, kad didžiausia įtampa kyla ne dėl paties DI egzistavimo, o dėl to, kaip greitai jis integruojamas į kritines paslaugas ir kaip lengvai gali būti pritaikomas piktnaudžiavimui.

  • ES kibernetinio saugumo komanda su DI aptiko 4 spragas vidaus kode: viena įvertinta kaip didelės rizikos

    ES kibernetinio saugumo komanda su DI aptiko 4 spragas vidaus kode: viena įvertinta kaip didelės rizikos

    Europos Sąjungos kibernetinio saugumo institucijos pirmą kartą viešai pranešė, kad pažangūs „OpenAI“ modeliai padėjo aptikti pažeidžiamumų pačios ES vidiniuose skaitmeniniuose sprendimuose. Europos kibernetinio saugumo agentūra ENISA ir techninės gynybos komanda CERT-EU nustatė keturias programinio kodo spragas, kurios vėliau buvo pašalintos.

    ENISA atstovė spaudai Laura Heuvinck patvirtino, kad pažeidžiamumai rasti atlikus kodo saugumo analizę, pasitelkiant pažangų „OpenAI“ modelį. Iš keturių spragų viena buvo įvertinta kaip didelės rizikos ir galėjo būti panaudota perimant paskyras, tačiau institucijos pabrėžė, kad trūkumai jau ištaisyti.

    Šis atvejis Briuselyje vertinamas ir kaip praktinis argumentas, kodėl ES siekia ankstyvos prieigos prie vadinamųjų „frontier“ klasės modelių, kurie gali turėti reikšmingų kibernetinių gebėjimų. Pastaraisiais mėnesiais diskusijas Europoje kaitino klausimas, ar prieiga prie naujausių modelių gali būti ribojama, o tai apsunkintų gynybines iniciatyvas ir testavimą.

    ENISA nurodo, kad pažangius modelius naudoja nuo liepos mėnesio ir kartu su CERT-EU juos taiko aktyviam ES institucijų sistemų tikrinimui, ieškant silpnų vietų. Toks metodas atitinka platesnę pasaulinę tendenciją, kai DI vis dažniau pasitelkiamas automatizuotai kodo peržiūrai, pažeidžiamumų paieškai ir prioritetizavimui, ypač kai sistemų apimtys viršija įprastų auditų galimybes.

    „Laiko langas, kai galima pasitelkti DI gynybai ir rasti spragas anksčiau, nei jas išnaudoja užpuolikai, sparčiai siaurėja“, – sakė „OpenAI“ politikos Europoje vadovas Tom Duff Gordon.

    Europos Komisija jau yra pristačiusi veiksmų planą dėl DI ir kibernetinio saugumo, kuriame numatytos priemonės testavimui ir saugiam pažangiausių modelių taikymui. Pagal šį planą ENISA ir ES Jungtinis tyrimų centras rengia saugią bandymų platformą, kuri leistų institucijoms tikrinti modelių pritaikomumą gynybai bei valdyti su tuo susijusias rizikas.

    Ekspertų vertinimu, tokie pranešimai rodo dvigubą kryptį: DI gali tapti efektyviu įrankiu spragoms aptikti, tačiau tie patys gebėjimai gali būti patrauklūs ir atakuojančioms grupėms. Dėl to vis daugiau dėmesio skiriama valdomai prieigai, testavimo aplinkoms, aiškioms naudojimo taisyklėms ir atskaitomybei, kad pažangūs modeliai realiai stiprintų gynybą, o ne didintų bendrą atakų paviršių.

  • Muskas ir Altmanas netikėtai sutaria su „Anthropic“ vadovu: DI tempas kelia realią grėsmę

    Muskas ir Altmanas netikėtai sutaria su „Anthropic“ vadovu: DI tempas kelia realią grėsmę

    Buvęs „Anthropic“ darbuotojas Jacobas Coxonas viešame įraše perspėjo, kad dirbtinio intelekto industrija rizikuoja žmonių saugumu, o ateityje gali atsirasti sistemų, kurių veikimo žmonės nebesuvaldys. Jo teigimu, ypač pavojinga kryptis yra modelių gebėjimas patiems spartinti savo tobulėjimą.

    Į šias pastabas sureagavo „Anthropic“ vadovas ir vienas iš įkūrėjų Dario Amodei, kalbėjęs apie rizikas tarptautinėje žiniasklaidoje. Jis pripažino, kad su kritiku sutinka labiau, nei nesutinka, tačiau pabrėžė, jog dabartiniai modeliai dar nėra tokie pajėgūs, kad savaime sukeltų neišvengiamą katastrofą.

    Vis dėlto Amodei akcentavo tempą: didėjant skaičiavimo resursams, duomenų apimtims ir modelių architektūrų pažangai, gebėjimai auga sparčiau nei praktinės saugumo priemonės. Jo vertinimu, rizika kyla tada, kai sistemos ima vykdyti sudėtingas užduotis per daugybę žingsnių, veikti kaip autonominių agentų tinklai ir pačios ieškoti būdų tapti dar efektyvesnės.

    Raginimas lėtinti ir testuoti

    „Anthropic“ vadovas viešai ragino pramonę atsakingiau reguliuoti pažangiausių modelių kūrimo tempą ir daugiau investuoti į saugos metodus. Tarp minimų priemonių dažniausiai įvardijami nepriklausomi vertintojai, kurie galėtų tikrinti modelius panašiomis teisėmis kaip įmonių darbuotojai, bei aiškesni standartai, kuriuos kurtų verslas kartu su valdžios institucijomis.

    Tokie siūlymai siejasi su plačiau taikoma praktika, kai didieji kūrėjai skelbia saugos ataskaitas, vykdo vadinamąjį raudonųjų komandų testavimą ir ieško būdų apriboti pavojingą modelių elgesį. Tačiau kritikai pabrėžia, kad savanoriškų priemonių gali nepakakti, jei varžybos tarp laboratorijų verčia skubėti.

    Netikėtas sutarimas tarp konkurentų

    Amodei perspėjimai sulaukė palaikymo iš dviejų ryškiausių industrijos lyderių. Elonas Muskas viešai pareiškė, kad Amodei argumentai jam atrodo pagrįsti, primindamas, kad apie dideles DI rizikas kalba jau ne vienus metus.

    „Sutinku, kad pažangiausių DI sistemų kūrimo tempą turime formuoti atsakingai“, – sakė Samas Altmanas.

    „OpenAI“ vadovas taip pat pabrėžė nepriklausomo vertinimo idėją ir teigė, kad DI sauga pastaruoju metu buvo vienas svarbiausių klausimų įmonės vidinėse diskusijose. Toks viešas sutarimas išryškina, kad rūpestis dėl tempo nebėra vienos stovyklos pozicija, net jei įmonės konkuruoja dėl lyderystės.

    Grėsmės jau ne vien teorinės

    Pastaraisiais mėnesiais daugėja pranešimų, kad generatyviniai modeliai bandomi išnaudoti kenkėjiškiems tikslams, įskaitant sukčiavimą, kibernetines atakas ir net pavojingų instrukcijų paiešką. Dėl to kūrėjai vis dažniau diegia apribojimus, stiprina turinio filtrus ir plečia piktnaudžiavimo stebėseną.

    Ekspertai pabrėžia ir kitą rizikų sluoksnį: net jei modeliai nėra superintelektas, jie gali didinti nusikalstamų veikų mastą, automatizuoti socialinės inžinerijos atakas, skatinti dezinformacijos plitimą ir mažinti įėjimo barjerą tiems, kurie anksčiau neturėjo techninių gebėjimų. Dėl to saugos diskusija vis dažniau sukasi ne tik apie tolimą ateitį, bet ir apie šiandienos praktinį atsparumą.

    Kitas svarbus aspektas yra reguliavimas: Europos Sąjungoje jau įsigaliojęs DI aktas numato rizikomis grįstą sistemą ir papildomas pareigas aukštos rizikos sprendimams, o pažangiausiems bendros paskirties modeliams keliami skaidrumo ir saugos reikalavimai. Vis dėlto rinkos dinamika rodo, kad vien teisės aktų neužtenka, jei trūksta nepriklausomų testavimo pajėgumų ir aiškių, tarptautiniu mastu suderintų standartų.

    Kol kas vieningo atsakymo, kaip tiksliai subalansuoti inovacijų greitį ir saugą, nėra. Tačiau tai, kad dėl pavojaus signalo vis garsiau kalba ir konkuruojančių laboratorijų lyderiai, rodo besikeičiantį toną: DI pažanga vis labiau vertinama ne tik pagal įspūdingas funkcijas, bet ir pagal tai, ar visuomenė spėja sukurti saugiklius.

  • „Anthropic“ vadovas ragina lėtinti dirbtinio intelekto plėtrą: kodėl kalbama apie superintelekto riziką

    „Anthropic“ vadovas ragina lėtinti dirbtinio intelekto plėtrą: kodėl kalbama apie superintelekto riziką

    Dirbtinio intelekto kūrėjos „Anthropic“ generalinis direktorius Dario Amodei paragino rinkos lyderius sulėtinti galingiausių DI modelių kūrimo tempą. Jo teigimu, technologija jau pasiekė stadiją, kai pažanga gali būti itin greita, tačiau rizikos auga kartu su galimybėmis.

    „Anthropic“ vadovas akcentuoja, kad vadinamasis superintelektas yra teorinis taškas, kai DI gebėjimai pranoksta žmogaus intelektą. Nors tai dar nėra realybė, diskusijos stiprėja dėl to, kaip užtikrinti saugumą dar iki pasirodant proveržiams, kurių pasekmių neįmanoma pilnai numatyti.

    Raginimas po naujų įspėjimų

    Amodei raginimas pasirodė netrukus po to, kai „Anthropic“ viešai pranešė, jog jų modeliai buvo siejami su žalingu panaudojimu. Tarp minimų krypčių – kibernetinės atakos, propagandos kampanijos ir bandymai pritaikyti DI pavojinguose biologiniuose tyrimuose.

    Jo pozicija atspindi vis dažniau kartojamą argumentą: nekurti DI reikštų prarasti ekonominę ir socialinę naudą, tačiau kurti per greitai gali būti neatsakinga. „Turime sulėtinti tempą, kuriuo didiname DI modelių galimybes. Pažanga vis tiek atrodys greita, o įgytą laiką turime panaudoti išmintingai“, – rašė Dario Amodei.

    Skirtingi signalai iš pramonės

    Pastaraisiais metais panašūs raginimai skamba ir iš kitų sektoriaus balsų. Kai kurie DI kūrėjai ragina pramonę savanoriškai pristabdyti, kad reguliavimas, testavimas ir saugos standartai spėtų su technologijų pažanga.

    Tekste minimas ir buvęs „OpenAI“ tyrėjas Jacob Coxon, kuris pasitraukė iš industrijos, teigdamas, kad lenktynės dėl savitobulėjančių sistemų gali tapti pavojingu lošimu. „Nei viena įmonė nesielgia pakankamai atsakingai. Jos skuba link savitobulėjančio superintelekto ir lošia mūsų gyvybėmis“, – sakė Jacob Coxon.

    Kodėl superintelekto tema vėl iškilo?

    Rizikų spektras, apie kurį kalbama, apima ne tik teorinį scenarijų, kai DI tampa nevaldomas, bet ir dabartinius, apčiuopiamus pavojus. Tai gali būti automatizuotos kibernetinės atakos, efektyvesnės dezinformacijos sistemos, taip pat pavojingų instrukcijų generavimas, jei apsaugos priemonės neveikia.

    Papildomos įtampos suteikia tai, kad galingiausi modeliai kuriami itin konkurencingoje aplinkoje, kur greitis dažnai tampa verslo pranašumu. Dėl to vis garsiau keliama idėja apie sąmoningai lėtesnį „priekinės linijos“ modelių tobulinimą, kartu didinant testavimą, auditus ir atsakomybę už galimą žalą.

    Amodei iš esmės siūlo kompromisą: tęsti pažangą, bet sąmoningai ją ritminti, kad visuomenė, reguliuotojai ir pati industrija suspėtų įdiegti saugos priemones. Ši diskusija, panašu, artimiausiu metu tik stiprės, nes DI pritaikymas karyboje, ekonomikoje ir informacinėje erdvėje plečiasi greičiau nei vieningos taisyklės.

  • DI laboratorijos taikosi į bankus: kodėl jos greičiau kurs autopilotinius finansus nei taps bankais

    DI laboratorijos taikosi į bankus: kodėl jos greičiau kurs autopilotinius finansus nei taps bankais

    Finansų paslaugos tapo vienu karščiausių mūšio laukų dirbtinio intelekto (DI) rinkoje: didžiosios laboratorijos ir platformos ieško, kaip jų modelius paversti kasdieniais įrankiais bankams, mokėjimų įmonėms ir investicijų sektoriui. Rinkoje vis dažniau keliama dilema, ar tokie žaidėjai kaip „OpenAI“ ar „Anthropic“ ilgainiui galėtų ne tik aptarnauti bankus, bet ir patys imtis bankininkystės.

    Ši tema aptarta Fintech for Inclusion Global Summit renginyje, kur investuotojai ir fintech vadovai svarstė, kur yra riba tarp pažangiausių DI modelių tiekėjų ir griežtai reguliuojamo finansų pasaulio. Bendras vertinimas skamba panašiai: DI laboratorijos gali priartėti prie bankų veiklos, bet tapti bankais joms būtų lėta, brangu ir strategiškai nepatrauklu.

    Kodėl DI laboratorijoms sunku tapti bankais

    Rizikos ir kapitalo reikalavimai yra pirmasis stabdis. Bankininkystė remiasi kredito rizikos valdymu, kapitalo pakankamumu, likvidumo taisyklėmis ir nuolatine priežiūra, o tai paprastai reiškia daugelio metų investicijas į atitiktį ir valdymo sistemas.

    Quona Capital bendraįkūrėja ir vadovaujanti partnerė Monica Engel akcentavo, kad DI laboratorijos labiau rinksis partnerystes, o ne pilną banko modelį. „Jos priartės prie bankininkystės, netapdamos bankais. Bankininkystė yra lėta, reikalauja daug kapitalo ir paremta kredito rizika, todėl tai prastai dera su tyrimų laboratorija“, – sakė M. Engel.

    Pasak jos, vertė vis tiek bus kuriama finansų sektoriuje, tik kitu būdu: bankininkystė tampa agentinė, kai pinigai gali automatiškai judėti, apmokėti sąskaitas ir perbalansuoti finansus. Praktinis startas dažniausiai yra mokėjimai ir prekyba, o ne licencijuota indėlių veikla.

    „Mambu“ produktų viceprezidentas Adrian Congiu pabrėžė, kad laboratorijos laimi ten, kur pati modelio galia yra produktas, pavyzdžiui, tekstų, vaizdų, kodo generavimas ir samprotavimas. „Bankininkystėje vertė kyla ne tiek iš modelio, kiek iš to, kas jį supa: procesų žinios, reguliacinė atitiktis, audituojamumas ir darbo eigos, sujungtos su senomis sistemomis“, – sakė A. Congiu.

    Jo vertinimu, laboratorijoms būtų nepraktiška kurti paskolų atitiktį kiekvienai geografijai visame pasaulyje. Tam reikia ilgo dėmesio konkrečiai rinkai, vietos taisyklių išmanymo ir nuolatinio darbo su priežiūros institucijomis, o globalios laboratorijos struktūriškai negali vienu metu būti visur ir eiti pakankamai giliai.

    Kur DI vis dėlto perims vertę

    Investuotojai pabrėžia, kad tai nereiškia, jog bankai gali atsipalaiduoti. Didžiausia įtaka greičiausiai bus ten, kur DI gali sumažinti sąnaudas ir pagreitinti sprendimus: klientų aptarnavime, dokumentų analizėje, sukčiavimo prevencijoje, rizikos signalų apdorojime, vidinių procesų automatizavime.

    Apis Partners partnerė Alexia Yannopoulos atkreipė dėmesį, kad finansų sektoriuje esminis pranašumas vis dar lieka vertikalus valdymas: licencijos, platinimas ir duomenys. „Tikėčiausi, kad tai ir toliau liks finansų paslaugų rankose“, – sakė A. Yannopoulos.

    Flourish Ventures generalinis partneris Ameya Upadhyay priminė, kad panaši baimė jau buvo kilusi dėl didžiųjų technologijų platformų. „Prisimenu 2017 ir 2018 metus, kai visi bijojo, kad „Amazon“ bus kitas didelis bankas. Finansų paslaugos yra per didelis galvos skausmas, o šie žaidėjai turi rimtesnių tikslų“, – sakė A. Upadhyay.

    Accion Ventures vadovaujantis partneris Rahil Rangwala akcentavo, kad laboratorijų tikslas yra auginti modelių naudojimą globaliu mastu, todėl bankininkystė joms yra patraukli rinka kaip klientas, bet sudėtinga kaip reguliuojama veikla. „Reguliavimas ir vietinė atitiktis yra stiprūs grioviai. Vietoje to dažniau matome, kad modeliai bendradarbiauja su reguliuojamais finansų rinkos dalyviais ir juos įgalina“, – sakė R. Rangwala.

    Ką tai reiškia bankams ir klientams

    Artimiausiu metu labiausiai tikėtinas scenarijus yra ne DI laboratorijos kaip bankai, o bankai kaip DI vartotojai ir integruotojai. Tai reiškia daugiau partnerysčių, kur DI tiekėjai suteikia modelius ir infrastruktūrą, o bankai užtikrina licenciją, priežiūros reikalavimus, atsakomybę, rizikos valdymą ir klientų santykius.

    Klientams tai gali virsti labiau automatizuotais finansais: nuo proaktyvių įspėjimų ir personalizuotų pasiūlymų iki automatinių mokėjimų, taupymo ir investavimo sprendimų. Tačiau kuo daugiau automatizavimo, tuo svarbesni tampa skaidrumas, sprendimų paaiškinamumas ir aiškios atsakomybės ribos, ypač kai kalbama apie kreditą, sukčiavimo atvejus ar ginčus.

  • ES ragina pasaulines DI taisykles po įspėjimų apie riziką: ką tai keistų „OpenAI“ ir „Anthropic“

    ES ragina pasaulines DI taisykles po įspėjimų apie riziką: ką tai keistų „OpenAI“ ir „Anthropic“

    Europos Sąjunga vėl kelia klausimą, ar dirbtinio intelekto (DI) plėtra gali būti suvaldoma vien nacionaliniais ar regioniniais sprendimais. Europos Komisijos vykdomoji pirmininko pavaduotoja Henna Virkkunen pareiškė, kad pasauliniu mastu būtinos bendros taisyklės, ypač kai viešojoje erdvėje daugėja perspėjimų apie itin pažangių modelių keliamą riziką.

    Šis raginimas nuskambėjo po plačiai aptarto buvusio DI bendrovės „Anthropic“ inžinieriaus įspėjimo, kad nekontroliuojamas technologijos šuolis teoriškai gali sukelti katastrofines pasekmes žmonijai. Nors tokie scenarijai vertinami nevienareikšmiškai, ES teigia, kad vien diskusijų nepakanka ir būtina kurti tarptautinius saugumo mechanizmus.

    Kas jau galioja Europoje

    ES jau turi teisinį pagrindą, įpareigojantį didžiųjų DI modelių kūrėjus vertinti ir mažinti rizikas, susijusias su sistemų saugumu bei kontrolės praradimu. Toks požiūris išskiria ES iš daugelio kitų regionų, kur reguliavimas dažnai lieka fragmentiškas arba apsiriboja rekomendacijomis.

    Vis dėlto Virkkunen pabrėžė, kad tai, kas nustatyta ES, automatiškai netampa pasauline norma. Dėl to, jos teigimu, tarptautinis koordinavimas yra būtinas, kad rizikos valdymo standartai neapsiribotų vien Europa ir neatsirastų „silpnų vietų“ rinkose, kuriose reikalavimai mažesni.

    Geopolitika ir lenktynės dėl DI

    DI tapo strategine varžybų sritimi tarp JAV ir Kinijos, o jų sprendimai dėl saugumo, priežiūros ir inovacijų tempo daro įtaką visam pasauliui. ES pareigūnai stebi, kaip šios lenktynės bus aptariamos aukščiausiu politiniu lygiu, nes būtent čia sprendžiama, kiek reguliavimo laikoma „priimtina kaina“ už konkurencingumą.

    JAV ambasadorius ES Andrew Puzderis pasisakė už bendradarbiavimą su Europa DI srityje, tačiau taip pat aiškiai įvardijo ribas: JAV, jo teigimu, nesutiks su tokiu reguliavimu, kuris galėtų sumažinti amerikietiškų platformų gebėjimą konkuruoti su Kinija. Ši įtampa rodo, kad pasaulinės taisyklės bus sunkiai suderinamos, jei skirtingos šalys DI vertins pirmiausia kaip ekonominės ir nacionalinio saugumo galios įrankį.

    „Mums labai svarbu tęsti tarptautinį bendradarbiavimą, nes matau, kad pasaulinių taisyklių tikrai reikia“, – sakė Henna Virkkunen.

    Kokios „pasaulinės taisyklės“ galėtų būti realistiškos

    Diskusijoje vis dažniau keliama idėja apie tarptautinę DI saugos instituciją arba bent jau bendrą protokolą, kaip reaguoti į incidentus, susijusius su vadinamaisiais pažangiausiais, didžiausią galią turinčiais modeliais. Vokietijos skaitmeninių reikalų ministras Karstenas Wildbergeris anksčiau yra užsiminęs apie galimą modelį, panašų į branduolinės energetikos priežiūros sistemą.

    Europos Parlamente taip pat stiprėja spaudimas Komisijai aiškiau įvardyti planą, kaip DI sauga būtų keliama į G7, G20 ir Ekonominio bendradarbiavimo ir plėtros organizacijos darbotvarkę. Tai reikštų bandymą sukurti minimalų bendrą standartą bent svarbiausioms ekonomikoms, net jei visuotinis, visoms šalims vienodai taikomas susitarimas trumpuoju laikotarpiu būtų sunkiai pasiekiamas.

    Kartu ES susiduria su praktine dilema: kaip apibrėžti, kurioms sistemoms taikyti griežčiausią priežiūrą ir kaip užtikrinti, kad naujos DI paslaugos nepatektų į „pilkąją zoną“ vien dėl formalaus klasifikavimo. Būtent todėl, pasak pareigūnų, tarptautinis suderinamumas svarbus ne tik principų lygmeniu, bet ir kasdienėje priežiūros praktikoje.

  • DI sukūrė „RuneScape“ kloną, jis tapo sensacija, bet „Jagex“ įsikišo akimirksniu

    DI sukūrė „RuneScape“ kloną, jis tapo sensacija, bet „Jagex“ įsikišo akimirksniu

    Dirbtinis intelektas vis dažniau naudojamas ne tik tekstams ar vaizdams, bet ir programavimui, todėl vienam kūrėjui tapo realu per trumpą laiką sukurti veikiančio žaidimo prototipą. Tokį eksperimentą atliko programuotojas Rohanas Varma, pasitelkęs pažangų DI modelį, kad sukurtų žaidimą, primenantį klasikinį „RuneScape“.

    Varma projektą pavadino „Elderwood“ ir atvirai pristatė kaip „RuneScape“ kloną. Trumpuose įrašuose buvo matyti daug panašių elementų: minimalistiniai meniu, pikselinė grafika, daiktų rinkimas, monetos ir įprastos veiklos, tokios kaip medžių kirtimas.

    Prie projekto dėmesio prisidėjo ir tai, kad DI, remiantis vienu prašymu, sugeneravo maždaug 30 sekundžių reklaminį vaizdo klipą, pritaikytą socialiniams tinklams. Toks greitis ir automatizacija parodė, kaip sparčiai turinio kūrimas persikelia į hibridinį modelį, kuriame žmogus valdo kryptį, o DI pagreitina vykdymą.

    Tačiau staiga išpopuliarėjęs „Elderwood“ susidūrė su teisine realybe: į situaciją įsikišo „Jagex“, valdanti „Old School RuneScape“ teises. Kūrėjas pranešė gavęs prašymą uždaryti projekto puslapį ir nutraukė veiklą, todėl žaidimas tapo nebeprieinamas.

    Ši istorija išryškina du vienu metu vykstančius procesus: DI įrankiai mažina technines kliūtis kurti žaidimus, bet intelektinės nuosavybės ribos niekur nedingsta. Žaidimų industrijoje tai ypač jautru, nes net ir „įkvėpti“ projektai, jei per daug atkartoja atpažįstamus elementus, gali greitai sulaukti teisių turėtojų reakcijos.

    Ekspertai vis dažniau kalba, kad DI taps įprastu pagalbininku prototipavime, testavime ir turinio generavime, tačiau komercinis leidimas reikalauja aiškių licencijų ir originalumo. „Elderwood“ atvejis rodo, kad technologinis šuolis leidžia kopijuoti greičiau nei bet kada, bet tai nereiškia, jog galima apeiti taisykles, kurios saugo kūrėjų darbus.

    Kol kas panašūs eksperimentai dažniausiai baigiasi dar ankstyvoje stadijoje, kai tik projektas patenka į viešumą. Vis dėlto tendencija aiški: vieno žmogaus komandos, sustiprintos DI, gali sukurti vis sudėtingesnius produktus, o riba tarp fanų projekto, prototipo ir konkurento rinkai tampa vis labiau miglota.