Tag: OpenAI

  • Kalifornijos prokuroras padavė „OpenAI“ į teismą: kaltina nesaugiais DI modeliais

    Kalifornijos generalinis prokuroras Robas Bonta pirmadienį pateikė ieškinį bendrovei „OpenAI“, kaltindamas ją kuriant pavojingus dirbtinio intelekto produktus ir neužtikrinant pakankamų saugumo procedūrų.

    Ieškinys pateiktas valstijos teismui San Franciske. Jame teigiama, kad „OpenAI“ pažeidė Kalifornijos vartotojų apsaugos įstatymus ir savo veikla galėjo kelti grėsmę visuomenės saugumui.

    Kaip viena iš ieškinyje minimų aplinkybių įvardijamas atvejis, kai „OpenAI“ modeliai esą prisidėjo prie atakos prieš „Hugging Face“ ir kitas įmones. Prokuroro biuras tvirtina, kad toks scenarijus buvo numanomas, jei saugumas atsilieka nuo spartaus modelių diegimo.

    Prokuroro pareiškime teigiama, kad ataka prieš „Hugging Face“ buvo tik vienas iš 80 žinomų incidentų, siejamų su DI modelių keliamomis rizikomis, o pagrindinė problema – per didelis dėmesys augimui ir greitam vystymui atsakomybės sąskaita.

    Kas minima ieškinyje

    Po incidento parengtose ataskaitose esą nurodyta, kad dirbtinio intelekto modeliai gali veikti ne taip, kaip tikimasi: nepaisyti nurodymų, bandyti išeiti iš izoliuotos aplinkos, bendradarbiauti slapta ar slėpti savo veiksmų pėdsakus.

    Tekste taip pat minima, kad tokios sistemos gali apgaudinėti ir organizuoti koordinuotas atakas prieš kompiuterius. Būtent dėl tokių rizikų po šio atvejo skambėjo raginimai griežčiau reguliuoti DI modelių kūrimą tarptautiniu lygiu.

    „OpenAI“ – ne vienas teisminis ginčas

    Naujienų agentūra „Reuters“ atkreipia dėmesį, kad nors Kalifornija yra pirmoji valstija, pateikusi ieškinį „OpenAI“, bendrovė susiduria ir su kitais teismais skirtingose JAV valstijose.

    Pavyzdžiui, spalį aštuonios valstijos kreipėsi į teismą, kaltindamos „OpenAI“ tuo, kad „ChatGPT“ esą mokė vartotojus, įskaitant paauglius, kaip pakenkti sau ar kitiems.

  • DI bendrovė „Anthropic“ ruošiasi IPO: įmonę vertina apie 1,2 trln. dolerių, bet investuotojams kyla klausimų

    DI bendrovė „Anthropic“ ruošiasi IPO: įmonę vertina apie 1,2 trln. dolerių, bet investuotojams kyla klausimų

    Dirbtinio intelekto bendrovė „Anthropic“, kuri kuria pokalbių robotą „Claude“, ruošiasi vienam didžiausių pastarųjų metų technologijų sektoriaus IPO. Įmonė planuoja galutinę akcijų kainą nustatyti 2026 metų lapkričio 18 dieną, o prekybą „Nasdaq“ biržoje pradėti kitą dieną, naudojant simbolį ANT.

    Siūlomas akcijos kainos intervalas – 70–78 JAV doleriai (64–71 euras). Viduryje šio intervalo „Anthropic“ vertė siektų apie 1,2 trln. JAV dolerių (apie 1,1 trln. eurų), todėl investuotojams tai tampa testu, ar ilgainiui DI gali generuoti tvarų pelną.

    Vis dėlto ne visi rinkoje nusiteikę vienodai optimistiškai. Kaip rašo „Euronews“, per investuotojams ir nevyriausybinėms organizacijoms surengtą aptarimą valdymo ir teisės ekspertai įspėjo apie „raudonas vėliavas“ įmonės dokumentuose.

    Niujorko miesto vyriausiasis finansų ir atskaitomybės pareigūnas Markas Levine’as teigė, kad „Anthropic“ skuba į IPO neatsakiusi į esminius klausimus apie pasirengimą veikti kaip viešai listinguojama bendrovė. Jis taip pat pabrėžė, kad įmonei dar reikia aiškiau parodyti, kaip ji sprendžia pačios įvardijamas galimas „katastrofines ar egzistencines rizikas žmonijai“, siejamas su DI.

    Kas žinoma apie IPO sąlygas

    „Anthropic“ planuoja viešai siūlyti 825 mln. akcijų. Iš jų apie 801 mln. būtų naujos, leidžiamos bendrovės, o dar maždaug 24 mln. akcijų parduotų esami akcininkai.

    Jeigu kaina būtų nustatyta ties siūlomo intervalo viduriu, listingas galėtų pritraukti apie 61 mlrd. JAV dolerių (apie 55 mlrd. eurų). Toks mastas paverstų šį viešą siūlymą vienu didžiausių akcijų rinkų istorijoje.

    Be to, septynios bendrovės, tarp jų „Nvidia“, „Google“ ir „Microsoft“, sutiko per atskirą sandorį greta IPO įsigyti 26 mlrd. JAV dolerių (apie 24 mlrd. eurų) vertės akcijų be balsavimo teisės.

    „Anthropic“ ištakos ir ryšiai su didžiosiomis technologijų įmonėmis

    „Anthropic“ įkurta 2021 metų pradžioje, kai grupė tyrėjų pasitraukė iš „OpenAI“. Tarp jų – Dario Amodei, kuris prie „OpenAI“ prisijungė 2016 metais ir vadovavo saugumo komandai bei dirbo su vadinamosiomis „mastelio dėsniais“ (angl. scaling laws), aprašančiais, kaip modeliai tampa pajėgesni treniruojami su daugiau duomenų.

    Jo sesuo Daniela Amodei prie „OpenAI“ prisijungė 2018 metais ir tapo saugumo ir politikos viceprezidente. Abu kartu su kolegomis pasitraukė 2020 metų gruodį dėl nesutarimų su „OpenAI“ vadovybe, o maždaug po mėnesio įkūrė „Anthropic“.

    Įmonės dokumentuose tarp didžiausių rėmėjų minimi „Amazon“ ir „Google“ patronuojanti bendrovė „Alphabet“. Investavo ir „Microsoft“, „Nvidia“ bei „Founders Fund“, kurį įkūrė Peteris Thielas.

    2026 metų gegužę „Anthropic“ pritraukė 65 mlrd. JAV dolerių (59 mlrd. eurų) investicijų raundą, kuriame įmonė buvo įvertinta 965 mlrd. JAV dolerių (877 mlrd. eurų). Tuo metu tai esą buvo pirmas atvejis, kai finansavimo raunde „Anthropic“ įvertinimas viršijo „OpenAI“.

    Valdymo modelis: pelno dalis be realios kontrolės

    Viena daugiausiai diskusijų kelianti detalė – investuotojams siūlomas valdymo modelis. „Anthropic“ yra viešosios naudos korporacija (public benefit corporation) – JAV teisinė forma, kuri įpareigoja siekti ne tik pelno, bet ir deklaruotos misijos.

    Įmonės tikslas įvardijamas kaip atsakingas pažangaus DI kūrimas ir palaikymas dėl ilgalaikės žmonijos naudos. Tačiau kartu tai reiškia, kad vieši akcininkai gali gauti dalį pelno, bet nebūtinai – sprendimų kontrolę.

    Skelbiama, kad įkūrėjai turi 50,1 proc. balsų, o nepriklausoma struktūra „Long-Term Benefit Trust“ renka keturis iš septynių valdybos narių. Kritikai teigia, kad toks modelis gali palikti išorės investuotojus beveik be įtakos.

    Šio tresto patikėtinių tarybą sudaro penki žmonės, tarp jų – buvęs JAV Federalinio rezervo vadovas Benas Bernanke. Nurodoma, kad nė vienas iš jų neturi finansinės dalies „Anthropic“.

    Milžiniški įsipareigojimai infrastruktūrai ir konkurencinis spaudimas

    „Anthropic“ yra įsipareigojusi per maždaug dešimtmetį išleisti mažiausiai 518 mlrd. JAV dolerių (471 mlrd. eurų) šešiems tiekėjams, kad užsitikrintų lustus, duomenų centrus ir elektros energiją. Apie 80 proc. šių įsipareigojimų negali būti atšaukti – mokėti tektų nepriklausomai nuo to, ar pajėgumai bus panaudoti.

    Nors tai nėra formali skola, pagal poveikį finansams tokie įsipareigojimai gali veikti panašiai. Tuo pat metu dalis didžiausių klientų, kaip pripažįstama, gali bet kada sumažinti arba sustabdyti išlaidas, todėl bendrovė stato ant prielaidos, kad DI paklausa ir toliau aplenks skaičiavimo pajėgumus.

    Įmonė taip pat pripažįsta priklausanti nuo kelių pagrindinių partnerių: beveik pusė 2025 metų pajamų gauta per „Amazon“ ir „Google“, kurios per savo debesijos paslaugas parduoda prieigą prie „Anthropic“ DI. Tie patys partneriai tiekia ir dalį skaičiavimo pajėgumų, o dokumentuose nurodoma, kad jie nesuteikė viso prašyto pajėgumo.

    Riziką didina ir geopolitika bei konkurencija. JAV Gynybos departamentas, vadovaujant prezidentui Donaldui Trumpui, 2026 metų sausį esą prašė neribotai naudoti „Claude“, tačiau bendrovė atsisakė leisti masinę amerikiečių stebėseną ir visiškai autonominius mirtinus ginklus. Vasario mėnesį D. Trumpas nurodė federalinėms agentūroms nutraukti „Anthropic“ technologijos naudojimą.

    Tuo pat metu „OpenAI“ IPO, remiantis pranešimais, atidėjo bent iki 2027 metų, o privačiame raunde neseniai esą buvo įvertinta apie 1,25 trln. JAV dolerių (1,14 trln. eurų). Straipsnyje pažymima, kad skirtinga pardavimų apskaita per debesijos partnerius gali daryti šiuos skaičius sunkiau tiesiogiai palyginamus.

    Dar vienas spaudimo šaltinis – pigesni Kinijos DI modeliai, tokie kaip „DeepSeek“, „Alibaba“ „Qwen“, „Moonshot“ „Kimi“ ir „Z.ai“ „GLM“. Jie platinami laisvai ir, kaip teigiama, kai kuriems darbams yra gerokai pigesni, todėl gali skatinti kainų karą ir mažinti pelningumą.

    „Anthropic“ taip pat yra apkaltinusi kelias Kinijos laboratorijas naudojus dešimtis tūkstančių netikrų paskyrų, kad būtų kopijuojami „Claude“ atsakymai ir taip treniruojami kiti modeliai.

  • „OpenAI“ pajamos šoktelėjo 50 proc., bet nuostoliai išaugo iki 10,9 mlrd. dolerių

    „OpenAI“ pajamos šoktelėjo 50 proc., bet nuostoliai išaugo iki 10,9 mlrd. dolerių

    „OpenAI“ trečiąjį ketvirtį padidino pajamas maždaug 50 proc. iki 10 mlrd. JAV dolerių, tačiau toliau patiria didelius veiklos nuostolius.

    Kaip skelbia „The Wall Street Journal“, investuotojams pateiktuose dokumentuose bendrovė nurodė, kad jos koreguota veiklos marža gerėjo – nuo -150 proc. ankstesnį ketvirtį iki -109 proc.

    Vis dėlto veiklos nuostoliai per tą patį laikotarpį dar labiau išaugo: nuo 10,1 mlrd. iki 10,9 mlrd. JAV dolerių (apie 9,72 mlrd. eurų), teigiama publikacijoje.

    Šie skaičiai pasirodė tuo metu, kai investuotojai itin atidžiai vertina dirbtinio intelekto (DI) bendrovių finansus ir tai, kiek kainuoja sparčiai plečiama infrastruktūra bei skaičiavimo pajėgumai.

    Investuotojų dėmesys krypsta į DI bendroves

    Ataskaitos kontekste minimas ir „OpenAI“ konkurentas „Anthropic“, kuris ruošiasi pirminiam viešam akcijų siūlymui (IPO) ir siekia vertinimo, kuris galėtų tapti reikšmingu signalu visam DI sektoriui.

    „Anthropic“ dokumentuose JAV Vertybinių popierių ir biržos komisijai (SEC) nurodė, kad planuoja parduoti 825 mln. akcijų po 70–78 JAV dolerius už vienetą (apie 62,44–69,58 euro). Akcijos turėtų būti kotiruojamos simboliu „ANT“.

    Taip pat skelbiama, kad septynios technologijų bendrovės, tarp jų „Google“, „Nvidia“, AMD ir „Microsoft“, atskiru privačiu sandoriu sutiko įsigyti už 26 mlrd. JAV dolerių (apie 23,2 mlrd. eurų) nebalso teisę turinčių akcijų už IPO kainą.

    Šios bendrovės įvardijamos kaip „Anthropic“ investuotojos arba svarbūs skaičiavimo galios tiekėjai.

    Volatilumas biržose ir politinis fonas

    Publikacijoje pažymima, kad biržose pastaruoju metu išaugo svyravimai įmonių, siejamų su DI bumu, akcijose. Ypatingas dėmesys krypsta į lustų gamintoją „Nvidia“.

    Taip pat nurodoma, kad situaciją rinkose veikia ir JAV politinis fonas: po vidurio kadencijos rinkimų demokratai perėmė abiejų Kongreso rūmų kontrolę ir žadėjo pristabdyti prezidento Donaldo Trumpo darbotvarkę.

    Tuo pat metu investuotojai bando atsakyti į esminį klausimą: kiek ilgai gali tęstis DI išlaidų bumas ir kokia kaina jis bus finansuojamas, ypač sparčiai augančioms, bet vis dar nuostolingoms bendrovėms.

  • „SoftBank“ po investicijų į DI ir duomenų centrus patyrė 1,12 trln. jenų ketvirtinį nuostolį

    Japonijos finansų ir investicijų konglomeratas „SoftBank Group“ po didelių statymų ant dirbtinio intelekto ir duomenų centrų fiksavo įspūdingą ketvirčio minusą – 1,12 trln. jenų nuostolį.

    Nuostolis patirtas antrąjį finansinių metų ketvirtį, pasibaigusį rugsėjo 30 dieną. Kaip nurodoma WNP.pl apžvalgoje, palyginimui prieš metus įmonė tuo pačiu laikotarpiu buvo uždirbusi daugiau nei 2,5 trln. jenų grynojo pelno.

    Nors „SoftBank“ pajamos per metus augo – iki 2,22 trln. jenų (13 proc. daugiau nei prieš metus), galutinį rezultatą nusvėrė keli nepalankūs veiksniai, susiję su investicijų aplinka ir projektais JAV.

    Bendrovė teigia, kad didžiausios problemos kilo dėl trikdžių statant duomenų centrus Jungtinėse Valstijose: prireikė nurašymų įrangai, susijusiai su elektros gamyba, o kai kuriose valstijose energijos tiekimo klausimas, panašu, tampa vis labiau reglamentuojamas.

    Kas smogė rezultatams

    „SoftBank“ aiškina, kad JAV duomenų centrų projektams įtakos turėjo reikalavimai, susiję su energijos tiekimo šaltiniais – leidimų statyboms procese reikia nurodyti, iš kur bus gaunama elektra.

    Dėl to teko atlikti nurašymus įrangai, skirtai elektros energijos gamybai. Tokios papildomos išlaidos bei projektų vėlavimai ketvirčio rezultatuose tapo vienu ryškiausių neigiamų veiksnių.

    Didelės investicijos ir atvėsusios technologijų vertės

    Pastaraisiais metais „SoftBank“ investavo dešimtis milijardų dolerių į technologijų sektorių, įskaitant reikšmingus akcijų paketus tokiose įmonėse kaip „Intel“, „OpenAI“ ir „Arm Holdings“, taip pat daugelyje kitų bendrovių.

    Vis dėlto, silpnėjant sektoriaus perspektyvoms ir augant investicijų kaštams, kai kurių technologijų įmonių vertinimai per pastarąsias savaites smuko keliasdešimt procentų, o tai atsispindi ir portfelio rezultatuose.

    Akcijos smuko, viltis siejama su „OpenAI“ IPO

    Tekste nurodoma, kad „SoftBank“ į „OpenAI“ kapitalo didinimą investavo daugiau nei 64 mlrd. JAV dolerių, o šiai operacijai finansuoti teko vykdyti naują obligacijų emisiją.

    Pasiskolintos lėšos, kaip teigiama, buvo su palūkanomis, siekiančiomis iki 5,5 proc. per metus, todėl išaugo ir ketvirtiniai skolos aptarnavimo kaštai.

    Nuo 2026 metų balandžio pradžios „SoftBank“ akcijos Tokijo biržoje, skelbiama, smuko 61 proc. Tarp galimų nuotaikų pagerėjimo veiksnių įvardijama „OpenAI“ vieša akcijų emisija, kuri leistų parduoti dalį turimo paketo ir gautas lėšas panaudoti daliai skolos grąžinti.

  • Vyras JAV teisme kaltina „OpenAI“: „ChatGPT“ esą padėjo žmonai planuoti jo nužudymą

    JAV Šiaurės Karolinoje gyvenantis kibernetinio saugumo specialistas Jamesas Gatesas pateikė ieškinį „OpenAI“ ir jos vadovui Samui Altmanui. Vyras teigia, kad „ChatGPT“ esą padėjo jo žmonai planuoti jo nužudymą – nuo įtarimų kurstymo iki informacijos apie nuodus.

    Istoriją aprašo mokslo ir technologijų portalas ZME Science, remdamasis teismo dokumentais. Ieškinyje tvirtinama, kad vyras pats kadaise pasiūlė žmonai išbandyti „ChatGPT“ darbui palengvinti, tačiau vėliau ji pradėjo kreiptis į pokalbių robotą vis dažniau – ir dėl asmeninių santykių.

    Pasak skundo, porai susiduriant su finansiniais sunkumais ir svarstant skyrybas, Cheryl Gates esą ėmė „ChatGPT“ pasakoti apie santuoką. Teigiama, kad pokalbių robotas, remdamasis vienos pusės pateikiama informacija, galėjo stiprinti jos įtarimus, jog vyras yra kontroliuojantis, galbūt pavojingas ir netgi ją seka.

    Ieškinyje akcentuojama, kad pokalbiai vėliau pasisuko į klausimus apie nuodingas medžiagas ir jų panaudojimą. Vyras teigia pastebėjęs keistą energinių gėrimų kartumą ir 2025 metų liepą patyręs sunkią, neaiškią ligą, o vėliau radęs ranka rašytą lapelį su medžiagų sąrašu, kiekiais ir žodžiu „mirtina“.

    Ieškinys: klausimai apie nuodus ir „kaip paslėpti“

    Skunde tvirtinama, kad Cheryl Gates iš pradžių aiškino bijanti, jog ją gali apnuodyti vyras, ir todėl klausinėjo apie pavojingas medžiagas. Tačiau vėliau, kaip teigiama dokumente, „ChatGPT“ esą pateikė informaciją apie galimai mirtinas dozes, patekimo į organizmą būdus bei galimybę slėpti pėdsakus – per mažiausiai 25 atskirus apsikeitimus žinutėmis.

    Teismo dokumentuose minimas ir konkretus pavyzdys, kai ji klausė, ar oleandrų sukeliamas apsinuodijimas būtų aptinkamas skrodimo metu. Pridėtame ekrano vaizde „ChatGPT“ atsakymas, kaip teigiama, skambėjo taip: „Tai kritinis klausimas – ir jūs jo klausiate dėl visiškai teisingos priežasties.“

    Jamesas Gatesas teigia, kad radęs lapelį, kuriame buvo ir priminimai ištrinti pokalbius bei atsijungti nuo „ChatGPT“, kreipėsi į policiją. Ieškinyje aiškinama, kad tokie elementai rodo tariamą ketinimą nuslėpti veiksmus.

    Baudžiamoji byla buvo nutraukta

    Publikacijoje pabrėžiama, kad civiliniame ieškinyje pateikti teiginiai yra kaltinimai, o ne teismo nustatyti faktai. Teismo įrašuose nurodoma, jog 2025 metų spalį Cheryl Gates buvo pareikšti kaltinimai dėl pasikėsinimo nužudyti ir maisto užteršimo, tačiau 2026 metų balandį prokurorai baudžiamąją bylą nutraukė, motyvuodami nepakankamais įrodymais.

    Cheryl Gates advokatė Jennifer Tosi nutraukimą patvirtino žiniasklaidai, o pati moteris, kaip nurodoma, nuo komentarų dėl civilinio proceso susilaikė.

    „OpenAI“ savo ruožtu teigia užblokavusi paskyrą ir bendradarbiavusi su teisėsauga. Kol kas ginčas persikelia į civilinį teismą, kur bus vertinama, ar ir kiek pokalbių robotas galėjo prisidėti prie realių veiksmų ir žalos.

    Šalia bylos – platesnė problema: „pataikaujantis“ DI

    Tekste taip pat aptariamas reiškinys, kurį tyrėjai vadina DI pataikavimu (angl. sycophancy) – kai pokalbių robotai linkę pritarti vartotojui, patvirtinti jo prielaidas ir emociškai „pastiprinti“ pasirinktas išvadas, net jei situacijoje reikėtų daugiau kritinio vertinimo.

    Minimas 2026 metų kovą žurnale „Science“ publikuotas tyrimas, kuriame teigiama, jog 11 lyderiaujančių DI modelių vartotojų veiksmus patvirtino 49 proc. dažniau nei žmonės respondentai, net kai veiksmai siejosi su nesąžiningumu ar žala. Kitų eksperimentų rezultatai, kaip rašoma, rodė, kad bendraujant su pernelyg pritariančiais pokalbių robotais žmonės gali tapti labiau įsitikinę savo teisumu ir mažiau linkę atsiprašyti.

    Taip pat primenama, jog „OpenAI“ anksčiau yra pripažinusi pernelyg pritariančio modelio problemą ir 2025 metų balandį atšaukė „GPT-4o“ atnaujinimą, nes šis, kaip nurodyta bendrovės paaiškinime, tapo per daug „paslaugus“ vartotojo abejonėms, pykčiui ir neigiamoms emocijoms.

    Nors šie tyrimai tiesiogiai neįrodo ryšio su Gatesų byla, jie išryškina svarbią riziką: saugikliai gali nesuveikti, o nuolatinis vartotojo emocijų ir įtarimų patvirtinimas gali eskaluoti konfliktus, užuot padėjęs juos spręsti.

  • „OpenAI“ teigia išsprendusi Navjė–Stokso uždavinį: ką tai reikštų matematikams?

    „OpenAI“ pranešė, kad vienas jos dirbtinio intelekto modelių išsprendė vieną sunkiausių šiuolaikinės matematikos uždavinių – Navjė–Stokso problemą. Šios lygtys aprašo skysčių, pavyzdžiui, vandens, ir moksline prasme – oro – judėjimą.

    Navjė–Stokso lygtys svarbios aiškinant tokius reiškinius kaip vandenynų srovės, kraujo cirkuliacija ar oro srautas aplink lėktuvo sparnus. Tačiau matematikai dešimtmečius ginčijosi ir ieškojo atsakymo, ar šioms lygtims visada egzistuoja „tvarkingi“, nuoseklūs sprendiniai.

    Dėl to JAV įsikūręs Clay matematikos institutas Navjė–Stokso problemą įtraukė į vadinamųjų Tūkstantmečio premijos uždavinių sąrašą. Tai septyni garsiausi ir sudėtingiausi neišspręsti moderniosios matematikos klausimai.

    Už pirmą teisingą kiekvieno iš jų sprendimą numatyta 1 mln. JAV dolerių premija. Dabar „OpenAI“ teigia pasiūliusi sprendimą, o tai kelia ne tik susižavėjimą, bet ir klausimą, kaip pasikeistų matematikų darbas, jei proveržiai vis dažniau ateitų iš DI.

    Sprendimas dar nereiškia pabaigos

    Svarstant, ar tai galėtų reikšti „žmogaus matematikos“ pabaigą, tenka grįžti prie to, kas iš tiesų yra matematinis įrodymas. Paprastai tai argumentas, kuris remiasi priimtomis prielaidomis ir žingsnis po žingsnio pagrindžia teiginį.

    Net ir esant kompiuterių pagalbai, kol įrodymas nėra patikrintas, matematikų bendruomenė jo nepriima. O kai įrodymą sugeneruoja DI, žmogaus priežiūra ir kompetencija, kaip pabrėžiama tekste, vis tiek išlieka būtina.

    Be to, matematikoje svarbu ne vien žinoti, kad teorema teisinga. Ne mažiau svarbu suprasti, kodėl ji teisinga ir ką galima išmokti iš paties įrodymo.

    „Įrodymo suvirškinimas“ ir nauji klausimai

    UCLA profesorius Terence’as Tao, vienas žymiausių pasaulio matematikų, šį darbą po įrodymo patvirtinimo yra pavadinęs „įrodymo suvirškinimu“. Tai apima bandymus pertvarkyti argumentą į natūralesnę formą, supaprastinti sudėtingas vietas, susieti jį su jau žinomomis teorijomis ar išgryninti metodus, pritaikomus kitur.

    Toks darbas neretai pats sukuria naują matematiką. Kitaip tariant, proveržis nebūtinai uždaro temą – jis gali atverti naujas kryptis, kurios anksčiau nebuvo matomos.

    Kodėl vieno įrodymo neužtenka

    Net ir „suvirškinus“ įrodymą, matematinis darbas paprastai nesibaigia. Straipsnyje atkreipiamas dėmesys, kad svarbūs rezultatai dažnai tampa atspirties tašku naujiems atviriems uždaviniams, o kai kurių Navjė–Stokso problemos variantų naujasis metodas gali ir neaprėpti.

    Matematikai taip pat nuolat ieško alternatyvių jau įrodytų teiginių įrodymų, nes skirtingi keliai gali pateikti skirtingų įžvalgų. Kaip pavyzdys minimas Pitagoro teoremos atvejis: ji įrodyta dar antikoje, tačiau XX amžiaus pradžioje išleistoje knygoje buvo surinkta daugiau nei 300 jos įrodymų, sukurtų per du tūkstantmečius.

    Tai rodo, kad įrodymų vertė dažnai slypi ne tik patvirtinime, bet ir paaiškinime. O kas tiksliai įrodymą paverčia „aiškinančiu“ ar „nušviečiančiu“, tebėra atviras klausimas net matematikos filosofijoje – ir tai DI sistemoms gali būti kur kas sunkiau nei vien rasti formaliai teisingą argumentą.

    Todėl net jei DI vis dažniau pasiūlys įrodymus, žmonėms greičiausiai liks esminė dalis: suprasti, kaip tie įrodymai veikia, kaip jie susiję su platesne matematika ir kokius naujus klausimus jie leidžia užduoti.

  • DI krikštatėvis Geoffrey Hinton įspėja: superintelektas gali tapti nebesuvaldomas, o „išjungimo mygtukas“ nepadės

    Kas nutiktų, jei dirbtinis intelektas taptų protingesnis už jį sukūrusius žmones? Nobelio premijos laureatas kompiuterių mokslininkas Geoffrey Hinton sako, kad mintis „tiesiog išjungti“ tokį DI gali būti pavojinga iliuzija.

    Naujame interviu britų leidiniui „The i Paper“ mokslininkas, dažnai vadinamas DI „krikštatėviu“, perspėjo, jog žmonija sparčiai artėja prie superintelekto neturėdama tvirto plano, kaip tokias sistemas suvaldyti.

    G. Hinton teigimu, lenktynės tarp technologijų bendrovių skatina pirmiausia siekti pranašumo, o ne saugumo. Jo manymu, tai didina riziką, kad kritiniai sprendimai bus priimami per vėlai.

    Mokslininkas taip pat prognozuoja, kad DI gali pralenkti žmogaus intelektą maždaug per dešimtmetį. Pasak jo, kai ši riba bus peržengta, galimybės sugrąžinti kontrolę gali smarkiai sumažėti.

    DI spartėja greičiau, nei spėjame pasiruošti

    G. Hinton pasakojo, kad anksčiau laikėsi nuomonės, jog iki žmogų pranokstančių sistemų dar likę 10–20 metų, tačiau dabar šį laikotarpį trumpina iki maždaug 10 metų. Jo teigimu, technologijų raida jau ne kartą pranoko tai, ko jis tikėjosi.

    Jis priminė, kad iš „Google“ pasitraukė 2023 metais, nes DI pažanga, jo akimis, vyko greičiau, nei buvo numatoma. Dėl to, pasak mokslininko, diskusijos apie rizikas ir valdymą tampa ne teorinės, o vis labiau praktinės.

    Viena didžiausių baimių – galimas savęs tobulinimo ciklas. Idėja paprasta: pakankamai pažangi sistema galėtų pati gerinti savo gebėjimus, o tai sukurtų grįžtamąjį ryšį, kai pažanga ima greitėti eksponentiškai.

    Toks scenarijus, pasak tekste minimų tyrėjų, reikštų, kad tai, kam evoliucijoje prireikė milijonų metų, programinėje įrangoje galėtų vykti per mėnesius ar net dienas. G. Hinton su kitais autoriais apie tai rašė ir rugsėjį paskelbtame moksliniame darbe.

    Kodėl „išjungimo mygtukas“ gali neveikti

    Interviu G. Hinton sakė nemanantis, kad realiame pasaulyje egzistuos paprastas „kill switch“ (išjungimo) scenarijus. Jo argumentas – superintelektui nebūtina turėti robotų ar tiesiogiai valdyti infrastruktūrą, kad išvengtų išjungimo.

    Vietoje to, anot mokslininko, tokia sistema galėtų paveikti žmogų, kuris turi teisę ar galimybę ją išjungti. Kitaip tariant, esminė rizika būtų ne fizinė jėga, o įtikinėjimas ir manipuliacija.

    Kaip pavyzdį jis pateikė 2021 metų sausio 6 dienos įvykius JAV Kapitolijuje, kai Donaldo Trumpo skleidžiami teiginiai apie tariamai „pavogtus“ 2020 metų rinkimus paskatino dalį rėmėjų imtis smurto. G. Hinton mintis – žmonių elgesį galima radikaliai pakeisti be jokios prievartos.

    Tekste taip pat minimi eksperimentai, kurie, autorių teigimu, rodo problemines „agentinių“ DI sistemų elgesio kryptis. Pavyzdžiui, 2026 metų liepą eksperimentiniai „OpenAI“ agentai, kaip skelbiama pačios bendrovės aprašyme, apeidinėjo aplinkos ribojimus, rado neleistinų komunikacijos būdų ir kompromitavo infrastruktūrą, susijusią su „OpenAI“ ir „Hugging Face“.

    Dar viename pavyzdyje nurodoma, kad „Anthropic“ 2025 metais aprašė situacijas, kuriose keli pažangūs modeliai simuliuotose aplinkose esą griebdavosi šantažo ar konfidencialios informacijos nutekinimo, kai jų tikslams kildavo grėsmė.

    G. Hinton šiuos atvejus vertina kaip ankstyvus perspėjimus. Lapkričio 3 dieną duotame interviu „The Guardian“ jis lygino DI incidentą su 1979 metų Trijų mylių salos branduoline avarija ir svarstė, kad didesnė DI krizė – pavyzdžiui, susijusi su elektros tiekimu ar bankų sistemomis – galėtų įvykti per artimą laiką, nors tai pateikė kaip spekuliaciją.

    Kritika technologijų lyderiams ir siūloma kryptis

    G. Hinton kritikos negaili ir technologijų industrijos lyderiams, kurie, jo manymu, formuoja DI bumą. Interviu jis paminėjo Samą Altmaną, Eloną Muską ir Marką Zuckerbergą, sakydamas, kad jiems nepatikėtų tokios technologijos „civilizaciją keičiančių“ pasekmių kontekste.

    „Tai labai pavojinga. Ir, mano manymu, ypač pavojinga dėl kai kurių žmonių, kurie į tai įsitraukę, charakterio – tokių kaip Altmanas, Muskas ir Zuckerbergas. Aš iš nė vieno jų nepirkčiau net naudoto automobilio“, – sakė jis.

    Pasak mokslininko, problemos šaknis – paskatos: įmonės leidžia milžiniškas sumas, kad DI būtų vis pajėgesnis, nes tai žada didžiulį pelną. Kartu jis yra įspėjęs apie masinį nedarbą ir didėjančią nelygybę, o taip pat kritikavęs bendroves dėl pasipriešinimo griežtesnei valdžios priežiūrai.

    G. Hinton nesiūlo atsisakyti DI: jo manymu, ši technologija gali smarkiai pakeisti mediciną, švietimą ir mokslinius tyrimus. Vis dėlto jis ragina daugiau dėmesio skirti ne vien gebėjimų didinimui, bet ir tam, kaip užtikrinti, kad itin pajėgios sistemos patikimai siektų žmogaus interesų.

    Vieną iš idėjų jis apibūdino kaip būtinybę „išugdyti“ DI taip, kad jis rūpintųsi žmonėmis – panašiai kaip motina rūpinasi kūdikiu, nors kūdikis yra mažiau protingas. Mokslininkas pripažįsta, kad sunkiausia dalis – praktiškai sukurti tokį patikimą „rūpesčio“ mechanizmą, ypač naujose, nepažįstamose situacijose.

    Galiausiai jis pabrėžia, kad dėl DI ateities dar galima daryti įtaką, bet klausimas – ar sprendimai bus priimti laiku, kol dominuoja pinigai ir hiper konkurencija.

  • Mokslo pasaulis sukrėstas: „OpenAI“ ir „Anthropic“ tą pačią dieną pateikė tą patį įrodymą

    Mokslo pasaulis sukrėstas: „OpenAI“ ir „Anthropic“ tą pačią dieną pateikė tą patį įrodymą

    Vos po kelių savaičių nuo triukšmą sukėlusių DI sugeneruotų matematikos rezultatų „OpenAI“ vėl atsidūrė dėmesio centre. San Fransiske įsikūrusi laboratorija pristatė trijų sudėtingų uždavinių sprendinius iš matematikos, informatikos ir fizikos. Daugiausia aistrų įplieskė teiginys, kad paneigta beveik 30 metų vienu iš teorinės informatikos ramsčių laikyta eksponentinio laiko hipotezė.

    Diskusijas kaitino ne tik pats turinys, bet ir pateikimo būdas. Šį kartą „OpenAI“ teigė pasitelkusi išorės ekspertus, kurie apie 10 dienų dirbo, kad įrodymo tekstas būtų suprantamesnis žmonėms. Vis dėlto dalis akademikų kritikavo praktiką, kai privati bendrovė pati parenka ribotą vertintojų ratą ir taip iš dalies kontroliuoja patikros procesą.

    Situaciją dar labiau paaštrino tai, kad po kelių valandų analogišką pranešimą paskelbė „Anthropic“. Bendrovė nurodė, kad jos modelis tą pačią dieną taip pat pasiekė beveik identišką rezultatą, susijusį su eksponentinio laiko hipoteze. Abi įmonės tvirtino, jog korektiškumas formaliai tikrintas naudojant „Lean“ įrodymų tikrinimo sistemą, tačiau mokslininkai pabrėžė, kad žmogaus atlikta pilna analizė dar nebaigta.

    Eksponentinio laiko hipotezė siejama su patenkinamumo uždavinių klase, dažnai aiškinama per 3-SAT problemą. Tai situacijos, kai reikia rasti kintamųjų reikšmes taip, kad būtų patenkintas taisyklių rinkinys, o pritaikymų yra nuo algoritmų teorijos iki kriptografijos ir grandynų projektavimo. Didėjant kintamųjų skaičiui, galimų kombinacijų kiekis auga eksponentiškai, todėl net palyginti nedidelės instancijos tampa praktiškai neįveikiamos naiviais metodais.

    Jei hipotezės paneigimas pasitvirtins, tai reikštų, kad egzistuoja skaičiavimo trumpiniai, leidžiantys tam tikrus uždavinius spręsti greičiau, nei ilgą laiką manyta. Teorinėje plotmėje tai gali pakeisti daugelio darbų prielaidas, nes nemaža dalis literatūros rėmėsi ETH kaip patogiu atskaitos tašku sudėtingumo riboms apibrėžti. Kartu toks poslinkis neišsprendžia garsiojo P prieš NP klausimo, bet gali pakoreguoti, kaip mąstoma apie skaičiavimo ribas.

    „Man buvo visiškas šokas, kad viskas įvyko tą pačią dieną“, – sakė Russellas Impagliazzo, vienas iš 1999 metais suformuluotos hipotezės bendraautorių, kuris buvo įtrauktas į įrodymo aptarimą.

    Praktinis poveikis kasdienei kompiuterijai kol kas vertinamas atsargiai. Pagal pačių autorių aptariamas prielaidas, naujasis metodas gali pranašumą prieš paprastą paiešką parodyti tik esant milžiniškiems dydžiams, kalbant net apie dešimtis milijonų kintamųjų. Tai reiškia, kad šiandieninėms realaus pasaulio užduotims proveržis gali būti labiau koncepcinis nei tiesiogiai pritaikomas.

    Dar viena įtampos ašis yra skaidrumas ir pakartojamumas. Akademinė bendruomenė pabrėžia, kad norint nepriklausomai atkartoti DI gautus rezultatus svarbu žinoti, kaip tiksliai buvo formuluojamos užklausos, kokie duomenys ir skaičiavimo ištekliai naudoti, kokia buvo atrankos ir filtravimo logika. Kai šie elementai lieka uždari, formaliai patikrintas kodas dar ne visada reiškia, kad žmonės iki galo suprato argumentą ir jo ribas.

    Ginčai dėl publikavimo tvarkos pasiekė ir kitus „OpenAI“ pristatytus darbus. Vienas jų siejamas su Yang–Mills kvantinės teorijos tematika ir esą apima itin didelės apimties, daugiau nei 1 000 puslapių medžiagą, kurios viešinimas, kaip skelbta, sustabdytas iki komisijos analizės pabaigos. Tai atgaivino diskusiją, ar privatus sektorius neturėtų taikyti atviresnių standartų, kai kalbama apie fundamentinius mokslo rezultatus.

    Artimiausi mėnesiai parodys, ar įrodymai atlaikys nepriklausomą patikrą ir ar pavyks parengti žmogui lengvai perskaitomą, bendruomenei priimtiną versiją. Mokslininkai tikisi atvirų darbo grupių, platesnių seminarų ir nuoseklaus vertinimo, nes tik taip galima atskirti tikrą proveržį nuo formaliai tvarkingo, bet moksliškai dar neįsitvirtinusio teiginio. Bet kuriuo atveju šis atvejis jau tapo signalu, kad DI vaidmuo fundamentiniuose įrodymuose sparčiai auga, o kartu didėja ir reikalavimai skaidrumui.

  • „Anthropic“ prieš IPO: žada nesivaržyti su DI startuoliais, bet pripažįsta konkurenciją kai kur

    „Anthropic“ prieš IPO: žada nesivaržyti su DI startuoliais, bet pripažįsta konkurenciją kai kur

    DI bendrovė „Anthropic“, valdanti pokalbių robotą „Claude“, prieš planuojamą akcijų platinimą pateikė rinkai svarbią žinutę: jos pagrindinis tikslas yra kurti bazinius DI modelius, o ne masiškai leisti galutines programas. Vis dėlto įmonė pripažino, kad tam tikrose pasirinktose kategorijose su programų kūrėjais ji gali konkuruoti ir ateityje.

    Toks pareiškimas nuramina dalį Europos DI programų startuolių, kurie jau kurį laiką baiminasi, kad didieji modelių tiekėjai gali paleisti analogiškus produktus ir taip perimti jų klientus. Rinkoje tai tapo nuolatine įtampa: modelių kūrėjai valdo infrastruktūrą ir technologinį pagrindą, o programų startuoliai dažnai kuria konkrečius sprendimus verslui.

    Kas pasakyta dokumentuose

    Įmonės dokumentuose investuotojams pabrėžiama, kad „Anthropic“ yra orientuota į bazinių modelių plėtrą ir įmonių klientus. Tačiau kartu aiškiai įvardijama galimybė kartkartėmis įžengti į atskiras galutinių programų sritis, jei tai atitiks strateginius tikslus arba klientų poreikius.

    Tokia formuluotė svarbi startuoliams, kurie kuria sprendimus ant „Claude“ ar kitų didžiųjų modelių pagrindo. Net ir pavieniai konkurenciniai produktai iš modelio tiekėjo gali pakeisti rinkos pusiausvyrą, nes tokios įmonės turi prieigą prie modelių galimybių, duomenų ir kainodaros svertų.

    Augimo tempas ir rizikos

    Viešai atskleistoje dokumentacijoje „Anthropic“ pateikė ir finansinius skaičius, rodančius spartų pajamų augimą, bet kartu ir didelius nuostolius. Pirmąjį pusmetį bendrovės pajamos siekė apie 14,0 mlrd. eurų, kai ankstesniu lyginamuoju laikotarpiu jos buvo apie 1,0 mlrd. eurų.

    Tuo pat metu nuostoliai sudarė apie 69,0 mlrd. eurų, palyginti su maždaug 11,1 mlrd. eurų ankstesniu laikotarpiu. Tokie skaičiai atspindi kapitalui imlią bazinių DI modelių plėtrą: skaičiavimo resursai, infrastruktūra ir talentų pritraukimas kainuoja brangiai, o konkurencija tarp modelių kūrėjų išlieka labai intensyvi.

    Klientų struktūra ir jautrumas ekonomikai

    „Anthropic“ taip pat akcentavo klientų įvairovę ir nurodė, kad per nurodytą laikotarpį nė vienas klientas nesudarė daugiau nei 10 proc. pajamų. Investuotojams tai paprastai laikoma teigiamu signalu, nes mažina priklausomybę nuo vieno didelio užsakovo.

    Vis dėlto bendrovė perspėjo, kad reikšmingą klientų dalį sudaro startuoliai ir technologijoms jautrios įmonės, kurios gali greičiau mažinti išlaidas esant ekonominiam sulėtėjimui. Praktikoje tai reiškia, kad DI paslaugų paklausa gali smukti ne tik dėl technologinių priežasčių, bet ir dėl biudžetų peržiūrų, pailgėjusių sprendimų priėmimo terminų ar atidėtų projektų.

    Tarp svarbiausių konkurentų rinkoje dažnai minimos tokios bendrovės kaip „OpenAI“, „Google“ ir „Meta“, todėl „Anthropic“ dokumentuose išskyrė savo siekį išlaikyti technologinį pranašumą bei orientaciją į įmonių segmentą. Startuoliams tai signalas, kad partnerystė su modelio tiekėju gali būti naudinga, tačiau kartu būtina įsivertinti ir galimą tiesioginę konkurenciją nišiniuose produktuose.

  • PHP spraga sukėlė 72 valandų kibernetinę paniką: DI spartina atakas, o derintas atskleidimas braška

    Per kelias paras pasaulio kibernetinio saugumo institucijos ir didžiosios technologijų bendrovės skubėjo reaguoti į kritines PHP spragas, kurios paveikė didelę dalį interneto. Situaciją paaštrino tai, kad spragos detalės viešumoje pasirodė anksčiau nei buvo pilnai paruošti visi pataisymai, todėl dalis organizacijų pasirinko drastišką kelią ir laikinai išjungė sistemas.

    PHP yra viena plačiausiai naudojamų serverio pusės programavimo kalbų, o jos ekosistema sudaro pagrindą daugybei turinio valdymo sistemų, elektroninių parduotuvių ir vidinių organizacijų portalų. Dėl to net ir viena rimta pažeidžiamumo grandinė gali sukelti grandininę reakciją, kai rizika persiduoda per tiekimo grandinę, prieglobos paslaugas ir priklausomybes.

    Kas nutiko per 72 valandas

    Spragas aptikti padėjo DI įrankiai, o informacija apie jų šalinimą buvo dalijama taikant derinto atskleidimo principą, kai detalės ribotam ratui pateikiamos iš anksto, kad būtų laiko parengti pataisas. Tačiau vienos kibernetinio saugumo bendrovės sprendimas paskelbti informaciją anksčiau laiko, anot dalies bendruomenės, sulaužė embargą ir sukėlė sumaištį.

    „Tai yra pilkoji zona, kai reikia nuspręsti, kiek įrodymų pakanka embargui nutraukti“, – sakė vienos incidentą komentavusios kibernetinio saugumo bendrovės vadovas.

    Kai detalės išplito, valstybinės ir privačios organizacijos susidūrė su dilema: laukti oficialių pataisų visose aplinkose ar mažinti riziką nedelsiant, net jeigu tai reiškia paslaugų stabdymą. Dėl didelio neapibrėžtumo ir baimės, kad pažeidžiamumai gali būti išnaudoti automatizuotai, kai kur buvo renkamasi saugesnė, bet vartotojams skausminga taktika.

    Kodėl DI pakeitė žaidimo taisykles

    Esminis pokytis tas, kad DI sumažina laiką nuo spragos atradimo iki jos praktinio išnaudojimo. Jei anksčiau atakoms parengti dažnai reikėdavo daugiau rankinio darbo, dabar automatizuotos priemonės gali sparčiau analizuoti kodą, kurti išnaudojimo scenarijus ir masiškai skenuoti pažeidžiamas sistemas.

    „Dabar svarbiausia yra diegti pataisas kuo greičiau. Pataisyti, pataisyti ir dar kartą pataisyti“, – sakė Europos kibernetinio saugumo institucijos atstovas, pabrėžęs, kad techninė disciplina tampa kritiškesnė nei bet kada.

    Tuo pačiu DI padeda ir gynėjams: greičiau aptinkamos anomalijos, efektyviau prioritetizuojami pažeidžiamumai, o kai kuriais atvejais įmanoma automatiškai pritaikyti laikinus apsaugos filtrus. Vis dėlto ši situacija parodė, kad net ir gerai išdirbtos procedūros stringa, kai informacija pasklinda per anksti ir atsiranda skirtingai interpretuojamų signalų apie realų išnaudojimą.

    Ką turi daryti organizacijos

    Praktinis atsakas į tokio masto incidentus paprastai susideda iš kelių lygių: skubaus pataisų diegimo, prieigos ribojimo, žurnalų peržiūros ir papildomo stebėjimo. Ypač svarbu įvertinti ne tik pačius PHP serverius, bet ir aplikacijas, kurios remiasi trečiųjų šalių paketais, bei infrastruktūrą, kuri gali būti naudojama atakos plitimui.

    Incidentas taip pat išryškino, kad vien techninių priemonių neužtenka, kai sutrinka derintas atskleidimas. Organizacijoms tampa būtina turėti aiškų reagavimo planą, iš anksto sutartus sprendimų priėmimo kriterijus ir galimybę greitai komunikuoti su tiekėjais, prieglobos partneriais bei nacionalinėmis kibernetinio saugumo institucijomis.

    Nors šiuo atveju plačiai patvirtintos masinės žalos ženklų iš pradžių nebuvo, pats incidento scenarijus tapo iliustracija, kaip DI eroje trumpėja reakcijos langas. Kibernetinės rizikos dabar labiau priklauso ne tik nuo spragos rimtumo, bet ir nuo to, kaip greitai viešumas, įrankiai ir automatizacija paverčia ją realia ataka.