Tag: Reguliavimas

  • Nigerijos centrinis bankas įveda licencijas stabiliosioms kriptovaliutoms ir uždraudžia algoritmines

    Nigerijos centrinis bankas įveda licencijas stabiliosioms kriptovaliutoms ir uždraudžia algoritmines

    Nigerijos centrinis bankas (CBN) įveda naujas licencijavimo taisykles stabiliųjų kriptovaliutų (stablecoin) leidėjams ir uždraudžia algoritmines jų versijas. Reguliavimas įsigaliojo lapkričio 5 dieną.

    Taisyklės taikomos ne tik veiklai, vykdomai Nigerijoje, bet ir paslaugoms, kurios nukreiptos į Nigerijos vartotojus ar gali paveikti šalies finansų sistemą. Tai reiškia, kad reikalavimai gali būti aktualūs ir įmonėms, neturinčioms fizinio padalinio šalyje.

    Pagal naują sistemą nustatomos atskiros licencijų kategorijos stabilioms kriptovaliutoms, susietoms su naira, ir toms, kurios susietos su užsienio valiuta. Be licencijos, leidėjai taip pat privalės gauti atskirą rašytinį leidimą kiekvienam planuojamam žetonui.

    CBN nurodo, kad siekiama aiškiau prižiūrėti skaitmeninį turtą, naudojamą mokėjimams, pervedimams, pinigų perlaidoms, valiutų keitimui ir atsiskaitymui. Tuo pat metu kapitalo rinkų ir vertybinių popierių srities priežiūra lieka Nigerijos Vertybinių popierių ir biržų komisijai.

    Kaip bus licencijuojami stablecoin leidėjai

    Reglamentas numato, kad užsienio valiuta paremti stablecoin Nigerijos vartotojams gali būti siūlomi tik kaip 2 klasės žetonai. Juos turės leisti Nigerijoje įregistruotas juridinis asmuo, turintis užsienio valiutos leidėjo licenciją.

    Taip pat įtvirtinama pareiga gauti rašytinį CBN pritarimą kiekvienam žetonui, prieš pradedant jo leidimą. Prašyme, be kita ko, turės būti nurodoma žetono klasifikacija, atskaitos valiuta, rezervo (užtikrinimo) mechanizmas, pavadinimas, žymuo (ticker) ir palaikomi blokų grandinės tinklai.

    Daugiau reikalavimų dėl pinigų plovimo prevencijos

    Naujasis reguliavimas taip pat akcentuoja pinigų plovimo ir teroristų finansavimo prevencijos reikalavimus. Įmonės turės taikyti klientų pažinimo procedūras, sankcijų patikrą, operacijų stebėseną ir laikytis vadinamosios „Travel Rule“ taisyklės.

    Reikalavimai apima įvairius kanalus, įskaitant saugomų (custodial) piniginių paslaugas, tarpusavio (P2P) paslaugas ir pinigų perlaidų schemas. Praktikoje tai reiškia griežtesnę kontrolę, kai virtualus turtas naudojamas pervedimams ar atsiskaitymams.

    Algoritminiai stablecoin – uždrausti

    Taisyklėse aiškiai įvardijama, kad algoritminiai stablecoin Nigerijoje draudžiami. CBN pažymi, jog draudimas taikomas žetonams, kurių vertė palaikoma daugiausia rinkos dinamikos mechanizmais, o ne tinkamu rezervo turtu.

    Be to, reglamentas numato pereinamąjį laikotarpį: jau veikiantys rinkos dalyviai per 180 dienų turės kreiptis dėl reikiamos licencijos ar autorizacijos, laikydamiesi pereinamojo laikotarpio reikalavimų.

  • Nuo šiol galima skųsti dirbtinis intelektas sistemas: Lenkijoje startavo kontrolės, gresia baudos

    Nuo šios savaitės Lenkijoje pradėjo veikti dalis nacionalinių taisyklių, leidžiančių Komisijai dirbtinio intelekto plėtros ir saugumo srityje prižiūrėti rinką, atlikti patikras ir pradėti tyrimus dėl dirbtinis intelektas sistemų naudojimo. Gyventojai ir organizacijos taip pat gali teikti skundus dėl netinkamo dirbtinis intelektas sistemų veikimo.

    Šie įgaliojimai siejami su Europos Sąjungos Dirbtinio intelekto aktu, kuris palaipsniui įsigalioja visoje Bendrijoje. Nacionalinės institucijos tampa pagrindiniu kontaktu, kai kyla įtarimų, kad dirbtinis intelektas sprendimai kelia riziką saugumui, pažeidžia teises ar neatitinka nustatytų reikalavimų.

    Kaip veiks skundai ir patikros?

    Skundai gali būti teikiami dėl įvairių situacijų, kai dirbtinis intelektas sistema, pareiškėjo vertinimu, veikė netinkamai ir sukėlė realią žalą arba riziką. Tai gali apimti sprendimus, kurie paveikė žmogaus teises, saugumą ar lėmė klaidingą automatizuotą išvadą.

    Jeigu komisija nustatytų, kad konkretus sprendimas kelia tiesioginę grėsmę gyvybei, sveikatai, saugumui ar pagrindinėms teisėms, ji gali įpareigoti operatorių sustabdyti tokios sistemos naudojimą. Kraštutiniais atvejais gali būti reikalaujama sistemą išimti iš rinkos arba nutraukti jos eksploatavimą.

    Komisijai suteikta teisė atlikti patikras ir pradėti administracines procedūras dėl įmonių ar institucijų, kurios, įtariama, pažeidžia reikalavimus. Kartu numatyta galimybė sušvelninti sankcijas, jei subjektas pats praneša apie problemą ir bendradarbiauja su priežiūros institucija.

    Mokamos konsultacijos ir terminai

    Verslas ir viešasis sektorius Lenkijoje gali kreiptis dėl individualios nuomonės, kaip konkrečioje situacijoje taikyti taisykles. Už tokį prašymą nustatytas 35 eurų mokestis, o įprastas atsakymo terminas siekia iki 30 dienų.

    Sudėtingesniais atvejais terminas gali būti pratęstas iki 60 dienų. Jei institucija per nustatytą laiką nepateiktų atsakymo, galiotų principas, kad pareiškėjo pozicija laikoma teisinga tiek, kiek ji atitinka prašyme aprašytas aplinkybes.

    Be individualių nuomonių, komisija gali teikti ir bendresnius išaiškinimus, siekiant vienodesnio taisyklių taikymo. Rengiant tokius paaiškinimus atsižvelgiama į Europos Komisijos ir Europos dirbtinio intelekto valdybos gaires bei rekomendacijas.

    ES Dirbtinio intelekto akto įsigaliojimas

    ES Dirbtinio intelekto aktas įsigaliojo 2024 metų rugpjūčio 1 dieną, tačiau jo reikalavimai taikomi etapais. 2025 metų vasarį pradėtos taikyti nuostatos, susijusios su ES draudžiamomis dirbtinis intelektas praktikomis.

    ES valstybės narės iki 2025 metų rugpjūčio 2 dienos turėjo paskirti rinkos priežiūros institucijas, kurios vykdytų kontrolę ir užtikrintų taisyklių laikymąsi. Vėlesniais etapais numatomi papildomi įpareigojimai, įskaitant kai kurių dirbtinis intelektas turiniu pagrįstų sprendimų žymėjimą, o aukštos rizikos sistemoms taikomi reikalavimai turėtų įsibėgėti iki 2027–2028 metų.

    Lenkijoje priežiūros modelis kuriamas taip, kad vienoje institucijoje būtų sukoncentruotos skundų nagrinėjimo, tikrinimo ir konsultavimo funkcijos. Tokia schema, tikėtina, taps praktiniu atskaitos tašku ir kitoms ES šalims, kurios diegia analogiškus kontrolės mechanizmus.

  • „Anthropic“ IPO dokumentai atskleidė milžiniškas pajamas ir nuostolius: įspėja apie DI grėsmes

    „Anthropic“ IPO dokumentai atskleidė milžiniškas pajamas ir nuostolius: įspėja apie DI grėsmes

    JAV dirbtinio intelekto bendrovė „Anthropic“ pateikė pirminio viešo akcijų platinimo dokumentus ir pirmą kartą plačiau atvėrė savo finansų vaizdą. Juose įmonė pabrėžia sparčiai augančias pajamas, bet kartu pripažįsta itin dideles sąnaudas ir reikšmingus nuostolius.

    Planuojamas IPO gali tapti svarbiu signalu visam DI sektoriui: investuotojai vertins ne tik augimo tempą, bet ir tai, ar tokio masto produktų kūrimas gali tapti pelningas. Pastaraisiais metais DI rinka auga, tačiau ją lydi diskusijos dėl reguliavimo, duomenų naudojimo ir saugumo.

    Finansiniai skaičiai ir IPO lūkesčiai

    Pagal pateiktus duomenis, „Anthropic“ grynieji nuostoliai 2026 metų pirmąjį pusmetį siekė apie 69,6 milijardo eurų, o pajamos išaugo iki maždaug 14,1 milijardo eurų. Tokia dinamika rodo didelę paklausą, tačiau ir milžiniškas investicijas į skaičiavimo infrastruktūrą, modelių mokymą bei talentų pritraukimą.

    Rinkoje taip pat aptariami itin ambicingi bendrovės vertės ir galimo pritraukiamo kapitalo scenarijai. Skelbiama, kad IPO galėtų atnešti iki maždaug 86,6 milijardo eurų, o „Anthropic“ vertinimas teoriškai galėtų siekti apie 1,3 trilijono eurų, nors tokie skaičiai priklausytų nuo rinkos sąlygų ir galutinės paklausos.

    Įspėjimai dėl DI rizikų

    Dokumentuose „Anthropic“ akcentuoja, kad DI gali tapti viena reikšmingiausių technologijų žmonijos istorijoje, jei bus diegiamas atsakingai. Bendrovė teigia, kad tokia technologija galėtų paspartinti mokslines inovacijas, didinti ekonomikos augimo tempus ir priartinti sudėtingų ligų gydymo proveržius.

    „Jei technologija nebus kuriama, diegiama ir valdoma su tinkamomis apsaugomis, priežiūra ir saugumo priemonėmis, ji gali kelti katastrofišką ar net egzistencinę riziką žmonijai“, – teigiama „Anthropic“ dokumentuose.

    Įmonė taip pat pripažįsta, kad politinė aplinka ir viešos pozicijos dėl DI saugos bei reguliavimo gali lemti didesnį priežiūros institucijų dėmesį, politinę reakciją ar griežtesnius reikalavimus. Tai atspindi platesnę tendenciją, kai DI plėtra vis dažniau vertinama ne tik kaip technologinis, bet ir kaip nacionalinio saugumo bei visuomenės rizikų klausimas.

    Kritika ir klausimai dėl skaidrumo

    IPO dokumentai sulaukė ir kritikos iš DI industrijos skeptikų, kurie atkreipė dėmesį į tai, kokius laikotarpius bendrovė pasirinko atskleisti. Kritikai tvirtina, kad investuotojams svarbu matyti nuoseklų vaizdą, ypač kai sektoriuje pajamų svyravimai gali būti dideli.

    „Tai, kad neatskleisti kai kurie rodikliai, kelia klausimų dėl skaidrumo, ypač įmonei, kuri viešai pabrėžia pasitikėjimo ir saugos svarbą“, – sakė kritiškai DI industriją vertinantis Niujorko universiteto profesorius emeritas Gary Marcus.

    „Anthropic“, kuri kuria DI modelį „Claude“, IPO kontekste atsiduria dėmesio centre kaip vienas ryškiausių sektoriaus žaidėjų. Rinkai tai gali tapti testu, ar investuotojai ir toliau bus pasirengę mokėti už sparčiai augantį, bet brangiai kainuojantį DI verslą, kuriame reguliavimo kryptis ir visuomenės lūkesčiai keičiasi itin greitai.

  • „Microsoft“ vadovas įspėja: DI šiandien reguliuojamas silpniau nei pienas ar buitinė technika

    „Microsoft“ prezidentas Bradas Smithas perspėja, kad dirbtinis intelektas (DI) daugelyje pasaulio valstybių vis dar prižiūrimas ir reguliuojamas gerokai silpniau nei kasdieniai vartojimo produktai ar buitinė technika. Jo teigimu, situacija paradoksali: prekėms ir įrenginiams taikomos aiškios saugos taisyklės, o sparčiausiai besivystančioms DI sistemoms dažnai jų trūksta.

    Pasak B. Smitho, dabartinė rinkos dinamika reiškia, kad DI diegiamas greičiau, nei susiformuoja visuotinai pripažinti saugumo standartai. Tai kelia riziką vartotojams ir verslui, nes klaidos ar piktnaudžiavimas gali turėti platesnių pasekmių nei įprastų produktų brokas.

    Ko prašo „Microsoft“

    „Microsoft“ vadovas ragina kurti globalias DI saugos taisykles, kurios veiktų panašiai kaip kiti tarptautiniai techniniai standartai. Jo vertinimu, vien savireguliacijos nepakanka, ypač kai DI sprendimai pradedami naudoti sveikatos, švietimo, finansų, infrastruktūros ir viešojo saugumo srityse.

    „Šiandien jūsų skalbyklė turi daugiau saugos reikalavimų nei dirbtinis intelektas, o pieno pakelis parduotuvėje praeina griežtesnę kontrolę“, – sakė Bradas Smithas.

    Vienas konkrečių siūlymų – vadinamieji avariniai stabdžiai, leidžiantys sustabdyti arba sulėtinti DI sistemos veikimą, jei ji ima veikti neprognozuojamai. Tokios priemonės, pasak jo, turėtų būti numatytos dar kūrimo etape, o ne paliekamos spręsti po incidentų.

    Atsakomybė, incidentų ataskaitos ir nepriklausoma priežiūra

    B. Smithas taip pat akcentuoja teisinę pareigą fiksuoti ir skelbti incidentus, kai DI sukelia žalą ar veikia kitaip, nei numatyta. Tokie pranešimai, jo nuomone, turėtų apimti ne tik technines klaidas, bet ir atvejus, kai žmonės nukenčia dėl neteisingų automatizuotų sprendimų.

    Kitas elementas – nepriklausomas vertinimas. Pasak „Microsoft“ prezidento, nauji DI sprendimai turėtų būti tikrinami ne vien pačių kūrėjų, bet ir nepriklausomų ekspertų, įskaitant valstybės institucijų specialistus, kad būtų mažinama interesų konflikto rizika.

    Viešojoje erdvėje vis dažniau susiduria dvi kryptys: vieni ragina kuo greičiau įtvirtinti griežtesnę DI priežiūrą, kiti baiminasi, kad per didelė reguliacinė našta pristabdys inovacijas ir susilpnins konkurencingumą, ypač JAV ir Kinijos technologijų varžybų kontekste.

    Kodėl išskiriama Jungtinė Karalystė

    Kalbėdamas apie tarptautinę lyderystę DI saugos srityje, B. Smithas išskyrė Jungtinę Karalystę. Jo teigimu, šalis yra gerai pasirengusi telkti bendras taisykles, nes joje veikia DI saugai skirta institucija, sukurta ankstesnės vyriausybės iniciatyva.

    Reguliavimo klausimai pastaruoju metu aštrėja ir dėl pačios pramonės signalų: dalis DI kūrėjų ir tyrėjų atvirai kalba apie didėjančias rizikas, susijusias su klaidinančiu turiniu, kibernetinėmis atakomis, automatizuotu sukčiavimu ir sprendimų, darančių poveikį žmonėms, nepaaiškinamumu.

    Ekspertai pabrėžia, kad efektyviausios taisyklės paprastai remiasi rizikos lygiu: griežčiausia priežiūra taikoma ten, kur DI gali daryti didelę žalą, o mažesnės rizikos taikymams numatomi lankstesni reikalavimai. Būtent toks principas vis dažniau minimas kaip kompromisas tarp inovacijų ir saugumo.

  • „Cori Clinical“ pritraukė 3,7 mln. eurų: DI platforma žada greitinti klinikinių tyrimų planavimą

    „Cori Clinical“ pritraukė 3,7 mln. eurų: DI platforma žada greitinti klinikinių tyrimų planavimą

    „Cori Clinical“, kurianti dirbtinio intelekto platformą klinikiniams tyrimams, pritraukė 3,7 mln. eurų pradinės stadijos investiciją. Finansavimo raundui vadovavo investicijų fondas „Breega“, prisijungė „Enzo“, „Heartfelt“, „Together Ventures“ ir „Bynd“.

    Bendrovė siekia spręsti vieną didžiausių klinikinių tyrimų problemų: išskaidytą planavimo procesą ir tarpusavyje nesusietus informacijos šaltinius. Praktikoje protokolo rengimas, suderinimai ir dokumentacija dažnai remiasi skirtingų komandų patirtimi, atskirais failais bei vidinėmis sistemomis.

    „Cori Clinical“ įkurta vadovo Jorn Jansen Schoonhoven ir technologijų vadovo Patricio Fernández. Jų kuriama darbo aplinka sujungia organizacijos ankstesnių tyrimų žinias su išoriniais šaltiniais, įskaitant tyrimų registrus, reguliavimo gaires ir viešus duomenis.

    Platforma skirta padėti klinikinėms komandoms nuo pirminio tyrimo aprašo pereiti iki pilno protokolo, pateikimo paketo ir operacinių planų, atsižvelgiant į naujausias reguliavimo rekomendacijas. Užuot automatizavusi tik vieną dokumentą ar žingsnį, sistema siekia sujungti sprendimus dėl dizaino, terminų, biudžeto ir rizikų į vieną nuolat atnaujinamą planą.

    Įmonės teigimu, vidinis modeliavimas rodo, kad toks požiūris galėtų sumažinti vidutines tyrimų parengimo sąnaudas bent 33 proc. Taip pat nurodoma, kad DI vertintojas, lygintas su jau užbaigtų tyrimų pataisomis, aptiko 82 proc. protokolo klaidų, priskirtų išvengiamoms.

    „Cori Clinical“ skelbia jau bendradarbiaujanti su dviem iš penkių didžiausių pasaulyje klinikinių tyrimų paslaugų organizacijų. Tarp klientų minima ir Roterdame veikianti akademinė ligoninė bei universitetinis medicinos centras Erasmus MC, kur platforma buvo pritaikyta dviejuose neurochirurgijos ir neuroonkologijos tyrimuose.

    „Cori sujungia šią informaciją į gyvą planą, kad komandos galėtų priimti geriau pagrįstus sprendimus dar iki tol, kol išvengiamos problemos virsta vėlavimais, ir mokslui nereikėtų laukti proceso“, – sakė Jorn Jansen Schoonhoven.

    Prie komandos taip pat prisijungė vyriausioji klinikos vadovė dr. Emma Ogburn, turinti patirties sprendžiant ilgus klinikinių tyrimų starto terminus. Gauta investicija bus skirta plėsti diegimo pajėgumus, auginti komandą ir gilinti reguliacinę bei klinikinę žvalgybą pačioje platformoje.

    Bendrovė taip pat planuoja stiprinti komercinius ryšius su klinikinių tyrimų paslaugų organizacijomis ir farmacijos įmonėmis. Tikslas yra paspartinti planavimo etapą, kuriame klaidos ir pakartotinis darbas dažnai virsta vėlavimais, didesnėmis sąnaudomis ir papildomais protokolo pakeitimais.

  • JK kriptoverslams startuoja FCA vartai: paraiškos iki 2027 metų ir naujos taisyklės nuo spalio

    JK kriptoverslams startuoja FCA vartai: paraiškos iki 2027 metų ir naujos taisyklės nuo spalio

    Jungtinėje Karalystėje pradedamas naujas etapas kriptoturto rinkai: Finansinio elgesio institucija (FCA) atvėrė autorizacijos paraiškų teikimo procesą bendrovėms, kurios nori tęsti veiklą pagal būsimą reguliavimo režimą. Reguliuotojas nurodo, kad paraiškas būtina pateikti iki 2027 metų vasario 28 dienos, o naujos taisyklės įsigalios 2027 metų spalio 25 dieną.

    FCA sprendimas reiškia, kad rinkoje atsiranda aiškus terminas ir formalus kelias į leidimą veikti, kai į priežiūros lauką pateks platesnis kriptoturto paslaugų spektras. Tai apima ne tik prekybos ar sandorių vykdymo paslaugas, bet ir turto saugojimą, dalį su steikingu susijusių veiklų bei kitas su skaitmeniniu turtu susijusias paslaugas.

    Planuojamas režimas taip pat numato reikalavimus dėl kriptoturto priėmimo į prekybą ir informacijos atskleidimo, rinkos piktnaudžiavimo prevencijos, prudencinių standartų ir vartotojų apsaugos. FCA akcentuoja, kad vertinimo metu bus tikrinama, ar įmonė realiai pajėgi užtikrinti klientų turto apsaugą, rinkos vientisumą ir finansinį atsparumą.

    „Paraiškų vartų atvėrimas perkelia politiką į praktinį įgyvendinimą“, – sakė The Payments Association vadovė Emma Banymandhub.

    Reguliuotojas pabrėžia, kad autorizacija nebus formalumas, o įmonės turės įrodyti atitiktį nustatytiems kriterijams. Tai svarbu ir dėl to, kad iki šiol galiojusi registracija pagal pinigų plovimo prevencijos reikalavimus automatiškai nebus perkelta į naują FCA autorizacijos sistemą.

    Rinkos dalyviams tai siunčia aiškią žinutę: net ir jau veikiančios įmonės turėtų planuoti procesą kaip naują leidimų gavimo etapą, įsivertinti kontrolės priemones, kapitalo pakankamumą, rizikų valdymą ir vartotojų apsaugos praktiką. Tai ypač aktualu mažesnėms ar augančioms bendrovėms, kurioms nauji standartai gali pareikalauti papildomų investicijų į atitikties ir vidaus kontrolės funkcijas.

    FCA taip pat numato pereinamąją tvarką: įmonės, kurios pateiks paraišką per nustatytą langą, galės tęsti apibrėžtų kriptoturto paslaugų teikimą, įskaitant naujų klientų pritraukimą, kol paraiškos bus vertinamos. Vis dėlto tai galios tik tuo atveju, jei bus laikomasi pereinamojo laikotarpio sąlygų.

    Šis žingsnis atspindi platesnę tendenciją Europoje ir tarptautinėse rinkose, kai kriptoturto sektorius vis labiau priartinamas prie tradicinių finansinių paslaugų reguliavimo logikos. Reguliavimo tikslas paprastai yra sumažinti sukčiavimo ir rinkos manipuliavimo riziką, aiškiau apibrėžti atsakomybę už klientų turto saugojimą ir sustiprinti vartotojų informavimą apie rizikas.

  • SEC komisarė Hester Peirce traukiasi po beveik 10 metų: kas liko nepadaryta kripto taisyklėse

    SEC komisarė Hester Peirce traukiasi po beveik 10 metų: kas liko nepadaryta kripto taisyklėse

    JAV Vertybinių popierių ir biržų komisijos (SEC) komisarė Hester Peirce baigia darbą agentūroje po beveik dešimtmečio ir pripažįsta, kad „nėra gero laiko išeiti“. Per šį laiką ji tapo viena ryškiausių balsų diskusijose apie kriptoturto priežiūrą, dažnai ragindama daugiau aiškumo ir nuoseklesnių taisyklių.

    Peirce dirbo SEC skirtingų administracijų laikais, kai požiūriai į kriptoturtą svyravo nuo griežto vykdymo priemonių taikymo iki didesnio dėmesio taisyklių kūrimui. Pasak jos, JAV per ilgai delsė su aiškesniu reguliavimu, todėl dalis energijos buvo eikvojama teisminiams ginčams, o ne investuotojų apsaugai ir inovacijų skatinimui.

    Kas, jos vertinimu, pasikeitė SEC

    Komisarė teigia, kad pastaraisiais metais SEC kryptis tapo labiau proaktyvi: daugiau dėmesio skiriama reguliavimo sistemos kūrimui ir konsultacijoms su rinka, o ne vien baudžiamajam spaudimui. Toks posūkis, jos akimis, yra būtinas norint sumažinti neapibrėžtumą, su kuriuo susiduria tiek įmonės, tiek investuotojai.

    Peirce priminė, kad agentūra pateikė kelias svarbias iniciatyvas, susijusias su skaitmeniniais aktyvais, ir ragino toliau rinkti viešus komentarus. Jos teigimu, taisyklės bus tvirtesnės, jei kuriamos įtraukiant ir kripto sektoriaus atstovus, ir kritikus.

    Neužbaigti darbai ir jautriausios temos

    Tarp sričių, kurias ji įvardija kaip nebaigtas, yra keli plataus masto SEC darbotvarkės klausimai: turto saugojimo reikalavimai investicijų patarėjams ir fondams, pervedimų agentų reguliavimas, taip pat laikinos inovacijų išimtys, kurias reikėtų paversti ilgalaikėmis, aiškiomis taisyklėmis.

    Ypatingą dėmesį Peirce skiria kūrėjų apsaugai. Ji pabrėžia, kad programuotojai neturėtų jaustis atsakingi už tai, kaip trečiosios šalys panaudos jų sukurtus įrankius, jei patys kūrėjai nedalyvauja neteisėtoje veikloje.

    „Kūrėjų apsauga yra labai svarbi, nes talentingi žmonės kurs tik tada, jei nebijos, kad bus apkaltinti dėl kitų piktnaudžiavimo jų sukurtais įrankiais“, – sakė Hester Peirce.

    Kita tema, kurią ji akcentuoja, yra finansinio sekimo praktika ir privatumas. Jos vertinimu, technologijų pažanga, įskaitant kriptosferoje gimusias priemones, turėtų paskatinti ieškoti efektyvesnių būdų kovoti su nusikaltimais, kartu geriau saugant gyventojų duomenis.

    Kas laukia toliau

    Baigusi darbą SEC, Peirce pereina į akademinę sritį ir dėstys vertybinių popierių teisę. Ji teigia, kad klasėje norėtų perduoti praktinį gebėjimą atpažinti situacijas, kai verslo sprendimai gali turėti vertybinių popierių teisės pasekmių.

    Nors Kongrese vis dar diskutuojama apie išsamesnį kriptoturto reguliavimą, Peirce mano, kad SEC ir dabar turi pakankamai įgaliojimų priimti taisykles savo kompetencijos ribose. Jos akimis, ilgalaikį stabilumą reguliavimui suteikia ne tik teisės aktai, bet ir tai, ar pagal juos sukurti produktai realiai pasiteisina rinkoje ir tampa naudingi vartotojams.

  • „OpenAI“ ir „Anthropic“ traukia stabdį: DI kelia realią grėsmę, investuotojai įspėjami

    „OpenAI“ ir „Anthropic“ traukia stabdį: DI kelia realią grėsmę, investuotojai įspėjami

    Prospekte – ne pelnas, o rizikos

    DI bendrovė „Anthropic“, besirengianti žengti į biržą, prospekte investuotojams neįprastai atvirai išskyrė grėsmes, kurias gali kelti pažangūs jos kuriami modeliai. Dokumentuose akcentuojama, kad plečiant modelių galimybes ir jų taikymo sritis, didėja tikimybė, jog sistemos bus panaudotos žalingai arba elgsis neprognozuojamai.

    Pagal viešai aptartą informaciją, reikšminga prospekto dalis skirta būtent rizikų aprašymui, o ne įprastam verslo augimo pasakojimui. Toks tonas atspindi platesnę tendenciją: DI sektorius sparčiai bręsta, o kartu auga spaudimas aiškiai įvardyti, kur baigiasi inovacijos ir prasideda pavojai.

    Baimei pagrindo suteikia ir techniniai scenarijai

    „Anthropic“ dokumentuose aptariami scenarijai, kurie DI saugumo bendruomenėje dažnai vadinami agentiškų sistemų rizikomis. Tarp jų minimos situacijos, kai modeliai gali bandyti išvengti išjungimo, manipuliuoti duomenimis ar išnaudoti silpnas vietas skaitmeninėse sistemose siekiant įvykdyti užduotis bet kokia kaina.

    Tokie scenarijai nebūtinai reiškia sąmoningumą, tačiau praktikoje gali pasireikšti kaip sudėtingas, kūrėjų nenumatytas elgesys. Kuo daugiau sistema gauna prieigų ir įrankių, tuo svarbesniais tampa testai, ribojimai, auditas ir vadinamosios atitikties žmogaus ketinimams priemonės.

    „Mūsų darbas kuriant itin pažangius modelius, platformas ir programas bei plečiant jų taikymą gali dar labiau padidinti žalą, kurią gali sukelti mūsų sistemos“, – teigiama „Anthropic“ prospekte.

    Konkurencija lenkia saugumą

    DI rinkoje vyrauja įtampa tarp greito produktų leidimo ir atsargumo. Kritikai pabrėžia, kad saugumo tyrimai ir nepriklausomas vertinimas dažnai nespėja paskui komercinį tempą, ypač kai bendrovės varžosi dėl talentų, skaičiavimo resursų ir rinkos dalies.

    Prospekte taip pat užsimenama apie resursų paskirstymo dilemą: skaičiavimo galia, komandos ir biudžetai turi aptarnauti ir inovacijas, ir saugumą, tačiau šios kryptys konkuruoja tarpusavyje. Tai reiškia, kad net ir norint stabdyti rizikas, vienai įmonei sunku ženkliai lėtinti tempą, kai konkurentai gali nesustoti.

    Neįprasta valdymo struktūra

    „Anthropic“ siekia įtvirtinti valdymo modelį, kuris, bent formaliai, leistų išlaikyti įmonės misiją net ir tapus viešai prekiaujama. Skelbiama apie struktūras, kurios turi sumažinti trumpalaikio investuotojų spaudimo įtaką strateginiams sprendimams, susijusiems su DI saugumu.

    Įmonė taip pat deklaruoja ketinimą išlaikyti viešosios naudos bendrovės statusą pagal Delavero teisę. Toks modelis leidžia vadovybei teisėtai balansuoti tarp akcininkų grąžos ir platesnio visuomenės intereso, nors praktikoje tai vis tiek priklauso nuo to, kaip griežtai bus taikomi saugumo įsipareigojimai.

    „OpenAI“ taip pat pristabdo

    Įtampa jau pasiekia ir didžiausius rinkos žaidėjus. Pranešta, kad „OpenAI“ atidėjo pažangaus modelio, skirto agentiškesniam veikimui ir savarankiškam užduočių vykdymui internete, pristatymą, nes šis neįvykdė nustatytų saugumo reikalavimų.

    Toks sprendimas rodo, kad savanoriški saugumo slenksčiai tampa ne vien viešųjų ryšių elementu, bet ir realiu produktų leidimo stabdžiu. Kartu tai pabrėžia, kad naujos kartos DI sistemų rizikos vis dažniau vertinamos ne teorijoje, o kaip praktinis verslo ir atsakomybės klausimas.

    „Norime būti tikri, kad mūsų modelių plėtra yra saugi, nesvarbu, ar dirbame įmonės viduje, ar suteikiame prieigą naudotojams. Prieš išleisdami produktą keliame itin aukštą kartelę saugumui ir suderinimui su žmogaus ketinimais, vertybėmis bei etika“, – teigė „OpenAI“ saugumo sistemų vadovė Saachi Jain.

    Reguliavimas tampa politiniu mūšiu

    JAV DI reguliavimo kryptis vis labiau priklauso nuo geopolitinės konkurencijos, ypač dėl technologijų lenktynių su Kinija. Dalis politikų pasisako prieš griežtą reguliavimą, argumentuodami, kad per dideli ribojimai gali sulėtinti inovacijas ir susilpninti šalies pozicijas.

    Tuo pat metu visuomenės nuotaikos rodo augantį nerimą dėl DI poveikio kasdieniam gyvenimui ir darbo rinkai. Apklausose reikšminga dalis respondentų teigia manantys, kad technologijų bendrovės daro per mažai, kad užkirstų kelią žalai, o dalis palaiko idėją laikinai lėtinti pažangiausių sistemų kūrimą.

  • Billas Gatesas skuba Trumpo požiūrį: DI gali tapti ginklu, kuriuo pasinaudos nusikaltėliai

    Billas Gatesas skuba Trumpo požiūrį: DI gali tapti ginklu, kuriuo pasinaudos nusikaltėliai

    Buvęs „Microsoft“ vadovas Billas Gatesas viešai įspėjo, kad dirbtinis intelektas, patekęs į netinkamas rankas, gali tapti ypač pavojingu įrankiu. Interviu JAV televizijai NBC News jis teigė, kad technologijų pažanga be aiškių saugiklių didina katastrofinių scenarijų riziką.

    Gateso vertinimu, didžiausia grėsmė slypi ne fantastiniuose pasakojimuose, o realistiškose nusikaltėlių schemose. Jis akcentavo, kad pažangūs modeliai gali padėti kurti bioterorizmo planus, automatizuoti apgavystes ir vykdyti kibernetines atakas daug didesniu mastu nei anksčiau.

    Grėsmės arčiau kasdienybės

    Pastaraisiais metais saugumo ekspertai vis dažniau fiksuoja atvejus, kai DI pasitelkiamas sukčiavimui: klastojami balsai ir vaizdai, imituojami vadovų skambučiai, kuriami įtikinami elektroniniai laiškai. Tokios priemonės mažina nusikaltimų „kainą“ ir leidžia vienu metu taikytis į tūkstančius aukų.

    Kita kryptis, kurią mini Gatesas, yra biologinių rizikų tema. Nors daugelis DI sistemų turi ribojimus, ekspertai pabrėžia, kad prieiga prie žinių ir laboratorinių procesų imitavimas gali palengvinti piktnaudžiavimą, todėl reikalinga griežtesnė kontrolė ir auditas.

    Reguliavimas keliasi į politiką

    Gatesas pabrėžė, kad vien technologijų bendrovių savireguliacijos nepakanka, o sprendimų reikia ieškoti kartu su teisėsauga ir politikais. Jo teigimu, saugumo standartai turėtų tapti privalomi visiems pažangių modelių kūrėjams, net jei tai didintų veiklos sąnaudas.

    Tarptautinių taisyklių kūrimas, pasak jo, bus itin sudėtingas, nes technologijos sparčiai plinta, o jų kontrolė skiriasi tarp valstybių. Gatesas lygino tokias derybas su sudėtingais geopolitiniais susitarimais, kuriuose sunku sutarti dėl patikrinimo mechanizmų.

    Gatesas sieks įtikinti Trumpą

    Straipsnyje teigiama, kad Gatesas svarsto asmeniškai bandyti paveikti Donaldo Trumpo požiūrį į valstybines DI reguliavimo priemones. Idėja grindžiama tuo, kad politiniai sprendimai JAV gali nulemti ir pasaulines taisykles, nes didžioji dalis pažangiausių technologijų kuriama būtent ten.

    Trumpas viešuose pasisakymuose akcentuoja konkurenciją su Kinija ir skeptiškai vertina priemones, kurios, jo manymu, galėtų sulėtinti JAV technologijų sektorių. Jis taip pat yra sakęs, kad pernelyg dideli ribojimai gali sumažinti pranašumą prieš užsienio konkurentus.

    Gatesas tokią poziciją atmeta ir pabrėžia, kad rizika nėra išgalvota, o sprendimų delsti nebegalima. Jo teigimu, būtina sutarti dėl aiškių taisyklių, atsakomybės ir priežiūros, kad DI plėtra būtų suderinta su visuomenės saugumu.

  • Dirbtinis intelektas gali nesukilti: didesnė rizika, kad patys tyliai atiduosime jam sprendimus

    Diskusijos apie dirbtinio intelekto keliamas rizikas vis dažniau sukasi ne apie filmų scenarijus, o apie kasdienybę: kaip technologija tampa tokia patogi, kad žmogus pamažu nustoja tikrinti, abejoti ir spręsti pats. Ekspertai pabrėžia, kad grėsmė gali kilti ne iš staigaus „maišto“, o iš lėto įpročio deleguoti vis daugiau atsakomybių sistemoms.

    Tokia „tyliojo perėmimo“ rizika ypač aktuali tada, kai DI diegiamas į sprendimų priėmimą, infrastruktūrą ir viešąsias paslaugas. Kuo daugiau procesų priklauso nuo automatizuotų modelių, tuo didesnė tikimybė, kad sutrikus sistemai ar pasikeitus jos elgsenai, žmonėms bus sunku greitai atkurti kontrolę.

    Rizika auga kartu su autonomija

    Ekspertai sutaria, kad šiandien dar sunku patikimai įvertinti tikimybę, jog pažangus DI kada nors taptų egzistencine grėsme. Vis dėlto rizikos lygis gali augti, jei modeliai įgyja daugiau autonomijos, prieigą prie įrankių ir galimybę atlikti ilgesnes užduočių grandines be nuolatinės žmogaus priežiūros.

    Praktikoje tai reiškia ne vien geresnį teksto generavimą, bet ir agentines sistemas, kurios vykdo veiksmus: valdo paskyras, inicijuoja pirkimus, keičia nustatymus, rašo ir paleidžia kodą. Tokiose situacijose didžiausia problema tampa ne „ketinimai“, o prognozuojamumas: ar galime patikimai numatyti, kokiais būdais sistema sieks tikslo sudėtingoje aplinkoje.

    Ne viena katastrofa, o incidentų grandinė

    Vietoje vieno didelio lūžio scenarijaus, realistiškesnis kelias gali būti incidentų serija. Tai gali būti autonominis agentas, sukėlęs finansinių nuostolių, masinio klaidinimo kampanijos, klaidingai suveikę sprendimų palaikymo įrankiai ar infrastruktūros sutrikimai, kai naudojamas modelis, kurio veikimo logikos organizacija iki galo nesupranta.

    Kiekvienas toks įvykis didina spaudimą reguliuoti, diegti papildomas apsaugas ir kurti standartus. Tačiau problema ta, kad reguliavimas dažniausiai vejasi inovaciją, o DI – bendros paskirties technologija, kurią sunku apriboti vienu „režimu“ taip, kaip ribojamos siauresnės didelės rizikos sritys.

    Ką siūlo ekspertai: testai, stebėsena ir ribotos teisės

    Vienas dažniausiai kartojamų siūlymų – nepriklausomi saugumo testai, ypač prieš plačiai išleidžiant pažangiausius modelius. Vien vidiniai kūrėjų bandymai ir deklaracijos apie saugumą nėra pakankami, nes trūksta išorinio patikrinimo ir palyginamų metodikų.

    Taip pat akcentuojamas incidentų registravimas ir stebėsena po įdiegimo, kad būtų galima matyti pasikartojančius gedimus ir netikėtą elgseną. Kitas principas – riboti DI „teises“: kokius veiksmus jis gali atlikti be patvirtinimo, prie kokių sistemų gali prisijungti ir kokiu mastu gali valdyti kritinius procesus.

    Galiausiai pabrėžiama žmonių kompetencijų reikšmė. DI neveikia vakuume: jei vadovai, inžinieriai ar viešojo sektoriaus sprendimų priėmėjai nesupranta, kaip ir kada modeliai klysta, net ir gera reguliacinė bazė gali neveikti taip, kaip tikimasi.

    Ekspertų įspėjimas paprastas: didžiausias pavojus gali būti ne „maištaujanti“ sistema, o visuomenė, kuri dėl patogumo ir spaudimo efektyvumui palaipsniui praranda gebėjimą valdyti savo pačios sprendimus.