Buv\u0119s \u201eAnthropic\u201c darbuotojas Jacobas Coxonas vie\u0161ame \u012fra\u0161e persp\u0117jo, kad dirbtinio intelekto industrija rizikuoja \u017emoni\u0173 saugumu, o ateityje gali atsirasti sistem\u0173, kuri\u0173 veikimo \u017emon\u0117s nebesuvaldys. Jo teigimu, ypa\u010d pavojinga kryptis yra modeli\u0173 geb\u0117jimas patiems spartinti savo tobul\u0117jim\u0105.<\/p>\n
\u012e \u0161ias pastabas sureagavo \u201eAnthropic\u201c vadovas ir vienas i\u0161 \u012fk\u016br\u0117j\u0173 Dario Amodei, kalb\u0117j\u0119s apie rizikas tarptautin\u0117je \u017einiasklaidoje. Jis pripa\u017eino, kad su kritiku sutinka labiau, nei nesutinka, ta\u010diau pabr\u0117\u017e\u0117, jog dabartiniai modeliai dar n\u0117ra tokie paj\u0117g\u016bs, kad savaime sukelt\u0173 nei\u0161vengiam\u0105 katastrof\u0105.<\/p>\n
Vis d\u0117lto Amodei akcentavo temp\u0105: did\u0117jant skai\u010diavimo resursams, duomen\u0173 apimtims ir modeli\u0173 architekt\u016br\u0173 pa\u017eangai, geb\u0117jimai auga spar\u010diau nei praktin\u0117s saugumo priemon\u0117s. Jo vertinimu, rizika kyla tada, kai sistemos ima vykdyti sud\u0117tingas u\u017eduotis per daugyb\u0119 \u017eingsni\u0173, veikti kaip autonomini\u0173 agent\u0173 tinklai ir pa\u010dios ie\u0161koti b\u016bd\u0173 tapti dar efektyvesn\u0117s.<\/p>\n
\u201eAnthropic\u201c vadovas vie\u0161ai ragino pramon\u0119 atsakingiau reguliuoti pa\u017eangiausi\u0173 modeli\u0173 k\u016brimo temp\u0105 ir daugiau investuoti \u012f saugos metodus. Tarp minim\u0173 priemoni\u0173 da\u017eniausiai \u012fvardijami nepriklausomi vertintojai, kurie gal\u0117t\u0173 tikrinti modelius pana\u0161iomis teis\u0117mis kaip \u012fmoni\u0173 darbuotojai, bei ai\u0161kesni standartai, kuriuos kurt\u0173 verslas kartu su vald\u017eios institucijomis.<\/p>\n
Tokie si\u016blymai siejasi su pla\u010diau taikoma praktika, kai didieji k\u016br\u0117jai skelbia saugos ataskaitas, vykdo vadinam\u0105j\u012f raudon\u0173j\u0173 komand\u0173 testavim\u0105 ir ie\u0161ko b\u016bd\u0173 apriboti pavojing\u0105 modeli\u0173 elges\u012f. Ta\u010diau kritikai pabr\u0117\u017eia, kad savanori\u0161k\u0173 priemoni\u0173 gali nepakakti, jei var\u017eybos tarp laboratorij\u0173 ver\u010dia skub\u0117ti.<\/p>\n
Amodei persp\u0117jimai sulauk\u0117 palaikymo i\u0161 dviej\u0173 ry\u0161kiausi\u0173 industrijos lyderi\u0173. Elonas Muskas vie\u0161ai parei\u0161k\u0117, kad Amodei argumentai jam atrodo pagr\u012fsti, primindamas, kad apie dideles DI rizikas kalba jau ne vienus metus.<\/p>\n
\u201eSutinku, kad pa\u017eangiausi\u0173 DI sistem\u0173 k\u016brimo temp\u0105 turime formuoti atsakingai\u201c, \u2013 sak\u0117 Samas Altmanas.<\/p>\n
\u201eOpenAI\u201c vadovas taip pat pabr\u0117\u017e\u0117 nepriklausomo vertinimo id\u0117j\u0105 ir teig\u0117, kad DI sauga pastaruoju metu buvo vienas svarbiausi\u0173 klausim\u0173 \u012fmon\u0117s vidin\u0117se diskusijose. Toks vie\u0161as sutarimas i\u0161ry\u0161kina, kad r\u016bpestis d\u0117l tempo neb\u0117ra vienos stovyklos pozicija, net jei \u012fmon\u0117s konkuruoja d\u0117l lyderyst\u0117s.<\/p>\n
Pastaraisiais m\u0117nesiais daug\u0117ja prane\u0161im\u0173, kad generatyviniai modeliai bandomi i\u0161naudoti kenk\u0117ji\u0161kiems tikslams, \u012fskaitant suk\u010diavim\u0105, kibernetines atakas ir net pavojing\u0173 instrukcij\u0173 paie\u0161k\u0105. D\u0117l to k\u016br\u0117jai vis da\u017eniau diegia apribojimus, stiprina turinio filtrus ir ple\u010dia piktnaud\u017eiavimo steb\u0117sen\u0105.<\/p>\n
Ekspertai pabr\u0117\u017eia ir kit\u0105 rizik\u0173 sluoksn\u012f: net jei modeliai n\u0117ra superintelektas, jie gali didinti nusikalstam\u0173 veik\u0173 mast\u0105, automatizuoti socialin\u0117s in\u017einerijos atakas, skatinti dezinformacijos plitim\u0105 ir ma\u017einti \u012f\u0117jimo barjer\u0105 tiems, kurie anks\u010diau netur\u0117jo technini\u0173 geb\u0117jim\u0173. D\u0117l to saugos diskusija vis da\u017eniau sukasi ne tik apie tolim\u0105 ateit\u012f, bet ir apie \u0161iandienos praktin\u012f atsparum\u0105.<\/p>\n
Kitas svarbus aspektas yra reguliavimas: Europos S\u0105jungoje jau \u012fsigalioj\u0119s DI aktas numato rizikomis gr\u012fst\u0105 sistem\u0105 ir papildomas pareigas auk\u0161tos rizikos sprendimams, o pa\u017eangiausiems bendros paskirties modeliams keliami skaidrumo ir saugos reikalavimai. Vis d\u0117lto rinkos dinamika rodo, kad vien teis\u0117s akt\u0173 neu\u017etenka, jei tr\u016bksta nepriklausom\u0173 testavimo paj\u0117gum\u0173 ir ai\u0161ki\u0173, tarptautiniu mastu suderint\u0173 standart\u0173.<\/p>\n
Kol kas vieningo atsakymo, kaip tiksliai subalansuoti inovacij\u0173 greit\u012f ir saug\u0105, n\u0117ra. Ta\u010diau tai, kad d\u0117l pavojaus signalo vis garsiau kalba ir konkuruojan\u010di\u0173 laboratorij\u0173 lyderiai, rodo besikei\u010diant\u012f ton\u0105: DI pa\u017eanga vis labiau vertinama ne tik pagal \u012fsp\u016bdingas funkcijas, bet ir pagal tai, ar visuomen\u0117 sp\u0117ja sukurti saugiklius.<\/p>\n","protected":false},"excerpt":{"rendered":"
Muskas, Altmanas ir \u201eAnthropic\u201c vadovas \u012fsp\u0117ja, kad DI pa\u017eanga greit\u0117ja, o nepriklausomi testai ir ai\u0161k\u016bs standartai gali tapti b\u016btini jau dabar.<\/p>\n","protected":false},"author":0,"featured_media":54055,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[2265,10254,16926,102,6937,816,15498],"miestas":[],"class_list":["post-54054","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos","tag-anthropic","tag-dario-amodei","tag-di-saugumas","tag-dirbtinis-intelektas","tag-elon-musk","tag-openai","tag-sam-altman"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/54054","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=54054"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/54054\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/54055"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=54054"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=54054"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=54054"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=54054"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}