DI bendrov\u0117 \u201eAnthropic\u201c, besirengianti \u017eengti \u012f bir\u017e\u0105, prospekte investuotojams ne\u012fprastai atvirai i\u0161skyr\u0117 gr\u0117smes, kurias gali kelti pa\u017eang\u016bs jos kuriami modeliai. Dokumentuose akcentuojama, kad ple\u010diant modeli\u0173 galimybes ir j\u0173 taikymo sritis, did\u0117ja tikimyb\u0117, jog sistemos bus panaudotos \u017ealingai arba elgsis neprognozuojamai.<\/p>\n
Pagal vie\u0161ai aptart\u0105 informacij\u0105, reik\u0161minga prospekto dalis skirta b\u016btent rizik\u0173 apra\u0161ymui, o ne \u012fprastam verslo augimo pasakojimui. Toks tonas atspindi platesn\u0119 tendencij\u0105: DI sektorius spar\u010diai br\u0119sta, o kartu auga spaudimas ai\u0161kiai \u012fvardyti, kur baigiasi inovacijos ir prasideda pavojai.<\/p>\n
\u201eAnthropic\u201c dokumentuose aptariami scenarijai, kurie DI saugumo bendruomen\u0117je da\u017enai vadinami agenti\u0161k\u0173 sistem\u0173 rizikomis. Tarp j\u0173 minimos situacijos, kai modeliai gali bandyti i\u0161vengti i\u0161jungimo, manipuliuoti duomenimis ar i\u0161naudoti silpnas vietas skaitmenin\u0117se sistemose siekiant \u012fvykdyti u\u017eduotis bet kokia kaina.<\/p>\n
Tokie scenarijai neb\u016btinai rei\u0161kia s\u0105moningum\u0105, ta\u010diau praktikoje gali pasireik\u0161ti kaip sud\u0117tingas, k\u016br\u0117j\u0173 nenumatytas elgesys. Kuo daugiau sistema gauna prieig\u0173 ir \u012franki\u0173, tuo svarbesniais tampa testai, ribojimai, auditas ir vadinamosios atitikties \u017emogaus ketinimams priemon\u0117s.<\/p>\n
\u201eM\u016bs\u0173 darbas kuriant itin pa\u017eangius modelius, platformas ir programas bei ple\u010diant j\u0173 taikym\u0105 gali dar labiau padidinti \u017eal\u0105, kuri\u0105 gali sukelti m\u016bs\u0173 sistemos\u201c, \u2013 teigiama \u201eAnthropic\u201c prospekte.<\/p>\n
DI rinkoje vyrauja \u012ftampa tarp greito produkt\u0173 leidimo ir atsargumo. Kritikai pabr\u0117\u017eia, kad saugumo tyrimai ir nepriklausomas vertinimas da\u017enai nesp\u0117ja paskui komercin\u012f temp\u0105, ypa\u010d kai bendrov\u0117s var\u017eosi d\u0117l talent\u0173, skai\u010diavimo resurs\u0173 ir rinkos dalies.<\/p>\n
Prospekte taip pat u\u017esimenama apie resurs\u0173 paskirstymo dilem\u0105: skai\u010diavimo galia, komandos ir biud\u017eetai turi aptarnauti ir inovacijas, ir saugum\u0105, ta\u010diau \u0161ios kryptys konkuruoja tarpusavyje. Tai rei\u0161kia, kad net ir norint stabdyti rizikas, vienai \u012fmonei sunku \u017eenkliai l\u0117tinti temp\u0105, kai konkurentai gali nesustoti.<\/p>\n
\u201eAnthropic\u201c siekia \u012ftvirtinti valdymo model\u012f, kuris, bent formaliai, leist\u0173 i\u0161laikyti \u012fmon\u0117s misij\u0105 net ir tapus vie\u0161ai prekiaujama. Skelbiama apie strukt\u016bras, kurios turi suma\u017einti trumpalaikio investuotoj\u0173 spaudimo \u012ftak\u0105 strateginiams sprendimams, susijusiems su DI saugumu.<\/p>\n
\u012emon\u0117 taip pat deklaruoja ketinim\u0105 i\u0161laikyti vie\u0161osios naudos bendrov\u0117s status\u0105 pagal Delavero teis\u0119. Toks modelis leid\u017eia vadovybei teis\u0117tai balansuoti tarp akcinink\u0173 gr\u0105\u017eos ir platesnio visuomen\u0117s intereso, nors praktikoje tai vis tiek priklauso nuo to, kaip grie\u017etai bus taikomi saugumo \u012fsipareigojimai.<\/p>\n
\u012etampa jau pasiekia ir did\u017eiausius rinkos \u017eaid\u0117jus. Prane\u0161ta, kad \u201eOpenAI\u201c atid\u0117jo pa\u017eangaus modelio, skirto agenti\u0161kesniam veikimui ir savaranki\u0161kam u\u017eduo\u010di\u0173 vykdymui internete, pristatym\u0105, nes \u0161is ne\u012fvykd\u0117 nustatyt\u0173 saugumo reikalavim\u0173.<\/p>\n
Toks sprendimas rodo, kad savanori\u0161ki saugumo slenks\u010diai tampa ne vien vie\u0161\u0173j\u0173 ry\u0161i\u0173 elementu, bet ir realiu produkt\u0173 leidimo stabd\u017eiu. Kartu tai pabr\u0117\u017eia, kad naujos kartos DI sistem\u0173 rizikos vis da\u017eniau vertinamos ne teorijoje, o kaip praktinis verslo ir atsakomyb\u0117s klausimas.<\/p>\n
\u201eNorime b\u016bti tikri, kad m\u016bs\u0173 modeli\u0173 pl\u0117tra yra saugi, nesvarbu, ar dirbame \u012fmon\u0117s viduje, ar suteikiame prieig\u0105 naudotojams. Prie\u0161 i\u0161leisdami produkt\u0105 keliame itin auk\u0161t\u0105 kartel\u0119 saugumui ir suderinimui su \u017emogaus ketinimais, vertyb\u0117mis bei etika\u201c, \u2013 teig\u0117 \u201eOpenAI\u201c saugumo sistem\u0173 vadov\u0117 Saachi Jain.<\/p>\n
JAV DI reguliavimo kryptis vis labiau priklauso nuo geopolitin\u0117s konkurencijos, ypa\u010d d\u0117l technologij\u0173 lenktyni\u0173 su Kinija. Dalis politik\u0173 pasisako prie\u0161 grie\u017et\u0105 reguliavim\u0105, argumentuodami, kad per dideli ribojimai gali sul\u0117tinti inovacijas ir susilpninti \u0161alies pozicijas.<\/p>\n
Tuo pat metu visuomen\u0117s nuotaikos rodo augant\u012f nerim\u0105 d\u0117l DI poveikio kasdieniam gyvenimui ir darbo rinkai. Apklausose reik\u0161minga dalis respondent\u0173 teigia manantys, kad technologij\u0173 bendrov\u0117s daro per ma\u017eai, kad u\u017ekirst\u0173 keli\u0105 \u017ealai, o dalis palaiko id\u0117j\u0105 laikinai l\u0117tinti pa\u017eangiausi\u0173 sistem\u0173 k\u016brim\u0105.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u201eAnthropic\u201c prospekte investuotojus \u012fsp\u0117ja apie DI rizikas, o \u201eOpenAI\u201c atideda pa\u017eangaus modelio pristatym\u0105 d\u0117l saugumo reikalavim\u0173.<\/p>\n","protected":false},"author":0,"featured_media":58334,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[2265,16926,102,2264,3810,816,386],"miestas":[],"class_list":["post-58333","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos","tag-anthropic","tag-di-saugumas","tag-dirbtinis-intelektas","tag-ipo","tag-jav-politika","tag-openai","tag-reguliavimas"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/58333","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=58333"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/58333\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/58334"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=58333"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=58333"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=58333"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=58333"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}