DI bendrov\u0117s \u201eAnthropic\u201c vadovas Dario Amodei par\u0117m\u0117 id\u0117j\u0105 \u012fvesti privalom\u0105 pa\u017eangiausi\u0173 DI modeli\u0173 testavimo ir audito re\u017eim\u0105, kuris leist\u0173 vald\u017eios institucijoms stabdyti ar atid\u0117ti ypa\u010d riziking\u0173 sistem\u0173 diegim\u0105. Pasak jo, vertinimas tur\u0117t\u0173 vykti dar prie\u0161 vie\u0161\u0105 modelio paleidim\u0105, o sprendimai remtis techniniais saugumo kriterijais.<\/p>\n
Vie\u0161ai pristatytoje pozicijoje D. Amodei si\u016blo remtis nepriklausom\u0173 tre\u010di\u0173j\u0173 \u0161ali\u0173 auditoriais, kurie gal\u0117t\u0173 \u012fvertinti, ar konkretus modelis atitinka auk\u0161tus saugos standartus. Jei auditas rodyt\u0173 pernelyg didel\u0119 rizik\u0105, diegimas, jo teigimu, tur\u0117t\u0173 b\u016bti blokuojamas arba at\u0161aukiamas, kol bus pa\u0161alintos spragos.<\/p>\n
\u201eAnthropic\u201c vadovas i\u0161skiria kelias pagrindines sritis, kuriose, jo manymu, b\u016btina standartizuota patikra. Tai kibernetinis saugumas, biologini\u0173 gr\u0117smi\u0173 ir piktnaud\u017eiavimo rizika, DI sistem\u0173 valdymo praradimo scenarijai bei automatizuota mokslini\u0173 tyrim\u0173 ir pl\u0117tros veikla, kai modeliai gali pagreitinti nauj\u0173 technologij\u0173 k\u016brim\u0105.<\/p>\n
Tokios sistemos, pasak D. Amodei, tur\u0117t\u0173 b\u016bti vertinamos pana\u0161iai kaip aviacijoje, kur prie\u0161 pradedant naudoti orlaiv\u012f taikomi testai, sertifikavimas ir nuolatin\u0117 prie\u017ei\u016bra. Jo logika paprasta: kuo didesn\u0117 technologijos galia ir poveikio mastas, tuo grie\u017etesni saugos slenks\u010diai turi b\u016bti taikomi.<\/p>\n
\u0160ie si\u016blymai pasirod\u0117 JAV t\u0119siantis diskusijoms d\u0117l DI prie\u017ei\u016bros modelio ir vald\u017eios vaidmens vertinant naujas, itin galingas sistemas. Pastaruoju metu aptariami scenarijai, kai bendrov\u0117s b\u016bt\u0173 raginamos i\u0161 anksto pateikti modelius per\u017ei\u016brai prie\u0161 juos pla\u010diai i\u0161leid\u017eiant, ta\u010diau gin\u010dijamasi, ar tokia tvarka turi b\u016bti savanori\u0161ka, ar privaloma.<\/p>\n
Did\u0117jant DI konkurencijai, bendrov\u0117s patiria spaudim\u0105 spar\u010diai diegti naujoves, bet kartu auga ir rizikos: nuo kenk\u0117ji\u0161ko panaudojimo iki neprognozuojamo elgesio, kai modeliai naudojami sud\u0117tingoms u\u017eduotims automatizuoti. Ekspertai vis da\u017eniau pabr\u0117\u017eia, kad vien vidiniai testai gali b\u016bti nepakankami, ypa\u010d kai modeli\u0173 galimyb\u0117s ir taikymo scenarijai spar\u010diai ple\u010diasi.<\/p>\n
D. Amodei taip pat paliet\u0117 DI poveik\u012f darbo rinkai ir galim\u0105 i\u0161st\u016bmim\u0105 i\u0161 tam tikr\u0173 profesij\u0173. Jo teigimu, politikos atsakai gal\u0117t\u0173 apimti mokes\u010di\u0173 ir perskirstymo priemones, tarp j\u0173 ir universali\u0173 kapitalo s\u0105skait\u0173 id\u0117j\u0105, kuri leist\u0173 visuomenei pla\u010diau dalyvauti DI ekonomin\u0117s naudos pasidalijime.<\/p>\n
\u0160i kryptis \u012fsilieja \u012f platesn\u0119 JAV diskusij\u0105 apie tai, kaip apmokestinti spar\u010diai augant\u012f technologij\u0173 sektori\u0173 ir kaip u\u017etikrinti, kad DI kuriama vert\u0117 neapsiribot\u0173 siauru rinkos dalyvi\u0173 ratu. Kol kas ai\u0161kaus politinio sutarimo n\u0117ra, ta\u010diau DI reguliavimo ir ekonominio teisingumo temos Va\u0161ingtone tampa vis labiau susijusios.<\/p>\n
\u201eAnthropic\u201c pozicija i\u0161siskiria tuo, kad viena did\u017ei\u0173j\u0173 DI k\u016br\u0117j\u0173 vie\u0161ai pritaria grie\u017etesniam, \u012f i\u0161or\u0117s audit\u0105 orientuotam re\u017eimui. Ar tai virs realiais standartais, priklausys nuo politini\u0173 sprendim\u0173, pramon\u0117s pasirengimo dalintis testavimo informacija ir nuo to, ar bus sukurti patikimi, nepriklausomi vertinimo mechanizmai.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u201eAnthropic\u201c vadovas Dario Amodei si\u016blo privalomai testuoti pa\u017eangiausius DI modelius ir \u012ftraukti nepriklausom\u0105 audit\u0105 prie\u0161 j\u0173 vie\u0161\u0105 paleidim\u0105.<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[2265,10254,11559,102,100,99,15612],"miestas":[],"class_list":["post-35069","post","type-post","status-publish","format-standard","hentry","category-technologijos","tag-anthropic","tag-dario-amodei","tag-di-reguliavimas","tag-dirbtinis-intelektas","tag-internetas","tag-kibernetinis-saugumas","tag-modeliu-testavimas"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/35069","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=35069"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/35069\/revisions"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=35069"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=35069"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=35069"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=35069"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}