\u201eOpenAI\u201c kartu su \u201eBroadcom\u201c pristat\u0117 \u201eJalape\u00f1o\u201c \u2013 pirm\u0105 bendrov\u0117s sukurt\u0105 specializuot\u0105 dirbtinio intelekto akseleratori\u0173, skirt\u0105 did\u017ei\u0173j\u0173 kalbos modeli\u0173 u\u017eklaus\u0173 vykdymui. Tai yra ASIC tipo lustas, projektuotas tam, kad efektyviau aptarnaut\u0173 \u201eChatGPT\u201c ir k\u016br\u0117jams skirtos platformos \u201eCodex\u201c apkrovas.<\/p>\n
Pagrindinis tikslas \u2013 suma\u017einti vadinamojo inferencijos etapo kain\u0105, kuris vyksta kiekvien\u0105 kart\u0105 pateikus u\u017eklaus\u0105 ir sudaro didel\u0119 kasdieni\u0173 infrastrukt\u016bros i\u0161laid\u0173 dal\u012f. Skirtingai nei mokymas, inferencija turi vykti itin greitai ir da\u017enai yra ribojama ne tik skai\u010diavimo, bet ir atminties bei duomen\u0173 perdavimo spartos.<\/p>\n
Didel\u0117 dalis dabartini\u0173 sprendim\u0173 remiasi universalesniais GPU, kuriuos lengva pritaikyti skirtingoms u\u017eduotims, bet jie ne visada optimaliai i\u0161naudoja resursus inferencijai. D\u0117l to dalis skai\u010diavimo galios lieka nepanaudota, o did\u017eiausios s\u0105naudos persikelia \u012f energij\u0105, au\u0161inim\u0105 ir duomen\u0173 centr\u0173 pl\u0117tr\u0105.<\/p>\n
\u201eJalape\u00f1o\u201c architekt\u016bra, kaip ai\u0161kina projekto vadovai, buvo optimizuota branduoliams, atminties jud\u0117jimui, tinklui ir tipiniams darbo \u0161ablonams, kurie svarbiausi pa\u017eangiausiems modeliams. Kitaip tariant, lustas derinamas prie realaus \u201eOpenAI\u201c modeli\u0173 elgesio, o ne prie universali\u0173 scenarij\u0173.<\/p>\n
Pagal ankstyv\u0173 laboratorini\u0173 bandym\u0173 rezultatus, naujasis lustas es\u0105 pasiekia na\u0161um\u0105, prilygstant\u012f \u201eNvidia\u201c naujausios kartos sprendimams ir \u201eGoogle\u201c TPU, o vieno tokeno savikain\u0105 gal\u0117t\u0173 ma\u017einti ma\u017edaug 50 proc. Tokia ekonomika reik\u0161t\u0173 ap\u010diuopiam\u0105 naud\u0105 tiek pa\u010diai \u201eOpenAI\u201c, tiek API naudojantiems verslams, kuriems svarbi vieneto kaina ir stabilus na\u0161umas.<\/p>\n
\u201eArchitekt\u016br\u0105 optimizavome pagal tai, kas labiausiai svarbu pa\u017eangiausiems modeliams: branduolius, atminties jud\u0117jim\u0105, tinkl\u0105 ir vykdymo \u0161ablonus\u201c, \u2013 sak\u0117 \u201eOpenAI\u201c technin\u0117s \u012frangos programos vadovas Richardas Ho.<\/p>\n
\u201eOpenAI\u201c taip pat nurodo, kad lusto k\u016brimo ciklas nuo pirminio projekto iki gamybos paruo\u0161imo u\u017etruko apie 9 m\u0117nesius, o tai puslaidininki\u0173 industrijoje laikoma itin greitu tempu. Bendrov\u0117 teigia, kad \u0161iame procese projektavimo sprendimams priimti buvo pasitelkti ir j\u0173 pa\u010di\u0173 dirbtinio intelekto modeliai.<\/p>\n
\u201eJalape\u00f1o\u201c nebus parduodamas i\u0161oriniams klientams \u2013 jis kuriamas vidiniam \u201eOpenAI\u201c poreikiui, kad b\u016bt\u0173 pigiau ir patikimiau vykdyti masines u\u017eklausas. Planuojama, kad nedidelio masto prototipiniai diegimai startuos 2026 met\u0173 pabaigoje, o masin\u0117 gamyba ir pl\u0117tra duomen\u0173 centruose, statomuose kartu su \u201eMicrosoft\u201c, numatoma 2027\u20132028 metais.<\/p>\n
\u0160is \u017eingsnis nekei\u010dia fakto, kad modeli\u0173 mokyme \u201eNvidia\u201c ekosistema vis dar yra itin stipri, ta\u010diau inferencijoje atsiranda alternatyva, galinti pakeisti ka\u0161t\u0173 balans\u0105. \u201eOpenAI\u201c taip pereina \u012f kit\u0105 vaidmen\u012f: nuo pirk\u0117jo, priklausomo nuo tiek\u0117j\u0173, link bendrov\u0117s, kuri pati formuoja savo skai\u010diavimo infrastrukt\u016bros pagrind\u0105.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u201eOpenAI\u201c ir \u201eBroadcom\u201c pristat\u0117 \u201eJalape\u00f1o\u201c lust\u0105, skirt\u0105 \u201eChatGPT\u201c u\u017eklausoms: \u017eadama iki 50 proc. ma\u017eesn\u0117 tokeno kaina ir diegimai nuo 2026 met\u0173.<\/p>\n","protected":false},"author":0,"featured_media":37609,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[7],"tags":[20033,1094,102,1091,1464,816,8063],"miestas":[],"class_list":["post-37608","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos","tag-broadcom","tag-chatgpt","tag-dirbtinis-intelektas","tag-microsoft","tag-nvidia","tag-openai","tag-tsmc"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/37608","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=37608"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/37608\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/37609"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=37608"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=37608"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=37608"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=37608"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}