Europos DI infrastrukt\u016bros bendrov\u0117 \u201eNebius\u201c prane\u0161\u0117 \u012fsigijusi JAV startuol\u012f \u201eEigen AI\u201c, kuris specializuojasi atvirojo kodo DI modeli\u0173 na\u0161umo gerinime. Sandoris, kaip skelbiama, siekia apie 595 mln. eur\u0173 ir bus atsiskaityta grynaisiais bei akcijomis.<\/p>\n
Amsterdame \u012fsik\u016brusi \u201eNebius\u201c valdo ir vysto duomen\u0173 centrus, kuriuose diegiami GPU spartintuvai, o j\u0173 skai\u010diavimo paj\u0117gumai nuomojami DI ir verslo klientams. Tok\u012f model\u012f rinka da\u017enai vadina neocloud, kai alternatyv\u016bs debes\u0173 paslaug\u0173 teik\u0117jai koncentruojasi \u012f DI darbo kr\u016bvius ir specializuot\u0105 programin\u0119 \u012frang\u0105.<\/p>\n
\u201eEigen AI\u201c technologija orientuota \u012f inferencij\u0105, kai apmokytas modelis taikomas realiems duomenims ir generuoja atsakymus ar sprendimus. Pastaraisiais metais b\u016btent inferencija spar\u010diai auga, nes \u012fmon\u0117ms vis da\u017eniau reikia ne apmokyti modelius nuo nulio, o patikimai ir pigiau juos paleisti produktuose bei vidiniuose procesuose.<\/p>\n
\u201eNebius\u201c teigimu, \u201eEigen AI\u201c sprendimai leid\u017eia efektyviau i\u0161naudoti vadinamuosius \u017eetonus, tai yra modelio apdorojamus duomen\u0173 vienetus, nuo kuri\u0173 tiesiogiai priklauso skai\u010diavimo s\u0105naudos. Praktikoje tai rei\u0161kia didesn\u012f pralaidum\u0105 ir ma\u017eesn\u0119 vienos u\u017eklausos kain\u0105 be papildomo in\u017einerinio sud\u0117tingumo klient\u0173 pus\u0117je.<\/p>\n
Kartu su produktu \u201eNebius\u201c \u012fsigyja ir ma\u017edaug 20 \u017emoni\u0173 \u201eEigen AI\u201c komand\u0105, kuri\u0105 bendrov\u0117 apib\u016bdino kaip auk\u0161to lygio inferencijos tyr\u0117j\u0173 ir in\u017einieri\u0173 grup\u0119. Skelbiama, kad \u201eEigen AI\u201c \u012fk\u016br\u0117jai \u012fkurs \u201eNebius\u201c in\u017einerijos ir tyrim\u0173 padalin\u012f San Francisko \u012flankos regione.<\/p>\n
Startuolio \u012fk\u016br\u0117jai Ryanas Hanrui Wangas ir Wei-Chen Wangas anks\u010diau dirbo MIT HAN Lab, kuriam vadovauja profesorius Song Han, \u017einomas modeli\u0173 efektyvumo ir skai\u010diavimo optimizavimo tyrimais. Tokia kompetencija rinkoje ypa\u010d vertinama, nes na\u0161umo didinimas da\u017enai priklauso ne nuo vieno algoritmo, o nuo gilaus aparatin\u0117s ir programin\u0117s \u012frangos suderinimo.<\/p>\n
\u201eNebius\u201c nurodo, kad \u201eEigen AI\u201c optimizavimo sluoksnis bus integruotas tiesiai \u012f \u201eNebius Token Factory\u201c ir taip tur\u0117t\u0173 ma\u017einti inferencijos siaur\u0105sias vietas, susijusias su atmintimi, mar\u0161rutizavimu ir skai\u010diavimu. Tokie trikd\u017eiai da\u017enai pasirei\u0161kia, kai modeliai did\u0117ja, o u\u017eklaus\u0173 srautai tampa nepastov\u016bs ir sunkiai prognozuojami.<\/p>\n
\u201eIntegruodama \u201eEigen AI\u201c optimizavimo sluoksn\u012f tiesiai \u012f \u201eNebius Token Factory\u201c, \u201eNebius\u201c pa\u0161alina \u0161\u012f butelio kaklel\u012f per vis\u0105 gyvavimo cikl\u0105\u201c, \u2013 teig\u0117 bendrov\u0117.<\/p>\n
\u012emon\u0117s vertinimu, tai klientams tur\u0117t\u0173 reik\u0161ti greitesn\u012f sprendim\u0173 diegim\u0105 \u012f gamyb\u0105, geresn\u0119 vieneto ekonomij\u0105 ir galimyb\u0119 spar\u010diau pereiti prie nauj\u0173 modeli\u0173. Praktinis poveikis bus ypa\u010d aktualus \u012fmon\u0117ms, kurios diegia DI klient\u0173 aptarnavime, paie\u0161koje, turinio generavime, duomen\u0173 analiz\u0117je ir automatizuotame dokument\u0173 apdorojime.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u201eNebius\u201c u\u017e ma\u017edaug 595 mln. eur\u0173 perka \u201eEigen AI\u201c ir stiprina DI inferencijos optimizavim\u0105, siekdama ma\u017eesni\u0173 s\u0105naud\u0173 ir didesnio na\u0161umo klientams.<\/p>\n","protected":false},"author":0,"featured_media":16695,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[81],"tags":[102,2007,6850,83,6851,6852,6849],"miestas":[],"class_list":["post-16694","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-imones","tag-dirbtinis-intelektas","tag-duomenu-centrai","tag-eigen-ai","tag-fintech","tag-gpu","tag-inferencija","tag-nebius"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/16694","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=16694"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/16694\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/16695"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=16694"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=16694"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=16694"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=16694"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}