Jungtin\u0117s Karalyst\u0117s puslaidininki\u0173 startuolis \u201eFractile\u201c pritrauk\u0117 apie 200 mln. eur\u0173 B serijos investicij\u0105, siekdamas kurti naujos kartos aparatin\u0119 \u012frang\u0105 dirbtinio intelekto inferencijai. Bendrov\u0117 teigia, kad augant dideli\u0173 kalbos modeli\u0173 panaudojimui, pagrindiniu ribojimu tampa ne vien mokymas, o laikas ir kaina, reikalingi rezultatams generuoti dideliu mastu.<\/p>\n
Investicij\u0173 raundui vadovavo keli rizikos kapitalo fondai, o gautos l\u0117\u0161os bus nukreiptos DI lust\u0173 ir sistem\u0173 k\u016brimui bei komand\u0173 pl\u0117trai. \u012emon\u0117 \u012fkurta 2022 metais ir veikia su ambicija spr\u0119sti problem\u0105, kuri\u0105 technologij\u0173 rinkoje vis da\u017eniau \u012fvardija kaip inferencijos \u201ebutelio kaklel\u012f\u201c.<\/p>\n
Inferencija \u2013 tai etapas, kai jau i\u0161mokytas DI modelis realiu laiku generuoja atsakymus: apdoroja u\u017eklaus\u0105, atlieka skai\u010diavimus ir pateikia rezultat\u0105. \u0160is procesas tiesiogiai lemia naudotojo patirt\u012f, paslaugos kain\u0105 ir tai, ar DI sprendimas apskritai ekonomi\u0161kai apsimoka dideliems srautams.<\/p>\n
Pastaruoju metu modeliai vis da\u017eniau taikomi sud\u0117tingesn\u0117ms u\u017eduotims, kurioms reikia ilgesni\u0173 generuojam\u0173 atsakym\u0173 ir didesni\u0173 kontekst\u0173. Kuo daugiau teksto modelis turi \u201ei\u0161laikyti galvoje\u201c ir sugeneruoti, tuo labiau did\u0117ja skai\u010diavim\u0173, atminties ir energijos s\u0105naudos.<\/p>\n
Bendrov\u0117s vadovas ir \u012fk\u016br\u0117jas Walteris Goodwinas akcentuoja, kad pa\u017eangiausi DI modeliai jau pasiek\u0117 ta\u0161k\u0105, kai lemiamu veiksniu tampa laikas nuo u\u017eklausos iki galutinio atsakymo. Jo teigimu, ilg\u0117jant generuojamoms sekoms ir did\u0117jant u\u017eduo\u010di\u0173 sud\u0117tingumui, dabartin\u0117 aparatin\u0117 \u012franga vis da\u017eniau neleid\u017eia i\u0161laikyti reikiamo grei\u010dio u\u017e priimtin\u0105 kain\u0105.<\/p>\n
\u201eMes visk\u0105 pastat\u0117me ant i\u0161vados, kad norint realiai atverti \u0161i\u0105 pasl\u0117pt\u0105 vert\u0119 ir padaryti greit\u012f \u012fmanom\u0105 dideliu mastu, reikia i\u0161 esm\u0117s perkurti aparatin\u0119 \u012frang\u0105, ant kurios veikiame su pa\u017eangiausiais DI modeliais\u201c, \u2013 sak\u0117 Walteris Goodwinas.<\/p>\n
\u201eInferencija yra ir DI industrijos pajam\u0173 variklis, ir veiksnys, ribojantis jos pl\u0117tr\u0105\u201c, \u2013 sak\u0117 Walteris Goodwinas.<\/p>\n
\u201eTechnin\u0117s ir ekonomin\u0117s inferencijos grei\u010dio ribos, ypa\u010d atminties pralaidumas, kuris dabartin\u0117se architekt\u016brose nesp\u0117ja augti, yra tai, kas stabdo progres\u0105\u201c, \u2013 sak\u0117 Walteris Goodwinas.<\/p>\n
DI rinkoje pastaraisiais metais ry\u0161k\u0117ja tendencija kurti vis labiau specializuot\u0105 aparatin\u0119 \u012frang\u0105 konkre\u010dioms u\u017eduotims, ypa\u010d inferencijai. Praktikoje tai rei\u0161kia bandym\u0105 suma\u017einti energijos s\u0105naudas vienam atsakymui, padidinti na\u0161um\u0105 ir geriau i\u0161naudoti atminties pralaidum\u0105, nes b\u016btent duomen\u0173 jud\u0117jimas tarp atminties ir skai\u010diavimo blok\u0173 da\u017enai tampa brangiausia dalimi.<\/p>\n
\u201eFractile\u201c nurodo dirbanti ties lust\u0173 mikroarchitekt\u016bra, sistem\u0173 k\u016brimu ir gamybos proces\u0173 inovacijomis. Bendrov\u0117 taip pat pabr\u0117\u017eia, kad tikslas n\u0117ra vien pagreitinti dabartinius scenarijus, o atverti naujus: ilgesnes u\u017eduo\u010di\u0173 grandines, sud\u0117tingesn\u012f planavim\u0105, didesn\u0117s apimties analiz\u0119 ir kitus DI pritaikymus, kuriuos \u0161iandien riboja kaina ir trukm\u0117.<\/p>\n
\u012emon\u0117 skelbia ple\u010dianti komandas Londone, Bristolyje, San Fransiske ir Taip\u0117juje. Tokia geografija atspindi puslaidininki\u0173 sektoriaus realyb\u0119, kur pa\u017eangi\u0173 lust\u0173 k\u016brimas remiasi tarptautin\u0117mis talent\u0173, projektavimo ir gamybos grandin\u0117mis.<\/p>\n","protected":false},"excerpt":{"rendered":"
JK startuolis \u201eFractile\u201c pritrauk\u0117 apie 200 mln. eur\u0173 DI inferencijos lustams kurti, siekdamas suma\u017einti laik\u0105 ir kain\u0105, reikalingus modeli\u0173 atsakymams…<\/p>\n","protected":false},"author":0,"featured_media":23185,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[81],"tags":[102,83,8007,6852,819,1471,450],"miestas":[],"class_list":["post-23184","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-imones","tag-dirbtinis-intelektas","tag-fintech","tag-fractile","tag-inferencija","tag-lustai","tag-puslaidininkiai","tag-rizikos-kapitalas"],"acf":[],"_links":{"self":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/23184","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/comments?post=23184"}],"version-history":[{"count":0,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/posts\/23184\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media\/23185"}],"wp:attachment":[{"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/media?parent=23184"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/categories?post=23184"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/tags?post=23184"},{"taxonomy":"miestas","embeddable":true,"href":"https:\/\/cp.snarskis.lt\/index.php\/wp-json\/wp\/v2\/miestas?post=23184"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}