Vokietijos startuolis „Daisytuner“ pritraukė 6 mln. eurų: DI žada veikti sparčiai bet kuriame luste

Written by

in

Vokietijos Darmštate įsikūręs „DeepTech“ startuolis „Daisytuner“ pritraukė 6 mln. eurų pradinės (Seed) investicijos. Įmonė kuria technologijas, kurios automatizuoja DI modelių našumo optimizavimą ir leidžia jiems efektyviai veikti įvairioje aparatinėje įrangoje.

Apie investiciją pranešė „EU-Startups“: raundui bendrai vadovavo rizikos kapitalo fondai „Elaia“ ir „LEA Ventures“, taip pat prisidėjo „Amadeus APEX Technology Fund“ ir „Seedcamp“. Kartu su finansavimu bendrovė pristatė „Daisyflow“ – didelio našumo DI inferencijos variklį.

„Daisytuner“ idėja sprendžia vieną skaudžiausių DI rinkos problemų – skaičiavimo resursų trūkumą ir priklausomybę nuo vieno tiekėjo programinės ekosistemos. Įmonė teigia siekianti, kad tas pats kodas be perrašymo pasiektų aukštą našumą pasirinktame luste.

Praktinė šio požiūrio nauda aktuali tiek didiesiems debesijos tiekėjams, tiek įmonėms, kurios DI diegia savo infrastruktūroje: vietoje nuolatinio naujų pajėgumų pirkimo daugiau dėmesio skiriama tam, kad esama įranga būtų išnaudojama efektyviau. Didėjant lustų įvairovei, rankinis optimizavimas tampa lėtas ir brangus.

Kaip veikia „Daisytuner“ technologija

Bendrovę 2024 metais įkūrė Lukas Trümper ir Adrian Schmitz. Komanda remiasi daugiau nei dešimtmetį kaupta tyrimų patirtimi, įgyta tokiose institucijose kaip ETH Zurich, Miuncheno technikos universitetas, RWTH Aachen, TU Darmstadt ir Lawrence Livermore nacionalinė laboratorija.

„Daisytuner“ kuriamas atvirojo kodo kompiliatorius DOCC verčia kodą iš populiarių karkasų, tokių kaip „PyTorch“, į konkrečiam tiksliniam lustui pritaikytą natyvinį kodą. Taip siekiama, kad DI modeliai galėtų veikti skirtingų gamintojų aparatinėje įrangoje – nuo „NVIDIA“ ir AMD vaizdo plokščių iki naujesnių architektūrų.

Įmonė teigia, kad optimizavimas vyksta nuolat: DI agentai testuoja optimizacijas realioje aparatinėje įrangoje, o patikrinti rezultatai kaupiami našumo duomenų bazėje. Vėliau šie rezultatai panaudojami panašiems kodo atvejams, taip „mokant“ sistemą greičiau parinkti efektyvias optimizacijas.

„Daisyflow“ – inferencijos variklis, skirtas diegimui įmonėse

Kartu su investicija pristatytas „Daisyflow“ apibūdinamas kaip gamybai paruoštas DI inferencijos sprendimas. Jis sukurtas ant atvirų karkasų ir, pasak kūrėjų, gali aptarnauti kalbos, vaizdo, kalbos atpažinimo ir rekomendacijų modelius per tas pačias API, kurias įprastai naudoja inžinierių komandos.

Akcentuojama, kad sprendimą galima diegti kliento infrastruktūroje – tai leidžia įmonėms kontroliuoti duomenis ir kaštus, neinvestuojant į dideles vidines našumo optimizavimo komandas nuo pirmos dienos.

„Daisytuner“ nurodo, kad jų platforma parodė iki 18 proc. spartesnį „Qwen 2.5“ veikimą, lyginant su pramonėje plačiai naudojamu „vLLM“, AMD „Instinct“ vaizdo plokštėse. Bendrovė taip pat teigia, kad platforma prieinama per „Cloud Console“, kur sujungiami DOCC kompiliatorius, nuolatiniai bandymai realioje įrangoje, naršyklinis IDE individualioms optimizacijoms ir „gyva“ našumo duomenų bazė, naudojama kompiliavimo metu.

Kur bus panaudoti 6 mln. eurų

Startuolis skelbia, kad naujas kapitalas bus skirtas išplėsti „Daisyflow“ naudojimą įmonėse, auginti inžinerinę komandą ir praplėsti kompiliatoriaus palaikymą naujoms lustų architektūroms.

„Daisytuner“ taip pat sieja savo ambicijas su platesne rinkos kryptimi, kai didieji DI žaidėjai kuria nuosavą silicį: jų tikslas – tapti programiniu sluoksniu, padedančiu „atrakinti“ našumą įvairiuose lustuose, nepriklausomai nuo gamintojo.

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *