Gimlet Labs, startup založený mimořádným profesorem Stanfordské univerzity Zainem Asgharem, získal 80 milionů dolarů ve finančním kole série A vedeném Menlo Ventures. Společnost řeší kritický problém v rychle se vyvíjejícím prostoru umělé inteligence: neefektivita při používání stávajícího hardwaru pro pracovní zátěže AI. Řešením Gimlet Labs není vytvářet nové čipy, ale maximálně využít ty, které se již používají.
Problém: Plýtvání výpočetním výkonem
S tím, jak se modely umělé inteligence stávají složitějšími, dramaticky roste poptávka po výpočetním výkonu. Očekává se, že datová centra utratí do roku 2030 téměř 7 bilionů dolarů, ale současné nasazení využívá pouze 15 % až 30 % stávající hardwarové kapacity. To znamená, že stovky miliard dolarů jsou ve skutečnosti promarněny na nevyužité zdroje. Problémem není nedostatek výpočetního výkonu, ale neschopnost efektivně distribuovat úkoly AI napříč různými hardwarovými architekturami.
Řešení Gimlet Labs: “Multi-Silicon Cloud Inference”
Gimlet Labs vyvinula software, který funguje jako orchestrátor a umožňuje, aby pracovní zátěže AI běžely současně na CPU, GPU a velkých paměťových systémech. Různé části aplikace AI – odvození, dekódování a volání nástrojů – mají jedinečné hardwarové požadavky. Žádný jednotlivý čip není ve všech aspektech lepší než všechny ostatní, ale platforma Gimlet dynamicky přiděluje úkoly nejvhodnějšímu dostupnému hardwaru.
„V podstatě pracujeme na jakémkoli dostupném hardwaru,“ říká Asghar.
Tento přístup umožňuje výrazné zlepšení výkonu – 3 až 10krát rychlejší při stejných nákladech a spotřebě energie. Software může dokonce oddělit modely, aby běžely na různých architekturách, s použitím optimálního čipu pro každou část.
Klíčová partnerství a rané úspěchy
Gimlet Labs již uzavřela partnerství s předními výrobci čipů včetně NVIDIA, AMD, Intel, ARM, Cerebras a d-Matrix. Společnost vstoupila na burzu v říjnu a okamžitě vygenerovala osmiciferné příjmy. Její zákaznická základna se za poslední čtyři měsíce zdvojnásobila, včetně významného vývojáře modelů AI a velkého poskytovatele cloud computingu (jména nebyla zveřejněna).
Od pozorovatelnosti k optimalizaci
Zakládající tým dříve spolupracoval na Pixie, open source monitorovacím nástroji Kubernetes, který společnost New Relic získala v roce 2020. Zdá se, že tato předchozí zkušenost s optimalizací na systémové úrovni hrála zásadní roli v rychlém úspěchu Gimlet Labs. V současné době společnost zaměstnává 30 lidí.
Důvěra investorů
Kolo série A bylo přeplaceno, za účasti investorů včetně Factory, Eclipse Ventures, Prosperity7 a Triatomic. Mezi významné andělské investory patří Bill Cowgran ze Sequoie, profesor Stanfordské univerzity Nick McKeown, bývalý generální ředitel VMware Raghu Raghuram a generální ředitel Intelu Lip-Bu Tan.
Přístup Gimlet Labs zdůrazňuje rostoucí trend: zaměření na softwarově řízenou efektivitu hardwaru. Namísto honby za dalším křemíkovým průlomem společnost maximalizuje hodnotu stávající infrastruktury. Toto je pragmatické rozhodnutí, které by mohlo mít významné důsledky pro nasazení AI ve velkém.
