Gimlet Labs, startup założony przez adiunkta Uniwersytetu Stanforda, Zaina Asghara, zebrał 80 milionów dolarów w rundzie finansowania serii A prowadzonej przez Menlo Ventures. Firma rozwiązuje krytyczny problem w szybko rozwijającej się przestrzeni AI: nieefektywność w wykorzystaniu istniejącego sprzętu do obciążeń AI. Rozwiązaniem Gimlet Labs nie jest tworzenie nowych chipów, ale maksymalne wykorzystanie tych, które są już w użyciu.
Problem: marnowana moc obliczeniowa
W miarę jak modele sztucznej inteligencji stają się coraz bardziej złożone, zapotrzebowanie na moc obliczeniową dramatycznie wzrasta. Oczekuje się, że do 2030 r. centra danych wydadzą prawie 7 bilionów dolarów, ale obecne wdrożenia wykorzystują jedynie 15–30% istniejącej wydajności sprzętu. Oznacza to, że w rzeczywistości marnuje się setki miliardów dolarów na niewykorzystane zasoby. Problemem nie jest brak mocy obliczeniowej, ale brak możliwości efektywnego rozłożenia zadań AI na różne architektury sprzętowe.
Rozwiązanie Gimlet Labs: „Wnioskowanie o chmurze wielokrzemowej”
Gimlet Labs opracowało oprogramowanie, które pełni rolę orkiestratora, umożliwiając jednoczesne działanie obciążeń AI na procesorach, procesorach graficznych i dużych systemach pamięci. Różne części aplikacji AI — wnioskowanie, dekodowanie i wywołania narzędzi — mają unikalne wymagania sprzętowe. Żaden pojedynczy chip nie jest lepszy od wszystkich innych pod każdym względem, ale platforma Gimlet dynamicznie przydziela zadania do najbardziej odpowiedniego dostępnego sprzętu.
„Zasadniczo pracujemy na dowolnym dostępnym sprzęcie” – mówi Asghar.
Takie podejście pozwala na znaczną poprawę wydajności — od 3 do 10 razy szybciej przy tym samym koszcie i zużyciu energii. Oprogramowanie może nawet oddzielić modele, aby działały na różnych architekturach, używając optymalnego chipa dla każdej części.
Kluczowe partnerstwa i wczesne sukcesy
Gimlet Labs nawiązał już współpracę z wiodącymi producentami chipów, w tym NVIDIA, AMD, Intel, ARM, Cerebras i d-Matrix. Firma weszła na giełdę w październiku i od razu wygenerowała ośmiocyfrowe przychody. W ciągu ostatnich czterech miesięcy baza jej klientów podwoiła się, włączając w to głównego twórcę modeli sztucznej inteligencji i głównego dostawcę usług przetwarzania w chmurze (nazwy ukryte).
Od obserwowalności do optymalizacji
Zespół założycielski współpracował wcześniej nad Pixie, narzędziem do monitorowania Kubernetes o otwartym kodzie źródłowym, nabytym przez firmę New Relic w 2020 r. Wydaje się, że to wcześniejsze doświadczenie w optymalizacji na poziomie systemu odegrało kluczową rolę w szybkim sukcesie Gimlet Labs. Obecnie firma zatrudnia 30 osób.
Zaufanie inwestorów
Runda Series A charakteryzowała się nadsubskrypcją, przy udziale inwestorów, w tym Factory, Eclipse Ventures, Prosperity7 i Triatomic. Do znaczących aniołów biznesu zaliczają się Bill Cowgran z firmy Sequoia, profesor Uniwersytetu Stanforda Nick McKeown, były dyrektor generalny VMware Raghu Raghuram i dyrektor generalny Intela Lip-Bu Tan.
Podejście Gimlet Labs podkreśla rosnący trend: skupienie się na wydajności sprzętu opartej na oprogramowaniu. Zamiast gonić za kolejnym przełomem w krzemie, firma maksymalizuje wartość istniejącej infrastruktury. Jest to pragmatyczna decyzja, która może mieć znaczące konsekwencje dla wdrożenia sztucznej inteligencji na dużą skalę.
