Gimlet Labs, uma startup fundada pelo professor adjunto de Stanford, Zain Asgar, levantou US$ 80 milhões em uma rodada de financiamento da Série A liderada pela Menlo Ventures. A empresa está abordando um problema crítico no cenário de IA em rápida expansão: a ineficiência da utilização atual de hardware para cargas de trabalho de IA. A solução da Gimlet Labs não se trata de construir novos chips, mas de aproveitar ao máximo os chips já em uso.
O problema: poder computacional desperdiçado
À medida que os modelos de IA se tornam mais complexos, a procura por poder computacional dispara. Prevê-se que os data centers gastem quase 7 biliões de dólares até 2030, mas as implementações atuais aproveitam apenas entre 15% e 30% da capacidade de hardware existente. Isto significa que centenas de milhares de milhões de dólares estão efetivamente a ser desperdiçados em recursos ociosos. O gargalo não é a falta de computação; é a incapacidade de distribuir com eficiência tarefas de IA em diversas arquiteturas de hardware.
Solução da Gimlet Labs: uma “nuvem de inferência multi-silício”
A Gimlet Labs desenvolveu um software que atua como um orquestrador, permitindo que cargas de trabalho de IA sejam executadas simultaneamente em CPUs, GPUs e sistemas com muita memória. Diferentes partes de um aplicativo de IA – inferência, decodificação e chamadas de ferramentas – cada uma tem requisitos de hardware exclusivos. Nenhum chip se destaca em todos eles, mas a plataforma Gimlet atribui tarefas dinamicamente ao hardware mais adequado disponível.
“Basicamente rodamos em qualquer hardware diferente disponível”, diz Asgar.
Essa abordagem permite ganhos significativos de desempenho – inferência entre 3x e 10x mais rápida com o mesmo custo e potência. O software pode até mesmo fatiar modelos para rodar em diferentes arquiteturas, usando o chip ideal para cada porção.
Principais parcerias e tração inicial
A Gimlet Labs já garantiu parcerias com grandes fabricantes de chips, incluindo NVIDIA, AMD, Intel, ARM, Cerebras e d-Matrix. A empresa foi lançada publicamente em outubro e gerou imediatamente uma receita de oito dígitos. Nos últimos quatro meses, a sua base de clientes duplicou, incluindo agora um importante desenvolvedor de modelos de IA e um grande fornecedor de computação em nuvem (nomes não divulgados).
Da observabilidade à otimização
A equipe fundadora colaborou anteriormente na Pixie, uma ferramenta de observabilidade de código aberto para Kubernetes, adquirida pela New Relic em 2020. Essa experiência anterior em otimização em nível de sistema parece ter sido crucial para o rápido sucesso do Gimlet Labs. A empresa emprega hoje 30 pessoas.
Confiança do Investidor
A rodada da Série A teve excesso de inscrições, com a participação de investidores como Factory, Eclipse Ventures, Prosperity7 e Triatomic. Investidores anjos notáveis incluem Bill Coughran da Sequoia, o professor de Stanford Nick McKeown, o ex-CEO da VMware Raghu Raghuram e o CEO da Intel Lip-Bu Tan.
A abordagem da Gimlet Labs destaca uma tendência crescente: o foco na eficiência orientada por software na utilização de hardware. Em vez de perseguir a próxima inovação em silício, a empresa está maximizando o valor da infraestrutura existente. Esta é uma solução pragmática que pode ter implicações significativas para a implantação de IA em grande escala.
