A startup de chips de inteligência artificial Groq garantiu US$ 640 milhões em uma nova rodada de financiamento liderada pela Blackrock. Os participantes incluem Neuberger Berman, Type One Ventures, Cisco, KDDI e Samsung Catalyst Fund. Esse financiamento eleva o total levantado pela Groq para mais de US$ 1 bilhão e avalia a empresa em US$ 2,8 bilhões, dobrando sua avaliação anterior de US$ 1 bilhão em abril de 2021.
A recente injeção de capital é uma grande vitória para a Groq, que inicialmente buscava levantar US $ 300 milhões com uma avaliação um pouco menor. Além disso, a startup anunciou que Yann LeCun, cientista-chefe de IA da Meta, entrará como consultor técnico, e Stuart Pann, ex-chefe de negócios de fundição da Intel e ex-CIO da HP, será o novo COO. A adição de LeCun é notável, uma vez que a Meta investiu em seus próprios chips de IA, tornando LeCun um aliado valioso para a Groq em um mercado altamente competitivo.
A Groq, que surgiu em 2016, está desenvolvendo um mecanismo de inferência chamado LPU (Language Processing Unit). Ele promete executar modelos de IA generativos, semelhantes ao ChatGPT e ao GPT-4 da OpenAI, a uma velocidade dez vezes maior e com um décimo do consumo de energia em comparação com os processadores convencionais.
A Groq oferece uma plataforma de desenvolvimento alimentada por LPU chamada GroqCloud, que inclui modelos abertos, como a família Llama 3.1 da Meta, Gemma do Google, Whisper da OpenAI e Mixtral da Mistral. Ele também fornece uma API que permite aos clientes usar seus chips em instâncias de nuvem. Em julho, o GroqCloud contava com mais de 356.000 desenvolvedores, e parte dos fundos arrecadados será destinada ao aumento da capacidade e à inclusão de novos modelos e recursos. "Muitos desses desenvolvedores estão em grandes empresas", disse Stuart Pann ao TechCrunch. "Mais de 75% das empresas da Fortune 100 estão representadas."
O mercado de chips de IA
À medida que a IA generativa continua a crescer, a Groq enfrenta intensa concorrência de outros fabricantes de chips de IA e da Nvidia, líder indiscutível do setor. A Nvidia controla entre 70% e 95% do mercado de chips de IA e prometeu lançar uma nova arquitetura de chips todos os anos. Ela também está criando uma unidade de negócios voltada para o projeto de chips personalizados para empresas de computação em nuvem.
Além da Nvidia, a Groq concorre com a Amazon, o Google e a Microsoft, que estão desenvolvendo chips personalizadospara cargas de trabalho de IA na nuvem. A Amazon oferece seus processadores Trainium, Inferentia e Graviton por meio da AWS; o Google Cloud usa suas TPUs e, em breve, o chip Axion do Google; e a Microsoft lançou instâncias do Azure para sua CPU Cobalt 100, com instâncias do Maia 100 AI Accelerator a caminho.
Estratégias e futuro da Groq
Para garantir sua posição, a Groq fez movimentos estratégicos significativos. Em março, adquiriu a Definitive Intelligence para formar a Groq Systems, uma unidade de negócios focada em fornecer soluções de IA para agências governamentais e nações soberanas. Recentemente, a Groq fez uma parceria com a Carahsoft para vender suas soluções a clientes do setor público e assinou uma carta de intenções para instalar dezenas de milhares de LPUs no data center norueguês da Earth Wind & Power.
A Groq também está colaborando com a Aramco Digital para instalar LPUs em futuros data centers no Oriente Médio. Além disso, está avançando em direção ao seu chip de próxima geração, contratando a Samsung para fabricar LPUs de 4 nm, que oferecerão melhorias de desempenho e eficiência em relação aos seus chips de primeira geração.
A empresa planeja implantar mais de 108.000 LPUs até o final do primeiro trimestre de 2025, consolidando sua oferta para se tornar um concorrente formidável no crescente mercado de chips de IA, estimado em US$ 400 bilhões em vendas anuais nos próximos cinco anos.
