La startup de chips de inteligencia artificial Groq ha asegurado 640 millones de dólares en una nueva ronda de financiación liderada por Blackrock. Entre los participantes se encuentran Neuberger Berman, Type One Ventures, Cisco, KDDI y Samsung Catalyst Fund. Esta financiación eleva el total recaudado por Groq a más de 1,000 millones de dólares y valora a la empresa en 2,800 millones de dólares, duplicando su valoración anterior de 1,000 millones de dólares en abril de 2021.
La reciente inyección de capital es una gran victoria para Groq, que inicialmente buscaba recaudar 300 millones de dólares a una valoración ligeramente inferior. Además, la startup ha anunciado que Yann LeCun, científico jefe de IA de Meta, se unirá como asesor técnico, y Stuart Pann, ex jefe de negocios de fundición de Intel y ex CIO de HP, será el nuevo director de operaciones. La incorporación de LeCun es notable, dado que Meta ha invertido en sus propios chips de IA, lo que convierte a LeCun en un valioso aliado para Groq en un mercado altamente competitivo.
Groq, que emergió en 2016, está desarrollando un motor de inferencia llamado LPU (Language Processing Unit). Este promete ejecutar modelos de IA generativa, similares a ChatGPT y GPT-4 de OpenAI, a diez veces la velocidad y una décima parte del consumo de energía en comparación con los procesadores convencionales.
Groq ofrece una plataforma de desarrollo impulsada por LPU llamada GroqCloud, que incluye modelos abiertos como la familia Llama 3.1 de Meta, Gemma de Google, Whisper de OpenAI y Mixtral de Mistral. Además, proporciona una API que permite a los clientes utilizar sus chips en instancias en la nube. En julio, GroqCloud contaba con más de 356,000 desarrolladores, y parte de los fondos recaudados se destinarán a escalar la capacidad y añadir nuevos modelos y características. "Muchos de estos desarrolladores están en grandes empresas", declaró Stuart Pann a TechCrunch. "Más del 75% de las empresas de la lista Fortune 100 están representadas."
El mercado de chips de IA
A medida que la IA generativa sigue creciendo, Groq se enfrenta a una intensa competencia de otros fabricantes de chips de IA y de Nvidia, el líder indiscutible en el sector. Nvidia controla entre el 70% y el 95% del mercado de chips de IA, y ha prometido lanzar una nueva arquitectura de chips cada año. También está creando una unidad de negocio enfocada en diseñar chips a medida para empresas de computación en la nube.
Además de Nvidia, Groq compite con Amazon, Google y Microsoft, todos los cuales están desarrollando chips personalizados para cargas de trabajo de IA en la nube. Amazon ofrece sus procesadores Trainium, Inferentia y Graviton a través de AWS; Google Cloud utiliza sus TPU y, próximamente, el chip Axion de Google; y Microsoft ha lanzado instancias de Azure para su CPU Cobalt 100, con instancias Maia 100 AI Accelerator en camino.
Estrategias y futuro de Groq
Para asegurar su posición, Groq ha realizado movimientos estratégicos significativos. En marzo, adquirió Definitive Intelligence para formar Groq Systems, una unidad de negocios enfocada en proporcionar soluciones de IA a agencias gubernamentales y naciones soberanas. Recientemente, Groq se asoció con Carahsoft para vender sus soluciones a clientes del sector público y firmó una carta de intención para instalar decenas de miles de LPU en el centro de datos noruego de Earth Wind & Power.
Groq también colabora con Aramco Digital para instalar LPU en futuros centros de datos en Oriente Medio. Además, está avanzando hacia la próxima generación de su chip, contratando a Samsung para fabricar LPUs de 4 nm, que ofrecerán mejoras de rendimiento y eficiencia respecto a sus chips de primera generación.
La empresa planea desplegar más de 108,000 LPU para finales del primer trimestre de 2025, consolidando su apuesta por convertirse en un competidor formidable en el creciente mercado de chips de IA, estimado en alcanzar 400,000 millones de dólares en ventas anuales en los próximos cinco años.