Groq, une startup spécialisée en IA et connue pour sa puce de raisonnement ultra-rapide LPU, plus tôt宣布La société a signé un accord de licence non exclusif avec NVIDIA concernant la technologie d'inférence.
Plus surprenant encore, Jonathan Ross, figure emblématique de Groq et ancien développeur principal de Google TPU, va emmener une partie de l'équipe chez NVIDIA. Bien qu'il ne s'agisse pas d'une acquisition classique, ce transfert important de compétences et de technologies aura sans aucun doute un impact significatif sur le marché de l'inférence IA.
Le fondateur « quitte le navire » pour rejoindre une entreprise partenaire ? Groq met l'accent sur l'indépendance de l'entreprise.
D'après le communiqué, l'accord est non exclusif, ce qui signifie que Groq continuera d'opérer de manière indépendante. Cependant, les changements de personnel sont importants : des membres clés, dont le PDG Jonathan Ross et le directeur des opérations et président Sunny Madra, rejoindront NVIDIA pour piloter le développement et l'adoption des technologies sous licence. L'ancien directeur financier Simon Edwards deviendra le nouveau PDG de Groq et continuera de diriger les opérations de l'entreprise. Son service cloud GroqCloud restera inchangé.
À propos de Groq : Une LPU conçue spécifiquement pour l’inférence LLM.
Fondée en 2016, Groq a son siège social à Mountain View, en Californie. Son fondateur, Jonathan Ross, était l'un des membres fondateurs de l'équipe TPU (Tensor Processing Unit) de Google.
Contrairement aux GPU NVIDIA, qui utilisent le calcul parallèle pour le traitement graphique et l'IA, Groq a développé un processeur dédié, le LPU (Language Processing Unit), doté d'une architecture déterministe et optimisé spécifiquement pour la phase d'inférence des grands modèles de langage (LLM). Sa vitesse de génération de jetons impressionne souvent le marché. Jonathan Ross a déclaré avec fierté : « D'autres s'appuient uniquement sur les GPU, tandis que notre avantage réside dans nos puces personnalisées. »
Analyse : Les stratégies de « contre-défense » et d'« acquisition technologique » de NVIDIA
À mon avis, bien que cet accord soit nominalement une « licence », il s'apparente davantage à une « acquisition-embauche » précise.
Bien que NVIDIA domine actuellement le marché de l'entraînement des modèles d'IA, l'architecture LPU de Groq présente une efficacité supérieure et une latence inférieure à celle des GPU en matière d'inférence. Grâce à cette collaboration, NVIDIA a non seulement acquis une licence pour la technologie d'inférence clé de Groq, mais a également intégré à ses équipes Jonathan Ross, expert reconnu dans ce domaine.
Cela présente deux avantages :
• Éviter l'examen des autorités de la concurrence :Si NVIDIA rachetait Groq purement et simplement, elle se heurterait inévitablement à une forte opposition de la part des autorités de régulation de plusieurs pays. En combinant licences et débauchage, NVIDIA a sécurisé la technologie et le personnel tout en préservant Groq comme société écran indépendante, une stratégie commerciale très astucieuse.
• Renforcer la carte d'inférence :Avec la généralisation des applications d'IA, la demande en puissance de calcul pour l'inférence dépassera celle pour l'entraînement. Cette initiative permettra à NVIDIA de consolider rapidement son avantage technologique dans le domaine de l'inférence, empêchant ainsi Groq et d'autres fournisseurs d'ASIC de prendre une position dominante.
Quant à l'avenir de Groq après la disparition de son fondateur, bien que l'entreprise souligne que ses activités se poursuivront normalement, la question de savoir si cette licorne autrefois vedette pourra maintenir son élan d'innovation après le départ de sa figure clé reste entière.
