Alors que la vague de l'IA continue de stimuler l'innovation dans l'architecture des centres de données, Broadcom a récemment annoncé le lancement du commutateur réseau Tomahawk 6 « Davisson » à optiques co-packagées (CPO) de troisième génération et de la première carte Ethernet 800G du secteur, la « Thor Ultra », offrant des solutions réseau plus performantes pour les clusters de calcul d'IA de nouvelle génération. Manish Mehta, vice-président du marketing et des opérations de la division Systèmes optiques de Broadcom, et Hasan Siraj, responsable des logiciels et de l'écosystème, ont souligné l'importance de promouvoir le développement des infrastructures d'IA par une approche « ouverte » lors d'un échange avec les médias taïwanais.
Technologie CPO de troisième génération : Tomahawk 6 Davisson
Manish Mehta, vice-président de la division des systèmes optiques de Broadcom, a déclaré lors d'un briefing que le Tomahawk 6 Davisson est le premier commutateur Ethernet CPO 100T du secteur, avec des fonctionnalités telles qu'un taux de transmission allant jusqu'à 200G/voie, une bande passante totale de 102.4T et une réduction de 70 % de la consommation d'énergie par rapport aux modules optiques enfichables.
Parallèlement, le Tomahawk 6 Davisson est une plateforme fiable, validée par les produits de la génération précédente. Il a atteint une gigue de liaison nulle lors des tests réalisés par Meta sur un million d'heures de fonctionnement, ce qui témoigne de la stabilité des échanges de données lors de la transmission réseau.
Manish Mehta a souligné que la fiabilité de la technologie CPO a été prouvée et que les données de test publiques de Meta montrent que la technologie CPO améliore l'efficacité de la maintenance de 5 fois par rapport aux modules optiques enfichables et peut même augmenter l'efficacité de la formation de 90 % dans un cluster GPU 24K.
Carte réseau révolutionnaire : Thor Ultra
Hasan Siraj, responsable des produits logiciels au sein de la division commutation principale de Broadcom, a présenté Thor Ultra, une carte réseau Ethernet 800G conçue spécifiquement pour l'entraînement back-end de l'IA. Non seulement il s'agit de la première carte réseau unique du secteur capable d'un débit de 800G, mais sa consommation énergétique globale en fonctionnement est limitée à seulement 50 W. Elle est également entièrement conforme à la spécification Ultra Ethernet Consortium (UEC) 1.0, prend en charge la transmission multivoie au niveau des paquets et le traitement des paquets désordonnés, et offre les spécifications OCP 3.0 et PCIe. Elle est également compatible avec la conception PCIe Gen 6 de nouvelle génération, ce qui lui permet de se connecter aux futures applications de déploiement d'architectures de transmission réseau.
Hasan Siraj a également souligné que les protocoles RDMA traditionnels rencontrent des difficultés lorsqu'ils sont utilisés avec de grands clusters de centaines de milliers d'unités XPU. Thor Ultra, quant à lui, utilise une technologie moderne pour résoudre des problèmes clés tels que la transmission multi-trajets et le traitement désordonné. Cela améliore la latence et le ralentissement du réseau qui peuvent survenir lorsque de grandes quantités de données, telles que l'IA, sont transmises via des serveurs pour calcul.
Solution complète de réseau d'IA
La solution globale démontrée par Broadcom montre que la combinaison des commutateurs Tomahawk 6 et des cartes réseau Thor Ultra peut prendre en charge de grands clusters allant jusqu'à 128 000 GPU dans une architecture réseau à deux couches, réduisant ainsi la consommation d'énergie, la latence et l'utilisation des composants optiques de plus de 40 % par rapport à l'architecture traditionnelle à trois couches.
Feuille de route technologique et coopération industrielle
Lors de la séance de questions-réponses, les dirigeants de Broadcom ont non seulement expliqué que le produit CPO 400G/voie de quatrième génération était déjà en phase de développement, mais ont également fait part de leur étroite collaboration avec TSMC sur le processus de la plateforme photonique silicium COUPE. Ils ont également évoqué leur étroite collaboration avec des entreprises taïwanaises telles que Hon Teng Precision Industry Co., Ltd. et Delta Electronics dans les domaines des connecteurs, des châssis et du packaging avancé.
Par ailleurs, Intel a récemment démontré lors du sommet OCP l'intégration de ses processeurs serveur Xeon 6, de ses accélérateurs Gaudi 3 et du GPU B200 de NVIDIA sous la forme de NVIDIA NVLink Fusion, grâce au commutateur réseau Tomahawk 5 51.2 Tbit/s de Broadcom. Broadcom est optimiste quant à cette configuration et estime qu'avec l'ouverture croissante du marché, elle favorisera le développement des infrastructures d'IA.
Concernant la question de savoir si le cadre de collaboration Scale-up Ethernet entre OpenAI et d'autres entreprises entraînera des exigences de mise à niveau technologique obligatoires pour les fabricants taïwanais de serveurs et de matériel réseau, Broadcom a déclaré qu'OpenAI n'est que l'une des 12 entreprises fondatrices de ce projet. D'autres entreprises, dont Meta, Microsoft, Oracle, Cisco, Arista, Juniper, Broadcom, NVIDIA et AMD, se joindront à lui et apporteront leur contribution. Par conséquent, la définition des spécifications ne sera pas dominée par un seul fabricant, ce qui permettra à la chaîne d'approvisionnement taïwanaise de ne pas trop se soucier des problèmes de réponse.
