IAGentic

Journal de veille sur l'usage appliqué de l'IA, chez soi et en entreprise : ce qu'on lui fait faire, ce qu'il faut pour commencer, ce que ça coûte et où ça casse.

benchmark

NVIDIA Vera Rubin NVL72 : dix fois le débit par kilowatt du GB300

Vera Rubin NVL72 entre dans MLPerf Training v6.1 avec le meilleur temps sur six des sept bancs et jusqu'à deux fois la performance par carte d'un GB300 NVL72, à nombre de cartes égal. Il termine DeepSeek-V3 en 4,14 minutes sur 1 024 cartes là où le GB300 en met 8,03, et le nouveau banc de post-entraînement par renforcement, Qwen 3.5 397B GRPO, descend à 10,44 minutes contre 13,78. Côté service, les résultats provisoires de MLPerf Endpoints v1.0 donnent plus de dix fois le débittokens par secondeNombre de tokens produits par seconde en génération. Avec le temps d'attente du premier token, c'est le chiffre qui dit si un modèle est utilisable au quotidien sur une machine donnée.Fiche du lexique par kilowatt du GB300 sur Kimi K3, pour 41 414,2 tokens par seconde à 1 024 requêtes simultanées.

par Gyom 17 novembre 2026 à 13:06 5 min de lecture rubrique : Matériel

etiquettes : Hébergé · GPU · Coût

Une armoire de calcul haute remplie de plateaux superposés à poignées massives, un faisceau de câbles tressés le long d'un montant, tranches magenta et moutarde, ombres cyan, dessin à l'encre sur fond crème.

MLPerf Training v6.1 est la première campagne où la machine Vera Rubin NVL72 de NVIDIA apparaît, et elle y prend le meilleur temps sur six des sept bancs de la suite, avec jusqu'à deux fois la performance par carte d'un GB300 NVL72 pourtant optimisé. La comparaison se fait à nombre de cartes égal, ce qui isole l'écart entre deux générations de l'effet d'une grappe plus large. Le constructeur place aussi 80 % des soumissions de la division fermée sur ses plateformes, réparties sur vingt organisations partenaires, et il est le seul à avoir soumis sur les sept bancs. La même semaine, MLPerf Endpoints v1.0 apporte des résultats de service sur la même architecture.

Quatre minutes quatorze sur DeepSeek-V3 au lieu de huit minutes trois

Le banc DeepSeek-V3 671B est le plus lourd de la suite : un mélange d'experts sans abandon de tokens, où chaque itération déclenche une rafale d'échanges entre experts, si bien que l'efficacité du réseau décide directement du temps d'entraînement. Vera Rubin NVL72 le termine en 4,14 minutes sur 1 024 cartes réparties en 16 baies. Le GB300 NVL72 met 8,03 minutes sur la même configuration, à la même échelle et avec le même nombre de cartes. C'est le plus grand écart entre générations de la campagne, et le seul banc où le gain atteint deux fois. À plus grande échelle, c'est le GB300 qui signe le temps absolu le plus court, 1,38 minute sur 10 240 cartes, soit une tâche étalée sur 160 baies dont chacune forme son propre domaine NVLink.

1,4 à 1,6 fois par carte sur les cinq autres bancs

Hors DeepSeek-V3, l'écart se resserre entre 1,4 et 1,6 fois par carte selon le modèle et la taille de la grappe.

Le gain ne suit donc pas la forme du modèle : modèles denses, mélanges d'experts, diffusion et recommandation progressent dans la même plage, seule la charge la plus communicative sort du lot.

Le post-entraînement par renforcement entre dans la suite, à 10,44 minutes

MLPerf Training v6.1 ajoute son premier banc de post-entraînement par renforcement pour agents, Qwen 3.5 397B GRPO. La charge est particulière : le cycle qui génère des trajectoires, les note puis met à jour les poids force des migrations massives entre le moteur d'inférence et le moteur d'entraînement, à chaque tour. Vera Rubin NVL72 le boucle en 10,44 minutes sur 1 024 cartes, contre 13,78 minutes pour le GB300 NVL72 à la même échelle, et NVIDIA a soumis ce banc sur deux moteurs d'inférence différents, NeMo RL avec TensorRT-LLM et vLLM.

Sur DeepSeek-V3, la plateforme garde plus de 97 % d'efficacité de mise à l'échelle quand la grappe passe de 256 à 1 024 cartes. Le matériel porte une épine NVLink 6 en cuivre qui donne 3,6 téraoctets par seconde par carte, avec des SuperNIC ConnectX-9 sur InfiniBand Quantum-X800 ou Ethernet Spectrum-X. NVIDIA indique aussi que des exécutions non vérifiées, menées avec une pile logicielle plus récente, réduisent encore le temps d'entraînement sur Llama 3.1 8B, gpt-oss 20B et DLRMv4, ce qui donne la marge logicielle restante une fois le matériel livré.

Côté service, dix fois le débit par kilowatt sur Kimi K3

MLPerf Endpoints v1.0 mesure autre chose : la capacité à servir plusieurs utilisateurs simultanés par interface de programmation, sur des trajectoires de code et des flux d'entreprise, en vérifiant que les appels d'outils générés restent conformes aux valeurs de référence. À un débit minimal partagé de 50 tokens par seconde et par utilisateur, Vera Rubin NVL72 rend plus de dix fois le débit par kilowatt de puissance provisionnée du GB300 NVL72 sur Kimi K3. Sur l'exécution retenue, 32 accélérateurs servent 1 024 requêtes simultanées à 4 673,9 millisecondes de temps avant premier tokenPlus petite unité de texte qu'un modèle manipule. Un mot courant tient souvent en un seul, un mot rare se découpe en plusieurs morceaux. Les prix, les limites et les débits s'expriment en tokens, pas en mots.Fiche du lexique au 90e centile, pour 41 414,2 tokens par seconde au total, 50,4 par utilisateur et 100,89 kilowatts consommés. Le GB300 tenait ces 1 024 requêtes à 16,8 tokens par seconde par utilisateur pour 60 kilowatts.

Neuf fois sur DeepSeek-V4.1-Flash, cinq fois sur Qwen3.6

Les deux autres modèles de la campagne donnent des écarts plus serrés en débit par kilowatt et plus larges en réactivité. Sur DeepSeek-V4.1-Flash, Vera Rubin atteint neuf fois le débit par kilowatt du GB300 au seuil de 280 tokens par seconde et par utilisateur, et cinq fois sa réactivité à concurrence égale. Sur Qwen3.6-35B-A3B, le rapport tombe à cinq fois le débit par kilowatt : à 256 requêtes simultanées, la machine rend 41 142,6 tokens par seconde au total contre 23 467,8 pour le GB300, soit 501 tokens par seconde par utilisateur contre 154,5. Les optimisations citées par le constructeur portent sur le noyau MegaMoE de DeepSeek et sur la prédiction multi-token de Qwen avec vérification par cœurs tensoriels, qui réduisent les mouvements de données et les étapes de décodage séquentielles.

Des résultats provisoires, sur trois modèles soumis par le constructeur

Les chiffres de MLPerf Endpoints v1.0 pour Vera Rubin sont provisoires : MLCommons ne les a pas encore vérifiés et ils peuvent changer avant révision par les pairs, tandis que ceux du GB300, publiés les 4 et 9 novembre, sont vérifiés. La campagne ne porte par ailleurs que sur trois modèles, Kimi K3, DeepSeek-V4.1-Flash et Qwen3.6-35B-A3B, tous soumis par NVIDIA, dans une division fermée où 80 % des soumissions viennent de ses plateformes. Elle dit ce que fait une baie de 32 accélérateurs contre une baie de 48 sur ces charges, et non ce que donnerait un autre assemblage matériel sur les mêmes charges.

Source primaire NVIDIA, « NVIDIA Vera Rubin NVL72 Achieves Up to 2x Blackwell Ultra Performance in MLPerf Training v6.1 » et « NVIDIA Vera Rubin NVL72 Leads Agentic Inference Performance on MLPerf Endpoints v1.0 », blogs techniques, 16 novembre 2026, résultats MLPerf Training v6.1 et MLPerf Endpoints v1.0 publiés par MLCommons

Retour au journal