Machines et coûts
Quelle machine pour quelle taille de modèle, à quelle vitesse, et pour quel prix, chez soi comme en entreprise.
Les constructeurs suivis et leurs références relevées sont sur Matériel.
sortie 13:06 · il y a 3 j Inkling 2 Small : Thinking Machines entraîne en NVFP4 sur GB300
Thinking Machines met en ligne le 5 novembre Inkling 2 Small, un mélange d'experts de 594 milliards de paramètres dont 17 milliards actifs par token, qui accepte les images et un effort de raisonnement réglable. Le laboratoire annonce 31 sur l'index Intelligence d'Artificial Analysis contre 13 pour Inkling Small, et promet les poids sous Apache 2.0 la semaine suivante, après les tests de sûreté externes.
sortie 13:12 · il y a 4 j Ripple-65B : 80,52 sur TerminalBench 2.1 pour 32 millions
Ricursive Intelligence publie Ripple-65B Preview, un modèle dense de 65 milliards de paramètres entraîné sur 12 000 milliards de tokens, qui revendique le meilleur score américain en poids ouverts sur le codage agentique. Le laboratoire chiffre son développement complet, du premier jeu de données au dernier rollout, à 32 millions de dollars, avec 1,4 million de rollouts pour atteindre 80,5 sur TerminalBench 2.1.
papier 13:13 · il y a 7 j ASTC coupe 50,68 % des paires d'attention d'un agent Qwen3.5-9B
Un papier déposé le 30 octobre 2026 décrit ASTC, une compression du contexte d'agent qui ne s'entraîne pas : le modèle lit dans son propre état récurrent ce qu'il a déjà absorbé, porte cette information en tokens mous et garde les valeurs exactes en tokens durs. Le cache de décodage devient réutilisable d'une décision à l'autre. Sur OfficeBench, la justesse passe de 48,42 % à 47,37 % quand les paires d'attention tombent à 49,32 % du niveau de base.
sortie 07:15 · il y a 10 j Mistral publie les poids de Large 4 sous une licence MIT modifiée
Mistral met en téléchargement le 29 octobre 2026 les poids de Mistral Large 4, trois semaines après l'avoir ouvert en aperçu public. Le modèle de 1 000 milliards de paramètres en active 52 milliards par token, tient une fenêtre de 1 million de tokens et sort sous une licence MIT modifiée qui interdit la revente d'inférence sans contrat. L'API du même modèle passe à 0,70 dollar l'entrée et 2,10 dollars la sortie par million de tokens.
outil 13:01 · il y a 12 j NVIDIA CUDA 13.4 découpe la mémoire des GPU dans Kubernetes
NVIDIA décrit le 27 octobre 2026 un opérateur Kubernetes open source, gpu-fractioning, hébergé sous l'organisation du planificateur KAI, qui applique sur chaque nœud la limite mémoire introduite par CUDA 13.4. Un conteneur demande une quantité exacte de mémoire, ou un minimum garanti avec un plafond qu'il peut franchir quand la carte est libre, et la carte ne porte qu'un mode de calcul à la fois : temps partagé ou partage des multiprocesseurs. KAI Scheduler 0.18.0 est le premier planificateur à écrire les annotations que l'opérateur lit.
papier 07:18 · il y a 14 j LazyFlash allège la rétropropagation de l'attention, 5,72 fois
Un papier déposé le 22 octobre 2026 sur arXiv garde le passage avant de l'attention exactement dense et ne retire du calcul que la rétropropagation. LazyFlash classe les blocs de requêtes par la norme du gradient de leur sortie, saute ceux qui ne pèsent presque rien dans la mise à jour des poids, et laisse un budget de masse de gradient fixer la part sautée. Sur Qwen3-8B affiné pour le contexte long, la rétropropagation de l'attention tombe de 1 429,8 à 507,4 millisecondes par microbatch, et le score LongBench-Pro monte de 29,64 à 30,24. À 32 000 tokens, le gain atteint 5,72 fois sur l'attention arrière et 1,66 fois sur le pas d'entraînement complet.
outil 07:14 · il y a 15 j gpu-unlock débloque le BF16 des GeForce RTX 30 avant le pilote
Le dépôt gpu-unlock, ouvert le 18 octobre 2026, livre un module du noyau Linux qui débloque le débit d'émission des instructions FP et BF16 sur les GeForce RTX 30, jusqu'au niveau des cartes professionnelles bâties sur le même silicium. Il se charge dans l'initramfs, avant que le pilote NVIDIA ne s'attache aux cartes, écrit deux sélecteurs de vitesse, puis laisse le pilote standard faire son travail. Sur une 3090 Ti à 450 W, le BF16 passe de 87,50 à 157,41 TFLOPS sur un produit matriciel de 8192 ; sur une 3090 bridée à 350 W, le traitement d'un prompt de 16 000 tokens gagne 16 % quand le décodage ne bouge pas.
benchmark 17:00 · il y a 17 j Huit DGX Spark de NVIDIA réunis font tourner GLM 5.3 en local
NVIDIA annonce à GTC Berlin la prise en charge officielle des grappes de huit DGX Spark : 1 To de mémoire unifiée, contre 128 Go sur une machine seule, de quoi charger le GLM 5.3 complet de Z.ai. Sur Qwen3.8-27B en NVFP4, le décodage passe de 11,86 à 52,58 tokens par seconde, et un nanochat de 896,5 millions de paramètres s'entraîne 7,79 fois plus vite sur huit nœuds que sur un.
papier 17:00 · il y a 18 j VocabX coupe 77 % du coût d'inférence d'un correcteur Qwen3-4B
Dharma-AI publie le 21 octobre 2026 la méthode VocabX, qui reconstruit le vocabulaire d'un petit modèle spécialisé autour du coût de chaque token. Sur un correcteur de dissertations portugaises bâti sur Qwen3-4B, la réponse moyenne tombe de 350 à 101 tokens, le coût mesuré de 77,0 % et le score du banc monte de 0,703 à 0,810. Les chiffres viennent de la version en relecture du papier, encore à paraître.
sortie 13:01 · il y a 20 j MiniMax sort M3.1 Flash, 70 % moins cher que M3
MiniMax met en ligne le 19 octobre 2026 M3.1 Flash, la version rapide de sa gamme d'agents, facturée 0,15 dollar le million de tokens en entrée et 0,60 en sortie, soit 70 % de coût d'usage en moins que son prédécesseur. L'éditeur annonce une inférence près de trois fois plus rapide, 170 tokens par seconde en médiane et 73,7 % sur DeepSWE v1.1, et renvoie la publication des poids à plus tard.
sortie 13:03 · il y a 24 j IBM Granite Switch 4.1 réunit chat, décisions et parole
Deux modèles de 8 et 30 milliards de paramètres répondent en langage naturel, rendent des décisions et transcrivent la parole depuis un seul point d'entrée, pour à peu près la mémoire vidéo que le modèle de base occupe seul. Un adaptateur de décision, un adaptateur garde-fou et un modèle de reconnaissance vocale sont composés sur la même base.
note 12:17 · il y a 26 j Liquid AI sort LFM2.5-24B-A2B, un raisonneur à 2 milliards actifs
Liquid AI met en ligne le 13 octobre 2026 LFM2.5-24B-A2B, un modèle de raisonnement de 24 milliards de paramètres dont 2 milliards seulement sont actifs par token, taillé pour faire tourner des agents sur la machine de l'utilisateur. La fenêtre de contexte passe de 32 000 à 131 000 tokens, et l'éditeur mesure 184 tokens par seconde sur un M5 Max et 114 sur un Ryzen AI Max+ 395, jusqu'à 1,7 fois le modèle suivant de son comparatif.
note 13:01 · il y a 27 j NVIDIA accélère le décodage des modèles hybrides avec ReplaySSM
ReplaySSM représente l'état d'une couche à espace d'état par un point de contrôle et une fenêtre de seize entrées récentes, au lieu de lire et réécrire la matrice d'état à chaque token. NVIDIA et le Dao AI Lab de Princeton mesurent sur quatre modèles hybrides un noyau de décodage 1,46 à 1,80 fois plus rapide à 256 requêtes simultanées, et 1,85 à 2,10 fois le débit du décodage spéculatif de vLLM à 512 requêtes.
release 13:01 · il y a 31 j Anthropic publie Haiku 5.5, 75 % moins cher que Haiku 4.5
Anthropic met en ligne le 7 octobre 2026 Claude Haiku 5.5, son petit modèle le plus rapide et le moins cher, facturé jusqu'à 90 % sous Haiku 4.5 pour les requêtes de moins de 100 000 tokens, soit environ 75 % moins cher à l'usage en moyenne. Premier modèle de la classe Haiku doté d'un réglage d'effort, il se place derrière Sonnet 5.5 sur le code d'agent complexe, mais Anthropic le destine aux tâches courtes et répétitives qui remplissent les installations d'agents.
release 07:27 · il y a 33 j Mistral ouvre Large 4 « Le Chonk », 1 000 milliards de paramètres
Mistral ouvre en préversion publique Mistral Large 4, un modèle multimodal de mille milliards de paramètres dont 49 milliards actifs, entraîné sur 3 800 GPU Grace Blackwell dans ses propres centres européens, les poids annoncés pour la fin du mois. La facture est de 1,36 dollar par million de tokens d'entrée et 4,18 en sortie, et l'appui mis en avant n'est pas le classement général mais la cybersécurité : 82 % sur une épreuve qui demande de reproduire une vulnérabilité réelle dans un logiciel libre, puis d'écrire le correctif.
release 13:02 · il y a 35 j Kolibri active 3 milliards de paramètres sur 78 et vise l'administration allemande
Aleph Alpha ouvre Kolibri, un mélange d'experts anglais-allemand de 78 milliards de paramètres dont 3 milliards actifs par token, sous licence Apache 2.0 et jusqu'à un million de tokens de contexte. Le modèle est taillé pour tourner chez le client, dans l'administration publique, l'industrie et l'aérospatial, et l'éditeur le place au niveau de modèles quatre fois plus lourds en paramètres actifs sur les maths, le code et le raisonnement.
outil 15:20 · il y a 38 j Olmo-core 3 passe de 8 à 128 experts sans perdre de débit
L'institut Allen pour l'IA publie Olmo-core 3, la pile d'entraînement qui portera son prochain modèle : en portant le vivier d'experts de 8 à 128 sans sélectionner plus de quatre experts par token, la capacité totale passe de 4,6 à 47 milliards de paramètres et le débit d'entraînement recule de moins de 5 %. Sur huit B300, la nouvelle pile traite 52 000 tokens par seconde et par GPU, contre 19 400 pour l'implémentation précédente.
benchmark 11:30 · il y a 41 j Combien de tokens brûle vraiment un agent
Le même agent, la même tâche, et une facture qui varie d'un facteur dix. Le papier TokenCast attaque le sujet par la mesure plutôt que par l'estimation à vue.
release 07:40 · il y a 41 j llama.cpp b11247 : Vulkan réutilise ses descriptor sets
Le backend Vulkan arrête de reconstruire ses descripteurs quand les bindings ne changent pas entre deux appels.