Matériel

Cartes graphiques, Apple Silicon, mini-pc d'IA locale : ce qui tourne, quelle mémoire il faut pour quelle taille de modèle, et ce que ça coûte.

Les constructeurs suivis

NVIDIA Cartes graphiques et accelerateurs 7 références relevées
AMD Cartes graphiques et processeurs 4 références relevées
Apple Ordinateurs à mémoire unifiée 6 références relevées
Minisforum Mini-pc et serveurs compacts 6 références relevées
HP Stations de travail compactes 3 références relevées
Intel Cartes graphiques et processeurs 2 références relevées
Qualcomm Processeurs pour portables 3 références relevées
Tenstorrent Accélérateurs ouverts 4 références relevées
Framework Ordinateurs modulaires 3 références relevées
Raspberry Pi Cartes et modules d'extension 4 références relevées

Toutes ces mesures sont reprises en table ouverte sur Données, 2596 lignes sous Licence Ouverte 2.0.

benchmark 17:00 · il y a 23 j

Apple fait tourner Muse Spark Open 816B sur quatre Mac Studio

Apple publie le 15 octobre 2026 des mesures d'inférence distribuée de Muse Spark Open, le modèle de 816 milliards de paramètres : sur quatre Mac Studio à puce M5 Ultra, il décode 36,73 tokens par seconde. La même puce abaisse le temps du premier token jusqu'à 4,6 fois par rapport à la génération M3 Ultra, pour environ 300 watts au pic.

chez-soi · local · gpu