Le châssis noir élégant posé sur la scène de l'Internationale Funkausstellung à Berlin ressemble à une station de travail haut de gamme standard. Cependant, cette machine, nommée Threadripper Halo Station, est un concentré des matériaux les plus coûteux et les plus rares du monde technologique moderne. Jack Huynh, vice-président senior d'AMD, a présenté l'appareil comme un supercalculateur personnel, une étiquette qui redéfinit les capacités d'une machine de bureau. En plaçant des composants habituellement réservés aux immenses fermes de serveurs dans un seul boîtier, AMD tente de changer la façon dont les entreprises achètent et utilisent l'intelligence artificielle.
Pour comprendre pourquoi un seul ordinateur peut coûter plus cher qu'une berline de luxe, il faut remonter les matériaux jusqu'à la plaquette de silicium. Sous le capot, la Halo Station dispose de deux accélérateurs de centre de données MI350P. Il ne s'agit pas de cartes graphiques standard pour le jeu. Ce sont des processeurs spécialisés conçus pour traiter les poids mathématiques des grands modèles de langage. Ces puces sont le pétrole brut numérique de l'économie actuelle. Elles nécessitent des processus de fabrication avancés que peu d'usines au monde peuvent fournir. En ajoutant les 96 cœurs d'un processeur Threadripper Pro, la machine dispose d'une puissance mathématique brute suffisante pour simuler une physique complexe ou générer des environnements 3D haute fidélité à partir d'une simple invite textuelle.
Le matériau physique le plus coûteux de cette machine est probablement la mémoire. La Halo Station dispose de 576 gigaoctets de mémoire à large bande passante, plus précisément la variante HBM3E. En termes courants, considérez la mémoire informatique standard comme un couloir étroit où les données doivent attendre leur tour pour atteindre le processeur. La HBM3E est une autoroute massive à plusieurs voies construite directement sur la puce. Cette conception permet aux données de circuler à des vitesses que la mémoire de bureau standard ne peut égaler. La machine dispose également de deux téraoctets de mémoire système, offrant un espace de travail massif pour que l'ordinateur puisse conserver les informations.
Ce volume de mémoire est la raison pour laquelle la Halo Station peut exécuter localement des modèles d'IA avec plus d'un billion de paramètres. Un paramètre est essentiellement une connexion dans le cerveau d'une IA. Plus un modèle possède de paramètres, plus il est nuancé et performant. La plupart des ordinateurs domestiques peinent à exécuter des modèles de 70 milliards de paramètres car ils manquent d'espace pour stocker les données pendant que le processeur les traite. En offrant plus de trois fois la capacité de mémoire de son plus proche rival, la Nvidia DGX Station, AMD fournit un espace de travail plus vaste pour l'IA. Cela signifie qu'une entreprise peut exploiter une version privée et massive d'un outil comme GPT-4 sans envoyer le moindre octet de données vers un serveur externe.
Si l'on regarde la situation dans son ensemble, la poussée vers les supercalculateurs locaux est une réaction à la hausse des coûts du cloud. Au cours de la dernière décennie, l'industrie technologique a tout déplacé vers des serveurs distants appartenant à Amazon, Microsoft ou Google. Cependant, l'exécution de grands modèles d'IA sur ces plateformes est coûteuse. Les entreprises paient un abonnement ou des frais à l'utilisation qui ne s'arrêtent jamais. Ces coûts sont comme une fuite lente dans un pneu qui finit par laisser une entreprise en rade. Une firme dépensant 5 000 € par mois en frais de cloud pour l'IA dépensera 180 000 € sur trois ans.
AMD parie que les institutions préféreront payer 100 000 € d'avance pour posséder le matériel. Ce changement représente un mouvement vers un pouvoir décentralisé. Lorsqu'une entreprise possède la Halo Station, elle dispose d'un stagiaire infatigable qui travaille pour le coût de l'électricité. Elle n'a pas à s'inquiéter d'un fournisseur de cloud qui augmenterait ses prix ou modifierait les conditions de service. C'est particulièrement attrayant pour des secteurs comme la santé, la défense ou les services juridiques, où la confidentialité des données est une exigence légale. Garder les données à l'intérieur du bâtiment sur une machine physique est le moyen le plus sûr de gérer des informations sensibles.
AMD pénètre un marché que Nvidia occupe depuis plusieurs années. La Nvidia DGX Station est la norme actuelle pour le développement local de l'IA. Côté marché, Nvidia possède un avantage significatif car son logiciel est le standard de l'industrie. La plupart des chercheurs en IA écrivent du code qui fonctionne mieux sur le matériel Nvidia. Nvidia facilite également le transfert du travail d'un bureau local vers un cluster cloud massif. Cette transition transparente est un argument de vente majeur pour les développeurs qui commencent petit et montent en puissance.
| Caractéristique | AMD Threadripper Halo Station | Nvidia DGX Station (Gén. actuelle) |
|---|---|---|
| Nombre de cœurs | 96 cœurs (Threadripper Pro) | Variable (Hôte Intel/AMD) |
| Mémoire à large bande passante | 576 Go HBM3E | 160 Go - 320 Go HBM |
| Mémoire système | Jusqu'à 2 To | Jusqu'à 512 Go - 1 To |
| Capacité de modèle d'IA | 1 billion+ de paramètres | ~500 milliards de paramètres |
| Refroidissement | Refroidissement liquide | Refroidissement liquide |
| Écosystème logiciel | En croissance (ROCm) | Mature (CUDA) |
La stratégie d'AMD est de gagner sur la capacité brute. En offrant nettement plus de mémoire, ils permettent aux utilisateurs d'exécuter des modèles plus grands que ce que la machine Nvidia peut supporter. Si un chercheur doit travailler sur un modèle d'un billion de paramètres, la machine AMD est actuellement la seule option de bureau capable de faire tenir ce modèle dans sa mémoire. Cependant, le succès de ce matériel dépendra de la plateforme logicielle d'AMD, appelée ROCm. Historiquement, AMD a eu du mal à égaler la facilité d'utilisation logicielle de Nvidia. Pour l'utilisateur moyen dans un environnement d'entreprise, le matériel ne vaut que ce que valent les applications qui s'y exécutent.
Pratiquement parlant, la plupart des individus n'achèteront pas un ordinateur à 100 000 €. La Threadripper Halo Station est un outil industriel, pas un appareil ménager. Vous devez considérer cette machine de la même manière qu'une grue de chantier ou un robot chirurgical spécialisé. C'est l'épine dorsale invisible qui aidera à créer les logiciels que vous utiliserez sur votre téléphone l'année prochaine. Lorsqu'un développeur dispose d'une telle puissance sur son bureau, il peut expérimenter plus rapidement. Il peut entraîner des agents d'IA plus petits et plus efficaces qui finiront par fonctionner sur des ordinateurs portables grand public moins chers.
Du point de vue du consommateur, cette sortie signale que l'ère de la dépendance totale au cloud touche à sa fin. Nous assistons à un retour cyclique au traitement local. À mesure que les composants à l'intérieur de ces supercalculateurs deviennent moins chers et plus faciles à fabriquer, la technologie se diffusera. La mémoire à large bande passante qui rend la Halo Station si chère aujourd'hui sera probablement standard dans les PC de jeu de milieu de gamme d'ici 2030. C'est ainsi que fonctionne la démocratisation technologique. Les outils de luxe d'aujourd'hui deviennent les composants fondamentaux des appareils économiques de demain.
Le lancement de la Halo Station est un signe tangible que l'industrie de l'IA arrive à maturité. Nous dépassons la phase de battage médiatique où chaque entreprise louait simplement de l'espace sur un serveur. Les entreprises recherchent désormais des solutions évolutives et résilientes qu'elles peuvent contrôler. AMD fournit l'infrastructure physique pour cette indépendance. Bien que le prix soit élevé, le potentiel d'économies à long terme et la sécurité des données constituent une incitation puissante pour les grandes institutions.
En fin de compte, vous devriez observer comment votre propre lieu de travail gère les données au cours de l'année à venir. Si votre entreprise commence à parler d'« IA sur site » ou d'« inférence locale », elle parle de machines comme la Halo Station. Ce passage vers la puissance locale changera la façon dont les logiciels sont développés et dont vos données personnelles sont protégées. Vous assistez à un moment où le pétrole brut numérique de la puissance de traitement est conditionné pour le bureau, rendant le monde complexe de l'IA un peu plus ancré dans la réalité physique.
Sources :



Notre solution de messagerie cryptée de bout en bout et de stockage en nuage constitue le moyen le plus puissant d'échanger des données en toute sécurité, garantissant ainsi la sûreté et la confidentialité de vos données.
/ Créer un compte gratuit