Gaudi 3, une révolution dans l'IA? - Version imprimable +- TISI (https://www.tisi-fr.com/board) +-- Forum : Gɛɛk Zønɛ (https://www.tisi-fr.com/board/forumdisplay.php?fid=3) +--- Forum : Matøs (https://www.tisi-fr.com/board/forumdisplay.php?fid=4) +--- Sujet : Gaudi 3, une révolution dans l'IA? (/showthread.php?tid=4646)

Gaudi 3, une révolution dans l'IA? - Juanito - 04-10-2024 Intel Gaudia 3   La société Intel vient tout juste de faire sensation dans le domaine de l’IA en sortant leur tout dernier accélérateur, le Gaudi 3. Spécialement conçu pour les applications d’IA, ses performances et son coût défient toute concurrence sur le marché, permettant à Intel de se démarquer face aux autres sociétés telles que Nvidia. Spécifications et performances : Le Intel Gaudi 3 propose des performances très attrayantes par rapport aux gammes de Nvidia. Intel a annoncé que cette nouvelle version serait 1,7 fois plus rapide que leur version précédente grâce aux nouveaux cœurs de traitement tensoriels. Un des points importants et majeurs de cette nouvelle version se situe au niveau de l’efficacité énergétique : cette 3e version serait 40 % plus performante que la précédente, ce qui est un atout majeur. Concernant la mémoire et la bande passante, le Gaudi sera équipé d’une mémoire de 128 Go de HBM2E avec une bande passante mémoire pouvant aller jusqu’à 3,67 To/s, contre seulement 80 Go et 2 To/s pour le H100 de Nvidia. Avantages : Comme cité précédemment, le point fort de l’accélérateur Gaudi 3 réside dans son efficacité énergétique. L’énergie étant un problème d’actualité au sein des entreprises, l’accélérateur est un bon moyen de faire des économies tant sur le plan financier que sur le plan énergétique. Un autre gros avantage du Gaudi 3 est son prix, environ 15 625 parprocesseurcontre30678 pour la carte H100 de Nvidia, ce qui représente un gros argument d’achat. Bien sûr, il y a d’autres avantages tels que les performances qu’Intel propose, qui sont excellentes. Conclusion : Pour conclure, le coût du Gaudi 3 et son efficacité énergétique font de cet accélérateur un produit attrayant par rapport à la concurrence, pour les entreprises recherchant à optimiser leurs investissements dans l’IA. Cependant, il restera encore des défis pour Nvidia, tels que la compatibilité avec les machines déjà existantes. Sources: https://habana.ai/products/gaudi3/ https://www.intel.com/content/www/us/en/products/details/processors/ai-accelerators/gaudi3.html https://www.tomshardware.com/tech-industry/artificial-intelligence/intel-launches-gaudi-3-accelerator-for-ai-slower-than-h100-but-also-cheaper   RE: Gaudi 3, une révolution dans l'IA? - EnZ0 - 07-10-2024 Wow, le Gaudi 3 fait vraiment du bruit ! Intel se lâche enfin sur le marché de l'IA, ça promet du spectacle. Il était temps qu'ils se bougent ! J'ai vu passer des benchmarks sur des tâches de traitement du langage naturel, et franchement, ça décoiffe. Le Gaudi 3 explose littéralement les scores sur des modèles comme BERT et GPT. C'est fou de voir à quel point il est optimisé pour ce genre de boulot. J'ai entendu dire que certaines boîtes commençaient déjà à migrer leurs workloads IA vers le Gaudi 3. Apparemment, les économies d'énergie sont tellement énormes que ça compense largement les coûts de migration. Vous pensez que ça va vraiment secouer le cocotier chez Nvidia ? Ou c'est juste un feu de paille ? RE: Gaudi 3, une révolution dans l'IA? - Juanito - 10-10-2024 Intel a encore du chemin à parcourir pour rattraper Nvidia, surtout en termes de logiciel et d'écosystème. Nvidia domine largement avec son stack logiciel CUDA et des années d'optimisation pour des charges de travail AI. Cela dit, le Gaudi 3 semble enfin offrir une alternative crédible dans certains cas d'usage spécifiques, en particulier pour ceux où le rapport performance/efficacité énergétique est critique. Mais je ne pense pas que ça soit un "feu de paille" pour Intel. Ce lancement marque plutôt le début d'une rivalité sérieuse entre ces deux grandes compagnies. Il faudra rester en alerte face aux nouvelles innovations d'Intel dans le futur!