L’accélérateur ML GroqCardde BittWare, proposé par Mouser, est un module PCIe double largeur qui facilite le déploiement des modèles d’apprentissage profond (deep learning) entraînés par PyTorch, TensorFlow et ONNX.


Doté de neuf connexions puce à puce RealScale, il permet le déploiement de plusieurs cartes aussi efficacement qu’une seule. L’accélérateur offre une évolutivité quasi-linéaire, multi-serveurs et multi-racks sans commutateurs externes. Le code de correction d’erreur (ECC) protège contre la corruption des données, améliorant ainsi le temps de fonctionnement et la fiabilité.

Équipé du processeur GroqChip entièrement déterministe, l’accélérateur garantit des performances prévisibles, sans goulot d’étranglement et à faible latence en réduisant les mouvements de données.

La suite GroqWare, une pile logicielle complète et polyvalente, comprend le compilateur Groq, l’API Groq et divers utilitaires. Elle simplifie l’intégration et la configuration, et est compatible avec les frameworks d’IA et de ML les plus courants. La chaîne d’outils GroqFlow, intégrée à GroqWare, permet d’importer et de transformer des modèles existants avec une seule ligne de code PyTorch ou TensorFlow.

L’accélérateur GroqCard offre jusqu’à 750 TOPS et 188 TFLOPS à une fréquence de 900 MHz pour les opérations INT8 et FP16. Il dispose de 230 Mo de SRAM par puce et d’une bande passante mémoire sur matrice allant jusqu’à 80 To/s, permettant un accès et un traitement des données à grande vitesse.

Le GroqCard est un choix polyvalent pour accélérer les charges de travail d’intelligence artificielle (IA), de calcul haute performance (HPC) et d’apprentissage automatique (ML) dans les secteurs financier, gouvernemental, industriel, de l’IA générative et de l’énergie.

Mouser Electronics | BittWare