
Andes Technology, à Taïwan, expédie un modèle vectoriel RISC-V multicœur de 64 bits à hautes performances les puces d’IA pour centres de données LLM
L’AX45MPV est la troisième génération de la série de processeurs vectoriels RISC-V AndesCore et peut également être utilisé pour les ADAS, l’inférence et l’apprentissage de l’IA, l’AR/VR, le multimédia, la robotique et le traitement du signal.
Andes et Meta ont commencé à collaborer sur l’IA dans les centres de données avec le cœur vectoriel RISC-V depuis le début de 2019, ce qui a conduit à ce que l’AndesCore NX27V génère jusqu’à 4 résultats vectoriels (VLEN) de 512 bits par cycle. Depuis lors, les cœurs de processeurs vectoriels RISC-V sont devenus le choix des concepteurs de puces de ML et d’IA.
L’AX45MPV étend les capacités du pipeline à double émission à 8 étapes, le support Linux et le multicœur de l’AX45MP précédent avec la puissante unité de traitement vectoriel héritée et améliorée du NX27V pour supporter six instructions vectorielles de 1024 bits par cycle.
- Une startup finance une plateforme de calcul d’inférence pour l’IA générative
- Blaize ajoute l’IA générative à son outil de développement
Bien que l’AX45MPV soit essentiellement un processeur d’application Linux doté de capacités d’IA de niveau centre de données, la prise en charge de Linux et du multicœur peut être omise pour former un processeur de calcul efficace et puissant dans les éléments de traitement (PE) d’une grande baie de calcul.
La capacité de double sortie combinée à un maximum de six résultats vectoriels (VLEN) de 1024 bits par cycle dans l’AX45MPV permet de multiplier par plus de 3 les performances par rapport à son prédécesseur. Deux interfaces mémoire de 1024 bits et une nouvelle option de mémoire locale vectorielle (HVM) à large bande passante en sont le support. Il fournit 1 ou 2 ports de banque HVM pour les chargements/stocks de vecteurs et un moteur DMA externe pour déplacer des blocs de données en arrière-plan via un port d’accès HVM basé sur AXI.
Les tâches de calcul nécessitant un contrôle intégré du coprocesseur ainsi qu’un transfert de données peuvent utiliser le port de streaming Andes (ASP) qui, avec HVM, double la largeur de bande de la mémoire en permettant, par exemple, de charger deux données vectorielles par cycle.
- L’impact des transformateurs sur la conception des puces d’intelligence artificielle
- Hailo porte l’IA des transformateurs sur une puce intégrée
L’AX45MPV supporte également le dernier ACE (Andes Custom Extension) qui permet aux clients de créer leurs propres instructions vectorielles de type RISC-V. Par exemple, ACE peut être utilisé pour accélérer les fonctions mathématiques non linéaires telles que SoftMax sur Transformer AI.
» Andes est au service des clients de l’IA dans les centres de données depuis 2019 avec l’architecture vectorielle RISC-V et a accumulé une riche expérience. Dotée de la puissante unité vectorielle de 1024 bits, d’une prise en charge efficace du multicœur et de Linux, et de configurations polyvalentes, la troisième génération de processeurs vectoriels d’Andes AX45MPV est spécialement conçue pour les grands modèles de langage (LLM). Avec la montée en puissance des applications d’IA générative en 2023, nous voyons l’AX45MPV occuper le devant de la scène dans les segments de l’IA et de l’apprentissage automatique au-delà du cloud », a déclaré Charlie Su, président et directeur technique d’Andes Technology.
Certains clients d’Asie et d’Amérique du Nord ont déjà acquis une licence pour l’AX45MPV, et d’autres sont en train de l’évaluer. Les applications couvrent un large éventail, de l’informatique en cloud à edge. Le produit standard AX45MPV, sans support Linux, est disponible immédiatement. L’ensemble de produits avancés sera accompagné d’un support Linux et sera disponible au quatrième trimestre 2023.
