Axelera lance une plateforme IA RISC-V pour la vision Edge
La startup néerlandaise Axelera AI a lancé une plate-forme qui combine sa puce Metis AI Processing Unit (AIPU), son contrôleur RISC-V et sa pile logicielle Voyager SDK.
La plate-forme Metis est disponible sous forme de carte embarquée, de cartes et de systèmes de vision intégrés pour accélérer le traitement de la vision par ordinateur edge.
L’AIPU Metis offre des performances de pointe de 214 TOPs avec une efficacité énergétique de 15 TOPs/W à INT8, grâce à un nouveau moteur de calcul numérique en mémoire (D-IMC). L’iso-précision FP32 est obtenue sans qu’il soit nécessaire de ré-entraîner les modèles de réseau neuronal.
La pile logicielle d’Axelera, Voyager SDK, permet un déploiement rapide de réseaux de neurones sur le terrain, permettant aux utilisateurs de la technologie Axelera de se concentrer sur la résolution des problèmes.
Une carte PCIe à quatre processeurs avec jusqu’à 856 TOPs et une carte au format M.2 à $149 seront disponibles pour certains clients début 2023. Par ailleurs, Axelera AI travaille avec des partenaires pour développer des solutions système prêtes à être déployées.
Axelera, une start-up IA edge lève $12m de fonds de démarrage
- Axelera shows DIANA analog in-memory computing chip
- Axelera AI raises $27m for in-memory computing at the edge
La pile logicielle, Voyager SDK, comprend un compilateur intégré, une pile d’exécution et de puissants outils d’optimisation qui permettent aux clients d’importer leurs propres modèles offrant des performances de pointe sur la plateforme Metis AI. Les modèles d’application accélèrent le développement, avec des réseaux de neurones dans le Model Zoo d’Axelera.
L’AIPU Metis est une architecture à quatre cœurs. Chaque cœur peut exécuter toutes les couches d’un réseau de neurones standard sans interactions externes offrant jusqu’à 53,5 TOPs de puissance de traitement pour l’IA.
Les cœurs peuvent être combinés pour augmenter le débit d’une charge de travail complexe ou fonctionner indépendamment sur le même réseau neuronal pour réduire la latence ou traiter simultanément différents réseaux neuronaux pour les applications comportant des pipelines de réseaux neuronaux.
Au centre du fonctionnement de chaque cœur se trouve le moteur D-IMC d’Axelera pour accélérer les opérations de multiplication matrice-vecteur, offrant une efficacité énergétique élevée sans précédent de 15 TOPs/W à une précision INT8.
Les quatre cœurs sont intégrés dans un système sur puce (SoC), comprenant un contrôleur RISC-V, une interface PCIe, un contrôleur LPDDR4X et un complexe de sécurité connecté via un réseau sur puce (NoC) à haut débit.
Le NoC connecte également les cœurs à une hiérarchie de mémoire partagée à plusieurs niveaux de plus de 52 Mio de mémoires haute vitesse sur puce, tandis que le contrôleur LPDDR4 se connecte à la mémoire externe, permettant la prise en charge de réseaux de neurones beaucoup plus grands. Enfin, l’interface PCIe fournit une liaison haut débit vers un hôte externe, qui déchargera les applications complètes du réseau neuronal vers l’AIPU Metis.
voir aussi: STMicroelectronics rachète Cartesiam pour ses outils IA edge
Le SDK Voyager fournit des pipelines clés en main pour des modèles à la pointe de la technologie, qu’un utilisateur peut personnaliser pour son application, générer un code optimisé pour et déployer sur des appareils edge compatibles Metis en un seul clic.
La plate-forme prend en charge des frameworks pour un large éventail d’environnements, allant des cas d’utilisation entièrement intégrés au traitement distribué de plusieurs flux vidéo 4K sur des appareils en réseau sans expertise en apprentissage profond.
En utilisant Axelera AI Model Zoo, les développeurs peuvent accéder aux réseaux de neurones pour personnaliser, affiner, les déployer tels quels ou importer leurs propres réseaux de neurones pré-entraînés. Le SDK Voyager quantifie et compile automatiquement les réseaux de neurones qui ont été entraînés sur différents frameworks, générant du code qui s’exécute sur la plateforme Metis AI. Les réseaux optimisés fonctionnant sur Metis AIPU sont indiscernables de ceux fonctionnant sur des systèmes avec des unités à virgule flottante.
« L’AIPU Metis offre non seulement des performances et une efficacité énergétique record, mais atteint également l’iso-précision FP32 sans devoir être ré-entraîné. Il démontre l’efficacité du moteur D-IMC d’Axelera en réalisant des multiplications matrice-vecteur avec une haute précision et une complexité temporelle constante, qui, en tandem avec les algorithmes de quantification avancés, la large mémoire SRAM sur puce et la technologie RISC-V sont bien- adaptés pour répondre aux exigences opérationnelles strictes des applications d’IA edge», a déclaré le co-fondateur d’Axelera AI et CTO Evangelos Eleftheriou.
STMicro prépare une puce IA avec calcul analogique en mémoire
« La pile logicielle intégrée de bout en bout d’Axelera, construite sur des frameworks et des API ouverts et standard de l’industrie, répond aux problèmes des utilisateurs du développement d’applications d’IA Edge ».
« La Metis AI Platform représente un point d’inflexion pour les entreprises qui cherchent à déployer des applications de vision par ordinateur Edge», a déclaré Paul Neil, vice-président de la gestion des produits chez Axelera AI. « Des capacités matérielles et logicielles étroitement intégrées, un zoo de modèles organisé et des modèles d’application personnalisables permettent aux clients d’accélérer le cycle d’évaluation et de développement et de raccourcir le délai jusqu’à la génération de revenus. »
Axelera AI a également annoncé un programme d’accès anticipé Early Access Programme pour aider les entreprises à co-concevoir des systèmes Edge AI pour le monde réel à l’aide de Metis. « Nous avons pour mission de démocratiser l’accès à l’IA, en commençant par le programme d’accès anticipé.
“The Metis AI Platform represents an inflection point for businesses looking to deploy computer vision applications at the Edge,” said Paul Neil, VP Product Management at Axelera AI. “Tightly integrated hardware and software capability, a curated model zoo and customizable application templates enable customers to accelerate through the evaluation and development cycle and shorten time-to-revenue.”
Axelera AI has also announced an Early Access Programme to help companies co-design real-world Edge AI systems using Metis.
« Nous avons pour mission de démocratiser l’accès à l’IA, en commençant par Early Access Programme le programme d’accès anticipé. Le programme offre à certains clients l’avantage de tirer parti de notre technologie de rupture avant la concurrence, tout en fournissant une assistance adaptée à leurs besoins spécifiques, avec un ensemble d’avantages tangibles, notamment la co-conception de matériel, un support dédié aux logiciels et à l’apprentissage automatique, et des initiatives de co-marketing, ” déclare Flavio Devidé, Responsable Go-To-Market d’Axelera AI.
« Dans le passé, les clients ont souffert d’offres d’IA Edge immatures, ont eu du mal à porter leurs logiciels et n’ont pas réussi à reproduire les performances déclarées dans leurs applications réelles. La plate-forme Metis AI a été conçue dès le départ pour résoudre ces problèmes, et le programme d’accès anticipé supprime tous les obstacles à son adoption. »
-
Le CEA-Leti intègre un réseau de neurones à impulsions SNN sur une puce
-
StorAlge, un projet européen de 100 M€ pour un microcontrôleur edge AI
Si vous avez apprécié cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à :
