SemiFive aide Rebellions pour un processeur Chatbot battant Nvidia
SemiFive Co. Ltd. (Seongnam, Corée du Sud), concepteur de puces à haute performance, a déclaré que l’Atom de Rebellions Inc. (Séoul, Corée du Sud) est la deuxième commercialisation de sa plateforme SoC HPC 5nm produite par Samsung Foundry.
La première puce de ce type a été la puce Warboy de FuriosaAI, que SemiFive a contribué à faire fabriquer par Samsung (voir SemiFive aide le processeur « Warboy » de FuriosaAI à être commercialisé).
L’Atom de Rebellions est une puce d’inférence uniquement conçue pour exécuter des applications de vision par ordinateur, d’IA de chatbot et des modèles de recommandation. Rebellions affirme qu’il ne consomme qu’environ 20 % de la puissance de la puce A100 de Nvidia, plus générique, lorsqu’il exécute ces tâches, car il a été optimisé pour celles-ci (voir la startup sud-coréenne Rebellions lance un processeur d’IA).
La plate-forme SoC de SemiFive comprend un système de mémoire entrelacé haute performance composé de quatre canaux de GDDR6 et de 16 voies d’interface PCIe Gen5 à grande vitesse. Avec un cluster de CPU Arm Cortex-A53 64 bits à quatre cœurs pour une haute performance équilibrée et une efficacité de la puissance de calcul, la plateforme comprend une IP de système complet et d’autres IP périphériques qui sont toutes pré-vérifiées et intégrées.
Le SoC Atom a obtenu une latence ResNet50 de 0,239 ms et une latence BERT-Large de 4,297 ms sur le dernier benchmark MLPerf Inference v3.0.
Rebellions a travaillé avec SemiFive pour fournir la propriété intellectuelle du cœur neuronal et SemiFive a livré à Rebellions des composants complets et des cartes d’évaluation pour les tests et l’analyse comparative. La production de masse des SoC Atom devrait commencer au milieu de l’année 2024.
Atom a déjà été déployé dans KT Cloud, le service de centre de données issu de Korea Telecom en février 2022.
« Grâce à la technologie unique de la plate-forme SoC de SemiFive, associée à son excellente expertise en matière de packaging et de test, nous avons pu atteindre les étapes clés et les spécifications techniques de l’Atom, qui sera une solution qui changera la donne à l’ère des applications d’IA intensives telles que le populaire ChatGPT « , a déclaré Sunghyun Park, PDG de Rebellions, dans un communiqué publié par SemiFive.
« Nous avons préparé une gamme complète de technologies FinFET et de processus gate-all-around, ainsi qu’un large portefeuille de conception et des solutions de packaging avancées pour que les innovateurs puissent exploiter tout le potentiel de notre solution globale », a déclaré Gibong Jeong, responsable de l’équipe de développement commercial de la fonderie chez Samsung Electronics.
Liens et articles connexes :
Articles sur eeNews Europe :
SemiFive aide le processeur « Warboy » de FuriosaAI à être commercialisé
La startup sud-coréenne Rebellions lance un processeur d’IA
SemiFive lève 109 millions de dollars dans le cadre d’un financement de série B
SiFive crée un réseau mondial de start-ups RISC-V
