GenAI Studio : Advantech démocratise l’IA générative pour les PME avec son SDK Edge AI
Advantech, leader des solutions AIoT, lance GenAI Studio, un nouveau logiciel intégré à son SDK Edge AI, conçu pour faciliter le développement local de modèles de langage (LLM) à moindre coût. Cette initiative vise à rendre l’intelligence artificielle générative plus accessible, notamment pour les développeurs et les petites et moyennes entreprises (PME), en réduisant la dépendance aux GPU haut de gamme.
Une réponse concrète aux défis industriels
GenAI Studio s’attaque à des problématiques concrètes : réduction des délais d’accès à l’information pour les opérateurs d’usine, simplification des tâches administratives dans le secteur médical, et bien plus. Grâce à une plateforme no-code, les entreprises peuvent rapidement déployer des solutions IA sans expertise technique poussée, tout en améliorant leur productivité.
Une compatibilité étendue et une gestion optimisée
Le logiciel prend en charge les LLM locaux et cloud, incluant OpenAI, Gemini, Anthropic et Ollama. Il propose également des outils avancés de réglage fin et d’inférence, ainsi qu’une gestion intelligente des ressources GPU, permettant une utilisation efficace même avec un matériel limité.
Des performances impressionnantes
Grâce au SDK Edge AI, le réglage fin d’un LLM de 70 milliards de paramètres, qui nécessiterait normalement plus de 30 GPU de 48 Go, peut être réalisé avec seulement 4 GPU. Cela représente une réduction de 87 % des besoins en ressources, rendant les solutions IA bien plus abordables.
Une solution complète avec le serveur AIR-520
Pour accompagner GenAI Studio, Advantech propose le serveur Edge AI AIR-520, équipé de GPU NVIDIA RTX et de SSDs AI de Phison. Cette combinaison garantit des performances fiables pour les secteurs exigeants comme la fabrication, la santé ou le commerce.
Une plateforme tout-en-un pour l’IA en périphérie
Le SDK Edge AI comprend trois modules clés :
-
GenAI Studio : création et intégration de LLM personnalisés.
-
Kit d’inférence : optimisation des runtimes IA.
-
Plateforme d’orchestration : gestion des modèles et des déploiements à grande échelle.
Avec cette solution, Advantech simplifie le développement et le déploiement de l’IA en périphérie, tout en réduisant les coûts et en accélérant l’innovation.
Si vous avez apprécié cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à :
