Avi Baum, directeur de la technologie et cofondateur de Hailo en Isra\u00ebl, s’entretient avec Nick Flaherty des diff\u00e9rents cas d’utilisation de l’IA transformatrice \u00e0 l’origine de sa troisi\u00e8me g\u00e9n\u00e9ration de conception de puces.<\/p>\n
\u00ab\u00a0Il y a \u00e9norm\u00e9ment d’abus de langage dans ce domaine\u00a0\u00bb, d\u00e9clare M. Baum. \u00ab\u00a0Les transformers sont les principaux \u00e9l\u00e9ments de base issus du traitement du langage naturel (NLP), mais ils sont d\u00e9sormais utilis\u00e9s dans de nombreux domaines, pour l’imagerie, l’audio, le texte, etc. C’est aussi essentiel que compl\u00e9mentaire aux CNN\u00a0\u00bb, explique-t-il \u00e0 eeNews Europe et ECInews<\/em>.<\/p>\n La technologie est d\u00e9j\u00e0 utilis\u00e9e pour r\u00e9duire la bande passante des r\u00e9seaux radio 5G en d\u00e9bruitant les donn\u00e9es, et m\u00eame en recr\u00e9ant des avatars num\u00e9riques pour les vid\u00e9oconf\u00e9rences avec la puce Hailop-8 de premi\u00e8re g\u00e9n\u00e9ration. \u00ab\u00a0Chez Hailo, notre soutien aux transformers s’accro\u00eet au fil du temps, sous l’impulsion de nos clients\u00a0\u00bb, a-t-il d\u00e9clar\u00e9.<\/p>\n L’entreprise Hailo est l’un des concepteurs de puces d’IA les mieux financ\u00e9s, ayant lev\u00e9 224 millions de dollars selon Crunchbase. Les puces de deuxi\u00e8me g\u00e9n\u00e9ration lanc\u00e9es en mars et actuellement en cours d’\u00e9chantillonnage sont en train d’\u00eatre modifi\u00e9es pour ajouter la prise en charge de l’IA transformatrice, et il s’agit d’un domaine cl\u00e9 pour l’architecture de troisi\u00e8me g\u00e9n\u00e9ration qui est en cours de d\u00e9veloppement.<\/p>\n Si les transformers sont essentiels pour les syst\u00e8mes d’IA g\u00e9n\u00e9rative bas\u00e9s sur le cloud tels que Dall-E et ChatGPT, ils sont \u00e9galement utilis\u00e9s pour la reconnaissance d’images edge sur des puces int\u00e9gr\u00e9es telles que le processeur Hailo-8. Selon lui, la cl\u00e9 r\u00e9side dans l’\u00e9quilibre entre le traitement dans le cloud et le traitement local pour chaque cas d’utilisation.<\/p>\n \u00ab\u00a0Les gens utilisent l’IA g\u00e9n\u00e9rative pour deux choses diff\u00e9rentes, pour g\u00e9n\u00e9rer du contenu tel que de nouvelles images \u00e0 partir d’un texte, mais je vois de nombreux cas o\u00f9 les gens \u00e9tendent l’IA g\u00e9n\u00e9rative \u00e0 n’importe quoi avec des LLM ou des modalit\u00e9s multiples pour construire l’IA de la nouvelle \u00e8re. Cela cr\u00e9e beaucoup de confusion\u00a0\u00bb, a-t-il d\u00e9clar\u00e9.<\/p>\n \u00ab\u00a0Comme pour les appareils mobiles \u00e0 leurs d\u00e9buts, je pense qu’en g\u00e9n\u00e9ral edge et l’informatique d\u00e9mat\u00e9rialis\u00e9e se rejoindront pour former un ensemble plus vaste, de sorte que chaque type de cas d’utilisation sera divis\u00e9 de mani\u00e8re significative. Pour certaines applications, il est pr\u00e9f\u00e9rable de placer les \u00e9l\u00e9ments dans le cloud, car ils sont plus faciles \u00e0 utiliser, et d’autres \u00e9l\u00e9ments \u00e0 la p\u00e9riph\u00e9rie (edge).<\/p>\n Il mentionne un logiciel d’IA pour la surveillance des cam\u00e9ras de s\u00e9curit\u00e9 qui combine l’IA g\u00e9n\u00e9rative et le traitement d’images \u00e0 l’aide de transformers.<\/p>\n \u00ab\u00a0Vous pouvez prendre d’\u00e9normes syst\u00e8mes de gestion vid\u00e9o tels que des cam\u00e9ras de surveillance et trouver certaines images \u00e0 l’aide d’un texte, par exemple pour trouver une personne portant des v\u00eatements sp\u00e9cifiques, en combinant les LLM avec la capacit\u00e9 de comprendre les images de toutes les cam\u00e9ras dans un m\u00eame cadre\u00a0\u00bb, a-t-il d\u00e9clar\u00e9.<\/p>\n \u00ab\u00a0La bonne fa\u00e7on de d\u00e9ployer un tel cas d’utilisation est d’interroger toutes les cam\u00e9ras du site avec la m\u00eame requ\u00eate, plut\u00f4t que d’envoyer toutes les vid\u00e9os \u00e0 un point central. Cependant, la cr\u00e9ation des synoptiques et de l’int\u00e9gration que la cam\u00e9ra peut comprendre est beaucoup plus efficace dans le cloud. En revanche, pour la traduction vocale, il est pr\u00e9f\u00e9rable de l’effectuer sur l’appareil edge.<\/p>\n La vid\u00e9oconf\u00e9rence est une autre combinaison possible. \u00ab\u00a0Au lieu de fournir une vid\u00e9o, vous pouvez fournir un avatar suffisamment d\u00e9taill\u00e9 et, gr\u00e2ce \u00e0 l’IA g\u00e9n\u00e9rative sur le client, recr\u00e9er l’ensemble de la t\u00eate parlante sur la machine locale\u00a0\u00bb, a-t-il d\u00e9clar\u00e9.<\/p>\n \u00ab\u00a0Un autre cas d’utilisation que nous pr\u00e9senterons est l’utilisation de l’IA pour le d\u00e9bruitage des images – la version d\u00e9bruit\u00e9e cr\u00e9e une bande passante beaucoup plus faible au niveau de l’encodeur\u00a0\u00bb, a-t-il d\u00e9clar\u00e9. \u00ab\u00a0Dans notre solution, nos clients utilisent la d\u00e9tection d’objets bas\u00e9e sur les transformers.<\/p>\n Les transformaters sont utilis\u00e9s pour la d\u00e9tection d’objets standard, en particulier dans l’industrie automobile. \u00ab\u00a0Un transformer donne une meilleure pr\u00e9cision \u00e0 une fr\u00e9quence d’images donn\u00e9e, principalement parce que les transformers cr\u00e9ent cette notion d’attention pour regarder des parties particuli\u00e8res de l’image, ce qui peut donner de meilleurs r\u00e9sultats que CNN\u00a0\u00bb, a d\u00e9clar\u00e9 M. Baum.<\/p>\n \u00ab\u00a0Nous avons fait la d\u00e9monstration d’un appareil unique avec un transformer qui fonctionne en Full HD sur 6 cam\u00e9ras en temps r\u00e9el sur Hailo-8 pour l’automobile en tant qu’appareil compagnon\u00a0\u00bb, a-t-il d\u00e9clar\u00e9. \u00ab\u00a0En fin de compte, ce qui nous limite, ce sont les ressources de l’ensemble de la plate-forme. Nous finirons par avoir besoin d’un endroit pour stocker tous les mod\u00e8les. Plus le mod\u00e8le est grand, plus les performances sont faibles. Ainsi, si je double la taille du mod\u00e8le, les performances diminuent de moiti\u00e9.<\/p>\n \u00ab\u00a0Mais nous constatons que les algorithmes r\u00e9duisent les mod\u00e8les de transformers et que les constructeurs de mat\u00e9riel \u00e9tendent les plates-formes. Le point d’interception va se d\u00e9velopper, jusqu’\u00e0 ce que nous arrivions \u00e0 un bon \u00e9quilibre entre le cloud et edge, mais cela prendra quelques ann\u00e9es\u00a0\u00bb, a-t-il d\u00e9clar\u00e9.<\/p>\n Hailo est une architecture flexible avec un ensemble d’unit\u00e9s \u00e0 accumulation multiple qui peut \u00eatre construit sur n’importe quel n\u0153ud de process et qui ne d\u00e9pend pas de la derni\u00e8re technologie de pointe pour la performance.<\/p>\n \u00ab\u00a0Nous avons con\u00e7u Hailo pour qu’il soit flexible, car nous l’avons construit d\u00e8s le d\u00e9part en nous appuyant sur le compilateur et la cha\u00eene d’outils. \u00c0 l’avenir, nous envisageons d’optimiser le mat\u00e9riel, de le modifier un peu pour qu’il soit plus convivial pour les transformers et pour ce vers quoi nous pensons que les transformers \u00e9volueront. Il est suffisamment flexible, mais lorsque nous avons con\u00e7u Hailo-8, les transformers n’entraient pas en ligne de compte. Il y a des choses que nous pouvons encore am\u00e9liorer\u00a0\u00bb, a-t-il d\u00e9clar\u00e9.<\/p>\n \u00ab\u00a0Il y a beaucoup de choses qui sont sp\u00e9cifiques aux transformers, comme les types de fonctions de normalisation, la nature des changements rapides de poids \u00e0 la vol\u00e9e et, surtout, l’\u00e9num\u00e9ration\u00a0\u00bb, a-t-il d\u00e9clar\u00e9. \u00ab\u00a0Chaque type de r\u00e9seau neuronal a une port\u00e9e typique de tenseurs qui entrent et sortent de chaque couche et qui change avec les transformers, de sorte qu’il peut \u00eatre n\u00e9cessaire de modifier certains param\u00e8tres et c’est ce que nous faisons\u00a0\u00bb, a-t-il d\u00e9clar\u00e9.<\/p>\n \u00ab\u00a0Certaines de ces mesures ont \u00e9t\u00e9 prises lors de la deuxi\u00e8me g\u00e9n\u00e9ration et d’autres seront plus \u00e9videntes lors de la prochaine g\u00e9n\u00e9ration. La feuille de route n’est pas encore totalement arr\u00eat\u00e9e et nous sommes toujours en discussion. Notre technologie de base est l’architecture plut\u00f4t que le n\u0153ud technologique, nous avons donc le luxe de pouvoir le faire dans les g\u00e9om\u00e9tries actuelles, nous pouvons choisir de le faire ou non, en fonction des march\u00e9s cibles.\u00a0\u00bb<\/p>\n www.hailo.ai<\/a><\/p>\n <\/p>\n","protected":false},"excerpt":{"rendered":" Les transformers passent de l’IA g\u00e9n\u00e9rative et des LLM – grands mod\u00e8les de langage- aux puces int\u00e9gr\u00e9es. Avi Baum, directeur de la technologie et cofondateur de Hailo en Isra\u00ebl, s’entretient avec Nick Flaherty des diff\u00e9rents cas d’utilisation de l’IA transformatrice \u00e0 l’origine de sa troisi\u00e8me g\u00e9n\u00e9ration de conception de puces. \u00ab\u00a0Il y a \u00e9norm\u00e9ment d’abus […]<\/p>\n","protected":false},"author":34,"featured_media":86636,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[885],"tags":[4030,2198],"domains":[47],"ppma_author":[1153,3640],"class_list":["post-426489","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-interviews-fr","tag-hailo","tag-ia","domains-electronique-eci"],"acf":[],"yoast_head":"\n
\n
\n
\n
\n
Articles connexes sur l’IA g\u00e9n\u00e9rative<\/h4>\n
\n