MENU

Intelligence artificielle embarquée : comment mieux sécuriser les systèmes industriels ?

Intelligence artificielle embarquée : comment mieux sécuriser les systèmes industriels ?

Actualité générale |
Par CEA Leti



​​​Partenaire pendant trois ans du projet européen InSecTT sur la sécurité de l’intelligence artificielle embarquée, le CEA-Leti a développé des solutions inédites pour authentifier des systèmes intelligents et les protéger de certaines cyberattaques. Des avancées qui coïncident avec la promulgation de l’AI Act européen.

Une absence de régulation pour évaluer la robustesse de l’IA​

L’AI Act constate le prodigieux essor de l’intelligence artificielle, qu’il s’agisse des IA génératives de type ChatGPT ou de l’IA embarquée (robots industriels, équipements de production, automobile, domotique, smart cities…). Il fixe des règles pour que cette vague d’innovations se conjugue avec la transparence, la gouvernance des données et le respect des droits fondamentaux. 

L’IA pourra ainsi être proscrite pour des applications dont les risques sont considérés comme inacceptables, par exemple l’identification biométrique à distance dans les espaces publics. Le texte ouvre aussi la voie à de futurs schémas de certification associés à la sureté et la sécurité des systèmes d’IA. Toutefois, il n’existe à ce jour ni protocole, ni standard, ni norme pour évaluer la robustesse d’un système d’IA embarquée.

Pierre-Alain Moëllic, coordinateur d’InSecTT pour le CEA-Leti explique : « Depuis dix ans, la R&D sur la sécurité de l’IA cible le volet algorithmique, et non l’implémentation matérielle ou logicielle, par exemple sur un microcontrôleur ou un System-On-Chip ». 

Une production scientifique forte

Deuxième avancée : le CEA-Leti a démontré les failles de sécurité de systèmes d’IA embarquée vis-à-vis de deux types d’attaques physiques, l’écoute par émanations électromagnétiques et l’injection de fautes. Ces attaques peuvent avoir de graves conséquences, comme l’altération de la performance des systèmes ou la reconstruction par ingénierie inversée du modèle d’IA utilisé. Or, celui-ci représente souvent une large part de la valeur du système industriel. 

Enfin, les chercheurs ont développé des méthodes de caractérisation des vulnérabilités, ainsi que des mécanismes de protection aujourd’hui en cours de mise au point. 

CEA Leti  –  InSecTT

Si vous avez apprécié cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à :    ECI sur Google News

Partager:

Articles liés
10s