Opinion | Transition numérique & cybersécurité : l'écosystème français de l'IA et sa R&D marquent des points

Aux , qui ont lieu chaque année à l’automne à Monaco, on parle cette année de sécurisation du Cloud et des IoT, de RGPD, de sécurité « by design », de codes prouvés, de nouvelles vulnérabilités associées notamment à la montée en puissance de l’Intelligence Artificielle et ses apports fondamentaux en cybersécurité.

Les questions de sécurité accompagnent la transformation digitale des entreprises et c’est bien la confiance numérique qui est en jeu, quel que soit la technologie impliquée. L’insécurité numérique pénalise la confiance qui, une fois perdue, interdit toute création de valeur, annihilant l’attrait et les bénéfices de l’innovation. Le déferlement des objets connectés dans les sphères privées et publiques (plus de 6 milliards d’objets en 2018 selon ) induit de nouvelles vulnérabilités, immédiatement exploitées par la cyberdélinquance. Il est très difficile de protéger « by design » un objet connecté de quelques dizaines d’euros, qui peut être « recruté » au sein d’un botnet pour participer à une puissante attaque par déni de service distribué (DDoS).

Des attaques ont été menées par une armée de réfrigérateurs connectés, de systèmes d’arrosage et de caméras de vidéosurveillances présentant des failles de sécurité. Les attaques par ransomware (WannaCry, Petya, NotPetya, GoldenEye et Bad Rabbit) ont fortement progressé entre 2016 et 2017 avec plus de 2,5 millions de cas répertoriés ( rapport Kaspersky 2016-2018 ). Touchant les cinq continents, elles impactent durement les entreprises qui voient leurs données cryptées, restituées contre le paiement d’une rançon en bitcoin, synonyme de lourdes pertes financières.

Le Cloud Computing est confronté à de nouvelles menaces qui pourraient, si elles ne sont pas prises en compte, entamer durablement la confiance des clients. L’Intelligence Artificielle, via l’apprentissage automatique par exemple, fournit certes de nouvelles approches pour sécuriser les Systèmes d’Information, mais paradoxalement engendre de nouvelles vulnérabilités.

L'IA utilisée en cybersécurité : un savoir-faire français compétitif

L'Intelligence Artificielle transforme les pratiques de cybersécurité en apportant de nouvelles réponses aux menaces numériques furtives avancées, lesquelles passent "sous les radars" des systèmes de défense classiques : antivirus, pare-feux, SIEM (Security Information and Event Management) basés sur l'analyse des signatures, des moteurs de règles et l'expertise humaine. L'IA permet de détecter certaines menaces très en amont de l'attaque en prenant en compte tous les évènements sur le système d'information (SI). Après une phase d'apprentissage automatisé, les systèmes d'UBA (User Behavior Analytics) analysent le comportement des utilisateurs et des composantes du réseau et réagissent aux évènements "anormaux" et signaux faibles annonciateurs d'une cyberattaque furtive. L'IA permet de catégoriser des volumes de données massives issues des différents capteurs du SI et de faire émerger des alertes de sécurité sans connaissance préalable du type d'attaque qui sera lancé.

Cette approche inédite a donné naissance à des plateformes d'UBA développées par IBM, CISCO et SPLUNK. Du côté français, au-delà de Thales, deux sociétés de cybersécurité (ITRUST à Toulouse pour le SI et SENTRYO à Lyon pour les réseaux industriels) ont été capables de développer des plateformes de supervision UBA qui n'ont rien à envier aux solutions américaines, prouvant qu'il est possible de construire une offre française compétitive et adaptable au niveau international avec des moyens limités. Une troisième société (la startup Trust In Soft) s'est imposée sur le segment de la preuve de code en développant des solutions capables de certifier des portions de programme comme code sûr (sans bug et faille de sécurité) et de prouver de manière automatique la sécurité d'un programme.

La cybersécurité de l'IA

Ce nouveau domaine conditionne la confiance que les utilisateurs accorderont aux systèmes autonomes dotés d'Intelligence Artificielle. L'adoption de la voiture autonome ou de l'avion sans pilote ne sera réalisable que sous la condition d'une parfaite sécurité de l'IA embarquée.

Des travaux de recherche d’experts français ont présenté des cas d'attaques de réseaux de neurones par exemples contradictoires. Le principe de cette attaque consiste à "bruiter" numériquement des images d'animaux ou de panneaux de signalisation que le réseau de neurones sait bien reconnaitre mais qui, une fois l'image bruitée, la reconnait comme une image totalement différente. Le panneau Stop est alors interprété par l'IA comme un panneau de priorité ! On comprend que les enjeux de cybersécurité de l'IA deviennent centraux dans la conception des systèmes autonomes.

L'écosystème français de l'Intelligence Artificielle et sa R&D ont un rôle clé à jouer au niveau international. Encore faut-il que la France sache retenir ses chercheurs en sciences des données et qu'elle œuvre rapidement à la construction d’un environnement favorable pour ses startups développant des solutions de cybersécurité pour l'IA. Dans ces deux disciplines, nous disposons d'un vivier dynamique qui a toutes les qualités pour devenir leader mondial !