Centre Inria de l'Université de Lille

Intelligence Artificielle pour la détection et géolocalisation d’une source radio fréquence illégitime (projet DEPOSIA)

Le Projet porte la détection et la géolocalisation de sources de signaux radio fréquence variées dans le but de déjouer des attaques sur des infrastructures et systèmes connectés. Les sources à détecter sont des éléments qui par leur nature ou par leur position, présentent un caractère illicite et qui menacent les personnes ou les infrastructures. En situation extérieure, il peut s’agir de drones qui survolent des zones interdites, de brouilleurs de télécommunication, d’émetteurs de signaux de leurre ou encore de capteurs communicants utilisés afin d’introduire de fausses données dans les plateformes de surveillance. A l'intérieur d'un bâtiment, les sources peuvent également être des sources de brouillage ou de leurre qui peuvent provoquer les dénis de service au sein des réseaux ou des infrastructures ou bien des points d’accès illicites qui visent à mener des attaques de l’homme du milieu pour intercepter des informations.

Dans les deux situations, l'objectif est de développer des Intelligences Artificielles (IA) pour détecter et déterminer la position géographique de la source. Ces IA doivent être capables de fonctionner à partir de données de natures différentes puisqu'elles seront issues de la couche physique et de la couche liaison de données. De plus, les données seront définies dans trois dimensions que sont le temps, l'espace et la direction.

Attaques intelligentes sur réseaux sans fil

L’industrie, les entreprises, les transports et les villes ont engagé de véritables transformations numériques encouragés par le développement de l’IoT et des protocoles de communications sans fils toujours plus performants. Dans la plupart des cas, les réseaux de communication sans fil et les réseaux de communication filaires sont interfacés et les informations circulent de l’un à l’autre. Ainsi, les sections sans fil, non protégées par des systèmes de détection d’intrusion, peuvent devenir des points privilégiés par les hackers pour la pénétration ou l’interception d’informations. Les attaquants peuvent par exemple mettre en place des points d’accès illicites pour intercepter les informations des usagers des réseaux sans fil.
 
En même temps, le paysage des menaces évolue, et de nouvelles attaques plus autonomes, plus robustes et plus adaptatives émergent grâce aux nouvelles technologies comme le Machine Learning. Etudier la sécurité de ces réseaux face à ces nouveaux types d'attaques afin de mieux les comprendre est devenu une priorité. Dans cette thèse, ont été étudiées plusieurs vulnérabilités présentes dans les réseaux sans fil qui permettent de créer des attaques intelligentes.

Ces travaux peuvent être utilisés en prévention notamment pour contrecarrer les drones illicites survolant des zones réglementées.
 

Détection des anomalies et des ruptures dans des graphes asynchrones, dynamiques et contextuels avec applications en cybersécurité 

Seckiot est une entreprise éditrice de logiciels de cybersécurité pour protéger les systèmes industriels & IoT. Au sein du centre Inria de l’Université de Lille, l’Equipe-Projet de recherche « Modal » s’intéresse à l’analyse statistique axée sur la conception de modèles probabilistes génératifs pour des données complexes. 

L’objectif de la thèse, qui a débuté fin 2021, est de détecter les attaques dans des réseaux d’objets connectés à travers des algorithmes d’apprentissage non-supervisé. La difficulté majeure du sujet vient de la complexité de la base d’apprentissage de ces algorithmes : des réseaux dynamiques, orientés, parcimonieux, non-binaires.   La stratégie suivie en ce début de thèse est de réinterpréter le réseau dynamique comme un multigraphe de séquences temporelles, passant ainsi le 1er verrou lié à la dimension dynamique initiale. Les propriétés distributionnelles de ce nouvel objet peuvent alors être apprises par une adaptation des modèles à blocs latents (SBM) au cas multigraphe. Ces modèles ont l’avantage majeur à la fois d’une grande flexibilité et d’une grande interprétabilité. En pratique, il devient alors possible d'apprendre une séquence quelconque du fonctionnement du réseau dans un régime considéré comme « normal » (phase d’apprentissage), puis dans un second temps de tester, au sens statistique, si une nouvelle séquence du réseau montre un comportement atypique, pouvant ainsi laisser suspecter une anomalie voire une attaque (phase de détection). A ce stade, l’ensemble de la méthodologie est en phase de validation sur données réelles binaires non-orientées. Le cas non-binaire et orienté sera l’extension naturelle de ce modèle probabiliste multigraphe.

Co-financement CIFRE AID

Responsables scientifiques : Christophe Biernacki et M Cristian Préda (équipe de recherche Modal), Thomas Anglade (pour Seckiot) 

Site Internet de l’équipe de recherche :
https://team.inria.fr/modal/
Site Internet de l’entreprise :
https://www.seckiot.fr/https://www.actris.fr/acces/

La sécurité du Web basée sur les empreintes digitales (le fingerprinting)

Les données disponibles sur le Web, telles que les données financières ou les avis publics, offrent un avantage concurrentiel aux entreprises capables de les exploiter. Les crawlers Web, une catégorie de robots, visent à automatiser la collecte de données Web accessibles au public. Si certains crawlers collectent des données avec l'accord des sites web qu'ils explorent, la plupart ne respectent pas les conditions de service. Les CAPTCHA et les approches basées sur l'analyse de séries de requêtes HTTP permettent de classer les utilisateurs en humains ou en robots. Cependant, ces approches nécessitent soit une interaction avec l'utilisateur, soit un volume important de données avant de pouvoir classer le trafic.

La collaboration entre l’équipe et l’entreprise Datadome a permis d’étudier l'empreinte du navigateur en tant que mécanisme de détection des crawlers et de mettre en avant que, bien que le fingerprinting soit efficace pour détecter les crawlers, elle peut être contournée avec peu d'efforts par un adversaire ayant connaissance des empreintes digitales collectées.

Ce travail est une collaboration avec la société de sécurité web Datadome et l'Université de Bordeaux.

Chercheurs : Walter Rudametking et Romain Rouvroy  (équipe de recherche Spirals), Antoine Vastel ( pour l’entreprise DataDome ), Xavier Blancc (LaBRI – U Bordeaux)

Site Internet de l’équipe de recherche :
https://team.inria.fr/spirals/

Projet PRIDE - Privacy-Preserving Decentralized Machine Learning

L'apprentissage automatique (ML) est omniprésent dans les services basés sur l'IA et les domaines scientifiques axés sur les données, mais soulève de sérieux problèmes de confidentialité lors de la formation sur les données personnelles. Le point de départ de PRIDE est que les données personnelles doivent appartenir à la personne qui les produit. Cela nécessite de revoir les algorithmes de ML pour apprendre de nombreux ensembles de données personnelles décentralisés tout en empêchant la reconstruction des données brutes. La « Differential Privacy » (DP) fournit une notion forte de protection, mais les algorithmes ML décentralisés actuels ne sont pas capables d'apprendre des modèles utiles sous DP.

L'objectif de PRIDE est de développer des outils théoriques et algorithmiques qui permettent des méthodes de ML différentiellement privées opérant sur des ensembles de données décentralisés, à travers trois objectifs complémentaires :

• Prouver que les protocoles d'apprentissage décentralisés amplifient naturellement les garanties DP ;
• Proposer des algorithmes à l'intersection du ML décentralisé et du calcul multipartite sécurisé ;
• Concevez des schémas de communication adaptatifs aux données pour accélérer la convergence sur des ensembles de données hétérogènes.

https://project.inria.fr/pride/

Projet Comprise - Privacy-friendly speech recognition 

Outre le visuel et le tactile, l'Internet de nouvelle génération reposera de plus en plus sur l'interaction vocale. Cette technologie nécessite d'énormes quantités de données vocales et linguistiques dans chaque langue pour atteindre des performances de pointe. Aujourd'hui, la norme consiste à stocker les voix des utilisateurs finaux dans le cloud et à les étiqueter manuellement. Cette approche soulève des problèmes critiques de confidentialité, limite le nombre de langues déployées et a conduit à une concentration du marché et des données entre les mains de grandes entreprises non européennes telles que Google, Facebook, etc.

COMPRISE définit une méthodologie et des outils entièrement privés dès la conception qui réduisent le coût et augmentent l'inclusivité de la technologie d'interaction vocale grâce aux avancées de la recherche sur les transformations de données axées sur la confidentialité, l'apprentissage personnalisé, l'étiquetage automatique et la traduction intégrée. COMPRISE propose un kit de développement logiciel holistique facile à utiliser interagissant avec une plate-forme de ressources basée sur le cloud. La pérennité de ce nouvel écosystème a été démontrée pour trois secteurs à fort impact commercial : les applications grand public intelligentes, le e-commerce et la e-santé. 

COMPRISE aborde les défis axés sur la confidentialité dès la conception, l'inclusivité et la rentabilité d'une manière indépendante ; permettre une collecte pratiquement illimitée de données vocales et linguistiques de qualité non privées dans la vie réelle ; permettre aux entreprises du marché numérique de développer rapidement des services vocaux multilingues dans de nombreuses langues ; permettre à tous les citoyens d'accéder de manière transparente aux contenus et services disponibles dans d'autres langues par une interaction vocale dans leur propre langue ; entraîner des économies de coûts pour les fournisseurs de technologie et les utilisateurs.

COMPRISE trouvera une application dans de nombreux secteurs au-delà de ceux démontrés, par exemple, l'administration en ligne, la justice en ligne, l'apprentissage en ligne, le tourisme, la culture, les médias, etc. Il aura un impact sociétal énorme en termes de garanties de confidentialité vérifiables sans précédent, de services proposés dans des langues avec peu de ressources ou pour les locuteurs ayant un accent, et d'expérience utilisateur globale.