Doctorant sur le Watermarking pour une sécurité et une robustesse accrues des modèles d’IA dans

Lieu : Palaiseau, France

Construisons ensemble un avenir de confiance

Thales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et plus inclusif. Le Groupe investit près de 4 milliards d’euros par an en Recherche & Développement, notamment dans des domaines clés de l’innovation tels que l’IA, la cybersécurité, le quantique, les technologies du cloud et la 6G. Thales compte près de 81 000 collaborateurs dans 68 pays.

Nos engagements, vos avantages

• Une réussite portée par notre excellence technologique, votre expérience et notre ambition partagée

• Un package de rémunération attractif

• Un développement des compétences en continu : parcours de formation, académies et communautés internes

• Un environnement inclusif, bienveillant et respectant l’équilibre des collaborateurs

• Un engagement sociétal et environnemental reconnu

Votre quotidien

Thales Research&Technology, notre centre de recherche dans les domaines matériels, et CortAIx Labs, notre centre de recherche en IA et digital ont pour mission de proposer des innovations de ruptures, de maintenir et d’accroitre l’avance technologique et d’en assurer la compétitivité pour le groupe.

Le Tatouage de modèle est une preuve reconnue d’origine des modèles de Machine Learning (ML) qui a récemment été adapté à diverses tâches (segmentation, classification, détection, LLMs, etc.). Dans le contexte de l’apprentissage fédéré, le tatouage ML a été adapté au cadre complexe multi-utilisateurs et multi-propriétaires. Il avait également été rendu compatible avec des mécanismes de préservation de la vie privée, tels que le chiffrement ou la confidentialité différentielle. Alors que le SOTA actuel assure la traçabilité des modèles, la preuve d’intégrité du modèle reste un sujet à explorer. De plus, le tatouage ML peut être considéré comme une charge pour les performances du modèle car certaines procédures d’intégration de tatouage modifieront l’entrainement en insérant plusieurs « portes dérobées légitimes » impactant le comportement du modèle. Les mécanismes cryptographiques classiques tels que la signature ne sont pas bien adaptés au contexte ML, où un modèle peut être affiné sur de nouvelles données et donc changer la signature.

Dans cette thèse, nous souhaitons explorer un tatouage qui contribuerait à une meilleure performance du modèle dans un cadre d’apprentissage collaboratif. Nous voulons détecter les participants de l’apprentissage fédéré qui dégradent la performance du modèle lors d’attaques dites byzantines, par empoisonnement ou par l’ajout d’un comportement indésirable. Les méthodes FL robustes aux attaques byzantines existantes visent à éliminer l’impact de ces mises à jour malveillantes en identifiant les valeurs statistiques aberrantes parmi les mises à jour des clients et en filtrant les mises à jour provenant de clients bénins pour une agrégation de modèles globale. Cependant, beaucoup de ces méthodes manquent d’un mécanisme approprié de détection des clients malveillants, leur permettant d’être inclus dans le processus d’agrégation afin de causer une baisse de performances du modèle global.

L’idée est d’améliorer l’apprentissage fédéré avec des mécanismes de tatouage permettant de retracer conjointement l’origine des modèles et les modifications introduites par les participants. Le tatouage doit être suffisamment fragile pour prouver une violation de l’intégrité du modèle et doit tenir compte des mécanismes de confidentialité qui peuvent être utilisés dans l’apprentissage fédéré (par exemple, le chiffrement homomorphe ou le calcul multipartite), voire de tentative de collusion entre participants.

La thèse renforcera la collaboration entre Thales et IMT Atlantique dans le cadre de la Chaire Industrielle CYBAILE et contribuera au portefolio Thales via la BattleBox des Friendly Hackers à travers une solution pour un FL sécurisé et renforçant la confiance.

Votre profil

Doctorant sur le Watermarking pour une sécurité et une robustesse accrues des modèles d’IA dans l’apprentissage fédéré (H/F)

Votre priorité est de réaliser une thèse en Industrie ?

Vous avez l’ambition de rejoindre Thales et de devenir docteur ?

Vous avez envie de découvrir le monde de la recherche au sein de Thales ?

Vous disposez de M2 en école d’ingénieur ou formation équivalente et avez de l'expérience sur :

• L’apprentissage machine,

• La cybersécurité de l’intelligence artificielle,

• Anglais (niveau C1 attendu)

Curiosité, rigueur, sens de la communication sont des atouts que l'on vous reconnait ? Alors ce poste est fait pour vous !

Thales, entreprise Handi-Engagée, reconnait tous les talents. La diversité est notre meilleur atout. Postulez et rejoignez nous !

Construisons ensemble un avenir de confiance Thales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cybersécurité & Identité numérique. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et plus inclusif. Le Groupe investit près de 4 milliards d’euros par an en Recherche & Développement, notamment dans des domaines clés de l’innovation tels que l’IA, la cybersécurité, le quantique, les technologies du cloud et la 6G. Thales compte près de 81 000 collaborateurs dans 68 pays. Avec plus de 600 experts IA et une centaine de doctorants en IA chaque année, et disposant d’un réseau de partenaires industriels, start-up et académiques de premier ordre, Thales est, depuis une décennie, un acteur majeur de l’IA de confiance, transparente, explicable et éthique. Le Groupe figure en tête, en Europe, dans le classement des déposants de brevets dans l’IA des systèmes critiques. Il intègre de l’IA dans plus d’une centaine de ses produits et services. CortAIx est l’accélérateur IA qui dotera les forces armées, les avionneurs et tous les opérateurs d’infrastructures critiques, de solutions hautement sécurisées leur apportant plus d’efficacité dans l’analyse des données et la prise de décision, tout en tenant compte des contraintes spécifiques, telles que la cybersécurité, l’embarquabilité et la frugalité, liées aux environnements critiques. Au sein de cette nouvelle organisation, nous représentons l'axe "cortAIx Factory" qui vise à accélérer la qualification et l’industrialisation des outils de développement de l’IA ainsi que les cas d’usage pour les données des systèmes. Thales dote déjà ses systèmes d’IA et continue d’identifier de nouveaux cas d’usages pour accélérer la performance, comme par exemple la planification de missions, la gestion du trafic aérien, le pilotage de drones et de robots.