Le ministère des Armées a distingué, cette semaine, deux solutions françaises de cybersécurité pour l'IA. Elles visent à protéger contre les manipulations adversariales et les tentatives d'extraction d'informations sensibles des systèmes intelligents militaires.
Le ministère des Armées adoube deyx nouvelles solutions de protection cyber et d'IA © DC Studio / Shutterstock La défense nationale continue de s'armer face aux risques liés à l'intelligence artificielle. Mercredi, le Commandement de la cyberdéfense (COMCYBER) et l'Agence de l'innovation de Défense (AID) ont récompensé deux solutions innovantes à l'occasion du défi « Sécurisation de l'IA ». Ce concours, qui rassemblait des laboratoires, des start-up et des grands groupes, a permis de rappeler l'importance cruciale de la protection des systèmes d'IA dans le domaine militaire.
La technologie BET Eval détecte les failles invisibles dans nos IA conversationnelles
Le premier lauréat, la PME PRISM EVAL, a conquis le jury avec sa suite d'outils BET (Behavior Elicitation Tool). Sa mission consister à sécuriser les grands modèles de langage (LLMs) utilisés notamment dans GenIAlly, le chatbot interne des Armées françaises. Une technologie devenue incontournable, mais qui reste vulnérable.
L'approche de PRISM EVAL se distingue par une certaine originalité. Plutôt que d'appliquer des correctifs standardisés, BET Eval teste la robustesse des modèles en combinant différentes « primitives comportementales d'attaques ». Plus simplement, le dispositif traque méthodiquement les failles pouvant conduire à la génération de contenus malveillants.
Les tests ciblent également l'extraction non autorisée d'informations sensibles et le contournement des garde-fous intégrés aux grands modèles. C'est un point très important, surtout quand on imagine les conséquences potentiellement catastrophiques d'un robot conversationnel militaire compromis, qui livrerait des secrets défense ou saboterait des opérations stratégiques.
Remise des prix du défi "Sécurisation de l'IA" © COMCYBER Comment le CEA-List protège les données d'entraînement des IA militaires
Le CEA-List est le second lauréat. L'institut français, qui développe des technologies en robotique mais aussi en cybersécurité et en intelligence artificielle, s'attaque ici à une menace plus subtile avec ses outils PyRAT et PARTICUL. Au cœur du problème, on retrouve les attaques adversariales, ces modifications imperceptibles des données qui trompent l'IA. Imaginez par exemple un drone qui confond un hôpital avec une cible militaire à cause d'un pixel modifié.
On peut voir PyRAT, dont le nom prête à sourire, comme une réponse mathématique à cette menace, puisqu'il vérifie formellement la sécurité des réseaux de neurones. L'outil garantit que des modifications minimes des données d'entrée ne puissent pas induire en erreur le système, une avancée cruciale pour les applications militaires où l'erreur n'est pas permise.
Son compagnon PARTICUL complète le dispositif en s'attaquant aux modifications plus visibles comme l'ajout de patchs trompeurs. En détectant les éléments récurrents dans les ensembles de données, il calcule un indice de confiance sur les nouvelles informations. Une double protection qui pourrait faire la différence sur le terrain, où l'IA devient l'arbitre invisible des conflits modernes.
merci à CLUBIC
