LGM, société d’ingénierie spécialisée dans les domaines de la sûreté de fonctionnement, de la fiabilité et de la sécurité des systèmes industriels (*), a décidé de collaborer avec la jeune entreprise française Numalis, expert en méthodes formelles de validation des intelligences artificielles (IA), en vue de travailler à la problématique du déploiement d’IA de confiance dans les industries critiques.

Dévoilé à l’occasion d’Eurosatory 2024 qui s’est déroulé à Paris du 17 au 21 juin dernier, cette alliance a pris naissance au sein du Gicat (Groupement des industries françaises de défense et de sécurité terrestres et aéroterrestres) et illustre l'effort d'accompagnement du programme Generate de ce groupement en faveur des jeunes sociétés innovantes dans l’écosystème de entreprises de défense.

Sur ce sujet, LGM et Numalis indiquent que l’utilisation de plus en plus massif d’algorithmes d’IA dans des domaines et des applications critiques rend indispensable la formalisation de nouvelles méthodes de conception et de validation de ces logiciels. En d'autres termes, les spécificités techniques de l'IA nécessitent, selon les deux sociétés, la mise en place de tels méthodologies et outillages pour aller vers un déploiement et une utilisation en confiance. Une démarche qui s’inscrit notamment dans l’objectif de la Commission européenne avec la promulgation de l’AI Act en 2024 qui définit un cadre réglementaire pour s’assurer de la conformité de l’IA, mais qui, selon LGM et Numalis, reste à écrire dans sa déclinaison industrielle.

Concrètement, la collaboration entre les deux entreprises va permettre de promouvoir le développement et l’adoption de l’IA de confiance dans les systèmes critiques en proposant des solutions en vue de concevoir, tester et industrialiser des systèmes complexes qui intègrent des composantes d’IA. Pour LGM, il s’agira de les optimiser pour qu’ils soient fiables, durables et sûrs, avec un taux de disponibilité optimal et un coût de maintenance réduit. Numalis, quant à lui, garantira la fiabilité, l’explicabilité et la robustesse des modules d’IA via sa solution Saimple.

« LGM est reconnu comme le spécialiste européen en ingénierie et soutien des systèmes et infrastructures complexes, ainsi que dans la conception de solutions innovantes et sur mesure au service des industries de haute technologie, explique Nicolas Remy, Business Development Manager et AI Expert chez LGM. Il était donc naturel de nous rapprocher de Numalis qui se positionne comme un tiers de confiance sur les problématiques de développement et d’implantation effective de l’IA, et qui fournit un cadre et des outils rigoureux permettant de vérifier mathématiquement ces modèles d'IA. »

Créé en 2015 et basé à Montpellier, Numalis est un spécialiste des notions d’explicabilité et de validation de la robustesse des algorithmes d’IA, par le biais de l’exploitation de méthodes formelles. Il s’agit ici de recourir à des outils de logique mathématique, sur un programme informatique ou du matériel électronique, afin de démontrer la validité des informations qu’ils produisent. Initialement axée sur la correction des erreurs de calcul des ordinateurs et la validation de code pour les systèmes embarqués critiques, l'entreprise a utilisé son savoir-faire pour mettre au point des solutions performantes pour la validation d’algorithmes IA. Au sein d'un paysage technologique pour lequel le cadre réglementaire est encore émergent, la société propose aux industriels des solutions fondées sur des méthodes mathématiques rigoureuses, hébergées au sein d’une infrastructure souveraine, pour les préparer vers une IA fiable et sécurisée.

(*) Le groupe LGM a généré en 2023 un chiffre d’affaires de 155 millions d’euros et employait 1500 salariés dans 8 pays différents.