A l’occasion de l’événement Confiance.ai Day qui s’est tenu le 7 mars 2024, les membres fondateurs du collectif Confiance.ai (*) ont dévoilé une méthodologie et un catalogue de composants technologiques développés ces trois dernières années dans le but d’augmenter le niveau de confiance dans l’intelligence artificielle (IA) intégrée au sein de systèmes critiques.

Cette méthodologie outillée, bâtie sur des composants technologiques open source et conçue comme un guide à destination des industriels, permet de caractériser et de qualifier la confiance d’un système intelligent dirigé par les données et de l’intégrer dans des produits et services industriels. Selon ses promoteurs, l'une des grandes réussites des acteurs du programme est d’être parvenus à “transversaliser” les approches entre industries, la méthodologie outillée mise au point permettant de traiter les mêmes problématiques technologiques, quels que soient le contexte d’application et l’industrie visés. Avec l’ambition de faire de cette méthodologie outillée un standard de facto au niveau mondial.

A l’occasion de la journée Confiance.ai Day, les partenaires du programme ont ainsi annoncé l’ouverture aux communautés scientifiques et industrielles de cette technologie ainsi que des composants open source associés, qui sont accessibles ici.

Les composants ont été regroupés en neuf ensembles fonctionnels correspondant à des processus d’ingénierie précis : ingénierie, gestion du cycle de vie de la donnée, gestion du cycle de vie des modèles et des composants, évaluation des composants IA, déploiement des composants IA, gestion des systèmes IA en opération, robustesse, explicabilité et quantification de l’incertitude. Avec comme idée sous-jacente qu’ils aient un impact industriel pour appuyer une démarche de transition vers une ingénierie assurant l’intégration d’une IA de confiance.

Pour rappel, lancé en 2021, Confiance.AI est un programme structurant de la Stratégie nationale pour l’intelligence artificielle, financé par France 2030, avec comme ambition de développer un environnement méthodologique et technologique souverain, ouvert, interopérable et pérenne qui favorise l’intégration d’une IA industrielle - explicable, robuste, etc. - dans les secteurs industriels stratégiques.

Des cas d’usage testés avec l’IA

L’applicabilité de la méthodologie a pu être testée sur des cas d’usage apportés par les partenaires du programme au sein de leurs ingénieries respectives. Exemple parmi d’autres, Air Liquide s’est appuyé sur les approches d’IA générative pour améliorer la robustesse et la fiabilité de fonctionnement de ses modèles de comptage automatique de bouteilles utilisés pour la gestion de son inventaire, et ce dans des conditions météorologiques défavorables. Ce qui a notamment permis de réduire de moitié l’erreur de comptage de nuit, pour arriver à des performances de précision supérieures à 98%.

Chez Thales, conscient de la nécessité de revisiter les ingénieries classiques (ingénierie algorithmique, ingénierie logicielle et ingénierie système) face aux exigences posées par leur intégration dans des systèmes critiques, la société s’est impliquée dans la définition de la méthodologie d’ingénierie compatible avec les usages métier, permettant de garantir un déploiement et un maintien en conditions opérationnelles. Ainsi, dans le cadre de son cas d’usage sur la “détection d’objets d’intérêt à partir d’images aériennes”, Thales a vérifié la correction de ses algorithmes, amélioré la qualité des données d’apprentissage par un enrichissement avec des images synthétiques, caractérisé, évalué et géré les performances grâce aux attributs et scores de confiance proposés par la méthodologie de bout en bout.

Renault Group, de son côté, a présenté le cas d’usage “Welding” qui porte sur la vérification par un système IA de la qualité des soudures sur le châssis d’un véhicule. La faisabilité en avait été démontrée avant le début du projet, mais les responsables qualité de l’usine hésitaient à déployer l'IA sur des postes où le contrôle est aujourd’hui effectué par un opérateur, en particulier sur des soudures critiques. Ce cas d’usage a été le premier sur lequel une évaluation de bout en bout de la méthode a été effectuée chez Renault. Les outils et méthodes proposées par Confiance.ai accompagnent désormais le programme AI@Scale de Renault Group, qui déploie une organisation, des ressources humaines, matérielles, logicielles et méthodologiques pour accélérer et sécuriser le passage à l’échelle de l’IA dans toute la chaine de valeur du groupe.

La création d'une fondation en perspective

Alors que leurs travaux s’achèveront fin 2024, les partenaires du programme planchent également sur l’après-Confiance.ai autour de trois axes : approfondir, pérenniser et industrialiser. Ainsi, les partenaires du programme identifient actuellement plusieurs problématiques sur lesquelles il serait intéressant de lancer des projets de recherche : l’IA hybride, l’A générative, la cybersécurité des IA intégrées aux systèmes critiques, entre autres.

Au-delà, un autre objectif est la pérennisation et la diffusion de la méthodologie outillée avec la volonté de créer une fondation pour fédérer un ensemble d’acteurs à l’échelle internationale autour d’une feuille de route commune en vue de contribuer à maintenir cette approche en conditions opérationnelles. Enfin, la troisième ambition est l’industrialisation des résultats du programme en vue de les rendre utilisables à grande échelle par les ingénieries des industriels, avec à la clé la création et la mise à disposition d’outils tenant compte des spécificités propres à chaque entreprise en matière de typologie, de données et de cas d’usage.

« L'IA a le potentiel de révolutionner de nombreux aspects de la vie industrielle, mais celle-ci ne peut se faire sans confiance, une condition impérative pour l’adoption des systèmes intelligents par les entreprises, commente Guillaume Avrin, coordonnateur national pour l’intelligence artificielle. Dans ce cadre, le programme Confiance.ai favorise le développement de manière sûre des systèmes intelligents et prépare l’ensemble des filières industrielles françaises à l’entrée en vigueur en Europe de l’AI Act. »

(*) Air Liquide, Airbus, Atos, Naval Group, Renault Group, Safran, Sopra Steria, Thales, Valeo, le CEA, Inria, l'IRT Saint-Exupéry et l'IRT SystemX.