Confiance.ai. Tel est le nom d’un programme lancé début 2021 qui réunit 13 industriels et académiques français et dont l’ambition est de créer une plate-forme d’outils logiciels permettant d’industrialiser et d’intégrer de l’intelligence artificielle de confiance dans les futurs produits ou services critiques, ...là où les accidents, les pannes ou les erreurs pourraient avoir des conséquences graves sur les personnes et les biens. On pensera bien évidemment aux véhicules autonomes, à l’aéronautique de dernière génération, à l’industrie 4.0, à l’énergie et à la Défense.

Rien d’étonnant donc à trouver dans le collectif Confiance.ai des industriels comme Air Liquide, Airbus, Atos, Naval Group, Renault, Safran, Sopra Steria, Thales, Valeo, ainsi que le CEA et les instituts de recherche technologique (IRT) Saint-Exupéry et SystemX.

Les chiffres-clés de l'initiative Confiance.ai

Dans la pratique, le programme, qui est doté d’un budget de 45 millions d’euros sur la période 2021-2024, s’inscrit dans le cadre du Grand défi « Sécuriser, certifier et fiabiliser les systèmes fondés sur l’IA » impulsé par l’Etat. A ce titre, indique le gouvernement, Confiance.ai mobilise l’expertise française en IA, ainsi qu’en ingénierie et en sûreté de fonctionnement, pour offrir aux industriels des solutions leur permettant de développer de nouveaux produits et services reposant sur une IA de confiance qui répondent à des enjeux majeurs de compétitivité économique et de souveraineté. On notera que le montage et le pilotage du programme ont été confiés à l’IRT SystemX.

« Ces développements technologiques sont un prérequis à une IA de confiance, éthique et responsable en France et en Europe, indique Julien Chiaroni, directeur du Grand défi IA de confiance au sein du Secrétariat général pour l'investissement. La France dispose d'atouts indéniables pour relever ce défi. C'est sur la combinaison de l'ensemble de ces forces que capitalise le programme Confiance.ai qui se propose d'apporter un « cadre » technique à la proposition de réglementation européenne sur l'IA. »

Focalisée sur l'ingénierie des produits et services industriels innovants intégrant de l'intelligence artificielle, la future plate-forme fournira des méthodes et des outils logiciels au service de la conception, de la validation, de la qualification, du déploiement et de la maintenance de produits et services reposant sur l'intelligence artificielle, précise le communiqué du gouvernement. L’idée étant de réduire les coûts de développement de ces produits et services tout en garantissant leur « bon » fonctionnement. Les premiers secteurs d'application seront l'automobile, l'aéronautique, l'énergie, le numérique, l'industrie 4.0, la Défense et le maritime, avec des cas d'applications variés comme le contrôle industriel en ligne, la mobilité autonome ou les systèmes d'aide à la décision.

Pour mener à bien les objectifs fixés, le programme Confiance.ai a élaboré une feuille de route stratégique. Cinq principaux axes la structurent : la caractérisation de l'IA, l'IA de confiance « by design », l'ingénierie de la donnée et des connaissances, la maîtrise de l'ingénierie système fondée sur l'IA, et l'IA de confiance pour l'embarqué. « Les enjeux de l'intégration de l'intelligence artificielle dans les systèmes critiques sont immenses et les attentes des industriels français sont importantes et à prendre en compte dès maintenant, ajoute Emmanuelle Escorihuela, présidente du comité de pilotage du programme Confiance.ai. Il existe de nombreux démonstrateurs, mais les industrialiser pour des applications critiques dans des systèmes industriels représente un défi d'envergure. Le programme Confiance.ai est en synergie avec les initiatives existantes (Deel, Aniti, DATAIA, MIAI et IA2), et apporte un niveau d'intégration supplémentaire de par son orientation industrielle forte. »

Les travaux du programme Confiance.ai ont en fait débuté en janvier 2021. Le calendrier prévoit la livraison de briques technologiques intégrées chaque année, en veillant à ce que la valorisation des actifs transférables vers les industriels du consortium soit réalisée dès les premiers résultats.

Enfin, un Appel à manifestation d'intérêt (AMI) a été lancé le 1^er juillet 2021 pour intégrer dans les sept projets du programme Confiance.ai des start-up et PME innovantes dont les technologies sont susceptibles de contribuer à la résolution des verrous technologiques du programme. Ces verrous concernent trois thématiques : confiance et ingénierie système à composants IA, confiance et données d'apprentissage, confiance et interaction humaine. Les réponses sont attendues d'ici le 3 septembre prochain. A l'issue du processus de sélection, les start-up et PME retenues pourront démarrer leurs travaux au 4^e trimestre 2021.