La communauté Confiance.ai vient de détailler sa stratégie pour accélérer le déploiement industriel de l’intelligence articielle (IA) de confiance en faisant de sa méthodologie outillée un standard au niveau international. Tout en souhaitant agrandir et animer la communauté d’ingénierie de l’IA responsable et lever les nouveaux verrous technologiques emergeants - IA générative, IA hybride, collaboration humain-machine… 

Pour aller dans ces directions, Confiance.ai lance un appel à tous les acteurs européens de l’IA à rejoindre son action. 

Pour rappel, porté par un collectif de 13 partenaires fondateurs, acteurs industriels et académiques français majeurs (*) Confiance.ai a été l’un des programmes structurants de la stratégie nationale pour l'IA. Financé par France 2030, le programme qui s’est achevé en septembre 2024 a permis d’établir l’état de l’art en matière d’ingénierie de l’IA industrielle et responsable, à travers une méthodologie et des outils uniques au monde. En outre, ces travaux ont contribué à la définition de la réglementation européennne “AI Act”. 

La communauté Confiance.ai annonce aujourd’hui poursuivre son investissement collectif en faveur de l’accélération de l’industrialisation des systèmes à base d’intelligence artificielle de confiance, de l’approfondissement et de la pérennisation des résultats du programme Confiance.ai. Ainisi, la communauté Confiance.ai prévoit la création d’une fondation open source pour élargir la communauté de l’IA de confiance et positionner la méthodologie et les outils de Confiance.ai comme la référence à l’international. 

Cette fondation baptisée “European Trustworthy AI Foundation” est en cours de mis en place, menée par cinq partenaires fondateurs du programme Confiance.ai - Air Liquide, Naval Group, Safran, Sopra Steria et Thales - avec le concours de l'IRT SystemX qui en définissent la feuille de route. 

La fondation aura pour vocation d’accueillir un nombre croissant de membres à l’échelle européenne et internationale, à travers un système d’adhésion. Sa mission sera de gérer et d’assurer la montée en maturité et la diffusion des actifs méthodologiques et technologiques open source issus du programme Confiance.ai, en réponse aux besoins des industriels utilisateurs et à de nouveaux secteurs économiques comme la banque et la santé.

Elle sera aussi en charge de positionner cette méthodologie comme le standard de facto et de s’assurer du maintien de l’alignement entre la méthodologie, les outils et les règlementations telles que l’AI Act. 

Enfin, son rôle sera de contribuer à la mise en œuvre d’une solution européenne pour évaluer et labéliser les systèmes et les organisations en matière d'IA, dans le cadre de son implication dans l’AI Trust Alliance, avec comme ambition de d’unifier les référentiels de labélisation existants, depuis leurs critères d’évaluation jusqu’au calcul de scores de confiance. In fine, la méthodologie et les outils de la fondation pourront être utilisés par les entreprises comme solution pour implémenter ce référentiel unifié dans leurs pratiques. Une évaluation par un tiers pourra notamment permettre la délivrance, par l’Alliance, d’un “AI Trust Label”. 

En réponse aux attentes des industriels, la communauté Confiance.ai s’appuie sur les résultats du programme et sur un réseau de partenaires pour accompagner les acteurs dans trois domaines. A savoir, la montée en compétence grâce à des formation aux nouveaux métiers et au domaine de l’IA de confiance (une première formation a vu le jour, le Mastère spécialisé “IA de confiance” de CentraleSupélec Exed et l’IRT SystemX), la mise en conformité des technologies avec l’AI Act et plus généralement avec les règlementations (une première offre proposée par Airbus Protect permet aux acteurs industriels d’évaluer et de démontrer la conformité de leurs actifs d’IA) et enfin le déploiement industriel de l’IA responsable (une première offre proposée par Sopra Steria permet d’accompagner les entreprises dans l'industrialisation de leurs systèmes d'IA). 

« Nous sommes fiers d’avoir développé une approche globale et inédite au niveau mondiale d’ingénierie de l’IA de confiance, couvrant l’ensemble de du cycle de vie des systèmes critiques, et éprouvée sur des cas d’industriels concrets, note Juliette Mattioli, Présidente du comité de pilotage de Confiance.ai et expert senior en Intelligence Artificielle chez Thales. Dans le domaine de l’IA industrielle et responsable, l’Europe peut déjà compter sur la plus importante communauté au monde constituée par le programme Confiance.ai ces quatre dernières années et nous sommes déjà en ordre de marche pour que les industriels européens intègrent des solutions d’IA de confiance afin de déployer de nouveaux services innovants sur leurs marchés ». 

(*) Air Liquide, Airbus, Atos, CEA, Inria, Naval Group, Renault Group, Safran, IRT Saint Exupéry, Sopra Steria, IRT SystemX, Thales et Valeo