Mis sur pied à l’été 2021 par plusieurs industriels et académiques français (Air Liquide, Airbus, Atos, CEA, Inria, Naval Group, Renault, Safran, IRT Saint-Exupéry, Sopra Steria, IRT SystemX, Thales, Valeo), le collectif du programme Confiance.ai annonce la signature d’un protocole d’entente avec l’organisme de normalisation IEEE. Le programme Confiance.ai, rappelons-le, vise à créer une plate-forme d’outils logiciels permettant d’industrialiser et d’intégrer de l’intelligence artificielle (IA) de confiance dans les futurs produits et services critiques, là où les accidents, les pannes ou les erreurs pourraient avoir des conséquences graves sur les personnes et les biens (véhicules autonomes, aéronautique de dernière génération, industrie 4.0, énergie, défense, etc.).

Dans ce cadre, la collaboration entre le collectif Confiance.ai et l’IEEE vise à ce que les processus de la norme IEEE 7000-2021 (relatifs à la prise en compte des valeurs éthiques dans le développement d’un produit ou d’un service) deviennent parties intégrantes des bonnes pratiques développées par Confiance.ai. Selon le collectif, les approches des deux partenaires sont complémentaires, l’IEEE apportant le référentiel et Confiance.ai la dimension technologique.

Concrètement, cette collaboration se déroulera en plusieurs temps. Dans une première phase, le collectif Confiance.ai testera sur l’un de ses cas d’usage la norme IEEE 7000. Sera également conduite une « analyse des écarts » entre les attentes de Confiance.ai et les normes IEEE relatives à l’éthique, notamment l’IEEE 7000. Ensemble, les partenaires prévoient d’étudier ensuite la possibilité de lancer un projet pilote de certification éthique IEEE avec un ou plusieurs membres de Confiance.ai.

A l’issue de ces étapes, sera défini un plan de collaboration détaillé entre les deux partenaires, lequel sera exécuté dans la deuxième phase du partenariat. Le protocole d’entente inclut en effet également une étape de coopération sur la standardisation européenne auprès du comité CEN-Cenelec (JTC21), l’idée étant que Confiance.ai fasse adopter les bonnes pratiques issues de la première phase dans le cadre de la normalisation. Le collectif et l’IEEE contribueront alors à l’élaboration d’un catalogue des risques et à une cartographie des caractéristiques de la notion de confiance.

« Le domaine de l'IA de confiance pose des enjeux forts en matière de standardisation et d'éthique, indique Paul Labrogère, directeur général de l’IRT SystemX, pilote du programme Confiance.ai et signataire du partenariat avec l’IEEE. Parmi les beaux résultats de Confiance.ai, nous comptons la plateforme DebiAI qui va permettre d’outiller cette démarche d’IA éthique. »

Ce partenariat avec un organisme international de normalisation est le second signé par le collectif Confiance.ai. Il intervient après la signature en janvier dernier d’un protocole d’entente avec EuroCAE, l’Organisation européenne pour l’équipement de l’aviation civile. Confiance.ai devrait nouer prochainement des collaborations avec d’autres organismes de référence dans les domaines du véhicule autonome, de l’énergie, de la défense, etc.