Après 20 mois de collaboration étroite au sein d’un écosystème riche de près de 50 partenaires industriels et académiques, le collectif Confiance.ai (*) a présenté lors des Confiance.ai Days (qui se déroulent les 5 et 6 octobre à Paris) les avancées scientifiques et technologiques du programme, les retours des premiers déploiements chez les partenaires et les perspectives à venir.

A cette occasion, le collectif a annoncé qu’une première version de l’environnement de confiance a d’ores et déjà été déployée au sein des ingénieries des partenaires et une seconde version contenant des avancées majeures est en cours de développement.

Lancée dans le cadre de la 1^re phase de la Stratégie nationale en intelligence artificielle et financée par le plan France 2030 pour une durée prévue de quatre ans, l’initiative Confiance.IA avec ses 13 fondateurs (**) a pour ambition de développer un environnement méthodologique et technologique au service de l’intégration d’une intelligence artificielle (IA) de confiance dans les systèmes critiques (véhicules autonomes, contrôle industriel en ligne, systèmes d’aide à la décision…).

Le collectif rappelle que le déploiement à très grande échelle de systèmes industriels intégrant une IA de confiance est un enjeu clé de compétitivité industrielle et économique, mais aussi de souveraineté. L’Union européenne, avec son projet de règlementation de l’IA intitulé Artificial Intelligence Act (AI Act), souhaite par exemple encadrer l’IA et ses usages pour la rendre digne de confiance, éthique, durable, inclusive et centrée sur l’humain. L'UE vise à instaurer un cadre réglementaire et juridique qui régira les technologies d’IA conçues au sein des pays membres mais aussi celles des opérateurs traitant avec eux, en les classant en quatre catégories selon leur niveau de risque.

Concrètement, le programme couvre les grandes thématiques autour desquelles s’articule l’IA de confiance : méthodes et directives pour la conception de l’IA de confiance, caractérisation et évaluation de systèmes dotés d’IA de confiance, conception de modèles reposant sur une IA de confiance, ingénierie de la donnée et de la connaissance, certification et IVVQ (Intégration, vérification, validation et qualification) et facilité à installer ces technologies logicielles sur des systèmes embarqués. Et ce afin de répondre à une préoccupation exprimée par les industriels qu'est l’absence d’un cadre de conception outillé sur lequel il est possible de s’appuyer et de se référer.

Dans ce cadre, une première version de l’environnement de confiance a été livrée fin 2021. Elle comporte un environnement de développement adossé à une chaine MLOps (chaine de traitement et de déploiement automatique des modèles de machine learning). Au printemps 2022, cette version de l’environnement de confiance a été mise à disposition des industriels.

Avec d’ores et déjà des premiers retours opérationnels, comme Safran qui a déployé la chaîne outillée sur l'un de ses serveurs de calcul. « Cette opération est stratégique pour nous du fait du caractère sensible de nos activités, car nous avons désormais l’opportunité d’appliquer les briques de cet environnement à nos usages internes en nous affranchissant du recours à un cloud public, précise Jacques Yelloz, ingénieur en chef dans le domaine de l’IA chez Safran Electronics & Defense. Nous avons prévu d’évaluer dans les prochains mois l’interopérabilité des outils MLOps avec les outils d'explicabilité et de robustesse développés par Confiance.ai. »

De son côté, Sopra Steria indique que la possibilité de redéployer individuellement les actifs du programme représente une valeur ajoutée déterminante pour les activités de la société. « Les travaux 2022 de Confiance.ai nous permettent d'ores et déjà de concrétiser la promesse d’une IA de confiance déployable en production, commente Yves Nicolas, Deputy Group CTO de Sopra Steria. Sur plusieurs cas d'usage métier, nous avons pu évaluer plusieurs paramètres de confiance tels que l'explicabilité et la robustesse au sein d'une chaine MLOps industrielle, prête à se conformer aux règlementations à venir telles que l'AI Act. »

Enfin Antoine Leblanc, expert AI @ industry 4.0/DSII/PESI chez Renault Group, indique : « L’enjeu de l’adoption et de l’intégration des solutions d’IA dans les systèmes industriels est un défi d’autant plus important qu’il s’accompagne pour les équipes Manufacturing de Renault Group d’un changement de culture et de méthodes. Le programme Confiance.ai nous livre ici des outils clés en main, testés sur les cas d’usage industriels, proposés par nos équipes, qui nous permettent de consolider notre démarche globale de gestion des données industrielles : aide à la qualité d’annotation, à la visualisation des données ou encore à la mesure de l’acceptabilité sociale de l’IA sur un poste industriel ».

Le collectif indique que les travaux de l’année 2022 sont centrés sur les problématiques de montée en maturité de la robustesse, de l’explicabilité, du monitoring ou encore du cycle de vie de la donnée, de la caractérisation de la confiance, de la facilité d’implantation des composants logiciels d’IA et de la conformité aux référentiels.

Pour ce faire quatre plateformes différentes sont disponibles. La première est consacrée à la gestion du cycle de vie de la donnée (acquisition, stockage, spécifications, sélection, augmentation). Une seconde offre un accès à un ensemble de bibliothèques centrées sur la robustesse et le monitoring des systèmes à base d’IA. Une troisième est destinée à l’explicabilité, dont l’objectif est de rendre en des termes compréhensibles par un humain les choix et décisions prises par une IA. Enfin la quatrième doit permettre d’identifier les contraintes de conception à respecter sur la base des spécificités matérielles du système cible.

A ce jour, le collectif signale enfin que plus de 100 composants logiciels (applications, bibliothèques…) sont en en cours de conception dans le cadre du programme à des niveaux de maturité différents. Progressivement évalués et intégrés, ils sont également mis à disposition des partenaires afin d’en permettre la manipulation dans leurs propres ateliers d’ingénierie.

(*) Confiance.ai est l’un des projets structurants sur lesquels s'appuie le second volet de la stratégie nationale pour l'IA, annoncé en octobre 2021. Ce programme est financé à hauteur de 30 millions d’euros par France 2030.

(**) Air Liquide, Airbus, Atos, Naval Group, Renault, Safran, Sopra Steria, Thales, Valeo, ainsi que le CEA, Inria, l'IRT Saint-Exupéry et l'IRT SystemX