Créée officiellement en 2021, la société néerlandaise Axelera AI, qui a développé une architecture de traitement en mémoire (IMC, In-Memory Computing) pour gérer des algorithmes d’intelligence artificielle (IA) en périphérie de réseau (edge), annonce l’ouverture d’un programme d’accès préliminaire à sa plate-forme IA Matis. Constituée de la puce IA Metis et du kit de développement logiciel Voyager SDK, cette plate-forme est présentée comme la première à offrir des performances de plusieurs centaines de téraopérations par seconde (Tops) à un prix calibré pour les équipements edge de vision artificielle.

Dans le détail, Axelera AI, qui a récemment bouclé un tour de table de 27 millions de dollars, compte fournir début 2023 sa technologie sous l’aspect d’une carte d’accélération au format M.2, offrant jusqu’à 214 Tops au prix de 149 dollars (soit seulement 0,70 dollars par Tops), et d’une carte PCIe délivrant jusqu’à 856 Tops, alimentée par quatre puces Metis. La société collabore par ailleurs avec plusieurs partenaires pour développer des solutions système prêtes à l’emploi.

Selon la start-up batave, l’AIPU (AI Processing Unit) Metis se déploie autour d’une architecture quadricœur, chaque cœur pouvant exécuter toutes les couches d’un réseau de neurones standard sans interactions externes, pour fournir une puissance de traitement IA de 53,5 Tops. Une seule puce Metis offre ainsi une puissance globale de 214 Tops.

Les cœurs peuvent en outre être combinés pour exécuter ensemble une charge de travail IA complexe, fonctionner indépendamment sur le même réseau de neurones pour réduire la latence, ou traiter simultanément différents réseaux de neurones pour les applications en comportant plusieurs. Au cœur du fonctionnement de chaque cœur, on trouve en fait le moteur D-IMC (Digital In-Memory Computing) d'Axelera qui accélère les opérations de multiplication matrice-vecteur et qui, selon la société, offre un niveau d’efficacité énergétique sans précédent de 15 Tops/W pour une précision de calcul INT8.

Au-delà, les quatre cœurs précités sont intégrés dans une puce-système SoC qui comprend aussi un contrôleur RISC-V, une interface PCIe, un contrôleur mémoire LPDDR4X et un bloc complexe de sécurité, le tout étant connecté par un réseau sur puce (NoC) à haut débit. Le NoC relie également les cœurs à une mémoire hiérarchique partagée de plusieurs niveaux, et intégrée sur la puce, de plus de 52 Mo, tandis que le contrôleur LPDDR4 peut être connecté à une mémoire externe pour la prise en charge de réseaux de neurones beaucoup plus grands.

Enfin, l'interface PCIe fournit une liaison haut débit vers un hôte externe, permettant de décharger l’intégralité des applications neuronales vers l'AIPU Metis.

De son côté, le SDK Voyager SDK comprend un compilateur intégré, une pile logicielle d'exécution et des outils d’optimisation grâce auxquels les utilisateurs peuvent importer leurs propres modèles préentaînés pour leur exécution sur la plateforme IA Metis. Axelera propose aussi, au sein d’un répertoire estampillé Model Zoo, des modèles de réseaux de neurones personnalisables afin d’accélérer le développement. Selon Axelera, le SDK quantifie et compile de manière automatisée des réseaux de neurones préalablement entraînés sur différents frameworks IA, puis génère du code qui s’exécute sur la puce Metis avec une précision élevée. Dans ce cadre les réseaux optimisés tournant sur l’AIPU Metis seraient indiscernables de ceux s’exécutant sur des systèmes dotés d’unités à virgule flottante…

Vous pouvez aussi suivre nos actualités sur la vitrine LinkedIN de L'Embarqué consacrée à l’intelligence artificielle dans l’embarqué : Embedded-IA