La firme californienne (et indienne) Ambient Scientific, spécialisée dans la conception de processeurs d’algorithmes d’intelligence artificielle (IA) annonce la sortie du circuit GPX10 Pro, une puce-système qui s’appuie sur une technologie native au niveau du silicium pour faire tourner des applications d’inférence IA haute performance sur des appareils installés en périphérie de réseau (Edge) alimentés par batterie, jusqu’à des piles boutons.
Créée en en 2017, Ambient Scientific qui possède un centre de R&D à Bangalore en Inde, a conçu un processeur neuronal qui s’appuie sur la technologie DigAn (Digital Analog) de la société. Celle-ci fait appel à des transistors numériques standard pour implanter des fonctions analogiques. Ce processeur intégre un moteur de traitement baptisé Analog Matrix Compute Engine qui effectue à très grande vitesse des calculs arithmétiques. Sur cette puce, une mémoire SRAM intégrée à très faible consommation pour le stockage critique, ainsi qu’une technologie d'interconnexion sur puce à très faible consommation pour un traitement massivement parallèle complètent l’ensemble.
Ce processeur est, selon Ambient, apte à effectuer des traitements sur un couche complète de neurones en un seul cycle d’horloge en utilisant des techniques analogiques propriétaires. En d’autres termes, la technologie permet de mapper directement les opérations de multiplication matricielle et les flux d’activation d’un modèle de réseau neuronal sur des blocs de calcul analogiques en mémoire, une structure qui élimine les cycles inutilisés et les surcoûts liés au jeu d’instructions à usage général d’un processeur classique.
Aujourd’hui, le moteur IA du SoC GPX10 Pro d’Ambient prend en charge tous les types de modèles de réseaux neuronaux importants, y compris les CNN (Convolutional Neural Network ou réseau de neutrons convolution), les RNN (Récurrent Neural Nertwork ou réseaux de neutrons récurrents), les technologies LSTM (Long Short-Term Memory) et GRU (Gated Récurrent Unit), localement ou en périphérie.
Une architecture qui, selon Ambient, procure jusqu’à 100 fois plus de puissance, de performances et d’espace par rapport aux microcontrôleurs 32 bits classiques grâce à la technologie DigAn.
Ainsi, le GPX10 Pro exécute les fonctions courantes de l’IA telles que la reconnaissance vocale, la détection de mots-clés, la vision par ordinateur à basse fréquence et la détection intelligente beaucoup plus rapidement et avec une puissance beaucoup plus faible que les architectures traditionnelles, comme les microcontrôleurs ou les processeurs graphiques.
Dans le détail, le traitement des algorithmes d’IA est effectué sur deux ensembles de cinq cœurs dédiés à l’IA, les MX8, dans deux domaines d’alimentation distincts. Un des deux ensembles se trouve dans un bloc toujours actif qui prend en charge l’interface et la fusion de capteurs à très faible consommation d’énergie.
Par exemple, lors de la recherche de mots-clés toujours active, la puce consomme moins de 100 µW. Ainsi, les 10 cœurs MX8 effectuent jusqu’à 2 560 opérations de multiplication-accumulation par cycle, produisant un débit maximal total de 512 via opération par seconde. La fonction de calcul du GPX10 Pro est prise en charge par 2 Mo de mémoire Sram intégrée, soit dix fois plus que dans le GPX10 existant, afin de permettre la mise en œuvre de modèles IA plus grands et plus complexes.
Le GPX10 Pro dispose également d’un cœur de processeur Arm Cortex-M4F pour les fonctions de contrôle classiques. Quant aux fonctionnalités analogiques intégrées, elles comprennent un convertisseur analogique-numérique à très faible consommation d’énergie, un circuit I2S (Integrated Interchip Sound) optimisé et des interfaces pour jusqu’à huit capteurs analogiques et 20 capteurs numériques simultanés.
« Les microcontrôleurs et les processeurs neuronaux actuels sont limités par leur architecture silicium conventionnelle lorsqu’ils tentent d’exécuter des modèles d’IA, explique GP Singh, le PDG d’Ambient Scientific. C’est comme frapper une balle de baseball avec une raquette de tennis, ce n’est pas, selon nous, l’outil adapté. Avec le GPX10 Pro nous montrons ce qu’il est possible de faire lorsque vous concevez votre architecture spécifiquement pour l’IA, à savoir des centaines de giga opérations par seconde de performances IA pour une consommation de quelques microwatts. »
Ambient Scientific fournit la chaîne d’outils complète Nebula AI pour accélérer la formation, le développement et le déploiement de modèles IA sur les GPX10 et GPX10 Pro. Sur cette puce, les principaux frameworks de formation de modèles, notamment TensorFlow, Keras et ONNX sont supportés.
Côté développement, les cœurs d’IA de la puce sont programmables dans la chaîne d’outils Nebula, de la société qui délivre aux concepteurs la flexibilité nécessaire pour s’adapter à l’évolution des types et des topologies des modèles d’IA.
Enfin, Ambient Scientific fournit également la couche de fusion de capteurs matériels SenseMesh qui autorise une fusion de capteurs à faible latence en connectant plusieurs capteurs à un cœur à travers un maillage étroitement couplé. Une approche qui permet, selon Ambient, d’avoir une réaction instantanée aux événements déclencheurs et une consommation d’énergie ultra-faible en veille, car elle décharge le processeur processeur principal de la tâche d’interrogation des capteurs.
