Alif Semiconductor, fournisseur américain de microcontrôleurs et de processeurs de fusion sécurisés et connectés pour l’intelligence artificielle (IA) et l’apprentissage machine (ML) a publié cet été des tests de référence sur ses derniers circuits E4, E6 et E8, capables d’exécuter localement des charges de travail d’IA générative.

Ces derniers intègrent notamment un accélérateur pour gérer des algorithmes d’IA en périphérie de réseau, le coeur de processeur neuronal Arm Ethos-U85 et un processeur d’images (ISP, Image Processing Processor) flanqué d’un large bus mémoire pour faciliter la capture et la mise en mémoire tampon des images.

Ainsi, Alif indique que son architecture système qui comprend une accélération matérielle pour les réseaux de transformateurs, ne nécessitent que 36 mW pour l’exécution d’un petit modèle de langage (SLM, Small Language Model).

Cette accélération matérielle permet en outre selon ALif d’effectuer une détection d’objet efficace en moins de 2 ms et une classification d’image en moins de 8 ms.

Pour parvenir à ces résultats les circuits Ensemble d’Alif prennent en charge jusqu’à deux capteurs d’image MIPI-CSI ainsi q’un pipeline de traitement du signal d’image accéléré au niveau matériel, qui fonctionne jusqu’à 60 images par seconde à une résolution de 2 Mega pixels. Ce débit d’images est rendu possible grâce à un nouveau sous-système de mémoire étendue pour des transactions rapides sur la puce et hors puce, ce qui permet d’obtenir, selon Alif, une vitesse d’inférence bien inférieure à la milliseconde lors de l’exécution de modèles d’intelligence artificielle à partir d’une mémoire Mram interne.

Ces niveaux de performance permettent, toujours selon Alif, aux développeurs d’innover dans des produits de nouvelle génération dans les domaines de l’interface homme-machine, des soins de santé et du diagnostic, de la robotique, des transports, des jouets et de l’éducation, des maisons intelligentes et de l’équipement des villes intelligentes.

« Avec les séries des circuits Ensemble E4, E6 et E8 GenAI, Alif a pour ambition de repousser les limites des applications d’intelligence artificielle, commente Reza Kazerounian, président d’Alif Semiconductor. Alors que les solutions existantes sur le marché sont conçues pour le contrôle en temps réel, et non pour l’IA, Alif a préféré construire une architecture prête pour l’IA dès le départ pour mettre en œuvre des modèles basés sur des transformateurs et l'IA générative dans les produits en périphérie et des terminaux alimentés par une petite batterie. »