En début d’année, à l’occasion de sa dernière levée de fonds en date, le californien SiMa.ai, concepteur de puces-systèmes destinées aux applications d’apprentissage automatique en périphérie de réseau (edge), avait annoncé la couleur. Sa seconde génération de puces MLSoC afficherait une versatilité multimodale (audio, voix, texte, image, etc…), l’objectif de la société étant de répondre aux besoins des utilisateurs en matière de vision artificielle, de transformeurs (architectures d’apprentissage profond récentes adaptées notamment au traitement du langage naturel) et d’intelligence artificielle (IA) générative multimodale, le tout avec une seule plateforme centrée sur le logiciel.

Cet objectif est aujourd’hui réalisé. SiMa.ai a dévoilé en septembre sous le nom de MLSoC Modalix une famille de produits d’IA multimodale, présentée comme la première calibrée pour la périphérie de réseau. Ces puces, qui prennent en charge à la fois les réseaux de neurones convolutifs (CNN), les transformeurs, les grands modèles de langage (LLM), les grands modèles multimodaux (LMM) et l'IA générative, offriraient des performances par watt plus de 10 fois supérieures à celles des approches concurrentes.

Les MLSoC Modalix, dont l’échantillonnage est prévu au cours de ce dernier trimestre 2024, sont proposés dans des configurations de 25 Tops (M25), 50 Tops (M50), 100 Tops (M100) et 200 Tops (M200) et dans divers formats. Ces puces sont conçues pour assurer un déploiement sans effort de l'IA générative sur les marchés edge de l’apprentissage automatique embarqué, tout en restant compatibles au niveau logiciel avec les MLSoC de première génération (selon les principes du framework ONE Platform for Edge AI du Californien).

« Avec l'introduction sur le marché des MLSoC Modalix, la plateforme ONE Platform for Edge AI offre désormais une couverture qui s’étend des réseaux de neurones convolutifs traditionnels CNN jusqu’à l’IA générative en balayant tout ce qui se trouve entre les deux, avec des performances et une efficacité énergétique sans égales », assure Krishna Rangasayee, le fondateur et CEO de SiMa.ai.

Selon la société, les utilisateurs des dernières-nées des puces SiMa.ai seront en mesure d'accélérer les modèles d'apprentissage profond, les transformeurs et les modèles d’IA générative, en repoussant les limites de modèles comme Llama2 7B au-delà des 10 jetons par seconde.

Dans la pratique, les MLSoC Modalix, gravés selon la technologie N6 (6 nm) de TSMC, se distinguent des MLSoC de première génération par l’intégration de huit cœurs Arm Cortex-A65 et d’un module de traitement d’image (ISP) doté de 4 x 4 liens Mipi CSI-2 permettant d’interfacer la puce à des caméras Mipi, ainsi qu’à des caméras Ethernet au travers de quatre ports 10 Gigabit Ethernet. On y trouve aussi huit liens PCIe Gen5 facilitant la réception et la transmission rapides de données de et vers la puce, des cœurs de traitement numérique de la vision et du signal, et des innovations telles que le traitement du format à virgule flottante BF16 dans le silicium.

Vous pouvez aussi suivre nos actualités sur la vitrine LinkedIN de L'Embarqué consacrée à l’intelligence artificielle dans l’embarqué : Embedded-IA