Reposant sur une architecture commune et une pile logicielle unifiée, la nouvelle gamme d’unité de traitement neuronal (NPU, Neural Processor Unit) NeuPro de l’américain Ceva, fournisseur de blocs de propriété intellectuelle (IP) matériels et logiciels, a été pensée pour prendre en charge des charges de travail d’IA multimodale, générative et agentique.

Et ce au sein d’applications d’IA physique allant des capteurs actifs jusqu’aux systèmes avancés en périphérie de réseau. Avec à la clé des capacités de traitement étendues, procurant un débit de traitement d’algorithmes d’IA par mm² jusqu’à deux fois supérieur à et une efficacité énergétique améliorée de 50 % par rapport à la première génération des NPU de la société.

Cette architecture marque également l’expansion de Ceva vers le secteur des infrastructures d’IA, en proposant des solutions sur silicium pour la gestion intelligente de la mémoire, la connectivité et le traitement des données, ainsi que des processeurs d’inférence d’IA personnalisés destinés au cloud et aux centres de données.

Dans le cadre des systèmes d’IA physique, Ceva rappelle qu’ils s’appuient de plus en plus sur une combinaison de modèles d’IA et d’agents intelligents, la perception et les réponses en temps réel étant réalisés au plus près des capteurs, tandis que les processus de raisonnement et d’orchestration plus complexes étant répartis entre les appareils, les systèmes en périphérie de réseau et le cloud.

Or, selon Ceva, cette transition vers une IA hybride s’accélère. Toutefois, quel que soit l’endroit où s’opère l’inférence, le coût en termes de puissance et de performance, tant pour le calcul lui-même que pour le transfert des données, demeure une difficulté.

Au niveau des capteurs, ce coût se mesure en microwatts et en millimètres carrés, indique Ceva, et dans les centres de données, il s’exprime en mégawatts et en bande passante mémoire.

Cette contrainte qui prend des formes variées pour les concepteurs, nécessite un traitement neuronal optimisé pour chaque type de charge de travail, tout en s’appuyant sur une architecture et un environnement logiciel communs, indique Ceva.

D’où sur la gamme NeuPro la présence de plusieurs moteurs adaptés aux différents points du système, tout en étant liés à un kit de développement logiciel (SDK) unifié.

Il s’agit ici pour les concepteurs de semi-conducteurs d’associer le moteur adéquat à chaque composant de leur système, ou d’en combiner plusieurs au sein d’un même SoC (System On Chip) tout en préservant leurs investissements logiciels.

« Notre collaboration avec plus de 15 utilisateurs ayant acquis une licence pour la première génération de NeuPro nous a démontré que la réussite des produits d'IA repose sur un équilibre optimal entre puissance de calcul, mémoire, bande passante, consommation d'énergie et coût, adapté à chaque cas d’utilisation », précise Yaron Galitzky, vice-président exécutif de la division IA chez Ceva.

Dans ce contexte, l’architecture NeuPro introduit des capacités pour des charges de travail allant de la perception et la classification jusqu'aux charges de travail multimodales, génératives et agentiques fondées sur les transformateurs.

Selon Ceva, cette gamme de NPU apporte une amélioration de l'efficacité de l'inférence tout en réduisant les besoins en mémoire et en transferts de données, une augmentation de la bande passante mémoire, une utilisation optimisée de l'opération de multiplication-accumulation (MAC) grâce au remodelage optimisé des tenseurs, la prise en charge des architectures réseau récentes, et le support de modèles pré-quantifiés afin de déployer des points de contrôle sans étape de quantification et d'étalonnage supplémentaire.

La gamme NeuPro comprend à ce jour quatre NPU : le NeuPro Nano, conçu pour la détection continue et la perception de base dans les appareils à ressources limitées, le NeuPro Prime pour le support des charges de travail courantes des réseaux de neurones convolutifs (CNN) et des réseaux de transformeurs, le NeuPro Max qui s’étend à l’IA en périphérie (edge AI) de pointe, incluant la perception haute résolution et les modèles multimodaux, les assistants intégrés aux appareils, la robotique, l’IA physique et l’IA agentique, et enfin le NeuPro Ultra qui cible les applications d’infrastructure d’IA.