La jeune société espagnole Semidynamics, focalisée sur le marché des cœurs RISC-V personnalisables, a profité du salon Embedded World qui s’est déroulé du 9 au 11 avril, pour dévoiler un bloc de propriété intellectuelle baptisé “All-In-One AI” conçu pour les puces et les algorithmes d’intelligence artificielle (IA) de nouvelle génération (comme les transformeurs) qui nécessitent des puissances de calcul de plus en plus élevées.
Selon la société, à l’heure actuelle, les concepteurs de puces de traitement d’algorithmes IA utilisent une approche consistant à intégrer des blocs d’IP séparés autour d'un sous-système processeur (CPU). Avec cette manière de faire traditionnelle, le CPU distribue des charges de travail partielles aux GPGPU (unités de traitement graphique à usage général) et aux NPU (unités de traitement neuronal) et gère la communication entre ces unités. Ce qui pose un problème, selon Semidynamics, car le déplacement des données entre les blocs crée une latence élevée.
Il est également difficile de programmer avec trois types différents de blocs d'IP, chacun avec son propre jeu d'instructions et sa propre chaîne d'outils. Enfin, les blocs NPU non programmables à fonction fixe peuvent aujourd’hui devenir obsolètes avant même d’atteindre la réalisation d’une puce sur silicium en raison de l’introduction constante de nouveaux algorithmes IA. En d’autres termes, une puce IA conçue aujourd’hui pourrait facilement s'avérer obsolète au moment où elle deviendra un circuit physique car les logiciels évoluent toujours plus rapidement que le matériel.
Pour toutes ces raisons, la société espagnole a décidé d’adopter une approche très différente en proposant une solution unifiée combinant un coeur RISC-V, les unités de traitement vectorielles et Tensor, ainsi que sa technologie Gazzillion (qui garantit un flux constant de données depuis la mémoire), et ce sur une même unité de traitement IA RISC-V (voir illustration ci-dessous) afin que les puces IA soient plus faciles à programmer et puissent s'adapter aux puissances de traitement requises au cours du temps.
« La configuration actuelle des puces IA est inélégante avec généralement trois fournisseurs d'IP et trois chaînes d'outils différents, ainsi qu'avec un rapport PPA (Power Performance Area) médiocre et des difficultés à s'adapter aux nouveaux algorithmes disponibles sur le marché, estime sans ambages Roger Espasa, le P-DG de Semidynamics. Par exemple, elles ne peuvent pas gérer des algorithmes IA de type transformeurs, alors que notre IP crée une nouvelle approche au niveau de la facilité de programmation car il n'y a en face du développeur que le jeu d'instructions RISC-V et un environnement de développement unique. »
Ainsi, selon Semidynamics, l'intégration des différents blocs dans un seul élément de traitement IA RISC-V signifie que de nouveaux algorithmes IA peuvent être déployés sans se soucier de savoir où et comment répartir les charges de travail afférentes. Les données se trouvent alors dans les registres vectoriels et peuvent être utilisées par l'unité vectorielle ou l'unité tensorielle, chaque partie attendant simplement à tour de rôle d'accéder au même emplacement selon les besoins. De fait, avec cette approche, il n’y a aucune latence de communication et des caches minimisés conduisent à une performance optimisée avec, en sus, une adaptation facilitée pour répondre à des exigences plus élevées en matière de traitement et de gestion des données.
Dans le détail, Semidynamics a combiné quatre de ses IP pour former la solution intégrée “All-In-One AI” qui dispose d'un cœur RISC-V 64 bits personnalisable, d'unités de traitement vectoriel Vector (en tant que GPGPU), d'une unité Tensor, qui assure les opérations de multiplication matricielle pour les convolutions (en tant que NPU) et de l'unité baptisée Gazzillion, propre à Semidynamics, en vue de garantir que de grosses masses de données peuvent être traitées depuis n'importe où dans la mémoire sans rencontrer des problèmes de cache.
En résumé, par le biais de cette technologie, il n’existe qu’un seul fournisseur d'IP, un seul jeu d’instructions RISC-V et une seule chaîne d’outils. En l’occurrence ici l’outil Configurator de Semidynamics qui permet de créer selon les besoins un équilibre entre les unités Tensor et Vector avec des capacités de contrôle du cœur RISC-V dans l'élément de traitement, ce qui rend la mise en œuvre d'applications d'IA plus facile et plus rapide pour les développeurs.
