Permettre aux développeurs de créer rapidement des pipelines d'applications IA à l'aide d'une interface graphique simple, tel est l’objectif que s’est fixé la jeune société californienne Quadric, née en 2016, qui poursuit sa feuille de route autour de sa technologie de processeur neuronal Chimera. La start-up propose Quadric Developer Studio, un environnement de développement collaboratif en ligne destiné à la programmation des processeurs d'unité de traitement neuronal à usage général (GPNPU) Chimera.
Il s’agit, selon Quadric, du premier système de développement intégré pour à la fois les logiciels d'apprentissage automatique (ML, Machine Learning) et ceux de traitement du signal numérique (DSP). Cet environnement complet fournit ainsi aux utilisateurs une interface graphique pour construire des chaînes de signaux complexes mélangeant du code C++ classique et du code de graphe de réseau de neurones. Avec la capacité de télécharger et compiler des graphes en open source ONNX (Open Neural Network Exchange) et du code C++.
Jusqu'à présent, souligne Quadric, la plupart des unités de traitement neuronal NPU du marché utilisées pour l'intelligence artificielle sont fondées sur une architecture matérielle fixe, codée en "dur", là où toutes les modifications du programme au cours de la vie d'un produit doivent êtres prises en charge par un DSP ou un cœur de processeur, forcément plus lents en vitesse d’exécution des algorithmes IA.
Avec l'outil Quadric Developer Studio, le développeur peut télécharger des modèles de réseau de neurones profonds (DNN, Deep Neural Network), ainsi que des logiciels de pré- et post-traitement de données, créer des nœuds et des sous-graphes personnalisés avec l’outil intégré Network Visualizer, s’appuyer sur un SDK (Software Develoment Kit) hébergé dans le cloud et préinstallé pour collaborer entre différentes équipes.
La technologie permet en sus d’optimiser le code applicatif et de modéliser ses performances pour différentes options de GPNPU. En somme, DevStudio est conçu pour servir de plate-forme de partage de code au sein de l'écosystème de développeurs et d'utilisateurs de puces fondées sur la technologie Chimera, L’avantage de cette approche, selon Quadric, étant que les graphes de réseau de neurones et le code C++ sont fusionnés en une seule application logicielle entièrement programmable. Une seule chaîne d'outils est ainsi requise pour les calculs scalaires, vectoriels et matriciels, tandis que la bande passante mémoire est optimisée par une pile de compilation unifiée. Ce qui permet de réduire la consommation d'énergie. Au-delà, les modifications futures du code peuvent être apportées ultérieurement à mesure que de nouvelles fonctionnalités sont ajoutées par les développeurs.
Au sein de DevStudio, ou trouve donc le Chimera Software Development Toolkit (SDK), l’outil Chimera Graph Compiler (CGC), le Chimera Instruction Set Simulator (ISS), un compilateur C++ fondé sur la technologie open source LLVM (Low Level Virtual Machine) et la Chimera Compute Library - un ensemble de bibliothèques de blocs de construction et d'API qui accélèrent la création de code optimisé pour le processeur Chimera. Les développeurs de logiciels et les architectes SoC peuvent dès lors utiliser DevStudio pour lier, compiler et profiler des chaînes de signaux complexes en utilisant une combinaison de fonctions C++ préconstruites, de réseaux de neurones précompilés et du code téléchargé par l'utilisateur.
Pour rappel, la famille Chimera des GPNPU de Quadric proposés sour forme de blocs d’IP, annoncée officiellement en novembre 2022 (voir notre article), est fondée sur une architecture matérielle et logicielle optimisée pour le traitement de tâches d’intelligence artificielle en périphérie de réseau (edge). Ils offrent la possibilité de traiter à la fois les graphes d'apprentissage automatique (ML) et les algorithmes C++ de traitement de données parallélisées sur une architecture unifiée.
