Une carte d'extension HAT+ pour Raspberry Pi 5 de Sixfab intègre l'accélérateur d'IA de DEEPX

La jeune société américaine Sixfab, basée à San Jose (Californie), un spécialiste en solutions de connectivité pour le monde Raspberry Pi, a développé une carte d’extension PCIe pour la carte Raspberry Pi 5, une HAT + (*) dont l’originalité est d’intégrer l'accélérateur d'IA DX-M1 de la société coréenne DEEPX. Celle-ci développe des circuits conçus pour accueillir des algorithmes d’intelligence artificielle (IA), notamment des NPU (Neural Processing Unit).

Contrairement au module M.2 utilisé précédemment dans la carte Alon X5 de Sixfab, l'accélérateur est ici soudé sur la carte HAT+ qui se connecte directement à la Raspberry Pi 5 à travers un câble FFC PCIe et est alimentée par le connecteur à 40 broches de la plateforme. 

La carte AI HAT+ est disponible en versions 13 TOPS (Tera Operation per second) et 25 TOPS pour exécuter localement sur la carte Raspberry Pi 5 des tâches d'IA de vision telles que la détection et la segmentation d’objets dans le cadre de travaux de protoypage.

Rappelons que les semi-conducteurs de DEEPX visent à optimiser les performances d’exécution d’algorithme d’IA tout en réduisant la consommation consommation d’énergie. A titre d'exemple, l'accélérateur d'IA DX-M1 de DEEPX atteint 25 TOPS avec une consommation électrique inférieure à 5 W - 2,5 à 3 W sous pleine charge d’inférence - surpassant ainsi, selon la société, ses concurrents en termes de rapport performances/consommation.

S'appuyant sur son accélérateur d'IA DX-M1 le processeur neuronal (NPU) DX-M1M de DEEPX intègre en outre une mémoire LPDDR directement sur la même puce, une approche qui réduit l'encombrement global d’un système.

La carte AI HAT+ de Sixfab, d’une dimension de 65 × 56,5 mm, fonctionne dans la plage de température 0 à 70 °C (usage commercial).

Côté logiciel, sur cette carte additionnelle il est possible d’utiliser des modèles d'IA précompilés issus de la bibliothèque de modèles Sixfab, tels que YOLOv8, MobileNet et ResNet, ou exécuter des modèles personnalisés développés en interne, exportables au format ONNX et compilés au format DXNN à l'aide de l'outil DX-COM.

On notera que cette carte est comparable à la carte Raspberry Pi AI HAT+ 2, développée par la fondation Raspberry Pi, dotée d’une puce de traitement d’IA Hailo-8 de la société Hailo, qui cible les même type d’application à savoir la détection d'objets et le traitement d'images.

La carte de Sixfab n’est toutefois pas conçue pour réaliser de l'IA générative, comme la AI HAT+ 2, et ne peut pas exécuter de modèles linéaires (LLM, Large Langage Model) car elle ne prend pas en charge les décodeurs de transformateurs et dispose d'une mémoire embarquée limitée - 1 Go de mémoire LPDDR4 contre 8 Go chez la HAT + 2.

(*) HAT - Hardware Attached on Top - est le nom donné par la communauté Raspberry PI aux cartes additionnelles installées sur une plate-forme Raspberry Pi