Quelques jours après Cadence qui affirmait que les cœurs Tensilica HiFi étaient les premiers à être optimisés pour TensorFlow Lite for Microcontrollers, la société Ceva annonce que ses cœurs de DSP Ceva-BX, ainsi que le logiciel de reconnaissance vocale WhisPro, prennent désormais en charge ce framework. ...Un framework conçu pour déployer des modèles compacts d’apprentissage automatique (machine learning, ML) sur des processeurs éco-efficaces implantés dans des produits de périphérie de réseau (edge).

Comme son nom l’indique, TensorFlow Lite for Microcontrollers est un portage de TensorFlow Lite élaboré pour exécuter des modèles ML sur des microcontrôleurs ou d’autres circuits dotés de quelques kilooctets de mémoire seulement. Cet environnement ne nécessite pas de système d’exploitation, de bibliothèques C ou C++ standard ou d’allocation mémoire dynamique. Son runtime tiendrait dans 16 Ko sur un Arm Cortex-M3 et un modèle de détection vocale de mots clés pourrait se satisfaire d’une capacité mémoire de seulement 22 Ko.

L’apprentissage automatique de type Tiny ML a donc vocation à apporter de l’intelligence artificielle (IA) à des objets IoT à très basse consommation, toujours actifs et alimentés sur piles ou batteries à des fins d’analyse locale de données issues de capteurs dans des domaines comme l’audio, le vocal, l’image et le mouvement.

Dans ce cadre Ceva souhaite proposer aux utilisateurs optant pour TensorFlow Lite for Microcontrollers une architecture unique qui exécute à la fois le framework et les réseaux de neurones associés pour bâtir ces produits connectés intelligents. Par ailleurs le logiciel de reconnaissance vocale WhisPro de la société, ainsi que ses modèles de commande personnalisés, sont intégrés dans le framework TensorFlow Lite. Une caractéristique qui, selon Ceva, accélère le développement d’assistants vocaux compacts et d’autres objets IoT contrôlés à la voix.

Pour rappel, l’architecture DSP/contrôleur hybride Ceva-BX vise à exécuter au mieux les algorithmes émergents de traitement du signal mis en œuvre dans les applications vocales, vidéo, de communication, de détection ou de contrôle numérique. Apte au traitement parallèle, le cœur Ceva-BX se déploie autour d’un pipeline à onze étages et d’une microarchitecture VLIW à cinq voies et permet, selon la société, d’envisager des circuits cadencés à 2 GHz une fois gravés en technologie TSMC 7 nm avec des cellules et des compilateurs mémoire standard (lire notre article ici). Le jeu d’instructions est aussi capable de prendre en charge le mode SIMD (Single Instruction on Multiple Data) largement utilisé dans les moteurs d’inférence de réseaux de neurones, les procédés de réduction de bruit et d’annulation d’écho, ainsi que dans les unités de calcul en virgule flottante à double, simple ou demi-précision utilisées par les algorithmes de localisation et de fusion de capteurs à haute précision, détaille Ceva. Le cœur Ceva-BX peut ainsi effectuer simultanément du prétraitement de la voix, de la fusion de capteurs, du traitement audio, des charges de travail DSP génériques ainsi que de l’inférence IA.

Vous pouvez aussi suivre nos actualités sur la vitrine LinkedIN de L'Embarqué consacrée à l’intelligence artificielle dans l’embarqué : Embedded-IA