Cadence a optimisé le logiciel de ses cœurs de DSP Tensilica HiFi pour faire tourner de manière efficace l’environnement TensorFlow Lite for Microcontrollers, un élément de la plate-forme open source de bout de bout TensorFlow conçue par Google pour l’apprentissage automatique. ...Comme son nom l’indique, TensorFlow Lite for Microcontrollers est un portage de TensorFlow Lite élaboré pour exécuter des modèles de machine learning (ML) sur des microcontrôleurs ou d’autres circuits dotés de quelques kilooctets de mémoire seulement. Cet environnement ne nécessite pas de système d’exploitation, de bibliothèques C ou C++ standard ou d’allocation mémoire dynamique. Son runtime tiendrait dans 16 Ko sur un Arm Cortex-M3 et un modèle de détection vocale de mots clés pourrait se satisfaire d’une capacité mémoire de seulement 22 Ko.

Selon Cadence, l’association de l’apprentissage automatique en périphérie de réseau (edge) et de cœurs de traitement à ultrabasse consommation est à même de répondre aux besoins d’intelligence ubiquitaire au sein d’applications audio, vocales et de détection. Si l’on en croit la société, les cœurs Tensilica HiFi sont les premiers DSP à prendre en charge TensorFlow Lite for Microcontrollers, une approche qui évite aux développeurs de coder manuellement les réseaux de neurones et réduit le temps de mise sur le marché.

Pour Cadence, l'implémentation de l'intelligence artificielle (IA) au niveau edge, y compris pour les objets qui utilisent la voix et l'audio comme interface utilisateur, nécessite l'exécution du modèle d'inférence en local. Ce qui évite le temps de latence lié à l'envoi des données à un service dans le nuage et réduit la consommation énergétique associée. Autres avantages avancés : le maintien de la confidentialité des données et la possibilité de fonctionner sans connexion au cloud.

« Les applications IA vocales et audio sont désormais courantes et les interfaces utilisateur reposant sur la voix deviennent de plus en plus populaires auprès des consommateurs, indique Ian Nappier, chef de produits chez Google. TensorFlow Lite for Microcontrollers, associé à des opérateurs optimisés pour le DSP Tensilica HiFi, facilite le développement et le déploiement de réseaux de neurones innovants sur des DSP audio à faible consommation et à mémoire limitée. » L’annonce de Cadence a aussi été saluée par NXP dont le processeur crossover i.MX RT600, récemment lancé en production de volume, intègre un DSP Tensilica HiFi 4 cadencé à 600 MHz qui offre une performance de 4,8 GMAC (lire notre article ici).

Vous pouvez aussi suivre nos actualités sur la vitrine LinkedIN de L'Embarqué consacrée à l’intelligence artificielle dans l’embarqué : Embedded-IA