Spécialiste des IP d’interconnexion de type « réseau sur une puce » (Network-on-Chip, NoC) pour puces-systèmes SoC, la société NetSpeed a élaboré sous le nom d’Orion AI ce qu’elle présente comme la première solution d’interconnexion pour SoC spécifiquement calibrée pour les circuits de traitement d’algorithmes d’intelligence artificielle ...(IA). Selon son concepteur, Orion AI dispose de fonctionnalités avancées comme la diffusion multicast et broadcast, destinées à améliorer les performances et l’efficacité des SoC taillés pour l’IA et des Asic d’accélération qui sont utilisés dans les centres de données, les véhicules autonomes, les systèmes de réalité virtuelle et/ou augmentée ou l’analyse vidéo évoluée.

Orion AI s’appuie sur le bloc d’IP Orion de NetSpeed déjà validé sur silicium et licencié à des pionniers de l’intelligence artificielle comme Horizon Robotics, Cambricon, Baidu et Esperanto. « Au sein des nouvelles puces-systèmes calibrées pour l’intelligence artificielle, il existe un flot de données d’un nouveau genre, explique Sundari Mitra, le CEO de NetSpeed. Typiquement un grand nombre d’éléments de calcul doivent effectuer des échanges de données de pair à pair de manière rapide et efficace. Les architectures précédentes fonctionnaient différemment avec des unités de traitement utilisant une mémoire centralisée comme système d’échange. Les puces AI, quant à elles, nécessitent des transferts "any-to-any" qui puissent bénéficier d’interfaces de grande largeur et s’accommoder de longs paquets de données. L’un des avantages clés de la solution Orion AI réside dans sa capacité à prendre en charge de nombreuses requêtes multicast et des transferts non bloquants. »

Si l’on en croit NetSpeed, Orion AI a été conçu pour soutenir des performances extrêmement élevées (de l’ordre du térabit/s sur la puce) et dispose d’une architecture sous-jacente qui peut soutenir plusieurs milliers de moteurs de calcul. La solution fournit des chemins de données extralarges avec des interfaces jusqu’à 1024 bits (éventuellement encore plus larges pour les structures internes) et peut véhiculer des paquets longs de 4K octets. Dans le détail Orion AI est alimenté par un moteur d’apprentissage automatique de type Turing qui utilise un apprentissage supervisé pour explorer et optimiser la conception et l’architecture de la puce-système.