Le français Kalray, concepteur de technologies matérielles et logicielles pour la gestion et le traitement intensif des données, propose aux développeurs la carte d'accélération Turbocard4 (TC4) au format PCIe, architecturée autour de quatre processeurs de dernière génération de la société, les Coolidge2 (voir notre article sur ces processeurs lancés en septembre 2023).
La plate-forme TC4 cible les marchés des applications de vision intelligente et d'indexation de données sur des marchés en forte croissance qui adoptent l’intelligence artificielle (IA). La TC4, fabriquée en France dans l'usine d'Asteelflash située à Langon (près de Bordeaux), a déjà reçu, selon Kalray, une commande initiale de plusieurs centaines de cartes, pour plus d'un million de dollars.
« La disponibilité de notre carte d'accélération TC4 représente une étape majeure pour Kalray, indique Eric Baissus, président du directoire de Kalray. C’est un pas supplémentaire qui est franchi pour permettre une adoption la plus large possible de notre technologie de processeur. La TC4 qui a déjà été sélectionnée par l'un de nos principaux clients correspond à une demande toujours croissante en solutions d'accélération du traitement des données. »
Selon Kalray, la carte TC4 est pensée pour combiner l’exécution d’algorithmes à la fois classiques et d’IA avec la capacité de répondre aux exigences des charges de travail en traitement de données. Rappelons que les processeurs DPU (Data Processing Unit) de Kalray permettent de traiter les flots de données complexes de manière plus efficace que les architectures traditionnelles que sont les GPU (Graphic Processing Unit) ou les FPGA (Field Programmable Gate Array) grâce à une architecture brevetée originale dite MPPA (Massively Parallel Processor Array). Ces DPU sont capables de traiter un grand nombre d'opérations différentes en parallèle de manière asynchrone et sont adaptés au prétraitement des données, ensuite utilisées par les GPU ou dans le cadre de systèmes complexes exécutant plusieurs algorithmes différents en parallèle.
La carte TC4, dont les caractéristiques précises n'ont pas encore été divulguées par Kalray, cible deux marchés distincts. D’abord celui de la vision intelligente qui joue un rôle central dans les secteurs de l'industriel, des sciences de la santé ou des villes intelligentes pour une analyse des données visuelles en temps réel, associée à une prise de décisions intelligentes et à une automatisation de processus complexes. La taille de ce marché, selon les données de Fortune Business Insights, a été évaluée à 20,31 milliards de dollars en 2023 et devrait atteindre 175,72 milliards de dollars d'ici à 2032, pour un taux de croissance annuel moyen de 27,3%.
Ensuite, la carte cible le marché de l’IA générative. Dans ce contexte, c'est l'indexation des données qui est cruciale car les modèles d'IA générative, tels que ceux utilisés dans le traitement du langage naturel ou la génération d'images, doivent accéder à d'immenses ensembles de données. Une indexation efficace minimise ici le temps nécessaire pour récupérer les données pertinentes, rendant les processus d'apprentissage et d'inférence plus rapides. L'indexation des données permet à ces modèles d’IA de passer à l'échelle plus efficacement en garantissant que l'augmentation du volume de données n'accroît pas linéairement les temps d'accès. Enfin, l'indexation des données améliore également la précision des sorties du modèle, car elle aide à identifier rapidement les données les plus pertinentes à insérer dans le contexte du modèle.