L'Edge AI gagne du terrain : AWS et Microsoft présentent des solutions intégrées d'inférence et de gestion

Déployer l'IA directement sur les appareils edge offre des réponses instantanées et réduit le coût d'envoi de gros flux de données vers le cloud. Les avancées matérielles récentes — accélérateurs ML dédiés, microcontrôleurs puissants, modèles raffinés — permettent une inférence plus riche dans des budgets d'énergie serrés. Pourtant, même un pipeline entièrement local bénéficie encore de la gestion d'appareils cloud, de l'entraînement continu de modèles et de mécanismes de mise à jour sécurisés.

AWS IoT

À Embedded World Digital 2021, AWS et Microsoft ont mis en avant comment leurs écosystèmes supportent l'edge AI. Rajeev Muralidhar, Architecte Principal Solutions Spécialiste AWS, a expliqué que si exécuter TensorFlow Lite ou d'autres modèles ML sur l'appareil est une capacité, le vrai avantage réside dans la gestion sécurisée et à grande échelle de tout le cycle de vie de l'appareil. Il a souligné l'importance de déployer des mises à jour firmware et modèles qui maintiennent les flottes à jour et sécurisées.

AWS délivre cette capacité via la plateforme AWS IoT, composée de trois composants clés : logiciel côté appareil (FreeRTOS ou AWS Greengrass), services de contrôle et connectivité (AWS IoT Core), et services analytiques et pilotés par événements.

AWS offre un support complet pour les appareils edge AI via sa plateforme IoT (Image : AWS)

FreeRTOS est un OS open-source conçu pour microcontrôleurs et soutenu par un programme de support à long terme (LTS) de deux ans garantissant correctifs de sécurité, mises à niveau fonctionnelles et corrections de bugs. Son framework de mise à jour OTA permet aux opérateurs de pousser des changements firmware vers des milliers d'appareils de façon sécurisée et à grande échelle. Le noyau FreeRTOS peut communiquer directement avec une passerelle exécutant AWS Greengrass, créant un pont fluide entre inférence locale et services cloud.

AWS IoT Core sert de point d'entrée pour les données fluxant vers le cloud. Il fournit un courtier de messages qui peut appliquer des règles sur les données entrantes — stockage, routage vers base de données, ou envoi vers outils analytiques comme SageMaker pour le machine learning. La plateforme offre aussi des outils de gestion de flotte, capacités de gestion d'appareils, et automatisation pilotée par événements qui détectent anomalies et déclenchent réponses à travers un vaste réseau d'endpoints IoT.

Muralidhar a souligné que la gestion sécurisée de bout en bout du cycle de vie de l'appareil est essentielle quand on opère à grande échelle. La rotation des identifiants de sécurité et l'application de mises à jour OS sans compromettre l'intégrité de la flotte sont clés pour maintenir un écosystème digne de confiance.

Il envisage une boucle continue où les données envoyées au cloud servent à affiner le modèle, après quoi des modèles plus récents et précis sont ramenés sur les appareils. « Ainsi, les appareils tournant dans vos véhicules ou sur le shop floor sont plus capables et peuvent réagir plus vite et plus précisément », a-t-il dit.

Azure Percept

Azure Percept de Microsoft est une plateforme matériel-et-logiciel conçue pour rendre l'edge AI accessible aux développeurs sans spécialisation profonde. Le système tire parti des services cloud Azure pour la gestion d'appareils, le développement de modèles et l'analytique, tout en fournissant des modules matériels pré-construits incorporant des accélérateurs IA de pointe.

La plateforme Azure Percept de Microsoft combine modules matériels — incluant un Trusted Platform Module, un module audio, et un module vision — avec les services cloud-backed d'Azure (Image : Microsoft)

Le kit de développement matériel actuel inclut le module Azure Percept Vision, qui utilise l'accélérateur Intel Movidius Myriad X pour charges de travail vision par ordinateur, et un module Azure Percept Audio, dont les détails sont à venir. Le module vision est conçu pour simplifier l'entraînement, le déploiement et la gestion de modèles IA directement à l'edge.

Microsoft lie aussi la plateforme à Azure IoT Hub, assurant une communication bidirectionnelle sécurisée entre appareils et cloud. Les plans futurs incluent l'expansion de la gamme de dispositifs tiers certifiés Percept, permettant aux développeurs de porter des solutions du kit de développement vers du matériel prêt pour la production.

>> Cet article a été publié à l'origine sur notre site frère, EE Times Europe.