Kubernetes propulse les startups IA avec des solutions conteneurisées scalables

Carmine Rimi, product manager IA chez Canonical (l'équipe derrière Ubuntu), partage son expertise sur l'intersection IA et Kubernetes.

Une étude de Stanford rapporte une hausse de 14 fois des startups IA depuis 2000, tandis que les développeurs IA basés au UK ont connu une augmentation de 200 % du financement venture capital l'an dernier seul. Ces chiffres soulignent la demande croissante d'une infrastructure IA fiable et scalable.

Construire des applications IA est intrinsèquement complexe. Les développeurs doivent jongler entre extraction de features, vérification de collecte de données, analyse statistique, et orchestration des ressources avant même d'écrire une ligne de code ML. Une maintenance continue est requise pour maintenir les modèles à jour et sécurisés.

Conteneurisez-vous

En réponse, l'industrie s'est tournée vers Kubernetes — une plateforme open-source gratuite qui automatise le déploiement et la gestion de charges de travail conteneurisées, incluant les pipelines IA et machine learning. En abstrayant les détails d'infrastructure, Kubernetes permet aux équipes de se concentrer sur le développement de modèles plutôt que sur la surcharge opérationnelle.

Forrester a récemment déclaré que « Kubernetes a gagné la guerre pour la domination de l'orchestration de conteneurs et devrait être au cœur de vos plans microservices. » Les conteneurs fournissent des environnements légers et portables qui peuvent être facilement scalés sur ressources on-premise ou cloud, permettant de décomposer des services IA monolithiques en microservices modulaires et maintenables.

Une enquête de la Cloud Native Computing Foundation montre que la plupart des développeurs exploitent déjà Kubernetes à travers plusieurs étapes du cycle de vie IA — de l'entraînement à l'inférence. Kubernetes excelle au scaling de modèles deep-learning gourmands en calcul et à la gestion de gros datasets sur serveurs commodités.

Au-delà de l'entraînement, Kubernetes supporte l'inférence distribuée sur appareils edge et centres de données centraux, simplifiant des scénarios de déploiement qui nécessiteraient sinon des solutions sur mesure non-conteneurisées.

Changement de focus

Alors que les entreprises adoptent l'IA pour réduire les coûts, améliorer la prise de décision et délivrer des expériences personnalisées, les conteneurs basés Kubernetes sont devenus la plateforme privilégiée. En décembre 2020, le projet Kubernetes a introduit Kubeflow, un framework qui rationalise les workflows machine-learning sur Kubernetes.

Initialement conçu pour des services sans état, Kubernetes supporte maintenant des charges de travail IA complexes et stateful grâce à ses APIs riches, sa fiabilité et sa performance. En 2017, seule la plateforme Google Kubernetes Engine (GKE) de Google Cloud la supportait ; aujourd'hui, chaque cloud majeur — Azure AKS de Microsoft, EKS d'Amazon, et autres — offre des services Kubernetes managés.

L'adoption rapide de Kubernetes par les entreprises et fournisseurs cloud démontre son efficacité à délivrer répétabilité, tolérance aux pannes et scalabilité pour les applications IA. Kubernetes est devenu le standard de facto pour gérer les charges de travail IA conteneurisées, et ses bénéfices croîtront avec l'adoption continue de l'IA.

Auteur : Carmine Rimi, product manager IA chez Canonical.