DevOps et MLOps

Entraîner un modèle est la partie visible. Ce qui consomme du temps et du budget, c'est tout le reste : reproduire cet entraînement six mois plus tard, servir l'inférence à une latence acceptable, comprendre pourquoi la qualité a chuté, et ne pas brûler une fortune en GPU à l'arrêt.

C'est cette couche que nous montons — pour vos propres modèles comme pour des intégrations avec des modèles tiers — afin que l'exploitation ne dépende pas de la mémoire d'une personne.

Les pipelines d'entraînement sont décrits en code, avec des jeux de données et des modèles versionnés. Toute expérience est reproductible et comparable aux précédentes, ce qui met fin au débat sur la version qui était la bonne.

Côté inférence, nous gérons le dimensionnement GPU, la mise à l'échelle automatique, le cache des requêtes répétées et les plafonds de coût. Et nous instrumentons le tout : latence, taux d'erreur, coût par requête et dérive de la qualité dans le temps.

Ce que nous faisons

• Pipelines d'entraînement reproductibles et versionnement des jeux de données
• Registre de modèles et promotion entre environnements
• Service d'inférence avec mise à l'échelle automatique et cache
• Gestion des GPU et optimisation des coûts
• Supervision de la latence, des coûts, des erreurs et de la dérive
• CI/CD pour les applications et pour les modèles, avec retour arrière

Principaux bénéfices

• Passer du prototype à la production sans tout réécrire
• Des coûts GPU visibles et plafonnés
• Revenir à la version précédente du modèle en une commande
• Savoir que la qualité a baissé avant que le client ne le signale
• Des environnements recréables à partir du code

Quand cela a du sens

• Mettre en production un modèle qui ne tourne aujourd'hui que dans un notebook
• Réduire la facture d'inférence d'un produit déjà lancé
• Automatiser le réentraînement à mesure que les données arrivent
• Mettre en place préproduction et retour arrière pour les livraisons de modèle
• Migrer des charges GPU vers une région européenne

Technologies utilisées

Kubernetes · Docker · Terraform · MLflow · AWS

Pourquoi devcave

Nous faisons du DevOps classique et du MLOps dans la même équipe. Pas de prestataire d'infrastructure et de prestataire de modèle qui se renvoient la faute quand quelque chose casse à trois heures du matin.