Le MLOps regroupe les pratiques qui font passer un modèle d'IA du prototype à la production et l'y maintiennent : versioning des données et des modèles, déploiement automatisé, monitoring, réentraînement. Visian cadre et met en œuvre des chaînes MLOps et LLMOps sur les plateformes data existantes.
Ce que couvre l'expertise
- Cadrage MLOps : maturité, cible, outillage.
- Feature store et préparation des données d'entraînement.
- Pipelines d'entraînement et de déploiement en CI/CD.
- Registre de modèles et versioning (MLflow).
- Monitoring : performance, dérive des données et des modèles.
- LLMOps : évaluations, traces, gestion des prompts, maîtrise des coûts d'inférence.
- Documentation des modèles pour l'AI Act.
MLOps et LLMOps
Les modèles de langage ajoutent des besoins spécifiques : évaluation de la qualité des réponses, détection des hallucinations, suivi des coûts par requête, gestion des versions de prompts et des sources RAG. Ces briques font partie du socle des projets d'IA générative.
Technologies
Questions fréquentes
FAQ
Quand mettre en place une démarche MLOps ?
Dès le premier modèle destiné à la production. Ajouter le MLOps après coup coûte plus cher que de l'intégrer au premier projet.
Quelle différence entre MLOps et LLMOps ?
Le LLMOps applique les principes du MLOps aux modèles de langage, avec en plus l'évaluation des réponses, la gestion des prompts et le suivi des coûts d'inférence.
Le MLOps aide-t-il à respecter l'AI Act ?
Oui. Versioning, traçabilité des données d'entraînement, monitoring et documentation des modèles fournissent une grande partie des éléments exigés pour les systèmes à haut risque.