Déployer des modèles LLM en production

À propos de cet événement

Cet atelier hautement technique s'adresse aux ingénieurs ML, data scientists et DevOps souhaitant passer de la phase d'expérimentation à la mise en production de grands modèles de langage (LLM). Nous aborderons les stratégies d'optimisation (quantization, distillation, ONNX), les architectures d'inférence (vLLM, TGI, Triton), la gestion des coûts et la supervision en production, via des exercices pratiques sur des cas réels.

Objectifs

Programme

Intervenants