Formation Deepset

PROGRAMME DE NOTRE FORMATION DEEPSET

INTRODUCTION AUX MODÈLES DE LANGAGE À GRANDE ÉCHELLE (LLM)

• Comprendre la différence entre un modèle de langage traditionnel et un LLM
• Les principaux fournisseurs de LLM : OpenAI, Cohere, Anthropic
• Les applications pratiques des LLM dans l’industrie
• Les défis associés à l’utilisation des LLM
• Aperçu des outils et des plateformes pour travailler avec des LLM

PROTOTYPAGE RAPIDE AVEC Deepset

• Les fondamentaux du prototypage rapide avec les LLM
• Utilisation de composants préconstruits pour accélérer le développement
• Mise en place d’un environnement de développement pour le prototypage
• Cas pratiques de prototypage rapide avec Deepset
• Bonnes pratiques pour un prototypage évolutif

UTILISATION DES WORKFLOWS ET COMPOSANTS PRÉDÉFINIS

• Introduction aux workflows prédéfinis pour des cas d’usage courants
• Comprendre et appliquer le concept de RAG
• Techniques pour l’extraction d’informations et la recherche sémantique
• Utilisation des templates pour la similarité de documents
• Personnalisation des composants pour des besoins spécifiques

OBSERVABILITÉ ET MONITORING DES LLM

• Importance de l’observabilité et du monitoring dans les opérations LLMOps
• Mise en place d’outils d’observabilité pour les LLM
• Techniques de monitoring pour assurer la performance et la fiabilité
• Gestion des incidents et des anomalies
• Utilisation des retours utilisateurs pour l’amélioration continue

INTÉGRATION AVEC HAYSTACK ET ÉVALUATION DES MODÈLES

• Présentation de Haystack et son intégration avec Deepset
• Méthodes d’évaluation des modèles de langage
• Collecte et intégration des feedbacks utilisateurs
• Amélioration des performances des modèles grâce aux retours
• Cas pratiques d’intégration et d’évaluation avec Haystack

SÉCURITÉ ET CONFORMITÉ DES INFRASTRUCTURES DE LLM

• Importance de la certification SOC2 pour les backends LLM
• Assurer la sécurité des données avec MFA et SSO
• Comprendre et mettre en place un plan de données privé dans un VPC
• Meilleures pratiques pour maintenir une infrastructure sécurisée et conforme
• Cas pratiques de mise en œuvre de la sécurité des données

DÉPLOIEMENT SCALABLE ET INFRASTRUCTURE DE PRODUCTION

• Comprendre les enjeux de l’inference scalable pour les LLM
• Techniques de déploiement pour une faible latence et une haute disponibilité
• Options de mise à l’échelle automatique, y compris la mise à l’échelle vers zéro
• Gestion des pipelines personnalisés dans l’environnement de production
• Cas pratiques de déploiement et de mise à l’échelle

DÉTECTION ET ATTÉNUATION DES HALLUCINATIONS

• Identifier les hallucinations des LLM et leurs impacts
• Outils vérifiés pour détecter et atténuer les hallucinations
• Stratégies pour construire une IA fiable et cohérente
• Surveillance et détection automatique des incohérences
• Cas pratiques de gestion des hallucinations

INGÉNIERIE DES PROMPTS ET FINE-TUNING DES MODÈLES

• Principes de l’ingénierie des prompts pour les LLM
• Exploration et ajustement des prompts pour optimiser les performances
• Techniques de fine-tuning avec des notebooks GPU
• Intégration de l’évaluation humaine dans le processus de fine-tuning
• Cas pratiques d’ingénierie des prompts et de fine-tuning