1 - IA générative, LLM et écosystème LangChain
- Panorama de l’intelligence artificielle générative et des grands modèles de langage
- Fonctionnement d’un LLM : tokens, fenêtre de contexte et paramètres de génération
- Présentation de l’écosystème LangChain : composants, modules et principaux cas d’usage
- Comparaison des modèles propriétaires et des modèles ouverts selon différents critères de choix
- Configuration de l’environnement de développement et gestion des clés d’API
Configurer l’environnement LangChain et les accès aux modèles de langage
Effectuer des appels à un LLM et ajuster ses paramètres de génération
Comparer le comportement de deux modèles sur une même tâche
Mesurer la consommation de tokens associée à une requête
2 - Prompts, chaînes et sorties structurées
- Conception de prompts et création de gabarits réutilisables avec les prompt templates
- Présentation du langage de composition LCEL, ou LangChain Expression Language
- Construction d’une chaîne de traitement associant un modèle, un prompt et un parseur
- Utilisation de parseurs de sortie pour générer des réponses structurées
- Application des techniques de prompt engineering : few-shot prompting et instructions de rôle
Créer des gabarits de prompts paramétrés
Composer une chaîne avec LCEL en combinant un prompt, un modèle et un parseur
Produire des sorties structurées directement exploitables par une application
Enchaîner plusieurs chaînes afin de réaliser une tâche en plusieurs étapes
3 - Mémoire et applications conversationnelles
- Enjeux de la gestion du contexte dans une application conversationnelle
- Conservation de l’historique des conversations et gestion de la mémoire
- Construction d’une chaîne conversationnelle intégrant un historique de messages
- Mise en oeuvre de stratégies de troncature et de résumé pour limiter la taille du contexte
- Gestion des sessions et prise en charge de plusieurs utilisateurs
Concevoir une chaîne conversationnelle capable de gérer l’historique des échanges
Mettre en place une stratégie de résumé pour limiter la taille du contexte
Gérer plusieurs sessions de conversation isolées
Tester l’application au moyen d’un scénario de dialogue en plusieurs tours
4 - Embeddings, bases vectorielles et recherche sémantique
- Principe des embeddings et de la représentation vectorielle des contenus textuels
- Chargement et découpage des documents avec les document loaders et les text splitters
- Fonctionnement des bases de données vectorielles : indexation et recherche par similarité
- Utilisation des retrievers pour interroger une base de connaissances
- Définition et application des critères de qualité d’une recherche sémantique
Charger et découper un corpus de documents
Calculer les embeddings et indexer les représentations obtenues dans une base vectorielle
Interroger la base avec un retriever et analyser la pertinence des résultats
Ajuster le découpage des documents et les paramètres de recherche afin d’améliorer la pertinence des réponses
5 - Applications RAG : génération augmentée par la recherche
- Présentation du principe de la génération augmentée par la recherche, ou RAG
- Architecture d’une chaîne RAG : recherche, récupération du contexte et génération de la réponse
- Conception d’un prompt de génération intégrant les documents récupérés
- Citation des sources et mise en place de mécanismes visant à limiter les hallucinations
- Évaluation de la qualité des réponses produites par une application RAG
Assembler une chaîne RAG combinant un retriever et un modèle de génération
Concevoir un prompt de génération exploitant les documents récupérés
Ajouter la citation des sources aux réponses produites
Évaluer la qualité des réponses à partir d’un jeu de questions de test
6 - Agents IA, outils et orchestration avec LangChain
- Principe de fonctionnement d’un agent IA : raisonnement et sélection des actions
- Mise à disposition d’outils pour un agent : recherche, calcul et appels d’API
- Compréhension du schéma de fonctionnement d’un agent et du mécanisme d’appel d’outils par le modèle
- Orchestration de flux complexes et introduction à LangGraph
- Automatisation d’une tâche générative composée de plusieurs étapes
- Limites des agents, mise en place de garde-fous et supervision
Définir les outils disponibles et les mettre à la disposition de l’agent
Construire un agent et observer son raisonnement étape par étape
Automatiser une tâche générative nécessitant l’utilisation de plusieurs outils
Mettre en place des garde-fous afin de limiter et de contrôler les actions de l’agent
7 - Qualité, observabilité et évaluation des applications d’IA générative
- Enjeux de fiabilité d’une application d’IA générative déployée en production
- Traçabilité et observabilité des chaînes et des agents avec LangSmith
- Évaluation systématique au moyen de jeux de test et de critères de qualité
- Détection et réduction des hallucinations et des réponses hors sujet
- Validation des sorties et mise en place de garde-fous applicatifs
Instrumenter une application afin de tracer les chaînes de traitement et les agents
Construire un jeu de test et définir des critères mesurables de qualité
Évaluer l’application et analyser les cas d’échec Ajouter des règles de validation des réponses générées
8 - Performance, maîtrise des coûts et sécurité
- Maîtrise des coûts liés à la consommation de tokens et au choix des modèles
- Mise en cache des réponses afin d’améliorer les performances et de réduire la latence
- Diffusion progressive des réponses avec le streaming
- Sécurisation des entrées et protection contre les attaques par injection de prompt
- Gestion des limites de débit et préparation de la montée en charge
Mesurer et réduire la consommation de tokens d’une application
Mettre en place un mécanisme de cache et mesurer le gain obtenu
Activer la diffusion en continu des réponses
Implémenter une protection contre les attaques par injection de prompt
9 - Déploiement d’une application d’IA générative
- Exposition d’une application d’IA générative au moyen d’une API
- Conteneurisation de l’application avec Docker
- Gestion de la configuration par environnement et sécurisation des clés d’API
- Surveillance en production : latence, coûts, taux d’erreur et qualité des réponses
- Stratégies de mise à jour des prompts, des modèles et des bases de connaissances
Exposer l’application au moyen d’une API et tester les requêtes
Conteneuriser l’application avec Docker et gérer sa configuration
Mettre en place la surveillance de la latence, des coûts et des erreurs
Réaliser un test de charge et vérifier le comportement de l’application
