[Partie 1] Introduction et préparation des données

▣ Chapitre 1 : Introduction aux modèles de conception LLM
1.1 Comprendre le LLM
__1.1.1 Évolution des modèles de langage
1.1.2 Caractéristiques principales du LLM
1.2 Comprendre les modèles de conception
1.2.1 Origine et évolution
1.2.2 Principes fondamentaux des modèles de conception
1.3 Modèles de conception pour le développement de LLM
1.3.1 Avantages du modèle de conception LLM
1.3.2 Difficultés liées à l'application des patrons de conception aux LLM
1.4 Résumé

▣ Chapitre 2 : Nettoyage des données de formation LLM
2.1 L'importance du nettoyage des données
2.2 Problèmes de qualité des données fréquemment rencontrés dans les ensembles de données linguistiques
2.3 Techniques de prétraitement de texte pour les LLM
2.4 Traitement des données multilingues et à signes mixtes
2.5 Stratégies de déduplication pour les corpus textuels à grande échelle
__2.5.1 Suppression des doublons par correspondance exacte
__2.5.2 Détection approximative des doublons
__2.5.3 Anneau simple
__2.5.4 Hachage sensible à la localité (LSH)
2.6 Automatisation du pipeline de nettoyage des données
2.7 Vérification des données et assurance qualité
2.8 Résumé

▣ Chapitre 3 : Augmentation des données
3.1 Techniques d'augmentation des données textuelles
3.1.1 Remplacement de synonymes
__3.1.2 Traduction inverse
3.1.3 Génération de texte à l'aide de T5
3.2 Génération de données à l'aide du LLM existant
3.3 Stratégie d'enrichissement des données multilingues
3.3.1 Rétrotraduction entre langues
3.3.2 Augmentation multilingue T5
3.4 Préserver le sens lors de l'enrichissement du texte
3.4.1 Utilisation des plongements lexicaux
3.4.2 Intégrations lexicales contextuelles pour le remplacement de synonymes
3.5 Équilibrer l'augmentation des données et la qualité des données
3.5.1 Filtrage de qualité
3.5.2 Vérification avec intervention humaine (HITL)
3.6 Évaluation de l'impact de l'augmentation des données
__3.6.1 Gêne
__3.6.2 Métriques spécifiques à la tâche
3.6.3 Indicateurs de diversité
3.7 Résumé

▣ Chapitre 4 : Traitement des ensembles de données à grande échelle pour la formation LLM
4.1 Les défis posés par les grands ensembles de données
4.2 Techniques d'échantillonnage des données
4.3 Traitement distribué des données
4.4 Stratégies de partitionnement et de parallélisation des données
4.5 Format de stockage de données efficace
4.6 Traitement des données en flux continu pour la formation continue en LLM
4.7 Techniques de chargement de données économes en mémoire
4.8 Résumé

▣ Chapitre 5 : Gestion des versions de données
5.1 Comprendre la nécessité du versionnage des données
5.2 Stratégies de gestion des versions de données pour les ensembles de données linguistiques à grande échelle
5.3 Outils de gestion des versions de données
5.4 Intégration du versionnage des données dans votre flux de travail de formation
5.5 Gestion des versions des corpus textuels
5.6 Transformation des ensembles de données et gestion des expériences
5.7 Bonnes pratiques pour le versionnage des données
5.8 Résumé

▣ Chapitre 6 : Annotation et étiquetage des jeux de données
6.1 L'importance des annotations de haute qualité
6.2 Diverses stratégies d'annotation spécifiques à la tâche
6.3 Outils et plateformes pour l'annotation de textes à grande échelle
6.4 Contrôle de la qualité des annotations
6.5 Avantages et inconvénients des annotations participatives
6.6 Techniques d'annotation semi-automatiques
6.7 Techniques d'annotation pour les ensembles de données linguistiques à grande échelle
6.8 Biais d'annotation et stratégies d'atténuation
6.9 Résumé

[Partie 2] Entraînement et optimisation de modèles de langage à grande échelle

▣ Chapitre 7 : Parcours de formation
7.1 Composantes du parcours de formation
7.2 Saisie et prétraitement des données
7.3 Considérations relatives à la conception architecturale du LLM
7.4 Fonctions de perte et stratégies d'optimisation
7.5 Enregistrement
7.6 Modularité et réutilisabilité des pipelines
7.7 Extension du pipeline d'entraînement aux modèles plus grands
7.8 Résumé

▣ Chapitre 8 : Optimisation des hyperparamètres
8.1 Comprendre les hyperparamètres
8.2 Réglage manuel et automatique
8.2.1 Réglage manuel
8.2.2 Réglage automatique
8.3 Recherche par grille et recherche aléatoire
8.4 Optimisation bayésienne
8.5 Méthodes basées sur la population
8.6 Optimisation multi-objectif des hyperparamètres
8.7 Défis et solutions pour le réglage des hyperparamètres à grande échelle
8.8 Résumé

▣ Chapitre 9 : Normalisation
9.1 Régularisation L2 (régression ridge)
9.2 Abandon
9.3 Normalisation adaptative par couche
9.4 Écrêtage du gradient et injection de bruit
9.5 Régularisation dans les scénarios d'apprentissage par transfert et de réglage fin
9.6 Nouvelles techniques de normalisation
__9.6.1 Moyenne pondérée stochastique (SWA)
__9.6.2 Minimisation prenant en compte la netteté (SAM)
__9.6.3 Normalisation différentielle basée sur la confidentialité
__9.6.4 Méthode du signe du gradient rapide (FGSM)
__9.6.5 Optimiseur de prévision
9.7 Résumé

▣ Chapitre 10 : Point de contrôle et récupération
10.1 Pourquoi la mise en place de points de contrôle est-elle importante ?
10.2 Fréquence des points de contrôle et stratégie de stockage
10.3 Méthode de stockage efficace des points de contrôle
10.4 Se remettre d'une défaillance
10.5 Points de contrôle dans la formation LLM à distance
10.6 Gestion des versions des points de contrôle LLM
10.7 Système automatisé de sauvegarde et de restauration
10.8 Résumé

▣ Chapitre 11 : Réglages fins
11.1 Mise en œuvre de l'apprentissage par transfert et du réglage fin
11.2 Stratégies de congélation et de décongélation des couches
11.3 Planification du taux d'apprentissage
11.4 Techniques de réglage fin spécifiques au domaine
11.5 Réglage fin avec peu ou pas de tir
11.6 Réglage fin continu et oubli catastrophique
11.7 Résumé

▣ Chapitre 12 : Élagage des modèles
12.1 Élagage basé sur la taille
12.2 Élagage structurel et non structurel
12.3 Technique d'élagage itératif
12.4 Élagage pendant et après la formation
12.5 Équilibrer l'élagage et les performances du modèle
12.6 Combinaison de la taille avec d'autres techniques de compression
__12.6.1 Élagage et quantification
__12.6.2 Élagage et distillation des connaissances
12.7 Résumé

▣ Chapitre 13 : Quantification
13.1 Comprendre les concepts de base
__13.1.1 Quantification post-formation (PTQ)
13.2 Quantification à précision mixte
13.3 Considérations relatives au matériel
13.4 Comparaison des stratégies de quantification
13.5 Combinaison de la quantification avec d'autres techniques d'optimisation
13.5.1 Élagage et quantification
13.5.2 Distillation et quantification des connaissances
13.6 Résumé

[Partie 3] Évaluation et interprétation des modèles de langage à grande échelle

▣ Chapitre 14 : Critères d’évaluation
14.1 Analyse comparative du traitement automatique du langage naturel
__14.1.1 MMLU
__14.1.2 Super-colle
__14.1.3 TruthfulQA
14.2 Indicateurs de raisonnement et de résolution de problèmes
Défi de raisonnement 14.2.1 AI2
__14.2.2 GSM8K
14.3 Évaluation du codage et de la programmation
14.4 Évaluation des compétences conversationnelles
14.5 Référence en matière de bon sens et de connaissances générales
14.6 Autres indicateurs clés
14.7 Développement de métriques et de points de référence personnalisés
14.8 Interprétation et comparaison des résultats d'évaluation du LLM
14.9 Résumé

▣ Chapitre 15 : Validation croisée
15.1 Pré-entraînement et ajustement fin : division des données
15.1.1 Échantillonnage stratifié des données de pré-entraînement
15.1.2 Segmentation temporelle pour l'ajustement fin des données
15.1.3 Techniques de suréchantillonnage et de pondération pour l'équilibre des données
15.2 Stratégies d'évaluation à faible nombre d'exemples et sans exemple
__15.2.1 Évaluation Fewshot
__15.2.2 Évaluation du tir zéro
15.3 Généralisation du domaine et de la tâche
15.3.1 Évaluation de l'adaptation au domaine
__15.3.2 Évaluation de la généralisation des tâches
15.4 Évaluation de l'apprentissage continu
15.5 Défis et meilleures pratiques de la validation croisée
15.6 Résumé

▣ Chapitre 16 : Interprétabilité
16.1 Techniques de visualisation de l'attention
16.2 Méthode de sondage
16.3 Explication des prédictions LLM à l'aide de techniques d'analyse de contribution
16.4 Interprétabilité du LLM basé sur un transformateur
16.5 Possibilité d'une interprétation mécaniste
16.6 Équilibre entre interprétabilité et performance
16.7 Résumé

▣ Chapitre 17 : Équité et détection des biais
17.1 Types de biais
17.2 Indicateurs d'équité pour la génération et la compréhension de textes LLM
17.3 Détection des biais
17.4 Stratégies de débiaisement
17.5 Formation axée sur l'équité
17.6 Considérations éthiques
17.7 Résumé

▣ Chapitre 18 : Robustesse face aux attaques adverses
18.1 Types d'attaques adverses textuelles
18.2 Techniques d'entraînement contradictoires
18.3 Évaluation de la robustesse
18.4 Compromis dans la formation contradictoire du LLM
18.5 Implications concrètes
18.6 Résumé

▣ Chapitre 19 : Apprentissage par renforcement avec rétroaction humaine
19.1 Composants du système RLHF
__19.1.1 Modèle de rémunération
__19.1.2 Optimisation des politiques
19.2 Extension du RLHF
19.3 Limites de RLHF dans la modélisation du langage
19.4 Applications RLHF
19.5 Résumé

[Partie 4] Techniques avancées d'ingénierie des prompts

▣ Chapitre 20 : Incitation à la chaîne de pensée (CoT)
20.1 Conception d'invites CoT efficaces
20.2 Utilisation des invites CoT pour le dépannage
20.3 Combiner l'incitation CoT avec d'autres techniques
20.4 Évaluation de la sortie d'incitation CoT
20.5 Limites de l'incitation CoT
20.6 Orientation future
20.7 Résumé

▣ Chapitre 21 : L’arbre de la pensée (ToT) : incitation
21.1 Conception de consignes pour la formation des formateurs
21.2 Stratégie d'exploration
21.3 Élagage et évaluation
21.4 Application de la théorie du transfert à la résolution de problèmes à plusieurs étapes
21.5 Défis liés à la mise en œuvre
21.6 Orientation future
21.7 Résumé

▣ Chapitre 22 : Raisonnement et exécution (ReAct)
22.1 Implémentation de ReAct avec LangChain
__22.1.1 Référentiel de documents ReAct
22.2 Création d'un agent ReAct avec LCEL
__22.2.1 Description de ReActSingleInputOutputParser
__22.2.2 Exécution d'un agent avec AgentExecutor
22.3 Accomplir les tâches et résoudre les problèmes
22.4 Évaluation des performances de ReAct
22.5 Considérations relatives à la sécurité, au contrôle et à l'éthique
22.6 Limites et orientations futures
22.7 Résumé

▣ Chapitre 23 : ReWOO (Résultats de l’observation à distance)
23.1 Implémentation de ReWOO avec LangGraph
23.2 Avantages de ReWOO
23.3 Évaluation de la qualité et considérations éthiques
23.4 Orientation future
23.5 Résumé

▣ Chapitre 24 : Techniques de réflexion
24.1 Concevoir des incitations à l'autoréflexion
24.2 Mise en œuvre d'améliorations itératives
24.3 Corrections de bugs
24.4 Évaluation de l'impact de la réflexion
24.5 Les défis de la mise en œuvre d'une réflexion efficace
24.6 Orientation future
24.7 Résumé

▣ Chapitre 25 : Raisonnement automatisé en plusieurs étapes et utilisation des outils
25.1 Conception d'incitations pour la décomposition de tâches complexes
25.2 Intégration d'outils externes
25.3 Mise en œuvre de la sélection et de l'utilisation automatiques des outils
25.4 Résolution de problèmes complexes
25.5 Évaluation du raisonnement en plusieurs étapes et de l'utilisation des outils
25.6 Défis et orientations futures
25.7 Résumé

[Partie 5] Recherche et intégration des connaissances dans les modèles de langage à grande échelle

▣ Chapitre 26 : Création de recherche augmentée
26.1 Construction d'un système RAG simple
26.2 Techniques d'intégration et d'indexation pour la recherche
__26.2.1 Intégration
__26.2.2 Index
__26.2.3 Exemple de code illustrant l'intégration, l'indexation et la recherche
26.3 Stratégies de rédaction des requêtes de recherche
26.4 Intégration des informations recueillies dans la création du LLM
26.5 Défis et orientations de développement de RAG
26.6 Résumé

▣ Chapitre 27 : RAG basé sur les graphes
27.1 Aperçu de la représentation des connaissances basée sur les graphes
27.2 Conception d'architecture RAG basée sur les graphes
27.3 Amélioration des performances de recherche grâce aux plongements de graphes
27.4 Intégration de l'expansion et de la génération de requêtes à l'aide de structures de graphes
27.5 Cas d'utilisation de Graph RAG
27.6 Défis et solutions du RAG basé sur les graphes
27.7 Résumé

▣ Chapitre 28 : RAG avancé
28.1 Techniques de recherche multi-étapes et itératives
28.2 Recherche adaptative basée sur le contexte et la tâche
28.3 Améliorer la recherche grâce au méta-apprentissage
28.4 Combinaison de la technique RAG avec d'autres techniques d'incitation
28.5 Gestion de l'ambiguïté et de l'incertitude dans RAG
28.6 Expansion à grande échelle de la base de connaissances de RAG
28.7 Orientations futures de la recherche RAG
28.8 Résumé

▣ Chapitre 29 : Évaluation du système RAG
29.1 Défis liés à l'évaluation du système RAG
__29.1.1 Interaction entre la recherche et la création
__29.1.2 Évaluation sensible au contexte
29.1.3 Au-delà de l'exactitude factuelle
__29.1.4 Limites des indicateurs automatisés
__29.1.5 Difficultés liées à l'analyse des erreurs
__29.1.6 La nécessité de divers scénarios d'évaluation
29.1.7 Connaissances dynamiques et information évolutive
__29.1.8 Coût de calcul
29.2 Indicateurs d'évaluation de la qualité de la recherche
__29.2.1 Rappel@k
__29.2.2 Precision@k
__29.2.3 Rang moyen inversé (MRR)
__29.2.4 Gain cumulatif actualisé normalisé (NDCG@k)
29.3 Considérations relatives aux indicateurs de recherche
29.4 Évaluation de la pertinence des informations recueillies
29.4.1 Comment évaluer la pertinence des informations extraites
29.4.2 Difficultés liées à l'évaluation de la pertinence RAG
29.5 Mesurer l'impact de la recherche sur les performances de génération
29.5.1 Indicateurs clés pour l'évaluation de l'impact de la recherche
__29.5.2 Difficultés liées à la mesure de l'impact de la recherche
29.6 Évaluation de bout en bout du système RAG
__29.6.1 Stratégie d'évaluation
__29.6.2 Défis de l'évaluation de bout en bout
29.7 Techniques d'évaluation humaine pour RAG
__29.7.1 Meilleures pratiques pour l'évaluation humaine
29.7.2 Les défis de l'évaluation humaine
29.8 Points de référence et ensembles de données pour l'évaluation RAG
29.9 Résumé

▣ Chapitre 30 : Modèles d’agentivité
30.1 Introduction aux systèmes d'IA agentiques basés sur LLM
30.2 Définition des objectifs et planification chez les agents titulaires d'un LLM
30.3 Implémentation de la mémoire et gestion de l'état pour les agents LLM
30.4 Prise de décision et sélection des actions chez les agents basés sur le modèle LLM
30.5 Apprentissage et adaptation dans le système LLM agentique
30.6 Considérations éthiques et sécurité de l'IA agentique basée sur LLM
30.7 L'avenir de l'IA agentique grâce au LLM
30.8 Résumé
30.9 Orientations futures et développement du modèle LLM

★ Ce que ce livre aborde ★

◎ Améliorer l'efficacité des étapes de préparation des données, telles que la purification et l'enrichissement des données.
◎ Concevoir un pipeline d'entraînement évolutif utilisant le réglage, la normalisation et la création de points de contrôle.
◎ Optimisation LLM par élagage, quantification et réglage fin
◎ Évaluation du modèle par le biais de métriques, de validation croisée et d'interprétabilité
◎ Comprendre l'équité et identifier les biais dans les résultats
◎ Développement d'une stratégie RLHF pour la construction d'un système d'IA agentique sûr.