[PARTIE 1 Composantes du LLM]

CHAPITRE 1 : Concept et premiers pas du LLM
1.1 Définition du LLM
1.2 Bref historique du LLM
1.3 L'impact du LLM
_1.4 Utilisation du LLM dans les entreprises
_1.5 Incitation
1.6 Comment accéder à LLM via l'API
1.7 Points forts et limites du LLM
_1.8 Création de votre premier prototype de chatbot
1.9 Du prototype au produit
_1.10 En conclusion

CHAPITRE 2 Données de pré-entraînement
2.1 Composants constituant un LLM
2.2 Exigences relatives aux données de pré-entraînement
_2.3 Ensembles de données de pré-entraînement représentatifs
2.4 Données de pré-entraînement synthétiques
_2.5 Prétraitement des données d'entraînement
_2.6 L’impact des données de pré-formation sur les tâches ultérieures
_2.7 Problèmes de biais et d'équité dans les ensembles de données de pré-entraînement
2.8 En conclusion

CHAPITRE 3 Vocabulaire et tokenisation
_3.1 Vocabulaire
3.2 Tokeniseur
_3.3 Pipeline de tokenisation
3.4 En conclusion

CHAPITRE 4 Architecture et objectifs d'apprentissage
_4.1 Concepts de base
4.2 Exprimer le sens
4.3 Architecture du transformateur
4.4 Fonction de perte
4.5 Évaluation du modèle intrinsèque
_4.6 Structure dorsale du transformateur
_4.7 Objectifs d'apprentissage
_4.8 Modèle pré-entraîné
4.9 En conclusion

[PARTIE 2 Utilisation du LLM]

CHAPITRE 5 : Utiliser le LLM à votre avantage
5.1 Exploration de l'écosystème LLM
5.2 Comment choisir le bon LLM
5.3 Comment charger LLM
5.4 Stratégie de décodage
5.5 Exécution de l'inférence dans LLM
_5.6 Sortie structurée
5.7 Débogage et interprétabilité du modèle
5.8 En conclusion

CHAPITRE 6 RÉGLAGES FINAUX
6.1 La nécessité d'un réglage fin
6.2 Réglage fin : Exemple complet
6.3 Ensemble de données pour l'ajustement fin
6.4 En conclusion

CHAPITRE 7 TECHNIQUES DE RÉGLAGE FIN AVANCÉES
_7.1 Préformation continue
_7.2 Réglage fin efficace des paramètres (PEFT)
_7.3 Combinaison de plusieurs modèles
7.4 En conclusion

CHAPITRE 8 Entraînement à l'alignement et inférence
8.1 Définition de la formation à l'alignement
8.2 Apprentissage par renforcement
_8.3 Hallucinations
_8.4 Stratégies d'atténuation des hallucinations
8.5 Hallucinations en contexte
8.6 Hallucinations dues à des informations non pertinentes
8.7 Inférence
8.8 Induire une inférence dans un modèle linéaire à long terme
8.9 En conclusion

CHAPITRE 9 Optimisation de l'inférence
9.1 Défis de l'inférence LLM
_9.2 Techniques d'optimisation de l'inférence
_9.3 Techniques de réduction de la charge de calcul
_9.4 Techniques d'accélération du décodage
9.5 Techniques pour économiser l'espace de stockage
_9.6 En conclusion

[PARTIE 3 Paradigme d'utilisation de l'application LLM]

CHAPITRE 10 INTERFACE AVEC LLM ET LES OUTILS EXTERNES
_10.1 Paradigme d'interaction LLM
_10.2 Définition de l'agent
_10.3 Flux de travail basé sur des agents
_10.4 Composants du système d'agent
_10.5 En conclusion

CHAPITRE 11 Apprentissage et intégration de représentations
_11.1 Introduction à l'intégration
_11.2 Recherche sémantique
11.3 Méthode de mesure de similarité
_11.4 Ajustement du modèle d'intégration
_11.5 Intégration dirigée
_11.6 Optimisation de la taille de l'embedding
_11.7 Segmentation
_11.8 Base de données vectorielles
_11.9 Interprétation des plongements
_11.10 En conclusion

CHAPITRE 12 Génération de recherche augmentée (RAG)
12.1 Le besoin de chiffons
_12.2 Scénarios d'utilisation représentatifs de RAG
_12.3 Déterminer s'il convient de rechercher
_12.4 Pipeline RAG
_12.5 RAG pour la gestion de la mémoire
12.6 Sélection d'un exemple d'apprentissage en contexte avec RAG
12.7 Utilisation de RAG pour l'entraînement des modèles
_12.8 Limitations RAG
_12.9 RAG vs. Long Context
_12.10 RAG vs. Réglage fin
_12.11 En conclusion

CHAPITRE 13 Modèles de conception et architecture système
_13.1 Architecture multi-LLM
_13.2 Paradigme de programmation
13.3 En conclusion

LLM, Au-delà des concepts, vers les applications pratiques !
Conception d'applications d'IA : du début à la fin en un seul volume

Le LLM n'est plus seulement une tendance technologique ; il est devenu une technologie fondamentale qui stimule l'innovation des entreprises et des produits.
Mais le chemin qui mène de l'idée au service effectif reste complexe et semé d'embûches.
Ce livre a été conçu pour combler cette lacune. Il offre une compréhension équilibrée de la théorie et de la pratique en matière de LLM, depuis ses principes fondamentaux jusqu'aux applications les plus récentes.


Ce livre vous guide pas à pas dans l'ensemble du processus de compréhension, d'utilisation et d'intégration de LLM dans un produit. Vous acquerrez une compréhension intuitive des principes de fonctionnement de LLM, maîtriserez des techniques d'application de pointe telles que la conception de prompts, le réglage fin, RAG et l'architecture d'agents, et apprendrez à surmonter les défis et les limitations rencontrés dans les environnements de production réels.
En particulier, chaque chapitre comprend de nombreux exercices pratiques et problèmes d'application, vous permettant d'apprendre par l'expérimentation concrète plutôt que par la simple mémorisation de la théorie.
Les ingénieurs logiciels, les chercheurs en apprentissage automatique et les chefs de produit trouveront dans cet ouvrage des outils précieux pour appréhender la complexité du LLM. Pour les professionnels souhaitant rester compétitifs à l'ère de l'IA, ce livre constituera le lien le plus concret entre l'idée et sa mise en œuvre.

Contenu principal

● Principes de base du LLM : données d’entraînement, tokenisation, architecture et formation à l’alignement
● Techniques d'incitation, de réglage fin, RAG et d'utilisation basées sur les agents
Conception d'applications intégrant la recherche, des chatbots spécifiques à un domaine et un système de classement par chaîne de points
● Améliorez l'efficacité de votre apprentissage grâce à plus de 80 exercices pratiques et à des exemples de code GitHub.
● Reflète les dernières tendances telles que l'optimisation de l'inférence, l'architecture de production et la comparaison des LLM open source.

Public cible

● Les développeurs qui souhaitent créer des services LLM de niveau production
● Les chercheurs qui souhaitent organiser les dernières techniques et modèles d'utilisation des demandes de maîtrise en droit (LLM)
● Les responsables de la planification des produits qui souhaitent associer la technologie LLM à des services concrets
● Professionnels recherchant des solutions d'automatisation, de recherche de connaissances et de traitement de données utilisant LLM