{"product_id":"138210","title":"Perfectionnement pratique du LLM dans un seul livre ","description":"\u003ccenter\u003e\u003cdiv style=\"text-align:center\"\u003e\u003cimg src=\"https:\/\/tmgdisk01.cafe24.com\/images\/vs\/4172\/sv\/3jXPCfN54jqImZYUtXMKWP9JMfhexR.png?v=1765061243\" style=\"max-width:100%;max-height:10px\"\u003e\u003c\/div\u003e\u003c\/center\u003e\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\u003ccenter\u003e\n\n\u003cdiv style=\"width:95%\"\u003e\n\n\u003cdiv style=\"text-align:center;font-size:30px;font-weight:bolder;line-height:1.6em\"\u003e Perfectionnement pratique du LLM dans un seul livre \u003c\/div\u003e\n\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\n\u003cdiv style=\"border-bottom:1px;border-bottom-style:dotted;border-color:;padding-bottom:20px\"\u003e\u003ccenter\u003e\u003ctable align=\"center\" width=\"100%\"\u003e\u003ctbody style=\"border:0px\"\u003e\n\n\u003ctr\u003e\u003ctd align=\"center\" style=\"line-height:1.2em;text-align:center;font-size:18px;color:black;font-weight:bold;padding-bottom:20px;\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\n\n\u003ctr\u003e\u003ctd style=\"text-align:center\"\u003e\u003cimg src=\"https:\/\/image.yes24.com\/goods\/140002006\/XL\" style=\"max-width:100%;height:auto\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\n\n\n\u003c\/tbody\u003e\u003c\/table\u003e\u003c\/center\u003e\u003c\/div\u003e\n\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\n\u003cdiv style=\"width:95%;{split_style6}padding-top:20px;padding-bottom:20px\"\u003e\n\n\u003cdiv style=\"text-align:left;font-size:16px;font-weight:bold;padding-bottom:20px\"\u003e Description \u003c\/div\u003e\n\n\u003cdiv style=\"text-align:left;word-break:break-all;font-size:14px;line-height:1.6em;\"\u003e\n\n\u003cdiv\u003e\u003ch5\u003e \u003cb\u003eIntroduction au livre\u003c\/b\u003e\n\u003c\/h5\u003e\u003c\/div\u003e\n\u003cdiv\u003e\n\u003cdiv\u003e\u003cdiv\u003e \u003cb\u003eApprenons les techniques de réglage fin, PEFT et de service vLLM essentielles sur le terrain grâce à la pratique !\u003c\/b\u003e\u003cbr\u003e \u003cbr\u003eDécouvrez tout sur le réglage fin des modèles LLM grâce à une expertise de pointe en intelligence artificielle ! Maîtrisez-le étape par étape, des fondements théoriques aux applications pratiques. Ce cours aborde l’historique du traitement automatique du langage naturel (TALN) et les principes fondamentaux de la rétropropagation, ainsi qu’une compréhension approfondie des modèles GPT : de l’auto-attention et de l’implémentation du tokenizer aux applications concrètes. Vous y trouverez également une analyse des modèles Gemma 2 et Llama 3 les plus récents et de l’apprentissage parallèle sur GPU, des techniques de réglage fin pratiques avec LoRa et QLoRa, et le déploiement de modèles pour des services réels avec vLLM.\u003cbr\u003e Vous pouvez apprendre simultanément la théorie et la pratique grâce à des projets concrets dans l'environnement Runpod, qui fournit un savoir-faire immédiatement applicable dans des environnements réels, des GPU uniques aux environnements multi-GPU.\u003cbr\u003e\n\u003c\/div\u003e\u003c\/div\u003e\n\u003cdiv\u003e\u003cul\u003e\u003cli\u003e Vous pouvez consulter un aperçu du contenu du livre.\u003cbr\u003e \u003cspan\u003eAperçu\u003c\/span\u003e\n\n\u003c\/li\u003e\u003c\/ul\u003e\u003c\/div\u003e\n\u003c\/div\u003e\n\u003cbr\u003e\u003cdiv\u003e\u003ch5\u003e \u003cb\u003eindice\u003c\/b\u003e\n\u003c\/h5\u003e\u003c\/div\u003e\n\u003cdiv\u003e\n\u003cdiv\u003e \u003cb\u003e▣ Chapitre 1 : Le passé et le présent de la PNL\u003c\/b\u003e\u003cbr\u003e\u003cbr\u003e 1.1 Étapes clés du développement du traitement automatique du langage naturel\u003cbr\u003e 1.2 Histoire ancienne et moments clés de la traduction automatique  \u003cbr\u003e1.2.1 L'étude d'Artsruny et de Troyansky\u003cbr\u003e 1.2.2 La proposition de Weaver et l'expérience Georgetown-IBM\u003cbr\u003e 1.2.3 Limites des premières traductions automatiques et une nouvelle transformation\u003cbr\u003e 1.3 Les débuts de l'intelligence artificielle\u003cbr\u003e __1.3.1 La question de Turing : Les machines peuvent-elles penser ?\u003cbr\u003e 1.3.2 Limites du test de Turing\u003cbr\u003e 1.4 Comment l'intelligence artificielle apprend-elle ?\u003cbr\u003e 1.4.1 Développement des mécanismes d'apprentissage de l'intelligence artificielle\u003cbr\u003e 1.4.2 Perceptron : la première étape de l’apprentissage en intelligence artificielle\u003cbr\u003e 1.5 Algorithme de rétropropagation : une révolution dans l’apprentissage\u003cbr\u003e 1.5.1 Non-linéarité : la clé pour construire une IA plus intelligente\u003cbr\u003e __1.5.2 Algorithme de rétropropagation\u003cbr\u003e 1.6 L'essor des Transformers : une nouvelle ère en PNL\u003cbr\u003e\u003cbr\u003e \u003cb\u003e▣ Chapitre 2 : GPT\u003c\/b\u003e\u003cbr\u003e\u003cbr\u003e 2.1 Introduction et utilisation de Runpot\u003cbr\u003e __2.1.1 Inscription à Runpot\u003cbr\u003e __2.1.2 Crédits d'achat\u003cbr\u003e __2.1.3 Configuration du pod\u003cbr\u003e __2.1.4 Laboratoire Jupiter\u003cbr\u003e 2.2 Préparation des données et configuration du modèle\u003cbr\u003e 2.3 Construction d'un modèle de langage\u003cbr\u003e __2.3.1 Description de la bibliothèque\u003cbr\u003e __2.3.2 __init__ fonction\u003cbr\u003e __2.3.3 méthode directe\u003cbr\u003e __2.3.4 méthode de génération\u003cbr\u003e 2.4 Ajout d'un optimiseur  \u003cbr\u003e__2.4.1 Transmission des données au GPU\u003cbr\u003e 2.4.2 Création d'une fonction de perte\u003cbr\u003e __2.4.3 Examiner l'intégralité du code\u003cbr\u003e 2.5 Ajouter l'attention à soi-même\u003cbr\u003e __2.5.1 Comment les informations sont échangées entre les personnages (méthode moyenne)\u003cbr\u003e __2.5.2 Échangez des informations plus rapidement grâce aux opérations de multiplication matricielle\u003cbr\u003e __2.5.3 Qu’est-ce que l’attention à soi-même ?\u003cbr\u003e __2.5.4 Pourquoi devrions-nous diviser par dk ?\u003cbr\u003e __2.5.5 Appliquer l'attention à soi-même\u003cbr\u003e 2.6 Attention multi-têtes et anticipation\u003cbr\u003e __2.6.1 Créer une attention multi-têtes\u003cbr\u003e __2.6.2 Création d'une prévision\u003cbr\u003e 2.7 Création de blocs\u003cbr\u003e 2.8 Création d'un tokenizer\u003cbr\u003e __2.8.1 Comparaison de la tokenisation en fonction des variations de la taille du vocabulaire\u003cbr\u003e __2.8.2 Création d'un tokenizer\u003cbr\u003e\u003cbr\u003e \u003cb\u003e▣ Chapitre 3 : Réglage fin complet\u003c\/b\u003e\u003cbr\u003e\u003cbr\u003e 3.1 Préparation de l'ensemble des données de réglage fin\u003cbr\u003e 3.1.1 Principes et types de réglage fin global\u003cbr\u003e 3.1.2 Tâches et ensembles de données variés\u003cbr\u003e 3.1.3 Prétraitement des données\u003cbr\u003e 3.2 Analyse des structures des modèles Gemma et Llama 3\u003cbr\u003e 3.2.1 Analyse de la structure du modèle Gemma\u003cbr\u003e 3.2.2 Comparaison des modèles Gemma et Gemma 2\u003cbr\u003e 3.2.3 Analyse de la structure du modèle Llama 3  \u003cbr\u003e3.2.4 Comparaison de GPT, Gemma et Llama\u003cbr\u003e 3.3 Techniques de parallélisation GPU\u003cbr\u003e 3.3.1 Parallélisme des données\u003cbr\u003e __3.3.2 Parallélisme des modèles\u003cbr\u003e __3.3.3 Parallélisation du pipeline\u003cbr\u003e __3.3.4 Traitement parallèle des tenseurs\u003cbr\u003e __3.3.5 FSDP\u003cbr\u003e 3.4 Optimisation de Gemma-2B-it à l'aide d'un seul GPU\u003cbr\u003e __3.4.1 Paramètres d'environnement Runpot\u003cbr\u003e 3.4.2 Préparation du modèle Gemma\u003cbr\u003e 3.4.3 Préparation de l'ensemble de données\u003cbr\u003e 3.4.4 Vérification des fonctions du modèle Gemma\u003cbr\u003e 3.4.5 Génération de données de mots clés\u003cbr\u003e 3.4.6 Prétraitement des données\u003cbr\u003e 3.4.7 Séparation des ensembles de données et mise en place des collecteurs\u003cbr\u003e 3.4.8 Définition des paramètres d'apprentissage\u003cbr\u003e 3.4.9 Définition des indicateurs d'évaluation\u003cbr\u003e 3.4.10 Formation et évaluation du modèle\u003cbr\u003e 3.4.11 Test du modèle affiné\u003cbr\u003e 3.5 Optimisation de l'instruction Llama3.1-8B à l'aide de plusieurs GPU\u003cbr\u003e __3.5.1 Paramètres d'environnement Runpot\u003cbr\u003e __3.5.2 Paramètres d'apprentissage de Llama 3.1\u003cbr\u003e 3.5.3 Préparation de l'ensemble de données\u003cbr\u003e __3.5.4 Paramètres du modèle Llama 3.1\u003cbr\u003e 3.5.5 Examen du code d'entraînement du modèle Llama 3.1\u003cbr\u003e __3.5.6 Entraînement du modèle Running Llama 3.1\u003cbr\u003e __3.5.7 Configuration et utilisation de Wandb\u003cbr\u003e 3.5.8 Test du modèle Llama 3.1 entraîné  \u003cbr\u003e3.5.9 Évaluation des données textuelles générées avec OpenAI\u003cbr\u003e 3.5.10 Calcul de la note\u003cbr\u003e\u003cbr\u003e \u003cb\u003e▣ Chapitre 4 : Techniques efficaces de réglage des paramètres (PEFT)\u003c\/b\u003e\u003cbr\u003e\u003cbr\u003e 4.1 Théorie et pratique de LoRA\u003cbr\u003e 4.1.1 Concept LoRA\u003cbr\u003e __4.1.2 Paramètres d'environnement Runpot\u003cbr\u003e 4.1.3 Préparation du modèle Gemma-2-9B-it\u003cbr\u003e 4.1.4 Prétraitement des données\u003cbr\u003e __4.1.5 Paramètres LoRA\u003cbr\u003e 4.1.6 Formation des modèles\u003cbr\u003e 4.1.7 Test du modèle entraîné\u003cbr\u003e 4.1.8 Évaluation des performances du modèle avec OpenAI\u003cbr\u003e 4.2 Théorie et pratique de QLoRA\u003cbr\u003e 4.2.1 Comprendre la quantification\u003cbr\u003e __4.2.2 Paramètres d'environnement Runpot\u003cbr\u003e 4.2.3 Préparation de l'ensemble de données\u003cbr\u003e 4.2.4 Définition des paramètres de quantification\u003cbr\u003e 4.2.5 Préparation du modèle\u003cbr\u003e __4.2.6 Paramètres\u003cbr\u003e 4.2.7 Formation des modèles\u003cbr\u003e __4.2.8 Téléchargement d'un modèle sur le Hugging Face Hub\u003cbr\u003e 4.2.9 Test du modèle entraîné\u003cbr\u003e 4.2.10 Évaluation par correspondance exacte\u003cbr\u003e 4.2.11 Évaluation avec l'API OpenAI\u003cbr\u003e\u003cbr\u003e \u003cb\u003e▣ Chapitre 5 : Servir avec vLLM\u003c\/b\u003e\u003cbr\u003e\u003cbr\u003e 5.1 Principe d'attention paginé\u003cbr\u003e 5.2 Comment utiliser vLLM\u003cbr\u003e 5.3 Accélérer la vitesse de génération LLaMA3\u003cbr\u003e 5.4 Multi-LoRA utilisant vLLM\u003cbr\u003e __5.4.1 Pratique Multi-LoRA  \u003cbr\u003e5.4.2 Pratique dans un environnement d'ordinateur portable\u003cbr\u003e 5.5 Éléments à prendre en compte lors de l'utilisation de Multi-LoRA\u003cbr\u003e\u003cbr\u003e \u003cb\u003e▣ Annexe\u003c\/b\u003e\u003cbr\u003e\u003cbr\u003e Révision mathématique de la rétropropagation\u003cbr\u003e revue de code de rétropropagation\u003c\/div\u003e\n\u003cdiv\u003e\u003c\/div\u003e\n\u003c\/div\u003e\n\u003cbr\u003e\u003cdiv\u003e\u003ch5\u003e \u003cb\u003eImage détaillée\u003c\/b\u003e \u003c\/h5\u003e\u003c\/div\u003e\n\u003cdiv\u003e\u003cdiv\u003e\u003cimg src=\"https:\/\/image.yes24.com\/momo\/TopCate5033\/MidCate3\/503224848.jpg\" border=\"0\" alt=\"Image détaillée 1\"\u003e\u003c\/div\u003e\u003c\/div\u003e\n\u003c\/div\u003e\n\n\n\u003c\/div\u003e\n\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\n\u003cdiv style=\"width:95%;padding-top:20px;padding-bottom:20px\"\u003e\n\n\u003cdiv style=\"text-align:left;font-size:16px;font-weight:bold;padding-bottom:20px\"\u003e SPÉCIFICATIONS DES PRODUITS \u003c\/div\u003e\n\n\u003cdiv style=\"text-align:left;font-size:14px;line-height:1.6em;\"\u003e\n\n\u003cdiv style=\"width:100%;margin-bottom:5px;line-height:1.6em;font-size:14px\"\u003e - \u003cstrong\u003eDate d'émission :\u003c\/strong\u003e 17 décembre 2024\u003c\/div\u003e\n\n\u003cdiv style=\"width:100%;margin-bottom:5px;line-height:1.6em;font-size:14px\"\u003e - \u003cstrong\u003eNombre de pages, poids, dimensions :\u003c\/strong\u003e 348 pages | 175 × 235 × 15 mm\u003c\/div\u003e\n\n\u003cdiv style=\"width:100%;margin-bottom:5px;line-height:1.6em;font-size:14px\"\u003e - \u003cstrong\u003eISBN13 :\u003c\/strong\u003e 9791158395629 \u003c\/div\u003e\n\n\n\u003c\/div\u003e\n\n\n\u003c\/div\u003e\n\n\n\u003c\/div\u003e\n\n\u003ccenter\u003e\n\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\n\u003ccenter\u003e\u003ctable\u003e\u003ctr\u003e\u003ctd style=\"height:10px\"\u003e\u003c\/td\u003e\u003c\/tr\u003e\u003c\/table\u003e\u003c\/center\u003e\n\n\u003cspan\u003e\u003c\/span\u003e\n\n\u003c\/center\u003e\n\n\n\u003c\/center\u003e","brand":"LIBRAIRIE COREENNE","offers":[{"title":"Default Title","offer_id":43893217787946,"sku":"138210","price":38.0,"currency_code":"EUR","in_stock":true}],"thumbnail_url":"\/\/cdn.shopify.com\/s\/files\/1\/0683\/2750\/5962\/files\/ae1b93daff6aaba591958e5d2fc2b2a1.jpg?v=1765392210","url":"https:\/\/librairie.coreenne.fr\/products\/138210","provider":"LIBRAIRIE COREENNE","version":"1.0","type":"link"}