Chapitre 1 Architecture des transformateurs

_01.1 Historique du développement des modèles NLP
__01.1.1 Réseau neuronal récurrent (RNN)
__01.1.2 LSTM
__01.1.3 Encodeur-décodeur RNN
__01.1.4 Mécanisme d'attention
_01.2 Architecture du transformateur
__01.2.1 Intégration
__01.2.2 Encodage positionnel
__01.2.3 Entrée du modèle
__01.2.4 Couche d'encodage
__01.2.5 Mécanisme d'attention
_01.3 Processus d'apprentissage du transformateur
_01.4 Processus d'inférence du transformateur
_01.5 Types et applications des transformateurs
__01.5.1 Modèle d'encodeur uniquement
__01.5.2 Modèle décodeur uniquement
__01.5.3 Modèle encodeur-décodeur

Chapitre 2 : L'écosystème du visage qui étreint

_02.1 Aperçu de Hugging Face
__02.1.1 Composants principaux
__02.1.2 Tokeniseur
__02.1.3 Création d'un tokenizer personnalisé
__02.1.4 Utilisation du tokenizer pré-entraîné Hugging Face
_02.2 Bibliothèque de jeux de données
__02.2.1 Utilisation du jeu de données Hugging Face
__02.2.2 Utilisation du jeu de données Hugging Face dans PyTorch
_02.3 Réglage fin du modèle
__02.3.1 Préférences
__02.3.2 Apprentissage
__02.3.3 Inférence
_02.4 Partage du modèle de visage qui fait un câlin
__02.4.1 Partage de modèles
__02.4.2 Utilisation des espaces

Chapitre 3 Modèle de transformateur PyTorch

_03.1 Composants transformateurs PyTorch
_03.2 Intégration
__03.2.1 Implémentation de la couche d'intégration
_03.3 Encodage positionnel
_03.4 Masquage
_03.5 Composants de l'encodeur transformateur
_03.6 Composants du décodeur de transformateur
_03.7 Couche de transformation PyTorch

Chapitre 4 : Apprentissage par transfert avec PyTorch et HuggingFace

_04.1 La nécessité de l'apprentissage par transfert
_04.2 Comment utiliser l'apprentissage par transfert
_04.3 Dépôt de modèles pré-entraînés
_04.4 Modèle de pré-entraînement
__04.4.1 Traitement automatique du langage naturel (TALN)
__04.4.2 Vision par ordinateur
__04.4.3 Traitement de la voix
_04.5 Projet 1 : Création d’un classificateur par ajustement fin du modèle BERT-base-uncased
__04.5.1 Classe de jeu de données personnalisé
__04.5.2 Création d'un chargeur de données
__04.5.3 Inférence

Chapitre 5 Modèles de langage à grande échelle

_05.1 Modèle de langage à grande échelle (LLM)
_05.2 Facteurs clés déterminant la performance
__05.2.1 Taille du réseau : Nombre de couches d’encodeur et de décodeur
_05.3 Master en droit (LLM)
__05.3.1 BERT et modèles associés
__05.3.2 GPT
__05.3.3 BART
_05.4 Création d'un LLM personnalisé
__05.4.1 Implémentation de Clinical-BERT

Chapitre 6 : Tâches de traitement automatique du langage naturel (TALN) de type Transformer

Tâche NLP _06.1
_06.2 Classification de texte
__06.2.1 Architecture adaptée à la classification de textes
__06.2.2 Classification de texte par ajustement fin du transformateur
__06.2.3 Traitement des séquences longues
__06.2.4 Exemple d'implémentation du découpage de documents
__06.2.5 Exemple d'implémentation de l'attention hiérarchique
_06.3 Génération de texte
Projet 2 (06.3.1) : Générer un texte qui sonne comme Shakespeare
_06.4 Chatbot transformateur
Projet 3 du 06/04/2020 : Transformateur de questions-réponses cliniques (médecin IA)
_06.5 Apprentissage avec PEFT et LoRA

Chapitre 7 Modèles de vision par ordinateur (CV)

_07.1 Prétraitement d'image
__07.1.1 Exemple de prétraitement d'image
_07.2 Architecture du transformateur de vision
Projet 4 du 07/2/2020 : Ophtalmologiste IA
_07.3 Transformateur de distillation
__07.3.1 Processus de préapprentissage de DeiT
__07.3.1 Avantages de DeiT
_07.4 Transformateur de détection
Projet 5 : Modèle de détection d’objets (07.4.1)

Chapitre 8 : Tâches de vision par ordinateur des transformateurs

_08.1 Tâches de vision par ordinateur
__08.1.1 Classification d'images
__08.1.2 Segmentation d'images
Projet 6 (08.1.3) : Segmentation d’images pour un calculateur de régime alimentaire
_08.2 Modèle de diffusion : Génération d’images inconditionnelle
__08.2.1 Diffusion directe
__08.2.2 Diffusion inverse
__08.2.3 Processus d'inférence
__08.2.4 Paramètres apprenables
__08.2.5 Mise en œuvre du projet DogGenDiffusion

Chapitre 9 Modèle de traitement de la voix

_09.1 Traitement de la voix
__09.1.1 Exemple de prétraitement vocal
_09.2 Modèle Whisper
__09.2.1 Processus de développement du modèle Whisper_Nep
Modèle Wav2Vec _09.3
Application Wav2Vec __09.3.1
_09.4 Modèle vocal T5
__09.4.1 Représentation des entrées/sorties
__09.4.2 Présentation intermodale
__09.4.3 Architecture encodeur-décodeur
__09.4.4 Étude préalable
__09.4.5 Réglages fins et applications
_09.5 Comparaison de Whisper, Wav2Vec 2.0 et SpeechT5

Chapitre 10 : Tâches de traitement vocal par transformateur

_10.1 Tâches de traitement vocal
10.1.1 Transcription vocale
__10.1.2 Projet 7 : Conversion de la parole en texte à l’aide de Whisper
10.2 Synthèse vocale
Projet 8 : Synthèse vocale (10.2.1)
_10.3 Conversion audio vers audio
Projet 9 : Amélioration de la qualité audio par réduction du bruit (10.3.1)

Chapitre 11 : Transformateurs pour le traitement des données tabulaires

_11.1 Traitement des données tabulaires à l'aide de transformateurs
__11.1.1 Architecture TAPAS
_11.2 Architecture TabTransformer
Architecture du transformateur de 11,3 pieds
__11.3.1 Tokeniseur de fonctionnalités
11.3.2 Fusion des caractéristiques numériques et catégorielles
__11.3.3 Transformateur

Chapitre 12 : Transformateurs pour les tâches de régression et de classification sur des données tabulaires

_12.1 Transformateur pour les travaux de classification
Ensemble de données __12.1.1
__12.1.2 Variables cibles
__12.1.3 Prétraitement des données
__12.1.4 Paramètres
__12.1.5 Formation et évaluation avec trois modèles
__12.1.6 Résultats de l'évaluation
__12.1.7 Analyse
_12.2 Transformateur pour les tâches de régression
__12.2.1 Ensemble de données
__12.2.2 Prétraitement des données
__12.2.3 Paramètres
12.2.4 Apprentissage et évaluation

Chapitre 13 Transformateurs multimodaux

_13.1 Architecture multimodale
__13.1.1 ImageBind
__13.1.2 CLIP
_13.2 Travail multimodal
__13.2.1 Extraction de caractéristiques
13.2.2 Conversion de texte en image
__13.2.3 Conversion d'image en texte
__13.2.4 Réponse visuelle aux questions

Chapitre 14 : Apprentissage par renforcement Transformer

14.1 Apprentissage par renforcement
14.2 Techniques PyTorch (Modèles) pour l'apprentissage par renforcement
__14.2.1 Ligne de base stable3
__14.2.2 Gymnase
14.3 Comment mettre en œuvre l'apprentissage par renforcement
14.4 Transformateurs pour l'apprentissage par renforcement
__14.4.1 Transformateur de décision
__14.4.2 Transformateur de trajectoire

Chapitre 15 : Exportation, diffusion et déploiement des modèles

_15.1 Projet 10 : Exportation et sérialisation des modèles
__15.1.1 Exportation et importation de modèles PyTorch
__15.1.2 Enregistrement de plusieurs modèles
_15.2 Exportation des modèles au format ONNX
_15.3 Diffusion de modèles avec FastAPI
15.3.1 Avantages de FastAPI
__15.3.2 Application FastAPI pour le service de modèles
__15.3.3 FastAPI pour la diffusion de modèles de segmentation sémantique
_15.4 Déploiement de modèles PyTorch sur appareils mobiles
_15.5 Déploiement du modèle HuggingFace Transformer sur AWS
__15.5.1 Déploiement via Amazon SageMaker
__15.5.2 Déploiement via AWS Lambda et Amazon API Gateway

Chapitre 16 : Interprétabilité et visualisation du modèle Transformer

_16.1 Concepts d'explicabilité et d'interprétabilité
__16.1.1 Interprétabilité
16.1.2 Explicabilité
_16.2 Outils d'explicabilité et d'interprétabilité
_16.3 CAPTUM pour l'analyse de prédiction de transformateur
__16.3.1 Chargement du modèle
16.3.2 Préparation des intrants
__16.3.3 Gradient intégral de couche
__16.3.4 Visualisation
_16.4 TensorBoard pour les modèles PyTorch

Chapitre 17 : Bonnes pratiques et débogage des modèles PyTorch

_17.1 Bonnes pratiques pour la mise en œuvre des modèles de transformateurs
__17.1.1 Utilisation de Hugging Face
__17.1.2 Considérations générales pour les modèles PyTorch
_17.2 Techniques de débogage PyTorch
__17.2.1 Erreur de syntaxe
__17.2.2 Erreur d'exécution
__17.2.3 Erreur logique
__17.2.4 Directives générales pour le débogage des modèles d'apprentissage automatique PyTorch

★10 projets abordés dans ce livre★

1. Créez un classificateur en affinant le modèle BERT-base-uncased.
2.
Générez un texte qui sonne comme du Shakespeare
3. Création d'un chatbot de questions-réponses pour une clinique d'IA
4.
Mise en œuvre de médecins IA en ophtalmologie
5.
Création d'un programme de détection d'objets
6.
Mise en place d'un calculateur de régime alimentaire qui classe les photos d'aliments
7.
Conversion de la voix en texte avec Whisper
8.
Conversion de texte en parole à l'aide de SpeechT5
9.
Améliorez la qualité audio grâce à la suppression du bruit.
10.
Exportation et sérialisation des modèles PyTorch

★10 mots-clés clés abordés dans ce livre★

1.
Architecture Transformer
2.
Écosystème du visage qui étreint
3.
Implémentation du modèle basé sur PyTorch
4.
apprentissage par transfert
5. LLM (Modèle de langage à grande échelle)
6. Tâches de TALN (classification et génération de texte)
7.
Modèle de transformateur de vision par ordinateur
8.
Transformateur de traitement vocal
9.
transformateur multimodal
10.
Modèle de service et de distribution

★Public cible de ce livre★

* Les data scientists qui ont besoin de directives complètes concernant le modèle et la bibliothèque HuggingFace Transformer.
* Ingénieurs en IA curieux des projets pratiques dans divers domaines tels que le traitement automatique du langage naturel, la vision par ordinateur et la reconnaissance vocale.
* Les chefs de projet qui doivent comprendre la gestion et la mise en œuvre de projets d'IA et d'apprentissage automatique
* Pour tous ceux qui veulent savoir comment les modèles de transformateurs sont utilisés dans l'apprentissage profond et l'apprentissage automatique !

★Recommandations des lecteurs d'Amazon★

Ce livre présente de manière systématique des techniques avancées et pertinentes qui tirent parti des puissantes capacités de PyTorch et de HuggingFace.
Un ouvrage de référence adapté aux passionnés d'apprentissage profond qui souhaitent approfondir les applications pratiques des transformateurs.
Le contenu est bien structuré et captivant pour les lecteurs intéressés par les techniques d'apprentissage automatique de pointe.
- Sunita

C'est une excellente ressource si vous souhaitez commencer à construire des modèles basés sur Transformer et développer des projets liés au traitement automatique du langage naturel, à la vision et à l'audio.
Ce livre propose des exemples de code complets que vous pouvez exécuter et avec lesquels vous pouvez vous entraîner, et comprend des quiz pour vous aider à tester vos connaissances.
Globalement, c'est un très bon livre.
- Ganesh

Le livre commence par détailler l'architecture du modèle Transformer.
Le parcours complet comprend plusieurs exemples pratiques de mise en œuvre du modèle.
Il couvre tous les sujets, de la création de tokenizers personnalisés de base à la vision par ordinateur, au traitement de la parole et aux projets multimodaux.
Tous les exemples de code sont fournis sous forme de fichiers Google Colab prêts à l'emploi, ce qui permet à chacun de suivre facilement les instructions et de construire ses propres projets.
Si vous souhaitez en savoir plus sur les modèles Transformer mais que la quantité de contenu vous semble excessive, ce livre est le guide idéal pour apprendre en pratiquant, en vous guidant à travers une séquence logique et en fournissant des exemples de code faciles à suivre.
- Fabio Santana