
Traitement automatique du langage naturel et vision par ordinateur : apprentissage profond avec les transformateurs PyTorch
Description
Introduction au livre
Les Transformers sont un modèle aux performances exceptionnelles dans le domaine de l'apprentissage profond et constituent une technologie fondamentale dans le domaine de l'intelligence artificielle moderne.
La maîtrise des technologies Transformer et Vision Transformer vous conférera des capacités différenciées et vous permettra de résoudre des problèmes complexes.
Ce livre couvre un large éventail d'informations nécessaires à la construction de projets (services) d'apprentissage profond, depuis les pratiques de base jusqu'au déploiement, dans les domaines du traitement automatique du langage naturel et de la vision par ordinateur.
De plus, nous étudierons et mettrons en pratique des modèles tels que la théorie du transformateur et celle du transformateur de vision.
Cet ouvrage offre une couverture complète des dernières tendances en matière de traitement automatique du langage naturel et de vision par ordinateur, ainsi que d'apprentissage profond, et est recommandé à ceux qui cherchent à construire des modèles puissants grâce à des exemples pratiques.
La maîtrise des technologies Transformer et Vision Transformer vous conférera des capacités différenciées et vous permettra de résoudre des problèmes complexes.
Ce livre couvre un large éventail d'informations nécessaires à la construction de projets (services) d'apprentissage profond, depuis les pratiques de base jusqu'au déploiement, dans les domaines du traitement automatique du langage naturel et de la vision par ordinateur.
De plus, nous étudierons et mettrons en pratique des modèles tels que la théorie du transformateur et celle du transformateur de vision.
Cet ouvrage offre une couverture complète des dernières tendances en matière de traitement automatique du langage naturel et de vision par ordinateur, ainsi que d'apprentissage profond, et est recommandé à ceux qui cherchent à construire des modèles puissants grâce à des exemples pratiques.
- Vous pouvez consulter un aperçu du contenu du livre.
Aperçu
indice
Partie 1 : Premiers pas avec PyTorch
Chapitre 1 : Intelligence artificielle et méthodologie
Qu'est-ce que l'intelligence artificielle ?
__Histoire de l'intelligence artificielle
Domaines d'application de l'IA
système d'apprentissage automatique
Apprentissage supervisé
Apprentissage non supervisé
Apprentissage semi-supervisé
Apprentissage par renforcement
Architecture d'apprentissage automatique
Préparation des données
__modélisation
Évaluation du modèle
Déploiement du modèle
MLOps
Chapitre 2 : Installation de PyTorch
Qu'est-ce que PyTorch ?
Fonctionnalités de PyTorch
Installation de PyTorch
Installation de PyTorch sur le processeur
Installation de PyTorch sur GPU
__Google Colaboratoire
Chapitre 3 : Notions de base de PyTorch
tenseur
__Créer un tenseur
Propriétés tensorielles
transformation __dimensionnelle
__Paramètres de type de données
__Paramètres de l'appareil
__Conversion de l'appareil
__Conversion tensorielle des tableaux NumPy
__Conversion de tenseur en tableau NumPy
Hypothèse
__Hypothèse en apprentissage automatique
Exemples de tests d'hypothèses statistiques
fonction de perte
Erreur quadratique
__somme des erreurs au carré
__erreur quadratique moyenne
__Entropie croisée
Optimisation
Descente en gradient
__taux d'apprentissage
Problème d'optimisation
Régression linéaire simple : NumPy
Régression linéaire simple : PyTorch
Ensembles de données et chargeurs de données
__ensemble de données
Chargeur de données
Régression linéaire multiple
Séparation modèle/ensemble de données
__Classe de module
Régression non linéaire
Évaluation du modèle
__Séparation des ensembles de données
Sauvegarde et chargement des modèles
__Enregistrer/Charger le modèle entier
__Sauvegarder/Charger l'état du modèle
__Sauvegarder/Charger un point de contrôle
Fonction d'activation
classification binaire
Fonction __sigmoïde
__Entropie croisée binaire
Classification binaire : PyTorch
Fonction d'activation non linéaire
Propagation directe et rétropropagation
__Calcul de propagation directe
__Calcul d'erreur
__Calcul de rétropropagation
__Comparer les résultats de la mise à jour
perceptron
perceptron monocouche
__Perceptron multicouche
Exercices pratiques sur le modèle du perceptron
Chapitre 4 : PyTorch avancé
Sur-ajustement et sous-ajustement
__Résoudre les problèmes de surapprentissage et de sous-apprentissage
Normalisation par lots
__Type de normalisation
Solution de normalisation par lots
Initialisation du poids
Initialisation constante
Initialisation aléatoire
Initialisation de Javier et Glorot
__Réinitialisation de Kaiming et Heo
Initialisation orthogonale
Exercices d'initialisation du poids
Régularisation
Régularisation __L1
Régularisation __L2
__dégradation du poids
__Élan
Filet élastique
__Abandonner
Découpage par dégradé
Augmentation et transformation des données
__données textuelles
__données d'image
Modèle pré-entraîné
__colonne vertébrale
__Transfert d'apprentissage
Extraction et réglage fin des caractéristiques
Partie 2 Traitement automatique du langage naturel
Chapitre 5 : Tokenisation
tokenisation des mots et des caractères
tokenisation de mots
__Tokenisation des caractères
tokenisation morphémique
Dictionnaire des morphèmes
__KoNLPy
__NLTK
__spaCy
tokenisation de sous-mots
Encodage par paire d'octets
__Morceau de mots
Chapitre 6 : Intégration
modèle de langage
Modèle de langage autorégressif
Modèle de langage statistique
N-gramme
TF-IDF
Fréquence des mots
Fréquence des documents
Fréquence des documents inversés
__TF-IDF
Word2Vec
Vectorisation des mots
__CBoW
__Skip-gram
Softmax hiérarchique
__échantillonnage négatif
Exercice modèle : Skip-gram
Exercice pratique sur modèle : Gensim
fastText
__Exercice modèle
réseaux neuronaux récurrents
Réseau neuronal récurrent
mémoire à long et à court terme
__Exercice modèle
réseau neuronal convolutif
__Couche de convolution
Carte d'activation
__Mise en commun
__Couche entièrement connectée
__Exercice modèle
Chapitre 7 : Transformers
Transformateur
__Intégration des données d'entrée et encodage positionnel
Jeton spécial
Encodeur de transformateur
__Décodeur de transformateur
__Exercice modèle
GPT
__GPT-1
__GPT-2
__GPT-3
__GPT 3.5
__GPT-4
__Exercice modèle
BERT
Méthode de pré-apprentissage
__Exercice modèle
BART
Méthode de pré-apprentissage
Comment affiner
__Exercice modèle
ÉLECTRA
Méthode de pré-apprentissage
__Exercice modèle
T5
__Exercice modèle
Partie 3 Vision par ordinateur
Chapitre 8 : Classification des images
AlexNet
__LeNet-5 et AlexNet
Formation de modèles
Inférence de modèle
VGG
__AlexNet et VGG-16
__Structure du modèle et visualisation des données
__Mise au point et formation du modèle
ResNet
Fonctionnalités de ResNet
Implémentation du modèle
Grad-CAM
Carte d'activation des classes
__Grad-CAM
Chapitre 9 : Détection d'objets
Faster R-CNN
__R-CNN
__Fast R-CNN
__R-CNN plus rapide
Processus d'apprentissage par modélisation
__Exercice modèle
SSD
__Cartes de fonctionnalités multi-échelles
__Boîte de base
Processus d'apprentissage par modélisation
__Exercice modèle
FCN
__Suréchantillonnage
__structure du modèle
__Exercice modèle
Masque R-CNN
__Caractéristiques du réseau pyramidal
__Trier les domaines d'intérêt
__Classificateur de masques
__Exercice modèle
YOLO
__YOLOv1
__YOLOv2
__YOLOv3
__YOLOv4 / YOLOv5
__YOLOv6 / YOLOv7
Exercice pratique modèle : YOLOv8
Chapitre 10 : Transformateur de vision
ViT
Comparaison des modèles convolutionnels et ViT
Le biais inductif de __ViT
Modèle __ViT
Intégration de patchs
__Couche d'encodage
__Exercice modèle
Transformateur Swin
Différence entre les transformateurs ViT et Swin
Structure du modèle de transformateur __Swin
__Exercice modèle
CvT
__Intégration de jetons convolutionnels
Intégration convolutionnelle pour l'attention
__Exercice modèle
Partie 4 Modélisation des services
Chapitre 11 : Déploiement du modèle
Allègement du modèle
__quantification
__Distillation des connaissances
Décomposition tensorielle
__ONNX
Modèle servant
Framework Web de service de modèles
__Facteur
Déploiement Docker
__Qu'est-ce que Docker ?
__Construire et déployer
Application de démonstration
__Ruisselet
Distribution de l'application
__Intégration de modèles PyTorch
Annexe A : Éclairage PyTorch
Formation de modèles
__Cours de formateur
Annexe B : Visage étreint
Classe __PreTrainedConfig
Classe __PreTrainedModel
Classe __PreTrainedTokenizer
Classe __PreTrainedFeatureExtractor
Classe __PreTrainedImageProcessor
__Classe Auto
__Cours de formateur
Annexe C : Modèle d’image PyTorch
__Créer un modèle
Modèle pré-entraîné
__Réglage fin
Annexe D : Compilateur PyTorch
Annexe E : Hors mémoire
Chapitre 1 : Intelligence artificielle et méthodologie
Qu'est-ce que l'intelligence artificielle ?
__Histoire de l'intelligence artificielle
Domaines d'application de l'IA
système d'apprentissage automatique
Apprentissage supervisé
Apprentissage non supervisé
Apprentissage semi-supervisé
Apprentissage par renforcement
Architecture d'apprentissage automatique
Préparation des données
__modélisation
Évaluation du modèle
Déploiement du modèle
MLOps
Chapitre 2 : Installation de PyTorch
Qu'est-ce que PyTorch ?
Fonctionnalités de PyTorch
Installation de PyTorch
Installation de PyTorch sur le processeur
Installation de PyTorch sur GPU
__Google Colaboratoire
Chapitre 3 : Notions de base de PyTorch
tenseur
__Créer un tenseur
Propriétés tensorielles
transformation __dimensionnelle
__Paramètres de type de données
__Paramètres de l'appareil
__Conversion de l'appareil
__Conversion tensorielle des tableaux NumPy
__Conversion de tenseur en tableau NumPy
Hypothèse
__Hypothèse en apprentissage automatique
Exemples de tests d'hypothèses statistiques
fonction de perte
Erreur quadratique
__somme des erreurs au carré
__erreur quadratique moyenne
__Entropie croisée
Optimisation
Descente en gradient
__taux d'apprentissage
Problème d'optimisation
Régression linéaire simple : NumPy
Régression linéaire simple : PyTorch
Ensembles de données et chargeurs de données
__ensemble de données
Chargeur de données
Régression linéaire multiple
Séparation modèle/ensemble de données
__Classe de module
Régression non linéaire
Évaluation du modèle
__Séparation des ensembles de données
Sauvegarde et chargement des modèles
__Enregistrer/Charger le modèle entier
__Sauvegarder/Charger l'état du modèle
__Sauvegarder/Charger un point de contrôle
Fonction d'activation
classification binaire
Fonction __sigmoïde
__Entropie croisée binaire
Classification binaire : PyTorch
Fonction d'activation non linéaire
Propagation directe et rétropropagation
__Calcul de propagation directe
__Calcul d'erreur
__Calcul de rétropropagation
__Comparer les résultats de la mise à jour
perceptron
perceptron monocouche
__Perceptron multicouche
Exercices pratiques sur le modèle du perceptron
Chapitre 4 : PyTorch avancé
Sur-ajustement et sous-ajustement
__Résoudre les problèmes de surapprentissage et de sous-apprentissage
Normalisation par lots
__Type de normalisation
Solution de normalisation par lots
Initialisation du poids
Initialisation constante
Initialisation aléatoire
Initialisation de Javier et Glorot
__Réinitialisation de Kaiming et Heo
Initialisation orthogonale
Exercices d'initialisation du poids
Régularisation
Régularisation __L1
Régularisation __L2
__dégradation du poids
__Élan
Filet élastique
__Abandonner
Découpage par dégradé
Augmentation et transformation des données
__données textuelles
__données d'image
Modèle pré-entraîné
__colonne vertébrale
__Transfert d'apprentissage
Extraction et réglage fin des caractéristiques
Partie 2 Traitement automatique du langage naturel
Chapitre 5 : Tokenisation
tokenisation des mots et des caractères
tokenisation de mots
__Tokenisation des caractères
tokenisation morphémique
Dictionnaire des morphèmes
__KoNLPy
__NLTK
__spaCy
tokenisation de sous-mots
Encodage par paire d'octets
__Morceau de mots
Chapitre 6 : Intégration
modèle de langage
Modèle de langage autorégressif
Modèle de langage statistique
N-gramme
TF-IDF
Fréquence des mots
Fréquence des documents
Fréquence des documents inversés
__TF-IDF
Word2Vec
Vectorisation des mots
__CBoW
__Skip-gram
Softmax hiérarchique
__échantillonnage négatif
Exercice modèle : Skip-gram
Exercice pratique sur modèle : Gensim
fastText
__Exercice modèle
réseaux neuronaux récurrents
Réseau neuronal récurrent
mémoire à long et à court terme
__Exercice modèle
réseau neuronal convolutif
__Couche de convolution
Carte d'activation
__Mise en commun
__Couche entièrement connectée
__Exercice modèle
Chapitre 7 : Transformers
Transformateur
__Intégration des données d'entrée et encodage positionnel
Jeton spécial
Encodeur de transformateur
__Décodeur de transformateur
__Exercice modèle
GPT
__GPT-1
__GPT-2
__GPT-3
__GPT 3.5
__GPT-4
__Exercice modèle
BERT
Méthode de pré-apprentissage
__Exercice modèle
BART
Méthode de pré-apprentissage
Comment affiner
__Exercice modèle
ÉLECTRA
Méthode de pré-apprentissage
__Exercice modèle
T5
__Exercice modèle
Partie 3 Vision par ordinateur
Chapitre 8 : Classification des images
AlexNet
__LeNet-5 et AlexNet
Formation de modèles
Inférence de modèle
VGG
__AlexNet et VGG-16
__Structure du modèle et visualisation des données
__Mise au point et formation du modèle
ResNet
Fonctionnalités de ResNet
Implémentation du modèle
Grad-CAM
Carte d'activation des classes
__Grad-CAM
Chapitre 9 : Détection d'objets
Faster R-CNN
__R-CNN
__Fast R-CNN
__R-CNN plus rapide
Processus d'apprentissage par modélisation
__Exercice modèle
SSD
__Cartes de fonctionnalités multi-échelles
__Boîte de base
Processus d'apprentissage par modélisation
__Exercice modèle
FCN
__Suréchantillonnage
__structure du modèle
__Exercice modèle
Masque R-CNN
__Caractéristiques du réseau pyramidal
__Trier les domaines d'intérêt
__Classificateur de masques
__Exercice modèle
YOLO
__YOLOv1
__YOLOv2
__YOLOv3
__YOLOv4 / YOLOv5
__YOLOv6 / YOLOv7
Exercice pratique modèle : YOLOv8
Chapitre 10 : Transformateur de vision
ViT
Comparaison des modèles convolutionnels et ViT
Le biais inductif de __ViT
Modèle __ViT
Intégration de patchs
__Couche d'encodage
__Exercice modèle
Transformateur Swin
Différence entre les transformateurs ViT et Swin
Structure du modèle de transformateur __Swin
__Exercice modèle
CvT
__Intégration de jetons convolutionnels
Intégration convolutionnelle pour l'attention
__Exercice modèle
Partie 4 Modélisation des services
Chapitre 11 : Déploiement du modèle
Allègement du modèle
__quantification
__Distillation des connaissances
Décomposition tensorielle
__ONNX
Modèle servant
Framework Web de service de modèles
__Facteur
Déploiement Docker
__Qu'est-ce que Docker ?
__Construire et déployer
Application de démonstration
__Ruisselet
Distribution de l'application
__Intégration de modèles PyTorch
Annexe A : Éclairage PyTorch
Formation de modèles
__Cours de formateur
Annexe B : Visage étreint
Classe __PreTrainedConfig
Classe __PreTrainedModel
Classe __PreTrainedTokenizer
Classe __PreTrainedFeatureExtractor
Classe __PreTrainedImageProcessor
__Classe Auto
__Cours de formateur
Annexe C : Modèle d’image PyTorch
__Créer un modèle
Modèle pré-entraîné
__Réglage fin
Annexe D : Compilateur PyTorch
Annexe E : Hors mémoire
Image détaillée
.jpg)
Avis de l'éditeur
★ Ce que ce livre aborde ★
◎ Compréhension de l'apprentissage automatique et de l'apprentissage profond, et pratique approfondie de l'utilisation de PyTorch
◎ Comprendre la tokenisation des données textuelles et s'exercer à l'intégration de texte
◎ Comprendre le modèle Transformer en utilisant l'auto-attention et en pratiquant le modèle de langage basé sur Transformer
◎ Comprendre les modèles de classification d'images et vérifier et visualiser leurs principes de fonctionnement internes
◎ Comprendre les modèles de détection d'objets tels que la détection de boîtes englobantes, la segmentation sémantique et la segmentation d'objets
◎ Comprendre le réseau pyramidal de caractéristiques et l'algorithme d'alignement de la région d'intérêt
◎ Comprendre et mettre en pratique le modèle de transformateur de vision qui applique la structure du transformateur au domaine de la vision par ordinateur.
◎ Service d'API en ligne utilisant des frameworks web et Docker
◎ Création d'une application de démonstration d'apprentissage profond via une application web
◎ Pratiquez avec divers outils et techniques de gestion, notamment l'allègement, PyTorch Lightning, Hugging Face et PyTorch Compiler.
◎ Compréhension de l'apprentissage automatique et de l'apprentissage profond, et pratique approfondie de l'utilisation de PyTorch
◎ Comprendre la tokenisation des données textuelles et s'exercer à l'intégration de texte
◎ Comprendre le modèle Transformer en utilisant l'auto-attention et en pratiquant le modèle de langage basé sur Transformer
◎ Comprendre les modèles de classification d'images et vérifier et visualiser leurs principes de fonctionnement internes
◎ Comprendre les modèles de détection d'objets tels que la détection de boîtes englobantes, la segmentation sémantique et la segmentation d'objets
◎ Comprendre le réseau pyramidal de caractéristiques et l'algorithme d'alignement de la région d'intérêt
◎ Comprendre et mettre en pratique le modèle de transformateur de vision qui applique la structure du transformateur au domaine de la vision par ordinateur.
◎ Service d'API en ligne utilisant des frameworks web et Docker
◎ Création d'une application de démonstration d'apprentissage profond via une application web
◎ Pratiquez avec divers outils et techniques de gestion, notamment l'allègement, PyTorch Lightning, Hugging Face et PyTorch Compiler.
SPÉCIFICATIONS DES PRODUITS
- Date de publication : 19 octobre 2023
Nombre de pages, poids, dimensions : 804 pages | 188 × 240 × 33 mm
- ISBN13 : 9791158394400
Vous aimerez peut-être aussi
카테고리
Langue coréenne
Langue coréenne