CHAPITRE 1 Distribution normale

1.1 Notions fondamentales de probabilité
_1.2 Distribution normale
_1.3 Théorème central limite
1.4 Distribution de probabilité de la somme de l'échantillon
_1.5 Distribution normale autour de nous

CHAPITRE 2 Estimation du maximum de vraisemblance

2.1 Aperçu du modèle génératif
2.2 Mise en œuvre d'un modèle à l'aide de données réelles
2.3 Théorie de l'estimation du maximum de vraisemblance
2.4 Utilisations du modèle génératif

CHAPITRE 3 Distribution normale multivariée

_3.1 NumPy et les tableaux multidimensionnels
3.2 Distribution normale multivariée
3.3 Visualisation d'une distribution normale 2D
3.4 Estimation du maximum de vraisemblance d'une distribution normale multivariée

CHAPITRE 4 Modèles de mélange gaussien

4.1 Distribution multi-pics autour de nous
4.2 Génération de données de modèle de mélange gaussien
4.3 Formule du modèle de mélange gaussien
_4.4 Difficultés d'estimation des paramètres

CHAPITRE 5 ALGORITHME EM

_5.1 Divergence KL
_5.2 Dérivation de l'algorithme EM ①
_5.3 Dérivation de l'algorithme EM ②
_5.4 Algorithmes GMM et EM
_5.5 Implémentation de l'algorithme EM

CHAPITRE 6 RÉSEAUX NEURONAUX

6.1 PyTorch et méthode du gradient
6.2 Régression linéaire
_6.3 Paramètres et optimiseurs
6.4 Implémentation du réseau neuronal
_6.5 Torch Vision et ensemble de données

CHAPITRE 7 Auto-encodeurs variationnels

_7.1 VAE et décodeur
_7.2 VAE et encodeur
_7.3 Optimisation ELBO
_7.4 Mise en œuvre de la VAE

CHAPITRE 8 Théorie du modèle de diffusion

8.1 Du modèle VAE au modèle de diffusion
8.2 Processus de diffusion et processus de diffusion inverse
_8.3 Calcul ELBO ①
_8.4 Calcul ELBO ②
_8.5 Calcul ELBO ③
_8.6 Apprentissage du modèle de diffusion (algorithme)

CHAPITRE 9 Mise en œuvre du modèle de diffusion

_9.1 U-Net
9.2 Encodage de position par onde sinusoïdale
9.3 Processus de diffusion
_9.4 Génération de données
_9.5 Apprentissage (implémentation) des modèles de diffusion

CHAPITRE 10 Applications des modèles de diffusion

10.1 Modèle de diffusion conditionnelle
_10.2 Fonction de score
_10.3 Conseils relatifs au classificateur
_10.4 Conseils sans classificateurs
_10.5 Diffusion stable

ANNEXE A Dérivation de la méthode d'estimation du maximum de vraisemblance pour la distribution normale multivariée

_A.1 Estimation du maximum de vraisemblance de μ
_A.2 Différentiation de la seconde forme (preuve de [l'équation A.4])
_A.3 Estimation du maximum de vraisemblance de Σ
_A.4 Somme diagonale et différentiation (preuve de [l'équation A.12])

ANNEXE B Inégalité de Jensen

B.1 Fonctions convexes et inégalité de Jensen
B.2 Fonctions concaves et fonctions logarithmiques
_B.3 Dérivation ELBO

ANNEXE C Théorie et mise en œuvre des VAE hiérarchiques

_C.1 Composants d'un VAE à deux couches
_C.2 Développement de l'équation d'ELBO
_C.3 Approximation de l'ELBO par la méthode de Monte Carlo
_C.4 Mise en œuvre d'un VAE à deux couches
Code d'implémentation _C.5

ANNEXE D Liste des symboles de formules

_D.1 Symboles utilisés dans ce livre
_D.2 Formules utilisées dans ce livre

Des distributions normales aux modèles de diffusion, maîtrisez les modèles génératifs !
Le guide ultime des modèles génératifs, expliqué clairement avec des formules et du code !

La célèbre série « Deep Learning from Scratch » intègre désormais l'IA générative.
Les IA de génération d'images, telles que Stable Diffusion, Midjourney et DALL-E, gagnent en popularité et sont utilisées dans divers domaines.
Derrière ces technologies se cache un « modèle génératif » qui utilise l'apprentissage profond.
Dans cet épisode, nous aborderons le « modèle de diffusion », qui suscite un intérêt croissant dans le domaine des modèles génératifs.


En partant de concepts de base comme la distribution normale et l'estimation du maximum de vraisemblance (EMV), nous vous guiderons à travers les modèles de mélange gaussien (GMM), l'algorithme d'espérance-maximisation (EM), les auto-encodeurs variationnels (VAE), les VAE hiérarchiques et les modèles de diffusion en 10 étapes.
Cela va au-delà de la simple transmission d'images et de résultats, et explique également pourquoi cela se produit ainsi et comment obtenir ces résultats.
Pour y parvenir, nous avons travaillé méticuleusement sur les formules et porté une attention particulière aux moindres détails.


Grâce à notre programme d'études systématique qui englobe la théorie et la pratique, vous pouvez apprendre étape par étape, en partant des bases, et comprendre en profondeur les principes des modèles génératifs par la pratique.
Ce livre constituera un guide précieux pour quiconque souhaite approfondir sa compréhension et appliquer les modèles génératifs, notamment les modèles de diffusion.


Public cible

(Il est utile d'avoir des connaissances de base en mathématiques telles que le calcul différentiel et intégral et l'algèbre linéaire, ainsi qu'en Python.)
- Les développeurs curieux des principes et des applications de l'implémentation de modèles génératifs
- Les développeurs qui souhaitent appliquer des modèles génératifs à divers domaines tels que le traitement automatique du langage naturel, la génération d'images et la synthèse vocale.

Contenu principal

- Chapitre 1 Distribution normale
- Chapitre 2 Estimation du maximum de vraisemblance
- Chapitre 3 Distribution normale multivariée
- Chapitre 4 Modèle de mélange gaussien
- Chapitre 5 Algorithme EM
- Chapitre 6 Réseaux de neurones
- Chapitre 7 Auto-encodeur variationnel (VAE)
- Chapitre 8 Théorie du modèle de diffusion
- Chapitre 9 : Mise en œuvre du modèle de diffusion
- Chapitre 10 : Application du modèle de diffusion