Chapitre 1. AIGC et technologies connexes

1.1 Introduction à l'AIGC 2
1.2 Introduction à la modélisation de la diffusion 4

Chapitre 2.
Principes fondamentaux de la modélisation de la diffusion

2.1 Modèle de probabilité de diffusion pour la suppression du bruit 10
2.2 Modèle génératif basé sur le score 22
2.3 Équations différentielles stochastiques 25

Chapitre 3.
Échantillonnage efficace pour la modélisation de la diffusion

3.1 Équations différentielles 50
3.2 Échantillonnage déterministe 52
3.2.1 Solveur d'équations différentielles stochastiques 52
3.2.2 Solveur d'équations différentielles ordinaires 60
3.3 Échantillonnage basé sur l'apprentissage 66
3.3.1 Mode individuel 66
3.3.2 Diffusion de la coupure 68
3.3.3 Distillation des connaissances 75

Chapitre 4.
Maximisation de la vraisemblance pour les modèles de diffusion

4.1 Maximisation de la fonction de vraisemblance 82
4.2 Optimisation de la stratégie d'ajout de bruit 84
4.3 Apprentissage distribué inverse 88
4.4 Estimation exacte de la log-vraisemblance 100

Chapitre 5.
Application de la modélisation de la diffusion à des données présentant des structures particulières

5.1 Données discontinues 106
5.2 Données avec des structures immuables 110
5.3 Structure des données en flux continu 118
5.3.1 Schémas d'écoulement connus 118
5.3.2 Modèle d'écoulement inconnu 119

Chapitre 6.
Modèle de diffusion lié à d'autres modèles génératifs

6.1 Différents auto-encodeurs et modèles de diffusion 126
6.2 Création de réseaux antagonistes et de modèles de diffusion 128
6.3 Modèles normalisés de flux et de diffusion 135
6.4 Modèles autorégressifs et de diffusion 139
6.5 Modèles énergétiques et modèles de diffusion 140

Chapitre 7.
Application de la modélisation de la diffusion

7.1 Comparaison des modèles de diffusion inconditionnels et conditionnels 144
7.2 Vision par ordinateur 145
7.2.1 Super-résolution d'images, restauration d'images et traduction d'images 145
7.2.2 Segmentation sémantique 151
7.2.3 Création vidéo 154
7.2.4 Achèvement et génération du nuage de points 157
7.2.5 Détection d'anomalies 160
7.3 Traitement automatique du langage naturel 162
7.4 Modélisation des données temporelles 168
7.4.1 Interpolation de séries temporelles 168
7.4.2 Prévision des séries chronologiques 170
7.5 Apprentissage multimodal 172
7.5.1 Génération d'images à partir de texte 172
7.5.2 Création d'une synthèse vocale 180
7.5.3 Du graphe de scène à la génération d'images 182
7.5.4 Création de contenu texte-3D 184
7.5.5 Création d'animations texte-corps 185
7.5.6 Génération de texte en vidéo 185
7.6 Apprentissage robuste 187
7.7 Applications de convergence 188
7.7.1 Développement de médicaments par intelligence artificielle 188
7.7.2 Imagerie médicale 195

Chapitre 8.
L'avenir de la modélisation de la diffusion - GPT et grands modèles

8.1 Introduction aux techniques de préapprentissage 201
8.1.1 Préentraînement génératif et préentraînement contrastif 202
8.1.2 Techniques d'apprentissage parallèle 206
8.1.3 Techniques de réglage fin 209
8.2 GPT et Grand Modèle 210
8.2.1 GPT-1 211
8.2.2 GPT-2 214
8.2.3 GPT-3 et Grand Modèle 217
8.2.4 InstructGPT et ChatGPT 225
8.2.5 Chat visuel GPT 229
8.3 Modélisation de la diffusion à grande échelle basée sur les modèles GPT et 232
8.3.1 Étude d'algorithme 232
8.3.2 Application du paradigme 233

Recherche 235

Cet ouvrage présente de manière exhaustive l'application du modèle de diffusion à divers domaines. Il aborde le contenu généré par l'IA (CGI) et les technologies connexes, les principes fondamentaux des modèles de diffusion, l'échantillonnage efficace de ces modèles, l'optimisation de leur potentiel, leur application aux données à structures particulières, la corrélation entre les modèles de diffusion et d'autres modèles génératifs, leurs applications concrètes et leurs perspectives d'avenir. Il vous permettra d'appréhender les principaux axes de recherche liés aux modèles de diffusion.

La structure de ce livre est la suivante :


Le chapitre 1 présente l'AIGC et les technologies associées. Le chapitre 2 expose la théorie et l'algorithme de base du modèle de diffusion selon trois perspectives, et présente l'architecture du réseau neuronal ainsi que des exemples de programmation pour ce modèle.


Les chapitres 3, 4 et 5 présentent systématiquement les caractéristiques du modèle de diffusion et les travaux d'amélioration correspondants selon trois perspectives : l'échantillonnage efficace du modèle de diffusion, la maximisation du potentiel du modèle de diffusion et l'application du modèle de diffusion à des données ayant des structures spéciales, respectivement.


Le chapitre 6 traite de la relation entre les modèles de diffusion et d'autres modèles génératifs, notamment les autocodeurs variationnels, les réseaux antagonistes génératifs, le flux régularisé, les modèles autorégressifs et les modèles basés sur l'énergie.


Le chapitre 7 présente des exemples d'application du modèle de diffusion.
Le chapitre 8 aborde la théorie des processus généralisés (GPT) et les modèles à grande échelle, ainsi que l'avenir des modèles de diffusion.

Ce livre s'adresse aux étudiants en informatique, en intelligence artificielle et en apprentissage automatique, ainsi qu'aux développeurs d'applications de mégadonnées et d'intelligence artificielle.
Il sera également utile aux étudiants de premier cycle, aux étudiants de cycles supérieurs, aux professeurs et aux chercheurs des institutions de recherche.