Calcul automatique de la différenciation de la première colline
__Variable comme une case d'étape 1
__Une fonction qui produit une variable à deux étapes
__Chaînage de fonctions en 3 étapes
__Étape 4 Différentiation numérique
Théorie de la rétropropagation en 5 étapes
__Rétropropagation manuelle en 6 étapes
Automatisation par rétropropagation en 7 étapes
__De la récursivité en 8 étapes à la boucle
Fonction en 9 étapes plus pratique
Test en 10 étapes

Code naturel de la 2e colline
Argument de longueur variable en 11 étapes (propagation directe)
Argument à longueur variable en 12 étapes (version améliorée)
Argument de longueur variable à 13 étapes (rétropropagation)
__14 Étape répétée Utilisation de la même variable
__Graphe de calcul complexe à 15 étapes (théorie)
__Graphe de calcul complexe à 16 étapes (implémentation)
__Étape 17 Gestion de la mémoire et références circulaires
Mode de sauvegarde de mémoire en 18 étapes
Amélioration de l'utilisabilité variable en 19 étapes
__Surcharge de l'opérateur à 20 étapes (1)
__Surcharge de l'opérateur en 21 étapes (2)
__Surcharge de l'opérateur en 22 étapes (3)
forfait en 23 étapes
Dérivation en 24 étapes des fonctions complexes

Calcul différentiel d'ordre supérieur du troisième ordre
Visualisation graphique du calcul en 25 étapes (1)
Visualisation graphique du calcul en 26 étapes (2)
__différenciation en série de Taylor à 27 étapes
Optimisation de fonction en 28 étapes
__Optimisation par la méthode de Newton en 29 étapes (calcul manuel)
__Différenciation d'ordre supérieur à 30 étapes (préparation)
__31 étapes de différentiation d'ordre supérieur (théorie)
__Différenciation d'ordre supérieur à 32 étapes (implémentation)
Optimisation par la méthode de Newton en 33 étapes (calcul automatique)
Dérivation d'ordre supérieur de la fonction sinus à 34 étapes
Graphique de calcul de différentiation d'ordre supérieur à 35 étapes
__Utilise d'autres méthodes que la différentiation d'ordre supérieur à 36 étapes

Construction d'un quatrième réseau neuronal Hill
__Gestion des tenseurs à 37 étapes
Fonction de transformation de forme en 38 étapes
Fonction de somme à 39 étapes
Fonction de diffusion en 40 étapes
produit matriciel à 41 étapes
Régression linéaire en 42 étapes
réseau neuronal à 43 étapes
__Une couche qui collecte les paramètres de l'étape 44
__Une couche qui regroupe des couches de 45 étapes
Mise à jour des paramètres effectuée par l'optimiseur en 46 étapes
Fonction softmax à 47 étapes et erreur d'entropie croisée
Classification multiclasse en 48 étapes
Étape 49 : Classe et prétraitement du jeu de données
Chargeur de données qui extrait des mini-lots de 50 étapes
Formation MNIST en 51 étapes

Le défi de DeZero à la colline 5
Prise en charge GPU en 52 étapes
__Enregistrement et chargement du modèle en 53 étapes
Mode de test et d'abandon en 54 étapes
Mécanisme CNN à 55 étapes (1)
Mécanisme CNN à 56 étapes (2)
Étape 57 : Fonction conv2d et fonction de pooling
__CNN représentatif à 58 étapes (VGG16)
Traitement de données de séries temporelles à l'aide d'un RNN à 59 étapes
Modèle LSTM à 60 étapes et chargeur de données

Annexe A Opérations sur place (Supplément à l'étape 14)
Annexe B : Implémentation de la fonction get_item (Supplément à l’étape 47)
Annexe C Exécution dans Google Collaborate

★ Un framework d'apprentissage profond conçu de A à Z en utilisant Python.
Les frameworks d'apprentissage profond regorgent de technologies étonnantes et de gadgets amusants.
Quelle est sa structure et quels sont ses principes de fonctionnement ? Quelles technologies sont utilisées et quelles idées sous-jacentes sont à l’œuvre ? L’objectif de la troisième partie est de mettre au jour ces questions et de les comprendre pleinement.
Nous avons mis en place une politique de « construction à partir de zéro » afin que vous puissiez également profiter du plaisir technique du processus.
J'espère que vous parviendrez à une compréhension plus profonde, difficile à atteindre simplement en utilisant des outils créés par d'autres.


- 1er avis_ Poser les bases du développement du cadre.
- 2e remarque_ Rend le code utilisant le framework plus naturel.
- 3ème remarque_ Étendre le cadre pour pouvoir obtenir la dérivée seconde.
Apprendre et comprendre la structure de « rétropropagation de la rétropropagation » vous ouvrira les yeux sur de nouvelles possibilités offertes par ce cadre.
- 4e Highland_ Nous avons réorganisé le cadre des réseaux neuronaux et l'avons utilisé pour construire facilement des réseaux neuronaux.
- Chapitre 5 : Ajoute des fonctionnalités essentielles pour l’apprentissage profond pratique, notamment la prise en charge du processeur, la sauvegarde et la restauration des modèles. Il aborde également les modèles avancés tels que les CNN et les RNN.
Ces sujets relatifs aux applications d'apprentissage profond peuvent être résolus en quelques lignes de code seulement s'ils sont implémentés sous forme de framework.

★Recommandation
Le titre de ce livre, « Deep Learning from Scratch », est tout à fait approprié.
Cela m'a été d'une grande aide, car j'étais toujours anxieux à l'idée d'utiliser l'apprentissage profond de manière superficielle.
Je recommande vivement ce cours à tous ceux qui souhaitent acquérir de solides bases en apprentissage profond, car il vous permettra de relever le défi avec seulement une compréhension de base de Python.
Kim Hyo-rin, développeur backend de startup

Ce livre vous aidera à comprendre la structure d'un framework d'apprentissage profond lors de son développement, et vous fournira également des sources d'inspiration pour la conception d'API.
En suivant attentivement les instructions, vous pouvez étudier plusieurs sujets à la fois.
Ce livre n'est pas destiné aux débutants.
Si vous commencez au niveau de « connaître au moins Python », vous progresserez d'un pas.
Moon Sang-hwan, Odd Concept, Institut de technologie de Tokyo

« Deep Learning from Scratch 3 » regorge de contenu utile non seulement pour l'apprentissage profond, mais aussi pour la programmation Python.
Une fois que vous aurez compris la structure de base des frameworks d'apprentissage profond grâce à ce livre, il vous sera beaucoup plus facile d'examiner directement le code de frameworks comme TensorFlow et PyTorch.
Même si vous ne travaillez pas dans le domaine de l'apprentissage profond, je recommande vivement ce livre à tout ingénieur Python intéressé par l'intelligence artificielle.
Jinhyung Park, cofondateur de XL8 et ancien ingénieur chez Apple

Je recommande ce livre à tous ceux qui rêvent de créer leur propre framework d'apprentissage profond, ainsi qu'à tous ceux qui souhaitent améliorer leurs modèles d'apprentissage profond.
En commençant par la différenciation automatique et en construisant le cadre à partir de zéro, j'ai pu apprendre la philosophie qui sous-tend les objectifs et la conception des cadres d'apprentissage profond modernes.
En fait, la lecture de ce livre m'a permis de mieux comprendre les codes PyTorch.
Ne rejetez pas ce livre en vous disant « Je ne compte pas construire un framework d'apprentissage profond ! » ; au fil de votre lecture, vous vous sentirez plus à l'aise avec l'utilisation des frameworks populaires.
Song Heon, programme de maîtrise en recherche en vision par ordinateur, école doctorale de l'université de Kyushu

Lors de ma lecture bêta de ce troisième volume, je me suis dit : « Ce livre va dominer le marché des ouvrages d'introduction à l'IA pour le moment. »
Ce livre fait d'une pierre deux coups : la structure du graphe de calcul dynamique dominant (Define-by-Run) en 2020 et la conception de base de l'intelligence artificielle.
Si vous avez du mal à établir des liens entre les connaissances, ce livre sera une véritable bénédiction.
Limite de temps, équipe de gestion de la communauté de discussion ouverte de l'intelligence artificielle VAIS

Ce livre sera d'une grande aide aux lycéens, aux étudiants, aux doctorants et à tous ceux qui travaillent dans ce domaine et qui commencent tout juste à étudier l'apprentissage profond.
Le contenu est complet et détaillé, permettant à ceux qui n'ont qu'une compréhension superficielle de l'apprentissage profond de combler leurs lacunes et d'acquérir une compréhension plus approfondie.
N'oubliez pas de le lire !
Sangjun Ahn, auteur de « Python Deep Learning PyTorch »

À l’ère post-COVID-19, les experts qui comprennent la technologie de l’IA et qui peuvent l’appliquer au domaine médical sont essentiels.
À travers ce livre, nous espérons vous aider à maîtriser davantage l'utilisation des frameworks populaires et à mettre en œuvre de puissants modèles d'apprentissage profond pouvant contribuer au diagnostic, au traitement et à la prévention médicale.
Je recommande vivement ce livre à tous ceux qui souhaitent appliquer l'apprentissage profond à leur domaine d'expertise en se basant sur les théories apprises dans « Deep Learning from Scratch ».
Lee Hyun-hoon, spécialiste en médecine coréenne, doctorant au département de médecine clinique coréenne de l'université Kyung Hee

Mettre en œuvre une bibliothèque ou un framework à partir de zéro peut être difficile et ardu, mais c'est une excellente occasion d'apprendre les éléments fondamentaux de l'apprentissage profond.
J'utilise TensorFlow et PyTorch, et j'ai au moins une fois envisagé de créer mon propre framework d'apprentissage profond.
Ce livre vous emmènera dans un long voyage, de la différentiation automatique à la mise en œuvre des réseaux neuronaux.
Ce livre vous offrira un excellent point de départ pour créer votre propre cadre de travail.
Ok Chan-ho, programmeur chez Nexon Korea, MVP Microsoft

Ce livre regorge d'aventures palpitantes, vous offrant la sensation immersive de conquérir chaque niveau d'un jeu de rôle bien conçu.
Au fil de leur lecture, les lecteurs acquerront une compréhension approfondie des mécanismes d'apprentissage profond et, en prime, apprendront à utiliser Python de manière avancée.
Le chemin est semé d'embûches, mais la satisfaction de tenir entre ses mains une arme assez coûteuse après l'avoir parcouru en entier durera longtemps.
Jeon Du-yong, professeur à la Faculté des arts libéraux de l'Université Sungwoon ; doctorant au Département de génie informatique de l'Université nationale de Kyungpook