L'habitude de rendre l'IA, qui paraît difficile, facile consiste à suivre le raisonnement de la personne qui a créé cette technologie.
Ce livre offre une expérience unique permettant de « découvrir la technologie en suivant les personnes » à travers les histoires de 10 personnalités à la pointe de l'IA, dont Geoffrey Hinton, Jensen Huang, Ilya Sutskever et Demis Hassabis.
Au lieu d'expliquer l'intelligence artificielle de manière complexe, nous parlons de la façon dont les personnes qui ont créé cette technologie ont appris et de ce à quoi elles ont réfléchi.
Grâce à son récit centré sur les personnages, ses interviews captivantes et ses citations et interprétations judicieusement choisies, ce livre constitue une introduction parfaite à l'IA pour le grand public.

« Vers 2006, j’ai rencontré un ancien étudiant nommé Rick Zielinski lors d’une conférence, et il m’a dit :
«Vous devriez envisager d'utiliser une carte graphique.»
C'est idéal pour la multiplication matricielle.
« En gros, il s'agit d'une multiplication matricielle. » – Geoffrey Hinton, extrait d'un entretien avec la Royal Institution (2024)
--- p.28

Le professeur Hinton, qui poursuivait ses recherches sur l'intelligence artificielle à l'Université de Toronto, a un jour reçu une proposition intéressante de la part d'un étudiant.
Jusqu'à présent, nous utilisions des processeurs (CPU) pour l'apprentissage de l'intelligence artificielle, mais il nous a été suggéré d'essayer d'utiliser des processeurs graphiques (GPU).
Après avoir entendu cette suggestion, j'ai immédiatement acheté une carte graphique NVIDIA et je l'ai utilisée ; elle a effectué les calculs 30 fois plus rapidement que le processeur.
Ce fut un moment qui a permis de trouver une nouvelle utilité aux GPU, auparavant réservés aux PC de jeu haute performance.
Cette découverte allait bouleverser le paysage de l'industrie de l'intelligence artificielle, sans parler de Nvidia, mais personne n'aurait pu l'imaginer en 2006.

--- p.29

Le 37e coup d'AlphaGo, le Coup 37, lors du deuxième match contre Lee Sedol, 9-dan, était un coup très différent des règles traditionnelles du Go.
Les experts estiment que la probabilité que ce nombre se produise est d'environ 1 sur 10 000.
Mais lorsque nous analysons ce chiffre plus tard, nous constatons que ce qui semblait inefficace au premier abord était en réalité une initiative créative qui a apporté des avantages stratégiques à long terme.
Ce chiffre démontre que l'intelligence artificielle peut aller au-delà de la simple imitation des mouvements humains et créer de nouvelles stratégies.
On raconte que Lee Sedol, neuvième dan, fut profondément choqué en voyant ce mouvement.
Il a ensuite fait remarquer dans une interview que «aucun être humain ne ferait jamais une chose pareille».
Ce coup, AlphaGo l'a appris de lui-même en jouant au Go entre eux et en renforçant les comportements qui augmentent les scores.

--- p.61

« Le prochain robot qui apparaîtra après l’automobile sera probablement un robot humanoïde. »
Nous disposons désormais de la technologie nécessaire pour construire des robots humanoïdes polyvalents.
À certains égards, les robots humanoïdes pourraient être plus faciles, car ils sont structurés d'une manière très similaire à la nôtre,32 et ont donc beaucoup plus de données d'entraînement à fournir.
— Jensen Huang, extrait de son discours d'ouverture à la GTC 2024
--- p.103

En règle générale, une entreprise compte un responsable qui encadre et rend compte à trois à quinze personnes, mais Jensen Huang a déclaré dans une interview qu'il recevait des rapports de soixante personnes.
Je pense que c'est une échelle gérable, travailler 14 heures par jour, 7 jours par semaine.
Jensen Huang a expliqué que s'il travaillait de cette manière, c'était pour respecter le principe de « s'assurer que tout le monde entende ce que je dis en même temps » et pour garantir qu'aucune information ne soit véritablement privée.
L'argument avancé est que cette approche est plus efficace car chacun peut collaborer pour résoudre les problèmes et trouver des solutions en partageant les mêmes connaissances de base.
En réunissant tout le monde au même endroit pour entendre le problème et la logique de la solution, chaque membre de l'organisation comprend le tableau d'ensemble et a la possibilité d'y contribuer.

--- p.111

Les dix notes qu'il a rédigées à cette époque ont non seulement fait de lui le troisième PDG de Microsoft, mais ont également offert l'opportunité de relancer Microsoft, qui était en difficulté.
Le contenu de la note peut être résumé en deux concepts principaux : « l’intelligence ambiante » et « l’informatique omniprésente ».
Il a soutenu que l'intelligence artificielle devait être facilement accessible et toujours présente pour les utilisateurs, comme une musique de fond, et que l'informatique devait être accessible de partout, c'est-à-dire qu'il fallait privilégier les services cloud.

--- p.126

Il faut un changement de perspective sur l'éducation, non pas comme un lieu où tout le monde apprend la même chose au même moment et au même endroit, mais comme un lieu où chaque personne apprend quelque chose de différent en fonction de ses aptitudes et de ses capacités.
La pratique consistant à ne suivre que les cours dont on a besoin grâce aux formations en ligne est déjà bien répandue.
À l'avenir, ces cours seront organisés et proposés par niveau, associés à des méthodes d'évaluation objectives et rationnelles, vous permettant ainsi de profiter pleinement du processus comme s'il s'agissait d'un jeu.
Apprendre le calcul différentiel et intégral sans savoir pourquoi on a besoin d'apprendre les mathématiques est une expérience totalement différente de celle d'apprendre le calcul différentiel et intégral pour la rentrée atmosphérique d'un vaisseau spatial habité.
Dans le premier cas, le calcul différentiel et intégral n'est qu'une connaissance superficielle permettant de réussir un examen, mais dans le second, il fait partie d'une mission cruciale qui touche à des vies humaines.
Si nous pouvons enrichir les expériences d'apprentissage des générations futures avec une série de projets passionnants comme celui-ci, nous pourrons impliquer davantage ces esprits curieux et imaginatifs dans la société.

--- p.143

Pour expliquer brièvement le processus d'apprentissage du modèle GPT, l'apprentissage GPT est réalisé à l'aide de la méthode de prédiction du jeton suivant.
Par exemple, supposons que nous ayons une phrase comme celle ci-dessous.
Lorsque vous voyez la phrase « Je suis un/une ___ », vous pouvez probablement facilement penser à des mots comme garçon et fille pour compléter le blanc.
Ce qui vient de se passer dans notre tête, c'est la prédiction du mot suivant, et cela est fortement influencé par la fréquence de cette combinaison dans les données d'entraînement.
Si on vous racontait une histoire dont le personnage principal était un lion, vous seriez peut-être plus enclin à dire « lion » que « garçon ».
Ainsi, plus vous apprenez, plus les expressions que vous pouvez utiliser sont riches, et plus le niveau de connaissances que vous pouvez stocker est élevé.

--- p.160

Cependant, si l'IA peut développer de tels modèles internes, pourrait-elle accéder à la conscience de soi ? Peut-être que la « conscience » est une forme différente de la conscience humaine.
Cependant, la manière dont elle se manifeste est perçue par l'œil humain comme étant consciente.
Si l'intelligence artificielle devenait consciente, que ce soit de manière visible ou réelle, pourrions-nous l'ignorer complètement ? Ilya a fait remarquer que si l'intelligence artificielle devenait consciente, elle pourrait revendiquer des droits.
Il a ensuite exprimé un point de vue légèrement optimiste, déclarant : « Si nous voulons que l'IA coexiste avec nous et ait des droits, ce n'est pas un mauvais résultat. »
--- p.175

Le professeur Sutton est l'une des personnes les plus optimistes quant à l'avenir de l'IA.
Il a soutenu que l'IA ne devait pas être perçue comme un « étranger hostile », mais comme « nos alliés et descendants ». Plutôt que de tenter de contrôler l'IA, a-t-il affirmé, nous devrions nous concentrer sur la création de structures sociales mutuellement bénéfiques qui permettent aux humains et à l'IA de travailler ensemble, même s'ils ont des objectifs différents.
De même que les individus n'ont pas tous les mêmes objectifs, mais que les normes et les structures sociales leur permettent de coopérer malgré des objectifs personnels conflictuels, je crois que la relation entre les humains et l'IA sera similaire.

--- p.187

« Les LLM se contentent de mémoriser une grande quantité d’informations et de les restituer ; on ne peut donc pas dire qu’ils possèdent une intelligence de niveau humain. »
« La véritable intelligence de niveau humain est la capacité de généraliser et de résoudre des problèmes dans des situations inédites avec des données d'entraînement très limitées. » – François Chollet, fondateur de Keras, extrait d'un entretien avec Dwakesh Patel (2024)
--- p.206

« Ils confondent technologie et intelligence. Entraîner une IA à jouer 100 000 parties ne la rend pas plus intelligente. »
« On acquiert simplement plus de compétences. » – François Cholet, extrait d’un entretien avec Dwakesh Patel (2025)
--- p.217

« Personnellement, je pense que Tesla est en avance sur Waymo. »
Cela peut paraître surprenant, mais je reste très optimiste quant à Tesla et son programme de conduite autonome.
Je pense que Tesla a un problème logiciel et Waymo un problème matériel.
« Et je pense que les problèmes logiciels sont beaucoup plus faciles à résoudre. » – Andrey Kapash, extrait d’une interview dans No Priors (2024)
--- p.232

Andrey affirme également que l'ère des « robots humanoïdes » est proche.
Dans cette même interview, il a déclaré que le robot Optimus de Tesla n'est fondamentalement pas différent d'une voiture autonome, à ceci près qu'il possède des jambes au lieu de roues, et que 70 à 80 % de la technologie créée pour l'Autopilot de Tesla est utilisée dans le robot Optimus.
C’est pourquoi on prévoit que les robots humanoïdes feront leur apparition dans notre vie quotidienne bien plus tôt qu’on ne le pense.

--- p.240

« J’ai pris un café avec Ilya fin 2021 et nous avons parlé du calendrier de l’AGI. »
Honnêtement, j'avais dit que ça prendrait beaucoup de temps.
(...) pour atteindre la superintelligence, nous devons trouver comment mettre à l'échelle le calcul d'inférence de manière très générale.
Je pensais que ce serait une tâche de recherche extrêmement difficile, et qu'elle prendrait au moins 10 ans.
Mais en réalité, nous y sommes parvenus en deux ans. » – Noam Brown d’OpenAI, extrait d’une interview avec la chaîne YouTube Unsupervised Learning (2024)
--- p.262

À bien y réfléchir, les personnes les plus riches sont généralement celles qui ont réussi à changer leur mode de vie.
Le magnat de l'automobile Henry Ford est devenu très riche en passant des déplacements en calèche à la conduite automobile, et Steve Jobs, d'Apple, est devenu très riche en inaugurant l'ère des ordinateurs personnels avec le Macintosh.
Et en 2007, l'iPhone a été créé, inaugurant l'ère du mobile et changeant à deux reprises le mode de vie des gens.
Il en va de même pour Jeff Bezos, le patron d'Amazon.
Il est devenu très riche en ouvrant l'ère du commerce électronique, où les gens pouvaient acheter des choses sans se rendre en magasin, et grâce à Amazon Web Services, il a ouvert l'ère du cloud, où les entreprises pouvaient louer des centres de données sur le marché de l'informatique d'entreprise, et il a accéléré l'émergence de nombreuses start-ups.
Pour Elon Musk, tout a commencé avec l'avènement de l'ère des fusées réutilisables, grâce à la réduction drastique du coût des lancements de fusées via SpaceX.
Nous avons inauguré l'ère de l'internet par satellite en connectant internet grâce aux satellites Starlink.
De plus, Tesla a ouvert l'ère des véhicules électriques.
Il ne s'est pas arrêté là, proposant un nouveau mode de vie appelé conduite autonome, et il semble probable que les modes de vie des gens changeront au moins cinq fois de plus à l'avenir, avec des choses comme la migration vers Mars et les robots humanoïdes.

--- p.286