Au fil des siècles, la technologie a considérablement amélioré la vie de milliards de personnes.
Grâce à la médecine moderne, nous sommes incomparablement en meilleure santé, la grande majorité des gens dans le monde bénéficient d'une alimentation abondante, les gens sont plus instruits que jamais auparavant et nous vivons dans une plus grande paix et un plus grand confort matériel.
Il s'agit d'une réalisation décisive, fruit de la science et de la technologie, grand moteur de l'humanité.
C’est pourquoi j’ai également consacré ma vie au développement d’outils sûrs.
Mais notre optimisme, né d'une histoire si particulière, doit s'ancrer dans une réalité plus sobre.
Pour éviter l'échec, il faut comprendre ce qui peut mal tourner et, en fin de compte, être capable d'y faire face.
Nous devons suivre le raisonnement jusqu'à sa conclusion logique sans craindre où il pourrait nous mener, et lorsque nous atteignons cette conclusion, nous devons prendre les mesures appropriées.
La prochaine vague technologique risque d'échouer plus rapidement et à une échelle plus grande que tout ce que nous avons connu jusqu'à présent.
Dans des situations comme celle-ci, une attention mondiale est nécessaire.
Et nous avons besoin de réponses que personne n'a encore trouvées.
À première vue, la situation semble impossible à maîtriser.
Mais nous devons tous être capables de la maîtriser.

---Extrait du « Chapitre 1 : La suppression est impossible »

Pendant près d'un siècle, des vagues successives ont conduit l'humanité de l'ère des bougies et des calèches à l'ère des centrales électriques et des stations spatiales.
Des changements similaires se produiront au cours des 30 prochaines années.
Dans les décennies à venir, des vagues de nouvelles technologies poseront certaines des questions les plus fondamentales auxquelles l'humanité aura jamais à faire face.
Allons-nous modifier nos gènes pour concevoir des enfants immunisés contre certaines maladies, dotés d'une intelligence accrue ou d'une espérance de vie plus longue ? Ferons-nous tout notre possible pour conserver notre place au sommet de la pyramide de l'évolution, ou laisserons-nous émerger des systèmes d'IA plus intelligents et plus performants que nous ? Quelles conséquences imprévues pourraient découler de l'exploration de ces questions ? Ces interrogations révèlent des vérités essentielles sur la technologenèse de l'Homo au XXIe siècle.
De tout temps, le défi de la technologie a été de la développer et de libérer son potentiel.
Mais cette tendance historique a changé.
Le défi technologique actuel est de maîtriser son potentiel afin qu'il continue à nous être bénéfique, à nous et à la planète.
Ces défis sont désormais sur le point de connaître une escalade décisive.

---Extrait du « Chapitre 3 : Le problème de la suppression technologique »

Personne ne sait comment les fonctionnalités sur lesquelles nous travaillons si dur seront intégrées à la prochaine version.
Viendra un moment où la technologie deviendra entièrement autonome, subissant un processus d'amélioration itérative, progressant au-delà de toute explication, et devenant finalement impossible à prédire comment elle se comportera dans le monde réel — un point où le pouvoir et le contrôle humains atteindront leurs limites.
Si la vague de changements à venir est si extrême, l'humanité pourrait finir par perdre sa place au sommet de la chaîne alimentaire.
L'Homo technologus pourrait un jour être menacé par la technologie qu'il a créée.
La vraie question n'est pas de savoir si la vague va arriver ou non.
Car il est clair que la vague est déjà en train de se former.
Compte tenu des risques potentiels, la question vraiment importante est de savoir comment les éviter.

---Extrait du « Chapitre 7 : Quatre caractéristiques de la vague à venir »

Tout est divulgué, copié, répété et amélioré.
De plus, comme tout le monde s'observe et apprend des autres, et que tant de personnes explorent le même domaine, il est inévitable que quelqu'un finisse par découvrir la prochaine technologie révolutionnaire.
Et il est pratiquement impossible de supprimer cela.
Car quelqu'un d'autre découvrira la même intuition ou trouvera une approche similaire pour parvenir au même résultat.
Les gens ne cesseront jamais de rechercher le potentiel stratégique, le profit, la célébrité, etc.
C’est pourquoi nous ne rejetons pas la nouvelle vague.
C’est précisément pourquoi une nouvelle vague arrive, et pourquoi il sera difficile de la contenir.
La technologie est désormais devenue un système indispensable à grande échelle qui influence tous les aspects de notre vie quotidienne, de notre société et de notre économie.
Sans la technologie, on ne peut rien faire.
Des incitations clairement établies sont bénéfiques pour accroître considérablement la quantité de technologies.
Personne ne peut contrôler totalement ce que fera ce système technologique ni où il évoluera.
Il ne s'agit pas d'un concept philosophique obscur, d'un scénario déterministe extrême ou d'un technocentrisme californien visionnaire ; c'est une description fondamentale du monde dans lequel nous vivons tous — un monde dans lequel nous vivons en réalité depuis un certain temps déjà.

---Extrait du chapitre 8 : La suppression est impossible

Si ce livre semble adopter une position contradictoire, exprimant à la fois optimisme et inquiétude quant à la technologie, c'est parce que cette perspective contradictoire constitue l'évaluation la plus honnête de notre situation actuelle.
Nos arrière-grands-parents auraient été émerveillés par l'abondance du monde dans lequel nous vivons.
Mais en même temps, ils auraient été choqués par la vulnérabilité et les dangers de ce monde.
Avec la vague qui s'annonce, nous sommes confrontés non seulement à des menaces réelles aux conséquences potentiellement catastrophiques, mais aussi à des menaces pesant sur l'existence même de notre espèce.
La technologie est à la fois notre plus grande force et notre pire faiblesse.
Il n'existe pas d'approche unique qui puisse véritablement saisir l'essence de ces technologies.
La seule façon d'aborder la technologie de manière cohérente est de reconnaître et de comprendre simultanément ses deux aspects.
Au cours de la dernière décennie, ce dilemme s'est accentué et la nécessité d'y remédier est devenue plus urgente.
Quand on regarde le monde, la suppression semble impossible.
Mais à mesure que nous observons les conséquences de la vague à venir, une chose devient claire.
Le fait est que la répression doit être possible pour tous.

---Extrait du chapitre 12 « Dilemmes »

Je pense qu'il est impossible, dans le monde actuel, de contenir la vague qui arrive.
Toutefois, ces mesures peuvent modifier les conditions fondamentales.
Nous devons créer une opportunité pour améliorer, même légèrement, la situation actuelle et la freiner.
Nous devons aborder cette question en sachant que tout cela peut échouer, mais c'est le mieux que nous puissions faire pour créer un monde où la prospérité et la modération humaines peuvent coexister.
Il n'y a ni garanties ni solutions miracles ici.
Ceux qui s'attendent à une solution miracle et rapide ou à une réponse astucieuse risquent d'être déçus.
Face à un dilemme, nous avons tendance à adopter l'attitude très humaine qui consiste à faire de notre mieux et à attendre un résultat positif.
Voici 10 solutions auxquelles je peux penser :

---Extrait du « Chapitre 14 : Dix étapes vers la suppression »