La singularité est désormais plus proche.
Édition du 20e anniversaire de l'ouvrage original - Comprend un commentaire spécial du professeur Jaeseung Jeong de KAIST

L'ouvrage de Ray Kurzweil, *The Singularity is Near*, un classique de la futurologie qui a immédiatement créé une sensation mondiale dès sa publication, revient avec une nouvelle couverture et un commentaire spécial pour marquer le 20e anniversaire de la publication originale.
Cette édition commémorative comprend une introduction du professeur Jaeseung Jeong de KAIST, qui a réfléchi à l'avenir de la science, de la technologie et de l'humanité, offrant un regard approfondi sur les changements survenus au cours des 20 dernières années et sur les perspectives d'avenir.
Comme le suggère le sous-titre original du livre, « Quand l'humanité transcende la biologie », cet ouvrage explore le moment où les humains cessent d'être de simples êtres biologiques.
Kurzweil appelle ce point, où l'intelligence artificielle surpasse l'intelligence humaine, où la biotechnologie et la nanotechnologie redessinent nos corps et où la frontière entre réalité et réalité virtuelle s'estompe, la « singularité », et il prédit que ce point se produira en 2045.


Avec l'accélération exponentielle des progrès technologiques, la singularité n'est plus un concept du futur lointain.
Des nanorobots médicaux circulant dans nos vaisseaux sanguins, une conscience stockée numériquement et une intelligence se propageant au-delà de la vitesse de la lumière dans l'espace.
L'accélération du progrès technologique va fondamentalement changer le mode de vie des humains.
Mais le monde après la singularité n'est ni une simple utopie ni une dystopie.
C'est une nouvelle ère où les concepts que nous connaissions sont redéfinis.
La durée de vie humaine, le travail, la conscience et même le sens de la vie vont changer.
« La singularité est proche » interroge le choix que nous devrions faire face à ces changements.
Comme l'écrivait le professeur Jeong Jae-seung dans son introduction, « La singularité est proche », qui « présente clairement les défis et les opportunités auxquels les gens modernes doivent faire face maintenant que l'intelligence artificielle est soudainement entrée dans notre vie quotidienne », est « un livre que nous devrions tous garder à nos côtés et ouvrir fréquemment tout au long du XXIe siècle ».

S’il est difficile d’imaginer une civilisation future dotée d’une intelligence surpassant largement la nôtre, notre capacité à construire des modèles mentaux de la réalité nous permet d’envisager raisonnablement ce que signifierait pour les humains la fusion de leur pensée biologique avec l’intelligence non biologique qu’ils créent.
C’est précisément ce que je veux exprimer dans ce livre.
--- p.37

Qu’est-ce qu’une singularité ? Elle désigne une période future où le rythme des changements technologiques s’accélérera si rapidement et leur impact sera si profond que la vie humaine sera transformée de manière irréversible.
En cette période ni utopique ni dystopique, nous allons connaître des transformations dans tous les concepts qui donnent un sens à nos vies, des modèles économiques à la durée de vie humaine.
La mort ne fait pas exception.
Comprendre la singularité change notre perspective sur la signification du passé et sur ce qui nous attend.
Une compréhension précise de la singularité change fondamentalement notre vision de la vie, tant universelle qu'individuelle.
--- p.41~42

Un examen attentif de l'histoire de la technologie révèle rapidement que le changement technologique est exponentiel.
La croissance exponentielle est une caractéristique commune à tous les processus évolutifs, mais la technologie en est le meilleur exemple.
C’est le résultat de l’examen d’un large éventail de technologies, de l’électronique à la biologie, et de l’étendue de leur influence, voire de la quantité totale de connaissances humaines ou de la taille de l’économie, en utilisant diverses méthodes et échelles de temps.
En fait, outre la croissance exponentielle, on rencontre aussi souvent une croissance exponentielle «double».
Le taux de croissance exponentielle (c’est-à-dire l’exposant) fait référence à un phénomène dans lequel le taux d’augmentation croît de façon exponentielle.
--- p.49

Le rythme des changements technologiques ne sera pas limité par la vitesse de l'esprit humain.
L'intelligence artificielle s'auto-améliorera et optimisera ses capacités, et l'intelligence humaine sans assistance machine ne pourra pas suivre son rythme.
--- p.67

L'accélération continue du progrès technologique est une conséquence inévitable de ce que l'on appelle la loi des rendements accélérés.
La loi des rendements accélérés est un terme que j'ai inventé pour décrire le phénomène selon lequel le processus évolutif s'accélère et ses produits augmentent également de façon exponentielle.
Les produits de l'évolution comprennent les technologies liées à l'information, telles que l'informatique.
Le rythme des progrès dans ces technologies s'accélère au-delà des prévisions de la loi de Moore.
Les singularités sont une conséquence inévitable de la loi des rendements accélérés.
--- p.77~78

L'évolution utilise la rétroaction positive.
Autrement dit, les techniques utiles qui apparaissent à un stade du développement évolutif sont utilisées pour créer le stade suivant.
L'évolution a progressé plus rapidement en s'appuyant sur les acquis des étapes précédentes.
L'évolution se déroule de manière détournée.
L'évolution a créé les humains, les humains ont créé la technologie, et aujourd'hui, les humains travaillent avec une technologie en constante évolution pour créer la prochaine génération de technologies.
À l'ère de la singularité, la distinction entre l'humain et la technologie disparaîtra.
Il ne s'agit pas de dire que les humains deviendront comme les machines d'aujourd'hui, mais que les machines évolueront comme les humains d'aujourd'hui, voire au-delà.
--- p.85

Je prédis que 2045 sera l'année de la singularité.
Ce sera une époque où les capacités humaines subiront une transformation profonde et irréversible.
D’ici le milieu des années 2040, l’intelligence non biologique dominera le monde, mais il s’agira toujours de la civilisation humaine.
L'être humain transcende la biologie, pas l'humanité.
--- p.197

La réflexivité est particulièrement mise en avant dans les théories récentes sur les capacités langagières.
Dans ses premières théories du langage, Noam Chomsky soutenait qu'il existe des propriétés communes à de nombreuses langues, ce qui explique pourquoi différentes langues présentent des aspects similaires.
De plus, dans un article de 2002, Noam Chomsky, Mark Hauser et Tecumseh Fitch ont soutenu que seuls les humains possèdent la capacité de langage en raison d'une propriété appelée « réflexivité ».
La récursivité est la capacité de prendre des éléments plus petits, de construire des blocs plus grands, d'utiliser ces blocs comme pièces pour construire d'autres structures, et ainsi de suite, de manière répétée.
Grâce à cela, nous pouvons créer des structures de phrases et de paragraphes riches avec un nombre limité de mots.
--- p.268~269

Durant la première moitié du XXIe siècle, nous assisterons à trois révolutions successives et simultanées.
Une révolution en génétique, une révolution en nanotechnologie, une révolution en robotique.
Avec cela commencera l'ère que j'appelle la Cinquième Période, l'ère de la Singularité.
Nous sommes actuellement aux prémices de la révolution « G (Génétique) ».
Nous apprenons à reprogrammer la biologie du corps humain en comprenant les processus de traitement de l'information que la vie incarne.
Nous apprenons à éradiquer les maladies, à développer considérablement le potentiel humain et à allonger considérablement l'espérance de vie.
Mais comme le souligne Hans Moravec, quelle que soit la liberté avec laquelle nous exploitons la biologie basée sur l'ADN, les humains resteront des « robots de second ordre ».
Cela signifie qu'une fois que nous aurons pleinement compris le fonctionnement de la biologie et que nous aurons commencé à la perfectionner, les outils de la biologie seuls ne suffiront plus.
--- p.289~290

Ce qui nous permettra de surmonter les limites de la biologie, c'est la révolution « N (nanotechnologie) ».
Cela nous permettra de repenser et de réassembler nos corps, nos cerveaux et le monde dans lequel nous vivons au niveau moléculaire.
L'innovation la plus puissante est la révolution à venir de la robotique.
Des robots de niveau humain verront le jour, conçus sur le modèle de l'intelligence humaine mais repensés pour être encore plus puissants.
La révolution R est le changement le plus significatif.
Car l'intelligence est la « force » la plus puissante de l'univers.
--- p.290

Il en va de même pour le corps et le cerveau.
La seule différence, c'est que si les méthodes d'entretien des bâtiments sont bien connues, les principes de la vie, eux, ne le sont pas entièrement.
Cependant, à mesure que nos connaissances sur le développement de la biologie et des réactions biochimiques progressent rapidement, le jour viendra bientôt où nous en saurons suffisamment.
Nous commençons désormais à appréhender le vieillissement comme un processus complexe, plutôt que comme un événement unique et inévitable.
Des stratégies visant à inverser chacun de ces processus de vieillissement commencent également à émerger.
Il s'agit de l'utilisation de diverses combinaisons de technologies biotechnologiques.
--- p.299~300

Quand on parle de contrôler le patrimoine génétique humain, on pense généralement à créer des « bébés sur mesure ».
Mais la véritable valeur de la thérapie génique réside dans la modification des gènes des adultes.
Il s'agit de supprimer les gènes défectueux responsables de maladies, d'introduire de nouveaux gènes bénéfiques capables de ralentir le vieillissement, voire de rajeunir l'organisme.
--- p.303

L'essor des nanotechnologies pourrait entraîner des changements environnementaux importants.
Par exemple, des technologies de fabrication et de traitement permettant de réduire considérablement les émissions de polluants verront le jour, de même que des technologies permettant d'améliorer la qualité de l'air après la pollution accumulée tout au long de l'ère industrielle.
Répondre à nos besoins énergétiques grâce à des sources d'énergie renouvelables et propres, telles que les nanopanneaux solaires, aura également des conséquences environnementales positives.
--- p.353~354

Des trois grandes révolutions (G, N, R) qui sous-tendront la singularité, R (robotique) est la plus profonde.
Cela signifie la naissance d'une intelligence non biologique qui surpasse celle des humains ordinaires.
À mesure que des processus de pensée plus sophistiqués émergent, les êtres moins intelligents seront progressivement laissés pour compte, et l'intelligence deviendra la force dominante de l'univers. Si le « R » de GNR signifie robotique, le véritable enjeu réside dans l'IA forte (une intelligence artificielle qui surpasse l'intelligence humaine).
Mais si nous insistons sur la robotique, c'est parce que l'intelligence a besoin d'un corps, d'une entité physique, pour influencer le monde.
--- p.367

Les nanotechnologies seront incroyablement révolutionnaires, mais l'intelligence artificielle puissante aura un impact incommensurablement profond.
La nanotechnologie est certes puissante, mais elle n'est pas intrinsèquement intelligente.
Le pouvoir des nanotechnologies est immense, mais nous pourrions trouver des moyens de le contrôler.
En revanche, la superintelligence est par essence incontrôlable.
--- p.370

L'ère de l'IA puissante approchera progressivement.
Tant qu'il y aura un écart, même minime, entre les capacités humaines et celles des machines, les sceptiques à l'égard de l'IA forte ne cesseront de critiquer.
Mais nous risquons de vivre ce que Kasparov a vécu dans tous les domaines de la technologie et du savoir-faire mécanique.
Lorsque la courbe de croissance exponentielle des machines atteint un point d'inflexion, nous serons surpris de constater que leurs performances passent soudainement d'un niveau marginal à un niveau exceptionnel.
--- p.411~412

À mesure que les révolutions G, N et R s'entremêlent, nos fragiles châssis version 1.0 se transformeront en châssis version 2.0 plus résistants et performants.
Des milliards de nanorobots circuleront dans le sang de notre corps et de notre cerveau, accomplissant diverses tâches pour améliorer notre santé physique, notamment en combattant les agents pathogènes, en corrigeant les erreurs de l'ADN et en éliminant les toxines.
Nous pourrions vivre indéfiniment sans vieillir.
--- p.422

Les guerres seront menées avec des armes utilisant des nanorobots, et les armes virtuelles proliféreront également.
L'apprentissage se déroulera initialement en ligne, mais une fois que le cerveau lui-même pourra se connecter à Internet, il sera capable de télécharger de nouvelles connaissances et compétences sans aucun processus fastidieux.
Il nous suffit de créer toutes sortes de connaissances, de la musique et de l'art aux mathématiques et aux sciences.
Le jeu deviendra également une forme de création de connaissances, de sorte qu'il n'y aura en réalité plus de frontière nette entre travail et jeu.
--- p.422

Robert Fraters estime que si nous pouvions prévenir seulement 50 % des maladies médicalement évitables, l'espérance de vie pourrait augmenter de 150 ans.
Si nous pouvions prévenir 90 % des problèmes médicaux, nous vivrions 100 ans de plus ; si nous pouvions en prévenir 99 %, nous vivrions plus de mille ans.
Lorsque les révolutions biotechnologiques et nanotechnologiques seront pleinement réalisées, la quasi-totalité des causes médicales de décès pourront être surmontées.
À mesure que nous devenons de plus en plus non biologiques, nous pourrons peut-être « nous sauvegarder » (c’est-à-dire stocker des schémas clés de connaissances, de compétences et de personnalité), et alors toutes les causes connues de décès deviendront insignifiantes.
--- p.445

Aujourd'hui, grâce aux progrès technologiques, nous avons largement surmonté la dure condition humaine.
Du moins, c'est le cas dans les pays développés.
Même dans les pays pauvres, l'écart d'espérance de vie entre les citoyens et ceux des pays développés n'est pas si important.
Le progrès technologique suit un schéma typique : il commence par des produits peu fiables et excessivement chers, puis évolue vers des produits légèrement plus chers dotés de fonctionnalités légèrement meilleures, et enfin vers des produits relativement peu coûteux et fiables.
Finalement, la technologie a atteint un niveau d'efficacité qui la rend si performante, omniprésente et quasiment gratuite.
La radio, la télévision et les téléphones portables ont suivi cette voie.
L'Internet actuel a atteint un stade où il est peu coûteux et fonctionne de manière fiable.
--- p.476~477

Je réfléchis aux singularités depuis des décennies.
Il va sans dire que cette idée ne prendra jamais fin.
Je me suis intéressé à la relation entre la pensée humaine et la technologie informatique dans les années 1960, alors que j'étais adolescent.
Dans les années 1970, j'ai commencé à étudier l'accélération du progrès technologique et, à la fin des années 1980, j'ai écrit mon premier livre sur le sujet.
Alors, je réfléchis depuis un certain temps à la façon dont cette transformation, déjà en cours, et les différents changements qui se déploieront par étapes, affecteront non seulement moi-même, mais aussi la société.
--- p.520

La convergence de l'humain et de la technologie est clairement un événement qui entraînera des changements rapides.
Mais c'est une ascension difficile qui permettra d'obtenir des avantages extraordinaires, et non une descente qui vous mènera dans l'abîme de Nietzsche.
Certains considèrent les humains post-fusion comme une nouvelle « espèce ».
Mais le concept même de papier est un concept purement biologique, et pourtant le changement transcende la biologie elle-même.
Le changement connu sous le nom de singularité n'est pas l'étape finale de la longue histoire de l'évolution biologique.
Il s'agit d'un stade qui surpasse complètement l'évolution biologique.
--- p.526~527

Je crois en une philosophie basée sur les modèles.
Je crois que l'existence d'un pays repose fondamentalement sur un schéma perpétuel.
Je suis un modèle en évolution, et j'influence l'évolution de mes propres modèles.
La connaissance est aussi un modèle.
C'est différent de l'information.
Et la perte du savoir est une grande perte.
Par conséquent, la mort d'une personne représente la perte ultime, la plus grande.
--- p.544

Je pense que nous devrions prendre tout aussi sérieusement en considération les voix de plus en plus persistantes et erronées des luddites qui affirment que nous devrions abandonner le progrès technologique à grande échelle pour éviter les dangers du GNR.
Abandonner n'est pas la solution.
Parfois, même face à des peurs rationnelles, les humains proposent des solutions irrationnelles.
Si nous continuons à retarder le développement de technologies qui permettront de mettre fin à la souffrance humaine, les conséquences seront désastreuses.
--- p.574

Il est facile de romantiser le passé.
Mais il est important de se rappeler que, jusqu'à très récemment, la majeure partie de l'humanité vivait dans une extrême précarité, où de simples malheurs pouvaient facilement mener à la catastrophe.
Il y a deux cents ans, l'espérance de vie des femmes dans le pays qui compte le plus de données (la Suède) était d'environ 35 ans, ce qui est très court comparé à l'espérance de vie maximale actuelle de 85 ans pour les femmes japonaises.
L'homme avait environ 33 ans, ce qui est encore jeune comparé à la moyenne actuelle de 79 ans.
Il fallait travailler une demi-journée pour gagner de quoi dîner ce soir-là, et la plupart des activités des gens impliquaient des travaux pénibles.
Il n'y avait pas de filet de sécurité sociale.
Aujourd'hui encore, certaines personnes vivent dans des conditions si précaires, et c'est pourquoi elles ne peuvent renoncer au progrès technologique et à la croissance économique qui en découle.
--- p.577

La possibilité constante de soulager la souffrance humaine est un puissant moteur du progrès technologique.
Il est également possible que des avantages économiques encore plus importants soient obtenus à l'avenir.
À mesure que diverses technologies interdépendantes progressent à un rythme accéléré, nous ouvrons la voie à des parcours d'excellence (il existe de nombreux parcours, car il n'y a pas qu'un seul chemin vers le progrès technologique).
Dans un environnement concurrentiel, cette voie est suivie pour des raisons économiques.
Renoncer au progrès technologique équivaut à un suicide économique pour les individus, les entreprises et les nations.
--- p.579

Je crois qu'il est bon de maintenir un système de marché libre et ouvert pour le progrès graduel de la science et de la technologie.
Je crois qu'un processus dans lequel le marché accepte et approuve chaque étape du développement constitue un environnement constructif où la technologie incarne les valeurs humaines.
Une IA puissante émergera d'efforts divers et s'enracinera profondément dans l'infrastructure de la civilisation.
Finalement, il pénétrera dans le corps et le cerveau.
Ce faisant, elle reflétera les valeurs humaines.
Parce que nous serons nous-mêmes une IA puissante.
Si les gouvernements tentent de contrôler secrètement les technologies par le biais de réglementations, celles-ci se diffuseront clandestinement et créeront un environnement instable où elles seront plus susceptibles d'être utilisées dans des situations dangereuses.
--- p.593~594

La technologie restera toujours une arme à double tranchant.
Il s'agit tout simplement d'un immense potentiel que l'humanité peut exploiter à diverses fins. Si la GNR peut contribuer à résoudre des problèmes humains de longue date comme la maladie et la pauvreté, elle peut aussi servir des idéaux destructeurs.
Nous n'avons d'autre choix que d'utiliser les technologies en évolution rapide pour promouvoir les précieuses valeurs humaines tout en renforçant nos capacités de défense.
Malheureusement, il n'existe pas de consensus clair sur ce que sont les valeurs les plus précieuses de l'humanité.

--- p.600