Nexus 1 (livre en gros caractères)
 |
Description
Introduction au livre
◆ Nouvelles œuvres de Yuval Harari après six ans d'absence : « Sapiens » et « Homo Deus » ◆ Un best-seller du New York Times, du Sunday Times et d'Amazon dès sa parution La menace de l'intelligence non humaine et un avertissement pour notre avenir « L’IA ne fait pas seulement partie de l’histoire de notre espèce, « Cela pourrait changer le cours de l’évolution de toute vie. » Le professeur Yuval Harari, qui s'est hissé au rang des penseurs les plus importants de notre époque grâce à ses best-sellers mondiaux 『Sapiens』 『Homo Deus』 et 『21 Leçons pour le XXIe siècle』, est de retour avec un nouvel ouvrage qui pénètre le sens et l'essence de la révolution de l'IA avec une perspicacité remarquable et qui réfléchit avec lucidité aux opportunités qui restent à l'humanité. Entre l'effondrement écologique, les tensions politiques internationales et une révolution de l'IA potentiellement bénéfique ou néfaste, quelle part de la nature humaine nous pousse vers l'autodestruction ? En quoi l'IA diffère-t-elle des technologies de l'information précédentes, et pourquoi est-elle si dangereuse ? Espèce la plus intelligente au bord de l'extinction, pouvons-nous, nous autres Sapiens, trouver le moyen de survivre et de prospérer ? Loin de se cantonner à sa tour d'ivoire, le professeur Harari a acquis des connaissances interdisciplinaires en sciences politiques, sciences des religions, études médiatiques, biologie évolutive et informatique. Son point de vue historique unique et son talent de conteur s'avèrent précieux lors de moments cruciaux pour l'humanité. Dans 『Nexus』, où les arguments qu’il a développés dans 『Sapiens』 et 『Homo Deus』 sont intégrés autour du concept d’« information » et révélés d’une manière plus sophistiquée, nous rencontrons la solution « réaliste » inébranlable du professeur Harari. Dans un monde où une intelligence non humaine menace notre existence même, nous ne pouvons pas nous permettre de commettre des erreurs. |
indice
* Volume 1
prologue
Partie 1 : Réseaux humains
1 Qu'est-ce que l'information ?
Histoire 2 : Connexion infinie
3 Document : La menace du tigre de papier
Erreur 4 : L'illusion d'infaillibilité
5. Décision : Une brève histoire de la démocratie et du totalitarisme
Partie 2 : Réseaux inorganiques
6 Nouveau membre : En quoi les ordinateurs diffèrent-ils de l’impression ?
*Volume 2
7. Persistant : Le réseau est toujours actif.
8 Erreurs possibles : les réseaux se trompent souvent.
Partie 3 : La politique informatique
9 Démocratie : pouvons-nous continuer à dialoguer ?
10 Totalitarisme : Tout le pouvoir entre les mains des algorithmes ?
11 Rideau de silicium : Empire mondial ou division mondiale ?
Épilogue
Remerciements
Note du traducteur
principal
Recherche
prologue
Partie 1 : Réseaux humains
1 Qu'est-ce que l'information ?
Histoire 2 : Connexion infinie
3 Document : La menace du tigre de papier
Erreur 4 : L'illusion d'infaillibilité
5. Décision : Une brève histoire de la démocratie et du totalitarisme
Partie 2 : Réseaux inorganiques
6 Nouveau membre : En quoi les ordinateurs diffèrent-ils de l’impression ?
*Volume 2
7. Persistant : Le réseau est toujours actif.
8 Erreurs possibles : les réseaux se trompent souvent.
Partie 3 : La politique informatique
9 Démocratie : pouvons-nous continuer à dialoguer ?
10 Totalitarisme : Tout le pouvoir entre les mains des algorithmes ?
11 Rideau de silicium : Empire mondial ou division mondiale ?
Épilogue
Remerciements
Note du traducteur
principal
Recherche
Dans le livre
L'information n'a rien à voir avec la vérité, et son rôle dans l'histoire n'est pas de reproduire fidèlement la réalité existante.
L'information sert plutôt à relier des éléments disparates pour créer de nouvelles réalités, qu'il s'agisse d'amoureux ou d'empires.
La caractéristique déterminante de l'information n'est pas la représentation mais la connexion ; l'information est donc ce qui relie différents points au sein d'un réseau.
L'information ne doit pas nécessairement vous apprendre quelque chose sur quelque chose.
L'information sert plutôt à relier différentes choses entre elles pour en faire quelque chose de cohérent.
Les horoscopes lient les amoureux aux étoiles, les émissions de propagande lient les électeurs à la politique et les chants militaires lient les soldats aux formations militaires.
--- « 1.
Extrait de « Qu'est-ce que l'information ? »
Comme le montrent l'histoire de l'imprimerie et des chasses aux sorcières, la déréglementation du marché de l'information ne garantit pas que les individus découvriront et corrigeront leurs propres erreurs.
Car, sur un marché de l'information libre, la colère a plus de chances de l'emporter que la vérité.
Pour que la vérité triomphe, nous devons créer des agences de sélection ayant le pouvoir de faire pencher la balance en faveur des « faits ».
Mais comme le montre l'histoire de l'Église catholique, de telles institutions peuvent utiliser leur pouvoir de contrôle pour étouffer les critiques à leur égard.
Autrement dit, toute opinion divergente risque d'être qualifiée d'erronée, empêchant ainsi la mise en lumière et la correction des erreurs de l'institution.
Est-il possible de créer une meilleure agence de curation qui utilise le pouvoir qui lui est conféré pour rechercher la vérité, plutôt que pour acquérir davantage de pouvoir ?
--- « 4.
Erreur : L'illusion de l'infaillibilité
Les régimes totalitaires utilisent les technologies de l'information modernes pour centraliser la circulation de l'information et étouffer la vérité afin de maintenir l'ordre.
De ce fait, les réseaux totalitaires doivent faire face au risque de durcissement de leurs artères informationnelles.
L'afflux croissant d'informations vers une source unique permettra-t-il un contrôle efficace ou, au contraire, engorgera-t-il les systèmes et mènera-t-il à des crises cardiaques ? À l'inverse, dans les systèmes démocratiques, les technologies de l'information modernes servent à diffuser l'information auprès d'un plus grand nombre d'institutions et d'individus, favorisant ainsi la libre recherche de la vérité.
De ce fait, les réseaux démocratiques doivent faire face au risque d'effondrement.
Imaginez ce réseau comme un système solaire avec de plus en plus de planètes tournant de plus en plus vite.
Mais le centre pourra-t-il tenir bon, ou tout basculera-t-il dans l'anarchie ?
--- « 5.
Extrait de « Décision : une brève histoire de la démocratie et du totalitarisme »
L'influence politique des algorithmes mérite d'être approfondie.
Avant tout, de nombreux lecteurs contesteront l'affirmation selon laquelle les algorithmes prennent des décisions indépendantes, arguant que tout ce qu'ils font est le résultat d'un code écrit par des développeurs humains et de modèles commerciaux adoptés par des gestionnaires humains.
Ce livre adopte un point de vue différent.
Les soldats humains obéissent à leur code génétique et aux ordres de leurs supérieurs, tout en restant capables de prendre des décisions de manière indépendante. Il est important de comprendre que cela vaut également pour les algorithmes d'IA.
Les algorithmes peuvent également apprendre par eux-mêmes, sans être programmés par des développeurs humains, et prendre des décisions que les gestionnaires humains ne peuvent pas anticiper.
L'essence de la révolution de l'IA réside dans l'émergence d'innombrables nouveaux acteurs qui exercent une influence considérable.
--- « 6.
Nouveau membre : En quoi l’informatique diffère-t-elle de l’impression ?
À mesure que les effets néfastes devenaient évidents, les grandes entreprises technologiques ont été averties à plusieurs reprises de ce qui se passait, mais elles n'ont pas agi car elles avaient une vision naïve de l'information.
Malgré le flot incessant de mensonges et d'indignation qui régnait sur la plateforme, les dirigeants espéraient que si davantage de personnes pouvaient s'exprimer plus librement, la vérité finirait par triompher.
Mais cela ne s'est pas produit.
Comme nous l'avons constaté d'innombrables fois au cours de l'histoire, lorsque toutes les informations circulent sans filtre, la vérité a tendance à être perdante.
Pour faire pencher la balance du côté de la vérité, les réseaux d'information doivent développer et maintenir de puissants mécanismes d'autorégulation qui récompensent ceux qui disent la vérité.
Ces appareils autocorrecteurs sont chers, mais si vous voulez connaître la vérité, vous devriez absolument investir dans ce type d'appareil.
--- « 8.
Risque d'erreur : les réseaux se trompent souvent.
Mais nous avons peut-être d'autres options.
Je ne peux pas prédire les décisions que les gens prendront à l'avenir, mais en tant qu'historien, je crois à la possibilité du changement.
L'une des leçons importantes de l'histoire est que beaucoup de choses que nous considérons comme naturelles et éternelles sont en réalité créées par l'homme et sujettes au changement.
Mais nous ne devons pas nous reposer sur nos lauriers simplement parce que le conflit n'est pas inévitable.
Tout le contraire.
Parce que nous avons une énorme responsabilité : celle de faire les bons choix.
Cela signifie que si la civilisation humaine devait périr à cause d'un conflit, ce ne serait pas dû à une loi naturelle ou à une technologie inconnue.
Mais d'un autre côté, cela signifie aussi que si nous essayons, nous pouvons créer un monde meilleur.
Ce point de vue n'est pas naïf, mais réaliste.
Tout ce qui est vieux a un jour été nouveau.
La seule constante dans l'histoire, c'est le changement.
L'information sert plutôt à relier des éléments disparates pour créer de nouvelles réalités, qu'il s'agisse d'amoureux ou d'empires.
La caractéristique déterminante de l'information n'est pas la représentation mais la connexion ; l'information est donc ce qui relie différents points au sein d'un réseau.
L'information ne doit pas nécessairement vous apprendre quelque chose sur quelque chose.
L'information sert plutôt à relier différentes choses entre elles pour en faire quelque chose de cohérent.
Les horoscopes lient les amoureux aux étoiles, les émissions de propagande lient les électeurs à la politique et les chants militaires lient les soldats aux formations militaires.
--- « 1.
Extrait de « Qu'est-ce que l'information ? »
Comme le montrent l'histoire de l'imprimerie et des chasses aux sorcières, la déréglementation du marché de l'information ne garantit pas que les individus découvriront et corrigeront leurs propres erreurs.
Car, sur un marché de l'information libre, la colère a plus de chances de l'emporter que la vérité.
Pour que la vérité triomphe, nous devons créer des agences de sélection ayant le pouvoir de faire pencher la balance en faveur des « faits ».
Mais comme le montre l'histoire de l'Église catholique, de telles institutions peuvent utiliser leur pouvoir de contrôle pour étouffer les critiques à leur égard.
Autrement dit, toute opinion divergente risque d'être qualifiée d'erronée, empêchant ainsi la mise en lumière et la correction des erreurs de l'institution.
Est-il possible de créer une meilleure agence de curation qui utilise le pouvoir qui lui est conféré pour rechercher la vérité, plutôt que pour acquérir davantage de pouvoir ?
--- « 4.
Erreur : L'illusion de l'infaillibilité
Les régimes totalitaires utilisent les technologies de l'information modernes pour centraliser la circulation de l'information et étouffer la vérité afin de maintenir l'ordre.
De ce fait, les réseaux totalitaires doivent faire face au risque de durcissement de leurs artères informationnelles.
L'afflux croissant d'informations vers une source unique permettra-t-il un contrôle efficace ou, au contraire, engorgera-t-il les systèmes et mènera-t-il à des crises cardiaques ? À l'inverse, dans les systèmes démocratiques, les technologies de l'information modernes servent à diffuser l'information auprès d'un plus grand nombre d'institutions et d'individus, favorisant ainsi la libre recherche de la vérité.
De ce fait, les réseaux démocratiques doivent faire face au risque d'effondrement.
Imaginez ce réseau comme un système solaire avec de plus en plus de planètes tournant de plus en plus vite.
Mais le centre pourra-t-il tenir bon, ou tout basculera-t-il dans l'anarchie ?
--- « 5.
Extrait de « Décision : une brève histoire de la démocratie et du totalitarisme »
L'influence politique des algorithmes mérite d'être approfondie.
Avant tout, de nombreux lecteurs contesteront l'affirmation selon laquelle les algorithmes prennent des décisions indépendantes, arguant que tout ce qu'ils font est le résultat d'un code écrit par des développeurs humains et de modèles commerciaux adoptés par des gestionnaires humains.
Ce livre adopte un point de vue différent.
Les soldats humains obéissent à leur code génétique et aux ordres de leurs supérieurs, tout en restant capables de prendre des décisions de manière indépendante. Il est important de comprendre que cela vaut également pour les algorithmes d'IA.
Les algorithmes peuvent également apprendre par eux-mêmes, sans être programmés par des développeurs humains, et prendre des décisions que les gestionnaires humains ne peuvent pas anticiper.
L'essence de la révolution de l'IA réside dans l'émergence d'innombrables nouveaux acteurs qui exercent une influence considérable.
--- « 6.
Nouveau membre : En quoi l’informatique diffère-t-elle de l’impression ?
À mesure que les effets néfastes devenaient évidents, les grandes entreprises technologiques ont été averties à plusieurs reprises de ce qui se passait, mais elles n'ont pas agi car elles avaient une vision naïve de l'information.
Malgré le flot incessant de mensonges et d'indignation qui régnait sur la plateforme, les dirigeants espéraient que si davantage de personnes pouvaient s'exprimer plus librement, la vérité finirait par triompher.
Mais cela ne s'est pas produit.
Comme nous l'avons constaté d'innombrables fois au cours de l'histoire, lorsque toutes les informations circulent sans filtre, la vérité a tendance à être perdante.
Pour faire pencher la balance du côté de la vérité, les réseaux d'information doivent développer et maintenir de puissants mécanismes d'autorégulation qui récompensent ceux qui disent la vérité.
Ces appareils autocorrecteurs sont chers, mais si vous voulez connaître la vérité, vous devriez absolument investir dans ce type d'appareil.
--- « 8.
Risque d'erreur : les réseaux se trompent souvent.
Mais nous avons peut-être d'autres options.
Je ne peux pas prédire les décisions que les gens prendront à l'avenir, mais en tant qu'historien, je crois à la possibilité du changement.
L'une des leçons importantes de l'histoire est que beaucoup de choses que nous considérons comme naturelles et éternelles sont en réalité créées par l'homme et sujettes au changement.
Mais nous ne devons pas nous reposer sur nos lauriers simplement parce que le conflit n'est pas inévitable.
Tout le contraire.
Parce que nous avons une énorme responsabilité : celle de faire les bons choix.
Cela signifie que si la civilisation humaine devait périr à cause d'un conflit, ce ne serait pas dû à une loi naturelle ou à une technologie inconnue.
Mais d'un autre côté, cela signifie aussi que si nous essayons, nous pouvons créer un monde meilleur.
Ce point de vue n'est pas naïf, mais réaliste.
Tout ce qui est vieux a un jour été nouveau.
La seule constante dans l'histoire, c'est le changement.
--- « 11.
Extrait de « Le rideau de silicium : un empire mondial ou un monde divisé ? »
Extrait de « Le rideau de silicium : un empire mondial ou un monde divisé ? »
Avis de l'éditeur
La menace de l'intelligence non humaine et un avertissement pour notre avenir
Si vous voulez comprendre l'essence de la révolution de l'IA, c'est le livre que vous devez absolument lire !
En mai dernier, le Sommet sur la sécurité de l'IA s'est tenu à Séoul, réunissant des décideurs politiques et des dirigeants du secteur technologique du monde entier.
Cette réunion de suivi de la Déclaration de Bletchley annoncée en novembre de l'année dernière, dont l'ordre du jour de la conférence internationale sur l'IA est remarquable, est axée sur la « sécurité », et non sur le « développement » ou l'« efficacité ».
Les inquiétudes grandissent autour des nouvelles technologies qui entraînent des changements rapides et sans précédent.
C'est d'un tout autre niveau que la sensation provoquée par AlphaGo, qui a vaincu Lee Sedol 9-dan il y a huit ans.
En mars de l'année dernière, plus de 27 000 personnes, dont Elon Musk et Steve Wozniak, ont signé une lettre ouverte demandant l'arrêt des recherches en IA pendant au moins six mois.
Le professeur Yuval Harari est l'un d'eux.
Après la publication de Homo Deus, le professeur Harari a acquis une réputation d'expert en IA et a été invité par des scientifiques, des entrepreneurs et des politiciens qui façonnaient le monde de l'IA, ce qui lui a permis de voir et d'entendre de première main ce qui se passait à la pointe de la technologie moderne.
« Nexus » est le fruit de la perspective historique unique du professeur Harari sur cette expérience particulière, organisée selon un style narratif unique.
Le livre commence par l'histoire de l'apprenti sorcier.
L'apprenti sorcier tente de résoudre facilement le problème grâce à un sortilège de son maître, mais provoque au contraire une situation incontrôlable et transforme l'atelier en une mer d'eau.
ChatGPT, l'algorithme de YouTube, et même les futures intelligences artificielles échapperont-ils véritablement à notre contrôle et précipiteront-ils l'humanité dans l'abîme de l'information ? Le professeur Harari nous avertit que nous avons encore le pouvoir d'agir et que nous devons examiner attentivement nos prochains choix.
Selon lui, l'IA est un membre à part entière de notre réseau d'information, dotée de subjectivité.
En quoi l'IA diffère-t-elle des technologies de l'information précédentes, et pourquoi est-elle dangereuse ?
Signification et essence de la révolution de l'IA
Que signifie le fait pour une IA d'avoir une capacité d'action ? Contrairement aux technologies de l'information précédentes, l'IA est un agent actif capable de prendre des décisions et de générer de nouvelles idées.
Voilà l’essence de la révolution de l’IA.
Les technologies de l'information antérieures, telles que les tablettes d'argile, les presses à imprimer et les radios, n'étaient que des dispositifs et des outils permettant de connecter les membres d'un réseau.
Les tablettes d'argile de l'ancienne Mésopotamie ne décidaient pas elles-mêmes des paiements d'impôts à enregistrer pour chaque région.
Les premières presses à imprimer modernes ne se souciaient pas du type de livre qu'elles allaient imprimer.
Tout a été décidé et mis en œuvre par des humains.
Mais aujourd'hui, aux premiers stades de la révolution de l'IA, les ordinateurs deviennent déjà plus puissants que les humains, capables de façonner activement la société, la culture et l'histoire au-delà du contrôle et de la compréhension humains.
Une enquête de l'ONU menée en 2018 a révélé que l'algorithme de Facebook avait joué un rôle important dans les violences anti-Rohingyas survenues au Myanmar entre 2016 et 2017.
L'algorithme de Facebook, chargé de maximiser l'engagement des utilisateurs, a appris par essais et erreurs que la colère augmente l'engagement et a décidé de recommander du contenu qui provoque l'indignation des utilisateurs, même sans instructions explicites.
Bien que les dirigeants de Facebook n'aient probablement pas envisagé ce résultat, il s'avère que l'algorithme de Facebook a alimenté la haine et la violence.
Si l'exemple précédent vous semble éloigné de votre quotidien, considérez les performances de GPT-4, chargé de résoudre un CAPTCHA (une série de lettres et de chiffres déformés qu'il faut déchiffrer pour accéder à un site web). GPT-4 n'a pas réussi à résoudre le problème seul ; il a donc contacté un humain en ligne pour lui demander de l'aide.
Les humains étaient méfiants.
« Êtes-vous un robot incapable de résoudre un [CAPTCHA] ? » a répondu GPT-4.
« Je ne suis pas un robot. »
« J’ai une déficience visuelle et je ne vois pas très bien les images. » Personne n’a programmé GPT-4 pour mentir, et personne ne lui a indiqué quel type de mensonge était le plus efficace ; pourtant, GPT-4 a fait preuve d’une autonomie considérable pour résoudre le problème et a atteint son objectif.
Le professeur Harari soutient que l'émergence d'ordinateurs capables de poursuivre des objectifs et de prendre des décisions de manière autonome modifie fondamentalement la structure des réseaux d'information.
L'IA est déjà utilisée pour concevoir des produits dérivés financiers complexes, effectuer des opérations de change, résumer d'innombrables documents juridiques et analyser la jurisprudence.
Et si des ordinateurs individuels aux capacités supérieures à celles des humains étaient connectés pour créer une « réalité interinformatique » ? Jusqu’à présent, la compréhension des « réalités intersubjectives » inventées par les humains, telles que la religion, la nation et la monnaie, a permis de mieux comprendre le fonctionnement de l’économie et de la politique d’une société.
Mais les humains, êtres organiques à base de carbone, pourraient-ils seulement imaginer un réseau d'information dominé par des ordinateurs inorganiques à base de silicium ? Si les objectifs de ces ordinateurs superintelligents divergent de ceux fixés par les humains, une catastrophe d'une ampleur jamais connue par l'humanité pourrait se produire.
Pour offrir une perspective historique plus précise sur la révolution de l'IA,
L’histoire humaine réinterprétée à travers une nouvelle perspective : le « réseau d’information ».
Dans l'épilogue, le professeur Harari énonce clairement que l'objectif du livre est de « fournir une perspective historique plus précise sur la révolution de l'IA ».
Selon sa conception de l'histoire, qui considère que l'histoire ne consiste pas à étudier le passé mais à étudier le changement, l'examen du développement des « réseaux d'information » au cours des derniers millénaires peut nous éclairer sur la situation que nous vivons actuellement.
Le terme « nexus » signifie « combinaison » ou « connexion » dans le dictionnaire.
C'est la fonction de l'information.
L'information est souvent sans rapport avec la réalité ou la vérité, mais elle peut créer de nouvelles réalités et rassembler les gens.
Nous avons l'habitude d'interpréter les événements historiques sur les plans politique, idéologique et économique, mais ce livre réinterprète l'histoire sous un angle nouveau : celui de la circulation de l'information.
Toutes les sociétés à grande échelle sont des « réseaux d'information », et les histoires (mythes), les documents (papiers bureaucratiques), les « livres saints » (livres qui consignent et interprètent la parole de Dieu), ainsi que les ordinateurs et l'IA d'aujourd'hui sont tous des « technologies de l'information ».
Les récits tissent des liens entre les réseaux d'information, les documents imposent un ordre à ces réseaux et les livres sacrés légitiment cet ordre.
Selon cette perspective, le christianisme fonctionnait comme un réseau unifié dans lequel l'information circulait de manière ordonnée autour d'un seul « livre saint » et d'une seule institution chargée de l'interpréter.
Il s'agit d'un réseau d'information qui n'existait pas dans la société polythéiste grecque.
Contrairement à l'époque impériale russe, l'Union soviétique de Staline était un réseau totalitaire qui centralisait une grande quantité d'informations.
Sans les technologies de l'information comme les livres et le télégraphe, l'Église chrétienne et le régime stalinien n'auraient jamais été possibles.
Ce livre juxtapose le débat sur l'IA avec celui sur la manière dont la Bible est devenue canonique.
Ceci s'explique, selon le professeur Harari, par le fait que nous sommes actuellement dans un processus de « canonisation de l'IA », qui confère une autorité à l'IA.
Cette observation est significative si l'on considère que les choix faits par les « conservateurs » de la Bible ont influencé le monde dans lequel nous vivons depuis des siècles.
En expliquant le processus par lequel le « livre saint » unique contenant la parole de Dieu et « l'Église » en tant qu'institution faisant autorité pour interpréter ce livre ont été établis, le professeur Hariri démontre qu'à travers l'histoire, les réseaux d'information ont largement privilégié l'ordre à la vérité.
Les réseaux d'information qui privilégient l'ordre sont susceptibles d'abuser de leur pouvoir en propageant des visions du monde déformées.
Contrairement au « livre saint », peut-on s'attendre à ce que l'IA privilégie la vérité ?
L'animal le plus intelligent en voie d'extinction
Pouvons-nous, nous autres Sapiens, trouver un moyen de survivre et de prospérer ?
Le professeur Harari a déclaré dans de nombreuses interviews que la question fondamentale soulevée par Nexus est la suivante : « Si nous sommes des humains sages (Homo sapiens), pourquoi sommes-nous si autodestructeurs ? »
Entre l'effondrement écologique, les tensions politiques internationales et une révolution de l'IA potentiellement bénéfique ou néfaste, quelle part de la nature humaine nous pousse sur cette voie d'autodestruction ? Il soutient que la cause ne réside pas dans notre nature, mais dans le réseau d'information.
L'humanité a développé une puissance énorme en formant des réseaux capables de coopération à grande échelle, mais elle a échoué à créer la sagesse, provoquant ainsi la crise existentielle actuelle.
Plus précisément, il s'agit d'un problème d'information.
L’information en abondance est-elle préférable ? Ceux qui répondent « oui » à cette question s’opposent à toute réglementation, estimant que garantir une liberté totale sur le marché de l’information conduira naturellement à la vérité et à l’ordre.
Cette vision, que le professeur Harari qualifie de « vision naïve de l’information », s’est historiquement révélée fausse.
Les chasses aux sorcières de la fin du Moyen Âge en Europe en sont un exemple représentatif.
Pendant la majeure partie du Moyen Âge, la société européenne était largement indifférente aux sorcières, mais à mesure que la croyance aux complots sataniques se répandait et que les gens commençaient à échanger des informations sur les sorcières, ces dernières devinrent une réalité.
L'histoire de la sorcellerie démontre que la suppression des obstacles à la circulation de l'information ne garantit pas la diffusion de la vérité, et qu'un marché des idées totalement libre peut en réalité sacrifier la vérité et alimenter la propagation de l'indignation et du sensationnalisme.
Le professeur Harari souligne avec force, en s'appuyant sur des exemples historiques, que la « liberté d'expression » et le « libre marché de l'information » mis en avant par les représentants des grandes entreprises technologiques et leurs défenseurs ne sont que des illusions, et que le développement et l'utilisation de l'IA doivent être strictement réglementés.
En outre, il propose une réglementation sur les robots qui génèrent et amplifient les fausses informations, ainsi qu'une taxation des données qui reflète la tendance actuelle des transactions monétaires vers les transactions d'information.
En fin de compte, plus un réseau devient puissant, plus ses dispositifs d'auto-épuration deviennent importants.
Dans l'Europe médiévale, il n'existait aucun dispositif nocturne pour réprimer les chasses aux sorcières.
Même dans un système totalitaire où l'information est concentrée entre les mains du dictateur, il n'y a pas de place pour institutionnaliser des mécanismes d'autorégulation.
La démocratie, système politique dans lequel l'information est décentralisée et dotée de divers mécanismes d'autorégulation pour assurer l'équilibre des pouvoirs, a récemment été confrontée à de nouveaux défis.
Si les robots et les algorithmes perturbent le dialogue démocratique et manipulent l'opinion publique, le débat peut-il se poursuivre dans l'espace public ? La réponse du professeur Harari est sans équivoque.
« Les démocraties peuvent réguler leurs marchés de l’information, et la survie même de la démocratie dépend de cette régulation. »
Créer son propre « point de convergence » entre le monde universitaire et le monde réel
Le « réalisme » intransigeant de Yuval Harari
Outre ses écrits, le professeur Yuval Harari a exprimé ses opinions sur des questions importantes auxquelles le monde est confronté aujourd'hui, notamment la COVID-19, la crise climatique, l'invasion de l'Ukraine par la Russie et la guerre entre Israël et le Hamas, par le biais de divers médias.
Il ne se contente pas de rester confiné dans sa chambre, au sein de sa tour d'ivoire, mais acquiert des connaissances interdisciplinaires en sciences politiques, études religieuses, études médiatiques, biologie évolutive, informatique et autres domaines, créant ainsi son propre « point de convergence » entre le monde universitaire et le monde réel.
Au moment de terminer son livre, il confie qu'il est difficile d'entendre des « personnes influentes » s'emballer dans des prédictions optimistes et comparer la révolution de l'IA à la révolution de l'imprimerie ou à la révolution industrielle.
La vision historique de ceux qui sont au pouvoir influencera inévitablement les décisions qui façonneront notre avenir, car leurs perceptions sous-estiment le caractère sans précédent de la révolution de l'IA et les aspects négatifs des révolutions précédentes.
C’est pourquoi le professeur Harari a décidé d’écrire ce livre, afin de fournir une perspective historique précise sur la révolution de l’IA.
Ce livre contient de nombreuses idées qui invitent à la réflexion sur le monde actuel, notamment des discussions sociologiques et philosophiques telles que les questions d'information et de vérité, et celles d'intelligence et de conscience dans l'IA, ainsi que des scénarios politiques et futurologiques internationaux qui spéculent sur la possibilité d'une division du monde en plusieurs empires numériques dans un avenir proche ou sur l'avènement d'une ère d'un immense empire mondial.
L'argument central de 『Sapiens』, qui mettait l'accent sur la capacité à croire en des « fictions » communes telles que Dieu, l'État et l'argent, est actualisé lorsqu'il est reconstruit autour de « l'information », et dans ce processus, le dataïsme, présenté dans 『Homo Deus』 comme une idéologie visant à remplacer l'humanisme et le libéralisme, révèle sa véritable nature d'une manière plus sophistiquée.
Dans le dernier chapitre, le professeur Harari qualifie sa vision de l'humanité et du monde de « réalisme ».
Il a adopté de manière critique la « politique internationale réaliste » de Hans Morgenthau et John Mearsheimer, qui considère la réalité comme une jungle où règne la loi du plus fort.
Parmi les nombreux choix qui s'offrent à nous, il existe assurément un chemin vers un monde meilleur, et si nous y mettons du nôtre, nous pouvons emprunter ce chemin.
Le « réalisme » fondé sur la possibilité du changement est le message final de « Nexus ».
Le professeur Harari explique que la colombe figurant sur la couverture est un symbole d'espoir quant à la fin de la confusion et de la crise causées par le déluge d'informations du XXIe siècle, tout comme la colombe de la Bible venue à l'arche de Noé lorsque le grand déluge cessa et qu'un nouveau chapitre s'ouvrit pour l'humanité.
L'humanité sera-t-elle vraiment à la hauteur des attentes du professeur Harari ?
Si vous voulez comprendre l'essence de la révolution de l'IA, c'est le livre que vous devez absolument lire !
En mai dernier, le Sommet sur la sécurité de l'IA s'est tenu à Séoul, réunissant des décideurs politiques et des dirigeants du secteur technologique du monde entier.
Cette réunion de suivi de la Déclaration de Bletchley annoncée en novembre de l'année dernière, dont l'ordre du jour de la conférence internationale sur l'IA est remarquable, est axée sur la « sécurité », et non sur le « développement » ou l'« efficacité ».
Les inquiétudes grandissent autour des nouvelles technologies qui entraînent des changements rapides et sans précédent.
C'est d'un tout autre niveau que la sensation provoquée par AlphaGo, qui a vaincu Lee Sedol 9-dan il y a huit ans.
En mars de l'année dernière, plus de 27 000 personnes, dont Elon Musk et Steve Wozniak, ont signé une lettre ouverte demandant l'arrêt des recherches en IA pendant au moins six mois.
Le professeur Yuval Harari est l'un d'eux.
Après la publication de Homo Deus, le professeur Harari a acquis une réputation d'expert en IA et a été invité par des scientifiques, des entrepreneurs et des politiciens qui façonnaient le monde de l'IA, ce qui lui a permis de voir et d'entendre de première main ce qui se passait à la pointe de la technologie moderne.
« Nexus » est le fruit de la perspective historique unique du professeur Harari sur cette expérience particulière, organisée selon un style narratif unique.
Le livre commence par l'histoire de l'apprenti sorcier.
L'apprenti sorcier tente de résoudre facilement le problème grâce à un sortilège de son maître, mais provoque au contraire une situation incontrôlable et transforme l'atelier en une mer d'eau.
ChatGPT, l'algorithme de YouTube, et même les futures intelligences artificielles échapperont-ils véritablement à notre contrôle et précipiteront-ils l'humanité dans l'abîme de l'information ? Le professeur Harari nous avertit que nous avons encore le pouvoir d'agir et que nous devons examiner attentivement nos prochains choix.
Selon lui, l'IA est un membre à part entière de notre réseau d'information, dotée de subjectivité.
En quoi l'IA diffère-t-elle des technologies de l'information précédentes, et pourquoi est-elle dangereuse ?
Signification et essence de la révolution de l'IA
Que signifie le fait pour une IA d'avoir une capacité d'action ? Contrairement aux technologies de l'information précédentes, l'IA est un agent actif capable de prendre des décisions et de générer de nouvelles idées.
Voilà l’essence de la révolution de l’IA.
Les technologies de l'information antérieures, telles que les tablettes d'argile, les presses à imprimer et les radios, n'étaient que des dispositifs et des outils permettant de connecter les membres d'un réseau.
Les tablettes d'argile de l'ancienne Mésopotamie ne décidaient pas elles-mêmes des paiements d'impôts à enregistrer pour chaque région.
Les premières presses à imprimer modernes ne se souciaient pas du type de livre qu'elles allaient imprimer.
Tout a été décidé et mis en œuvre par des humains.
Mais aujourd'hui, aux premiers stades de la révolution de l'IA, les ordinateurs deviennent déjà plus puissants que les humains, capables de façonner activement la société, la culture et l'histoire au-delà du contrôle et de la compréhension humains.
Une enquête de l'ONU menée en 2018 a révélé que l'algorithme de Facebook avait joué un rôle important dans les violences anti-Rohingyas survenues au Myanmar entre 2016 et 2017.
L'algorithme de Facebook, chargé de maximiser l'engagement des utilisateurs, a appris par essais et erreurs que la colère augmente l'engagement et a décidé de recommander du contenu qui provoque l'indignation des utilisateurs, même sans instructions explicites.
Bien que les dirigeants de Facebook n'aient probablement pas envisagé ce résultat, il s'avère que l'algorithme de Facebook a alimenté la haine et la violence.
Si l'exemple précédent vous semble éloigné de votre quotidien, considérez les performances de GPT-4, chargé de résoudre un CAPTCHA (une série de lettres et de chiffres déformés qu'il faut déchiffrer pour accéder à un site web). GPT-4 n'a pas réussi à résoudre le problème seul ; il a donc contacté un humain en ligne pour lui demander de l'aide.
Les humains étaient méfiants.
« Êtes-vous un robot incapable de résoudre un [CAPTCHA] ? » a répondu GPT-4.
« Je ne suis pas un robot. »
« J’ai une déficience visuelle et je ne vois pas très bien les images. » Personne n’a programmé GPT-4 pour mentir, et personne ne lui a indiqué quel type de mensonge était le plus efficace ; pourtant, GPT-4 a fait preuve d’une autonomie considérable pour résoudre le problème et a atteint son objectif.
Le professeur Harari soutient que l'émergence d'ordinateurs capables de poursuivre des objectifs et de prendre des décisions de manière autonome modifie fondamentalement la structure des réseaux d'information.
L'IA est déjà utilisée pour concevoir des produits dérivés financiers complexes, effectuer des opérations de change, résumer d'innombrables documents juridiques et analyser la jurisprudence.
Et si des ordinateurs individuels aux capacités supérieures à celles des humains étaient connectés pour créer une « réalité interinformatique » ? Jusqu’à présent, la compréhension des « réalités intersubjectives » inventées par les humains, telles que la religion, la nation et la monnaie, a permis de mieux comprendre le fonctionnement de l’économie et de la politique d’une société.
Mais les humains, êtres organiques à base de carbone, pourraient-ils seulement imaginer un réseau d'information dominé par des ordinateurs inorganiques à base de silicium ? Si les objectifs de ces ordinateurs superintelligents divergent de ceux fixés par les humains, une catastrophe d'une ampleur jamais connue par l'humanité pourrait se produire.
Pour offrir une perspective historique plus précise sur la révolution de l'IA,
L’histoire humaine réinterprétée à travers une nouvelle perspective : le « réseau d’information ».
Dans l'épilogue, le professeur Harari énonce clairement que l'objectif du livre est de « fournir une perspective historique plus précise sur la révolution de l'IA ».
Selon sa conception de l'histoire, qui considère que l'histoire ne consiste pas à étudier le passé mais à étudier le changement, l'examen du développement des « réseaux d'information » au cours des derniers millénaires peut nous éclairer sur la situation que nous vivons actuellement.
Le terme « nexus » signifie « combinaison » ou « connexion » dans le dictionnaire.
C'est la fonction de l'information.
L'information est souvent sans rapport avec la réalité ou la vérité, mais elle peut créer de nouvelles réalités et rassembler les gens.
Nous avons l'habitude d'interpréter les événements historiques sur les plans politique, idéologique et économique, mais ce livre réinterprète l'histoire sous un angle nouveau : celui de la circulation de l'information.
Toutes les sociétés à grande échelle sont des « réseaux d'information », et les histoires (mythes), les documents (papiers bureaucratiques), les « livres saints » (livres qui consignent et interprètent la parole de Dieu), ainsi que les ordinateurs et l'IA d'aujourd'hui sont tous des « technologies de l'information ».
Les récits tissent des liens entre les réseaux d'information, les documents imposent un ordre à ces réseaux et les livres sacrés légitiment cet ordre.
Selon cette perspective, le christianisme fonctionnait comme un réseau unifié dans lequel l'information circulait de manière ordonnée autour d'un seul « livre saint » et d'une seule institution chargée de l'interpréter.
Il s'agit d'un réseau d'information qui n'existait pas dans la société polythéiste grecque.
Contrairement à l'époque impériale russe, l'Union soviétique de Staline était un réseau totalitaire qui centralisait une grande quantité d'informations.
Sans les technologies de l'information comme les livres et le télégraphe, l'Église chrétienne et le régime stalinien n'auraient jamais été possibles.
Ce livre juxtapose le débat sur l'IA avec celui sur la manière dont la Bible est devenue canonique.
Ceci s'explique, selon le professeur Harari, par le fait que nous sommes actuellement dans un processus de « canonisation de l'IA », qui confère une autorité à l'IA.
Cette observation est significative si l'on considère que les choix faits par les « conservateurs » de la Bible ont influencé le monde dans lequel nous vivons depuis des siècles.
En expliquant le processus par lequel le « livre saint » unique contenant la parole de Dieu et « l'Église » en tant qu'institution faisant autorité pour interpréter ce livre ont été établis, le professeur Hariri démontre qu'à travers l'histoire, les réseaux d'information ont largement privilégié l'ordre à la vérité.
Les réseaux d'information qui privilégient l'ordre sont susceptibles d'abuser de leur pouvoir en propageant des visions du monde déformées.
Contrairement au « livre saint », peut-on s'attendre à ce que l'IA privilégie la vérité ?
L'animal le plus intelligent en voie d'extinction
Pouvons-nous, nous autres Sapiens, trouver un moyen de survivre et de prospérer ?
Le professeur Harari a déclaré dans de nombreuses interviews que la question fondamentale soulevée par Nexus est la suivante : « Si nous sommes des humains sages (Homo sapiens), pourquoi sommes-nous si autodestructeurs ? »
Entre l'effondrement écologique, les tensions politiques internationales et une révolution de l'IA potentiellement bénéfique ou néfaste, quelle part de la nature humaine nous pousse sur cette voie d'autodestruction ? Il soutient que la cause ne réside pas dans notre nature, mais dans le réseau d'information.
L'humanité a développé une puissance énorme en formant des réseaux capables de coopération à grande échelle, mais elle a échoué à créer la sagesse, provoquant ainsi la crise existentielle actuelle.
Plus précisément, il s'agit d'un problème d'information.
L’information en abondance est-elle préférable ? Ceux qui répondent « oui » à cette question s’opposent à toute réglementation, estimant que garantir une liberté totale sur le marché de l’information conduira naturellement à la vérité et à l’ordre.
Cette vision, que le professeur Harari qualifie de « vision naïve de l’information », s’est historiquement révélée fausse.
Les chasses aux sorcières de la fin du Moyen Âge en Europe en sont un exemple représentatif.
Pendant la majeure partie du Moyen Âge, la société européenne était largement indifférente aux sorcières, mais à mesure que la croyance aux complots sataniques se répandait et que les gens commençaient à échanger des informations sur les sorcières, ces dernières devinrent une réalité.
L'histoire de la sorcellerie démontre que la suppression des obstacles à la circulation de l'information ne garantit pas la diffusion de la vérité, et qu'un marché des idées totalement libre peut en réalité sacrifier la vérité et alimenter la propagation de l'indignation et du sensationnalisme.
Le professeur Harari souligne avec force, en s'appuyant sur des exemples historiques, que la « liberté d'expression » et le « libre marché de l'information » mis en avant par les représentants des grandes entreprises technologiques et leurs défenseurs ne sont que des illusions, et que le développement et l'utilisation de l'IA doivent être strictement réglementés.
En outre, il propose une réglementation sur les robots qui génèrent et amplifient les fausses informations, ainsi qu'une taxation des données qui reflète la tendance actuelle des transactions monétaires vers les transactions d'information.
En fin de compte, plus un réseau devient puissant, plus ses dispositifs d'auto-épuration deviennent importants.
Dans l'Europe médiévale, il n'existait aucun dispositif nocturne pour réprimer les chasses aux sorcières.
Même dans un système totalitaire où l'information est concentrée entre les mains du dictateur, il n'y a pas de place pour institutionnaliser des mécanismes d'autorégulation.
La démocratie, système politique dans lequel l'information est décentralisée et dotée de divers mécanismes d'autorégulation pour assurer l'équilibre des pouvoirs, a récemment été confrontée à de nouveaux défis.
Si les robots et les algorithmes perturbent le dialogue démocratique et manipulent l'opinion publique, le débat peut-il se poursuivre dans l'espace public ? La réponse du professeur Harari est sans équivoque.
« Les démocraties peuvent réguler leurs marchés de l’information, et la survie même de la démocratie dépend de cette régulation. »
Créer son propre « point de convergence » entre le monde universitaire et le monde réel
Le « réalisme » intransigeant de Yuval Harari
Outre ses écrits, le professeur Yuval Harari a exprimé ses opinions sur des questions importantes auxquelles le monde est confronté aujourd'hui, notamment la COVID-19, la crise climatique, l'invasion de l'Ukraine par la Russie et la guerre entre Israël et le Hamas, par le biais de divers médias.
Il ne se contente pas de rester confiné dans sa chambre, au sein de sa tour d'ivoire, mais acquiert des connaissances interdisciplinaires en sciences politiques, études religieuses, études médiatiques, biologie évolutive, informatique et autres domaines, créant ainsi son propre « point de convergence » entre le monde universitaire et le monde réel.
Au moment de terminer son livre, il confie qu'il est difficile d'entendre des « personnes influentes » s'emballer dans des prédictions optimistes et comparer la révolution de l'IA à la révolution de l'imprimerie ou à la révolution industrielle.
La vision historique de ceux qui sont au pouvoir influencera inévitablement les décisions qui façonneront notre avenir, car leurs perceptions sous-estiment le caractère sans précédent de la révolution de l'IA et les aspects négatifs des révolutions précédentes.
C’est pourquoi le professeur Harari a décidé d’écrire ce livre, afin de fournir une perspective historique précise sur la révolution de l’IA.
Ce livre contient de nombreuses idées qui invitent à la réflexion sur le monde actuel, notamment des discussions sociologiques et philosophiques telles que les questions d'information et de vérité, et celles d'intelligence et de conscience dans l'IA, ainsi que des scénarios politiques et futurologiques internationaux qui spéculent sur la possibilité d'une division du monde en plusieurs empires numériques dans un avenir proche ou sur l'avènement d'une ère d'un immense empire mondial.
L'argument central de 『Sapiens』, qui mettait l'accent sur la capacité à croire en des « fictions » communes telles que Dieu, l'État et l'argent, est actualisé lorsqu'il est reconstruit autour de « l'information », et dans ce processus, le dataïsme, présenté dans 『Homo Deus』 comme une idéologie visant à remplacer l'humanisme et le libéralisme, révèle sa véritable nature d'une manière plus sophistiquée.
Dans le dernier chapitre, le professeur Harari qualifie sa vision de l'humanité et du monde de « réalisme ».
Il a adopté de manière critique la « politique internationale réaliste » de Hans Morgenthau et John Mearsheimer, qui considère la réalité comme une jungle où règne la loi du plus fort.
Parmi les nombreux choix qui s'offrent à nous, il existe assurément un chemin vers un monde meilleur, et si nous y mettons du nôtre, nous pouvons emprunter ce chemin.
Le « réalisme » fondé sur la possibilité du changement est le message final de « Nexus ».
Le professeur Harari explique que la colombe figurant sur la couverture est un symbole d'espoir quant à la fin de la confusion et de la crise causées par le déluge d'informations du XXIe siècle, tout comme la colombe de la Bible venue à l'arche de Noé lorsque le grand déluge cessa et qu'un nouveau chapitre s'ouvrit pour l'humanité.
L'humanité sera-t-elle vraiment à la hauteur des attentes du professeur Harari ?
SPÉCIFICATIONS DES PRODUITS
- Date d'émission : 18 avril 2025
- Nombre de pages, poids, dimensions : 336 pages | 188 × 266 mm
- ISBN13 : 9791173321559
Vous aimerez peut-être aussi
카테고리
Langue coréenne
Langue coréenne
![ELLE 엘르 스페셜 에디션 A형 : 12월 [2025]](http://librairie.coreenne.fr/cdn/shop/files/b8e27a3de6c9538896439686c6b0e8fb.jpg?v=1766436872&width=3840)
