L'IA est-elle un remplaçant de l'humain ou un partenaire de vie ?
Au-delà des dilemmes et des craintes éthiques
10 questions pour renforcer votre humanité

Comme chacun sait, l'intelligence artificielle s'intègre à notre quotidien à une vitesse fulgurante. Qui aurait pu prédire qu'elle produirait si rapidement des résultats comparables à l'apprentissage humain ? Si cette prouesse nous émerveille, elle soulève également un dilemme.
Que faire face à une IA qui excelle en tout ? Pouvons-nous l’utiliser judicieusement comme une alliée dans la vie, tout en préservant notre humanité et en faisant un usage responsable ? À l’heure où des machines de pointe prétendent tout savoir, l’ouvrage « Un jour, le futur est arrivé » défend l’idée que l’humanité et la capacité de s’interroger sur le sens de notre existence sont primordiales.


L'auteure, Woo Sook-young, est une conceptrice pionnière qui anticipe et met en œuvre les changements dans la vie humaine induits par la technologie ; elle a travaillé comme artiste multimédia spécialisée dans l'IA et comme professeure.
En tant que personne qui a réfléchi non seulement à « l'IA comme outil pratique », mais aussi à « l'IA comme compagnon de vie », il utilise un style narratif captivant, rappelant les romans de science-fiction, pour examiner le futur imaginé qui pourrait se dérouler si nous adoptions l'IA comme compagnon de vie.
L'auteur a compilé les questions que lui posent des personnes ordinaires qu'il rencontre au quotidien : des parents toujours curieux d'IA même après 70 ans, un jeune étudiant dont la fille s'inquiète des contenus truqués à caractère sexuel, un professeur qui s'interroge sur les limites acceptables de l'utilisation des outils d'IA, et un étudiant qui craint que ses compétences ne soient à tout moment remplacées par l'IA. Ces questions ont été affinées en dix interrogations qui explorent « chaque instant de l'expérience de l'IA, de la naissance à la mort ». De ceux qui ont pu vivre sans IA à ceux qui s'inquiètent de leur dépendance excessive à son égard, cet ouvrage est une lecture essentielle pour tous à l'ère de l'IA omniprésente, et pour tous ceux qui souhaitent faire de l'IA un partenaire de vie fiable.

À l'approche de la mort, quelle histoire souhaitez-vous laisser à vos proches ? Les souvenirs partagés ? Le récit de votre vie ? (...) Se préparer à la mort et se créer une identité numérique, c'est peut-être choisir les histoires dont on veut qu'on se souvienne longtemps, plutôt que de simplement dire « au revoir ».
Il peut s'agir de choisir, parmi les aspects de sa vie, ce que l'on souhaite transmettre même après sa mort.
C'est une façon de se préparer à la mort qui n'a jamais existé auparavant.

--- p.32

Et qu'en est-il de ceux qui restent ? Ils recréent numériquement leurs proches pour transmettre les messages qu'ils n'ont pas pu transmettre aux défunts de leur vivant.
(...) À cette fin, le message échangé entre les deux personnes est publié sur le service.
Je suis disposé(e) à fournir mes données personnelles et les miennes au service.
Que souhaiteriez-vous lui transmettre, même si cela impliquait de faire quelque chose ? Ce serait simple.
C'est peut-être un mot de désir et d'amour.
Il y aura plus de mots comme « Tu me manques », « Je t'aime » et « Je suis désolé(e) » que de mots de ressentiment et de haine.
C'est peut-être parce que j'ai tenu sa présence pour acquise pendant la période où nous avons vécu ensemble et que je ne l'ai pas exprimé.

--- p.32~33

Peut-être, pour la première fois de l'histoire, éprouvons-nous un nouveau désir de laisser une trace de nous-mêmes, non pas par l'écriture, les photos ou les vidéos, mais en tant qu'individus.
Sous la forme d'une création très bien éditée.

--- p.59~60

Fondamentalement, les services numériques sont destinés au « moi d'aujourd'hui », et non au « moi de demain qui sera absent ».
Mais même en ce moment précis, quelqu'un est en train de mourir.
Certains savaient d'avance qu'ils allaient mourir, mais beaucoup d'autres sont morts subitement.
Les innombrables données laissées sur Internet par des personnes décédées de cette manière constituent leur « héritage », quelles que soient leurs intentions.
--- p.67~68

La personne qui nous « ressuscitera » numériquement peut être un membre de notre famille, notre amoureux, un ami ou un inconnu.

--- p.71

Même si nous recréons numériquement un être qui nous ressemble, cet être ne sera pas automatiquement mémorisé pendant longtemps.
Car tous les êtres ne peuvent exister qu'au sein de relations.
(...) C'est pourquoi, si vous voulez qu'on se souvienne de vous longtemps, vous devez réfléchir à l'histoire que vous avez avant de créer un être qui vous ressemble.
Parmi les innombrables souvenirs et réminiscences, il nous faut trouver une histoire que nous voulons garder longtemps en mémoire.
(...) Pour cela, il vous faut des souvenirs que vous souhaitez conserver à jamais.
J'ai besoin d'une journée que je ne veux pas oublier
--- p.72

Certaines conversations tuent, mais certaines conversations guérissent et sauvent des vies.
--- p.90

Nous n'avions jamais auparavant entendu un être non humain parler aussi naturellement qu'un être humain.
Au cours de dizaines de milliers d'années d'évolution, le seul langage que nous ayons connu est celui parlé par les humains.
Mais depuis l'avènement du langage artificiel sophistiqué, nous sommes confrontés à une situation où, pour la première fois dans l'histoire, nous devons faire la distinction entre le langage créé par les « humains » et celui créé par les « êtres non humains ».

--- p.92~93

Les conversations avec l'intelligence artificielle vont encore plus loin.
Le contrôle et la prévisibilité sont possibles.
Il n'y a ni conflit ni dilemme.
De plus, elle n'existe que pour moi.
Dans chaque conversation, ma parole et mes désirs ont la priorité.
Que se passerait-il si ce genre de conversation devenait monnaie courante dans nos vies ?
--- p.98

Les soins ont longtemps été considérés comme relevant de la « sphère privée » et de la « responsabilité individuelle ».
Elle était principalement confiée aux femmes et aux travailleuses migrantes et était considérée comme une « tâche subalterne ».
Mais nous grandissons en étant pris en charge par quelqu'un, et nous devenons adultes en prenant soin de quelqu'un.
On vieillit en prenant soin de quelqu'un, et on meurt en étant soigné par quelqu'un.
C'est le début et la fin de la vie.
(...) Quelle part des soins qui marquent le début et la fin de notre vie devrions-nous confier aux machines, et quelle part devrions-nous laisser aux humains ? La réponse à cette question est peut-être la condition de notre existence en tant que tels, et de l’existence humaine en tant qu’êtres humains.

--- p.105

Depuis longtemps, les fichiers vidéo et audio sont des outils utilisés pour masquer la vérité.
Il fallait des « preuves objectives » pour établir les faits.
Que ce soit à l'Est ou à l'Ouest, « voir c'est croire », et il était plus certain de savoir en voyant soi-même qu'en devinant.
Voir avec les yeux était la mesure la plus puissante de la vérité.
L'enregistrement de la conversation constituait l'une des preuves les plus accablantes qui auraient pu renverser la situation.
Mais la technologie deepfake permet de créer facilement le visage de quelqu'un.
Il est également doué pour imiter la voix de quelqu'un.
C'est une expérience sans précédent.
--- p.
124

Lorsque les gens consomment et partagent du contenu en ligne, la vérité n'est pas une priorité.
Le plus important est que cela corresponde à mes convictions et à mes valeurs.
Lorsque les informations que nous souhaitons partager renforcent notre propre identité, notre statut social et nos croyances, nous sommes plus susceptibles de les adopter et de les partager avec les autres.
Il en va de même en matière de garantie des bénéfices et des revenus.
C’est pourquoi les fausses informations se propagent si facilement et si continuellement.
--- p.127

Quelle que soit l'époque, la propagande et la manipulation de l'information ont toujours existé pour conquérir le cœur des gens.
Des mensonges reflétant divers desseins et désirs ont été présentés comme des vérités.
En ce sens, le problème majeur auquel nous sommes confrontés ces derniers temps n'est pas la multiplication des fausses informations et de la désinformation.
C'est la fin de la foi et l'effondrement de la confiance.
Les deepfakes, indiscernables de la réalité, ne se contentent pas d'éblouir nos yeux et nos oreilles, mais nous font douter de ce que nous voyons et entendons.
Les algorithmes excluent les faits qui ne correspondent pas à nos intérêts.
Non seulement cela nous rend méfiants envers les informations qui ne correspondent pas à nos sentiments et à nos désirs, mais cela nous amène aussi à abandonner notre foi et notre confiance dans beaucoup de choses que nous avons construites collectivement.
--- p.135~136

Les outils qu'ils utilisent ne sont pas loin.
Elle se trouve dans nos endroits les plus privés et intimes, y compris nos smartphones.
Elle se dissimule sous l'appellation de « recommandation » dans divers médias et services tels qu'Instagram, Facebook, TikTok, X, Thread et YouTube.
Ces outils n'attendent même pas notre arrivée.
Ils utilisent des « notifications » pour nous inciter constamment à venir.

--- p.158~159

Les assistants IA peuvent explorer et évaluer le monde qui nous entoure à notre place.
Il peut rechercher, recommander, traduire, résumer et informer en temps réel, ainsi que suggérer, avertir, conseiller et servir de médiateur.
L'arbitrage englobe également les relations humaines.

--- p.161

Cette technologie nous donne assurément l'air plus intelligents et plus astucieux.
Parce qu'il peut traiter une grande quantité de travail en peu de temps et qu'il a une faible probabilité de panne.
Bon nombre des « options risquées », qui prennent du temps et présentent une forte probabilité d'échec, ont déjà été éliminées lors du processus de filtrage.
Mais cette situation soulève inévitablement la question suivante :
Se pourrait-il que je confonde les pensées de l'IA avec les miennes ?
--- p.163

Il est possible que les services d'IA, de plus en plus personnalisés et intelligents, utilisent la productivité, l'efficacité et la commodité comme armes pour influencer nos pensées, nos actions et nos émotions.
Nous pouvons ajuster notre perception et notre attention.
(...) maintenant nous leur donnons ce qu'ils veulent, mais à l'avenir ils pourront glisser subrepticement ce que veulent ceux qui leur donnent plus d'argent.
En recommandant, en suggérant et en conseillant dans leur intérêt plutôt que dans le nôtre, nous pouvons tromper les gens et leur faire croire que leurs choix sont faits de leur propre chef.

--- p.163

Les questions de valeur et d'éthique qui demeurent irrésolues et non consensuelles dans le monde réel le resteront même avec l'utilisation de l'intelligence artificielle.
--- p.183

Nous n'avons pas besoin d'en faire l'expérience pour savoir comment des robots tueurs pourraient être utilisés entre les mains de dictateurs, de groupes terroristes ou de fanatiques.
L'histoire a déjà prouvé à quel point les êtres humains peuvent devenir moralement dépravés et mauvais.

--- p.194

En fin de compte, c'est aux « humains », et non à la « technologie de l'IA », qu'il faut s'interroger : l'IA va-t-elle nous prendre nos emplois ? L'automatisation, alimentée par les progrès technologiques, va-t-elle entraîner un chômage de masse ? Ou des milliards de personnes vont-elles devenir économiquement superflues ?
Car ce sont les humains qui adoptent la technologie qui déterminent les emplois humains.

--- p.218

Dans une situation où les « connaissances » et les « compétences », qui ont longtemps fait l'objet d'un apprentissage, sont automatisées par l'intelligence artificielle, quel devrait être l'objet de cet apprentissage ?
--- p.237

La raison pour laquelle nous devons répondre à cette question apparemment philosophique est simple.
Car seule la réponse à cette question nous permettra d'aller de l'avant.
Dans un monde où tout est incertain et imprévisible, les facteurs externes changeants ne peuvent pas constituer le but de la vie.

--- p.256

Nous avons appris et étudié le monde extérieur qui nous entoure.
(...) Mais maintenant, les choses ont changé.
Il est devenu important de se connaître soi-même, sujet d'apprentissage. (...) L'apprentissage qui commence par soi-même et se tourne vers le monde extérieur est devenu important.
--- p.257

L'éthique, ce sont des questions sur la vie.
C'est une question qui interroge le bien et le mal dans nos vies, ainsi que la manière dont nous devrions vivre et les raisons pour lesquelles nous devrions vivre ainsi.
L'éthique est une question de valeurs, de normes et de règles que nous devrions suivre dans la vie.
Il ne s'agit pas d'une « annexe » rattachée à une loi, une politique ou une technologie, mais d'un « principe » qui devrait être intégré à nos vies.

--- p.287

Les êtres humains, qui partagent les mêmes sens que les animaux, ne peuvent pas percevoir le monde uniquement à travers leurs yeux.

--- p.308

Il est vrai que les progrès scientifiques et technologiques, notamment l'intelligence artificielle, nous permettent de retrouver un quotidien perturbé par les maladies, les accidents et le vieillissement, et d'élargir nos possibilités pour poursuivre notre vie.
Mais ces progrès technologiques ne répondent pas à la question de savoir pourquoi nous devrions continuer à vivre.
La réponse à la question de savoir pourquoi nous devrions vivre plus longtemps est la même.
Bien sûr.
Se demander pourquoi nous devrions vivre longtemps, c'est se demander pourquoi nous devrions vivre.
Car il s'agit d'une question relative au but et au sens de la vie.
(...) parce qu'il est individuel.
Seuls certains individus vivant aujourd'hui peuvent répondre à cette question.
En fin de compte, le sens de la vie ne peut être inventé concrètement que par chaque individu.

--- p.313