Les algorithmes sont-ils une science révolutionnaire qui enrichira nos vies, ou une technologie de contrôle qui empiète sur notre autonomie ?
Nous explorons la face cachée des algorithmes qui s'immiscent profondément dans le monde du travail, le foyer, les relations et les émotions.
À l'ère où toutes les prises de décision sont confiées à l'IA, l'anxiété humaine demeure.

Les algorithmes d'IA sont perçus comme une science révolutionnaire permettant des vies plus efficaces et plus pratiques, une utopie capable de gérer toutes les incertitudes.
Cependant, derrière cela se cache l'anxiété et la crainte que les algorithmes ne renforcent la surveillance et le contrôle des individus, voire n'empiètent sur leur subjectivité.


Anthony Elliott, professeur de sociologie à l'Université d'Australie-Méridionale, expose cette vérité gênante dans son livre intitulé « La phobie des algorithmes ».
À travers des exemples technologiques concrets comme le système de gestion automatisé d'Uber, le contrôle du travail d'Amazon et l'algorithme de recommandation de Netflix, en passant par les métaphores de la concurrence et du contrôle reflétées dans la série « Squid Game », et même les technologies d'IA les plus récentes comme le métavers et ChatGPT, Elliot analyse à la fois des phénomènes du monde réel et des symboles culturels pour montrer comment les algorithmes remodèlent la vie humaine.

L'auteur souligne que, dans l'ombre de la « commodité » et de l'« efficacité » promises par l'intelligence artificielle, les humains sont de plus en plus intégrés aux structures de contrôle et de surveillance.
Les algorithmes peuvent sembler nous aider à faire de meilleurs choix, mais en réalité, ils prédisent et modifient notre comportement, affaiblissant ainsi notre capacité à penser et à prendre des décisions par nous-mêmes.
En échange de l'efficacité, les êtres humains abandonnent leur subjectivité et se transforment de plus en plus en « êtres numérisés » dans une vie où les émotions, les désirs et même les erreurs sont éliminés.
Ce livre montre quelles valeurs nous perdons à cause des éloges de la technologie.

La société moderne a une forte tendance à diffuser avec enthousiasme l'intelligence artificielle.
L’IA, cette « science innovante », est considérée comme la source d’une forte croissance économique et transformera nos vies dès aujourd’hui.
Mais cette ambiguïté particulière n'a pas encore été résolue.
La peur qui nous poursuit inévitablement dans notre quotidien où les mondes en ligne et hors ligne sont interconnectés, l'anxiété qui se développe sans cesse face à une « surcharge d'informations » de plus en plus grave, et la crainte de provoquer des « conséquences imprévues » en confiant la prise de décision personnelle à des machines automatisées se répandent.
En écrivant ce livre, je me suis rendu compte que les algorithmes prédictifs, loin d'apaiser nos angoisses, les amplifient en réalité, contrairement aux attentes.
--- Extrait de la « Préface et des remerciements »

L'activité de gestion automatisée des algorithmes est en soi kafkaïenne (c'est-à-dire une situation irrationnelle, contradictoire, oppressive et chaotique, telle que caractérisée par les œuvres de Kafka - note du traducteur).
Les algorithmes d'apprentissage automatique promettent de prédire mathématiquement notre avenir et d'affiner notre ordre socio-économique, mais les promesses qu'ils tiennent sont souvent oppressives et illusoires.

Dans une société automatisée avancée, l'analyse prédictive et les algorithmes intelligents définissent et réalisent les « besoins réels » et les « désirs potentiels » du marché.
Les effets secondaires potentiels de cette tendance vont bien au-delà du pouvoir coercitif des données, du risque de biais algorithmique et de la vente massive de données privées à des fins de prévisions de marché futures.
Non seulement l'anxiété se propage à l'échelle mondiale, mais des sentiments inquiétants, la désillusion et la suspicion fleurissent sous des formes qui leur sont propres, mais qui restent intimement liées.
--- Extrait du « Chapitre 1 : La domination des algorithmes, l'anxiété omniprésente »

La probabilité de s'adapter à la vie professionnelle au sein d'un système de données holistique qui surveille, mesure, fixe des quotas, cible, motive et offre diverses incitations pour accroître la vitesse de travail et la productivité des employés semble étonnamment faible.
Ceux qui ne parviennent pas à accomplir les tâches et les instructions que le système de gestion automatisé leur fournit sans cesse sombrent dans le désespoir, quel que soit le secteur de la construction.
Si cet épuisement émotionnel persiste au quotidien, la vie de l'individu est submergée par la dépression et peut même être physiquement détruite.

Ce n’est pas le seul effet secondaire de la gestion algorithmique qui étouffe les travailleurs.
La peur d'être « licencié » s'est également largement répandue.
Cela découle de la croyance répandue selon laquelle les machines intelligentes automatisées remplacent de plus en plus les humains dans de nombreux secteurs.
Le sociologue américain Richard Sennett a qualifié ce phénomène d’« anxiété d’inutilité induite par l’automatisation ».
Cette peur a non seulement augmenté de façon spectaculaire ces dernières années, mais elle tend également à engendrer du stress, de la fatigue, de la frustration, de la dépression, voire de la violence.
Autrement dit, l'angoisse de l'inutilité liée à l'automatisation est profondément ancrée.
--- Extrait du « Chapitre 2 : Le système d'automatisation impitoyable d'Amazon »

Les recommandations automatisées peuvent même restreindre et limiter les consommateurs.
L'intérêt du public pour la culture populaire est multiforme, et bien que l'identité individuelle soit intrinsèquement diverse, mixte et contradictoire, elle présente des préférences de visionnage absurdement unifiées.
Ces préoccupations culturelles ont été amplifiées par l'essor des algorithmes qui exercent une influence considérable.
Mais le recours aux systèmes de recommandation algorithmiques reflète également des craintes largement répandues quant à la domination par des forces automatisées.

Par conséquent, certains affirment que les algorithmes d'apprentissage automatique permettent une vie d'expérimentation continue, affranchie des conventions rigides de la société existante.
Mais les prédictions des machines, pilotées par des algorithmes, exacerbent en réalité l'anxiété liée à la vie automatisée en augmentant l'incertitude même que l'IA était initialement censée éliminer, ou du moins réduire et limiter.
Car l'idée de « se dégager » de la prise de décision en confiant ce pouvoir à des machines intelligentes automatisées a été révélée comme une forme de fraude.
L'un des nombreux problèmes de la vie automatisée est que le fait d'« échapper » à l'exercice de la subjectivité implique diverses formes d'évitement, de fuite et de rejet.
--- Extrait du « Chapitre 3 : Comment le système de recommandation de Netflix consomme la culture moderne »

Je dirais que ce drama coréen extrêmement violent saisit parfaitement les désirs en constante évolution d'un monde hautement capitaliste dominé par une technologie de pointe.
Si le survivalisme et la barbarie s'affrontent tout en présentant des similitudes, c'est parce que l'assurance inébranlable de la société capitaliste tardive a conduit au développement toujours plus sophistiqué des technologies de pouvoir et d'exploitation.

Dans un environnement ultra-compétitif, où prévalent une instabilité économique extrême et des inégalités sociales criantes, se nouent des alliances temporaires et des hostilités destructrices.
Mais si la guerre est définie comme une violence organisée, alors Squid Game semble offrir une nouvelle explication au « surplus » ou à l’« excès » de peur engendré par la technologie numérique.
Selon Freud, si la destructivité, l'agression et la cruauté humaines sont si terrifiantes, c'est parce qu'il est impossible de saisir la peur qui les produit et les amplifie, or les algorithmes de guerre actuels prédisent avec précision où se trouve l'ennemi.
--- Extrait du « Chapitre 4 : Identité et émotion à l'ère des algorithmes, à travers le jeu Squid »

La perspective que je développerai dans le reste de ce chapitre repose sur la théorie (que j'ai développée ailleurs) selon laquelle les technologies numériques imprègnent profondément la socialité, la culture, l'identité, le désir, le soi, la sexualité et même la structure du corps.
À mesure que les nouvelles capacités informatiques et la réalité artificielle se généralisent, nous entrons dans un monde où les gens adoptent les technologies d'automatisation tout en peinant à suivre et à contrôler la place grandissante du numérique dans leur vie quotidienne.
En m’appuyant sur ces réflexions, je souhaite redéfinir la dynamique de l’hyperréalité et du métavers, en réfléchissant aux conséquences potentielles des tendances de développement actuelles.

Mais aujourd'hui, de plus en plus de personnes peinent à se construire une identité virtuelle, et surtout une identité qu'elles puissent incarner de manière significative.
Les individus interagissent avec les mondes virtuels et les événements qui s'y déroulent sous une forme d'immersion numérique fondamentalement différente du contexte réel de la vie quotidienne.
Pour ce faire, vous pouvez participer à la conception de votre avatar et modifier son apparence (des avatars 3D aux avatars représentant le corps entier) afin d'interagir avec les autres, de partager des intérêts ou d'explorer de nouvelles opportunités sociales ou professionnelles.
Mais malgré tous nos efforts pour faire le lien entre le monde virtuel 3D et le monde analogique standard, un sentiment particulier d'instabilité et une anxiété incurable persistent.
--- Extrait du « Chapitre 5 : Métavers, imaginer différemment l'avenir d'Anryu »

Cependant, la vision du monde qui considère la technologie comme la prochaine étape du développement social est vouée à être ébranlée et déçue.
Tout d'abord, son ton hyper-rationaliste est tellement marqué qu'il considère l'efficacité économique, l'ordre social et le progrès comme découlant directement de la conception et du développement rationnels de la technologie.
Certes, la technologie peut parfois être très destructrice, mais elle n'en demeure pas moins un élément essentiel du développement rationnel des institutions modernes.
Dans cette perspective, par exemple, la technologie des microprocesseurs est perçue comme donnant naissance à une société de consommation.
S’il est facile de relier l’émergence des nouvelles technologies à des changements sociaux plus vastes, l’esprit technologique de notre époque n’est pas toujours aussi cohérent, et n’est pas nécessairement régi par la rationalité ou le mercantilisme.


L'intelligence artificielle offre des tentations sans fin, car elle promet de nous libérer de la peur de manquer de choix, de voir notre potentiel individuel disparaître et d'épuiser les alternatives sociales.
Au premier abord, il est tentant de vivre dans un monde imaginaire où l'on peut déléguer des aspects de sa vie (même les plus insignifiants ou sans importance) à des processus automatisés et éprouver un sentiment de libération grâce à l'intelligence artificielle qui accomplit les tâches à temps.
Mais cette idéalisation et cette valorisation excessive de l'intelligence artificielle automatisée ont un coût.
La tentation de déléguer certains aspects de notre vie peut engendrer des craintes quant à la délégation du pouvoir de décision aux machines, ou des inquiétudes quant à la meilleure façon de communiquer nos intentions.
Ainsi, interagir avec l'intelligence artificielle nous laisse inévitablement le sentiment désagréable d'être dépendants de quelque chose et de pouvoir être remplacés à tout moment.
--- Extrait du chapitre 6, « Intelligence artificielle : coexistera-t-elle ou dominera-t-elle ? »

Si l'inquiétude suscitée par l'IA générative découle de préoccupations liées à l'emploi et à l'avenir du travail, elle s'étend également à des enjeux sociaux, culturels et politiques plus larges.
La peur n'est pas seulement au cœur des inquiétudes des gens quant à la perspective de voir des algorithmes intelligents prendre leur place dans leur travail, c'est aussi un sentiment qui se propage comme un champignon vénéneux, dominant la réponse globale de la société aux technologies numériques automatisées.
La peur est un gigantesque central téléphonique qui contrôle la psyché humaine, jouant un rôle clé dans le démantèlement et le réassemblage technologiques des egos individuels, des relations interpersonnelles et de la société dans son ensemble.
Cela élève également l'anxiété culturelle au rang de « menace existentielle pour l'humanité », la transformant en la pire situation possible à laquelle la société puisse être confrontée.

Aujourd'hui, nous sommes en proie à une multitude de peurs : peur de la surcharge informationnelle, peur du métavers, peur des effets néfastes des médias sociaux sur les jeunes, peur du chômage technologique, peur des biais algorithmiques, peur de ChatGPT, peur que l'intelligence artificielle générale surpasse l'intelligence humaine, et bien d'autres encore.
Il existe aussi des craintes liées aux deepfakes et à la désinformation, à un déluge de données, aux robots, aux cyberattaques rapides, aux drones autonomes, aux caméras de vidéosurveillance et au capitalisme de surveillance, et à la crainte que l'IA n'envahisse notre vie privée ou ne nous rende tous inutiles.
Enfin, il y a la crainte que l'intelligence artificielle ne détruise l'humanité, que l'on peut qualifier de « mère de toutes les craintes liées à l'IA ».
C’est la menace existentielle de l’IA, la crainte que le monde ne s’arrête brutalement.

--- Extrait du « Chapitre 7 : L’ère de l’intelligence artificielle exigeant une autocorrection constante »