introduction
Le cheval le plus intelligent du monde | Qu'est-ce que l'IA ? | Pourquoi l'IA doit être perçue comme une carte | La topographie du calcul | Extraction, pouvoir et politique

1er district
Exploitation minière pour l'IA│Le paysage du calcul│Couches minéralogiques│Lacs noirs et latex blanc│L'illusion des technologies propres│Les couches de la logistique│L'IA comme machine géante
2 Travail
L'histoire passée de l'IA au travail│L'IA Potemkin et Mechanical Turk│Concepts de déconstruction et d'automatisation du travail : Babbage, Ford et Taylor│L'abattoir de Chicago│Gestion du temps, privatisation du temps│Le temps privé comme stratégie de pouvoir│Le rythme impitoyable de la vitesse
3 données
Apprendre aux machines à voir│Brève histoire de la demande de données│Capture des visages│D'Internet à ImageNet│Consentement non requis│Mythes et métaphores des données│Qui se soucie de la destination de la fusée ?│S'approprier les biens communs pour devenir milliardaire
4 catégories
Systèmes d'argumentation circulaire │ Limites des systèmes de débiaisement │ Différentes définitions du biais │ Ensembles d'entraînement comme moteurs de classification : le cas d'ImageNet │ Le pouvoir dans la définition des « personnes » │ Construction de la race et du genre │ Limites de la mesure
5 émotions
Le Prophète des Émotions : Quand les émotions deviennent de l'argent│Le physiognomoniste le plus célèbre au monde│Les Émotions : De la physionomie à la photographie│Capturer les émotions : L'art de jouer les émotions│Les expressions faciales expriment-elles vraiment des émotions ?│La politique du visage
6 pays
La troisième stratégie de compensation | Le plan Maven | L'externalisation de l'État | Des scores de crédit des terroristes aux scores de crédit social | Le transnational, la nation et mon quotidien
Conclusion - Puissance
Un jeu sans limites│Le pipeline de l'IA│La carte n'est pas le territoire│Vers la solidarité pour la justice
De plus - espace

· Remerciements
Note du traducteur
· principal
· Références
· Recherche

Comment l'IA change-t-elle le monde dans lequel nous vivons ?
« L’intelligence artificielle n’est ni artificielle ni intelligente ! »

Comment les gens comprennent-ils et acceptent-ils aujourd'hui l'« intelligence artificielle » (IA) ? La considèrent-ils comme le summum de la science et de la technologie modernes, ou comme une entité merveilleuse capable de résoudre instantanément des problèmes auparavant insolubles pour les humains ? Or, cet ouvrage soutient qu'il ne s'agit là que d'une illusion née d'une confiance aveugle.
Kate Crawford, cofondatrice de l'AI Now Institute de l'Université de New York et chercheuse de longue date sur les implications sociales de l'intelligence artificielle, examine de près dans cet ouvrage le processus de création de l'intelligence artificielle et explore les pièges qu'il engendre.
Beaucoup de gens croient encore que des systèmes semblables à l'esprit humain peuvent être créés de toutes pièces et que l'intelligence artificielle existe naturellement et indépendamment, mais il s'agit là d'une perception excessivement simpliste et étriquée.

L'ouvrage soutient que l'IA n'est ni « artificielle » ni « intelligente ».
L’IA est plutôt une intelligence incarnée et matérielle, créée à partir de ressources naturelles, d’énergie, de travail humain, d’infrastructures, de logistique, d’histoire et de classification. Les systèmes d’IA ne sont ni autonomes ni rationnels, et ne peuvent rien discerner sans un apprentissage intensif et approfondi utilisant de vastes ensembles de données ou des règles et des récompenses préexistantes.
En réalité, l'IA telle que nous la connaissons dépend entièrement de structures politiques et sociales beaucoup plus vastes.
De plus, comme l'IA nécessite des capitaux pour être développée à grande échelle et des méthodes pour l'optimiser, les systèmes d'IA sont en fin de compte conçus pour servir des intérêts particuliers.
En ce sens, l'intelligence artificielle est un registre du pouvoir.

Cet ouvrage examine en profondeur la création de l'intelligence artificielle et explore les forces économiques, politiques, culturelles et historiques qui la façonnent. En reliant l'IA à ces structures et systèmes sociaux plus vastes, nous pouvons nous affranchir de l'idée reçue selon laquelle l'IA serait un domaine purement technologique.
Fondamentalement, l'IA est à la fois un acte technologique et social, une institution et une fondation, une entité politique et culturelle.
Le raisonnement opérationnel et le travail incarné sont profondément liés. Les systèmes d'IA reflètent et produisent à la fois une compréhension des relations sociales et du monde.

Dans cet ouvrage, l'IA est utilisée pour désigner « une structure industrielle à grande échelle englobant la politique, le travail, la culture et le capital ».
En réalité, le terme « intelligence artificielle » est davantage utilisé en marketing.
Le terme IA est souvent utilisé à tort et à travers lors des demandes de financement, lorsque les investisseurs en capital-risque se présentent avec leurs chéquiers, ou lorsque les chercheurs veulent attirer l'attention des médias sur leurs nouvelles recherches.
De ce fait, le terme IA change constamment de sens, étant tantôt adopté, tantôt rejeté.

Mais comment une carte peut-elle nous aider à comprendre le processus de création de l'intelligence artificielle ? La métaphore de la carte offre une nouvelle perspective pour appréhender l'intelligence artificielle.
Nous avons besoin d'un discours sur l'IA qui explique les nations et les entreprises qui pilotent et contrôlent l'IA, l'exploitation minière qui défigure la planète, la collecte massive de données et les pratiques de travail inégalitaires et abusives qui la sous-tendent.
Une approche géospatiale offre une perspective et une échelle nouvelles qui dépassent les promesses abstraites de l'intelligence artificielle ou des modèles d'apprentissage automatique modernes.
L’objectif est de comprendre l’IA dans un contexte plus large en explorant les différents domaines du calcul et leurs interconnexions.

Ce qui existe dans le domaine de l'IA n'est pas une boîte noire à ouvrir, un secret à dévoiler, mais plutôt une myriade de systèmes de pouvoir imbriqués.
Par conséquent, une transparence totale est un objectif impossible à atteindre. Pour mieux comprendre le rôle de l'IA dans le monde, il est indispensable de prendre en compte les structures matérielles, les environnements contextuels et les caractéristiques politiques dominantes, et d'analyser leurs interconnexions.
Les idées de l'auteur présentées dans cet ouvrage sont inspirées par près d'une décennie d'expérience au sein de laboratoires de recherche en IA, tant dans le milieu universitaire que dans l'industrie, et par sa formation en recherche scientifique et technologique, en droit et en philosophie politique.

Comment l'IA concentre-t-elle la richesse et le pouvoir ?
Exploitation des ressources naturelles, droits des travailleurs, vie privée, État et entreprises, inégalités… toutes ces questions liées à l’IA.

Ce livre définit l'intelligence artificielle comme une « industrie extractive ».
La création de systèmes d'IA modernes nécessite l'exploitation des ressources énergétiques et minérales de la Terre, d'une main-d'œuvre bon marché et d'énormes quantités de données.
Pour observer ce phénomène en action, l'auteur se rend dans des lieux où l'IA est réellement créée.
Un bon point de départ pour comprendre ce qu'est l'intelligence artificielle et de quoi elle est constituée est une mine de lithium du Nevada, aux États-Unis, l'une des nombreuses mines de minéraux nécessaires au fonctionnement des ordinateurs.


Le secteur minier est celui qui illustre le plus clairement la nature politique de l'extraction de l'IA.
La demande du secteur technologique en terres rares, en pétrole et en charbon est énorme, mais le coût réel de l'extraction de ces ressources est loin d'être supporté par l'industrie de l'IA.
Du côté des logiciels, la construction de modèles pour le traitement automatique du langage naturel et la vision par ordinateur exige d'énormes quantités d'énergie, et la course à la création de modèles plus rapides et plus efficaces a conduit à des techniques de calcul gourmandes en ressources qui augmentent l'empreinte carbone de l'IA.
Des derniers arbres de Malaisie abattus pour produire le latex nécessaire au premier câble sous-marin transatlantique aux immenses lacs artificiels de Mongolie-Intérieure où s'accumulent des résidus toxiques, nous retraçons les origines environnementales et humaines de notre réseau informatique mondial et examinons comment ces actions transforment la planète à grande échelle.

En réalité, l'intelligence artificielle est créée par le travail humain.
Les travailleurs numériques payés une misère pour des tâches répétitives, les employés des entrepôts Amazon qui suivent scrupuleusement les algorithmes d'un gigantesque empire logistique, les ouvriers des abattoirs de Chicago qui découpent et transforment les carcasses d'animaux… Comment s'adaptent-ils aux systèmes d'IA qui intensifient la surveillance et le contrôle pour leurs employeurs ? En analysant en détail comment les mécanismes de gestion du temps permettent d'adapter le comportement humain aux mouvements répétitifs des robots et des machines à la chaîne, et en identifiant les problèmes rencontrés, nous pouvons entrevoir à quoi ressemblera le travail de demain.
La logique d'extraction qui définit la relation entre la Terre et le travail humain est également liée à la manière dont l'IA utilise et comprend les données.


Tout matériel numérique accessible au public est collecté librement pour constituer des ensembles de données d'entraînement utilisés pour créer des modèles d'IA, qui servent ensuite à améliorer les algorithmes effectuant des fonctions telles que la reconnaissance faciale, la prédiction vocale et la détection d'objets.
Cependant, la pratique actuelle de l'IA utilisant les données soulève d'importantes préoccupations éthiques, méthodologiques et épistémologiques, en plus de graves problèmes tels que les atteintes à la vie privée et le capitalisme de surveillance.
L'exemple le plus représentatif est le comportement de classification dans les systèmes d'intelligence artificielle.
Nous examinons comment les systèmes actuels s'appuient sur le genre binaire, les classifications raciales homogènes et des évaluations discutables de la personnalité et de la solvabilité comme base principale pour prédire l'identité, et comment les systèmes d'IA renforcent les hiérarchies et amplifient les inégalités dans ce processus.

La manière dont l'IA reconnaît les émotions humaines est également une question importante.
Nous examinons les différentes affirmations concernant la reconnaissance des émotions à travers les recherches du psychologue Paul Ekman et d'autres, et explorons l'histoire de la reconnaissance des émotions lors d'un voyage dans un village de montagne en Papouasie-Nouvelle-Guinée.
Nous explorons comment des entreprises technologiques comme Amazon, Microsoft et IBM conçoivent et déploient des systèmes de détection des émotions, et examinons les controverses scientifiques, les préoccupations et les effets secondaires potentiels qui en découlent.

Un autre point clé de ce livre est la manière dont les systèmes d'IA sont utilisés comme outils du pouvoir d'État.
Les applications militaires passées et présentes de l'intelligence artificielle ont façonné des pratiques telles que la surveillance, l'extraction de données et l'évaluation des risques.
Les liens étroits entre les secteurs technologique et militaire sont contrôlés afin de servir un agenda nationaliste affirmé.
Parallèlement, les outils illégaux utilisés dans le secteur du renseignement se répandent du domaine militaire au secteur commercial, s'infiltrant dans les salles de classe, les commissariats, les lieux de travail et les centres d'aide à l'emploi. La logique militaire qui a façonné les systèmes d'IA est désormais intégrée au fonctionnement des collectivités locales, fragilisant davantage encore la relation entre l'État et ses citoyens.

Comprendre comment l'intelligence artificielle fonctionne comme une structure de pouvoir et relie les infrastructures, les capitaux et le travail, et développer des alternatives, est directement lié à notre présent et à notre avenir.
Du contrôle astucieux des chauffeurs Uber au suivi des immigrants sans papiers, en passant par les protestations des locataires de logements sociaux contre les systèmes de reconnaissance faciale dans leurs foyers, les systèmes d'IA sont construits selon la logique du capital, du maintien de l'ordre et de la militarisation, une combinaison qui exacerbe encore davantage les déséquilibres de pouvoir existants.
Par conséquent, les systèmes d'IA doivent ouvrir d'urgence de nouvelles voies vers la justice et l'égalité, plutôt que vers l'extraction industrielle et la discrimination.
Il est de plus en plus nécessaire de rejeter une approche privilégiant la technologie et d'élargir les mouvements nationaux et internationaux pour lutter contre les inégalités et les injustices sous-jacentes, en exigeant justice pour le travail, le climat et les données.
Ce livre examine de manière vivante comment l'intelligence artificielle est réellement créée, nous aidant à nous libérer des perceptions biaisées et de l'optimisme technologique incertain du passé et à envisager un avenir réaliste et durable.