Entrée

Introduction | Quel est le problème ?

Chapitre 1 Qu'est-ce que l'intelligence artificielle ?

IA spécialisée, IA générale, IA forte ─ Choisissez un défi │ Vocabulaire à connaître pour préparer un jeu télévisé : GOFAI │ Apprendre aux machines │ Qu’en est-il de l’apprentissage profond et des réseaux neuronaux ? │ Quelle IA est intelligente ? │ Quelles sont les limites actuelles de l’IA ? │ Il devient de plus en plus difficile de déterminer les limites de l’IA │ Qui développe l’IA aujourd’hui ?

Chapitre 2 : L’intelligence artificielle peut-elle être sûre ?

La vie avec l'IA : un cauchemar digne de la science-fiction ? │ Problèmes de sécurité liés à l'IA aujourd'hui │ Quelques études de cas │ L'imprévisibilité prévisible

Chapitre 3 : L’IA peut-elle respecter la vie privée ?

Qu’est-ce que la vie privée ? Pourquoi devrions-nous nous en soucier ? Comment l’IA porte-t-elle atteinte à la vie privée ? L’écosystème de l’IA encourage l’accumulation et la vente de données personnelles. Comment protéger notre vie privée des menaces que représente l’IA ? Accordons-nous de l’importance à notre vie privée ?

Chapitre 4 : L’intelligence artificielle peut-elle être juste ? … 157

Qu’est-ce que la justice ? Qui est emprisonné avant son procès ? Juges humains contre IA : qui est le plus précis ? Rendre l’équité explicite. Juges humains contre IA : qui est le plus partial ? Qu’en est-il de la justice procédurale ? L’interprétabilité résoudra-t-elle le problème ? IA équitable

Chapitre 5 : Peut-on tenir l’intelligence artificielle (ou ses créateurs et utilisateurs) responsables ?

Qu’est-ce que la responsabilité ? │ Le conducteur humain est-il responsable ? │ Le piéton est-il responsable ? │ L’IA impliquée est-elle responsable ? │ Uber est-il responsable ? │ Le gouvernement de l’État d’Arizona est-il responsable ? │ L’IA est-elle responsable ? │ Le déficit de responsabilité

Chapitre 6 : L’intelligence artificielle peut-elle être dotée d’une moralité humaine ?

Moralité descendante ? Moralité ascendante ? Le meilleur des deux mondes. Qui recevra un rein ? Comment intégrer la moralité à l’IA de distribution des reins ? Démocratie artificiellement améliorée.

Chapitre 7 Que pouvons-nous faire ?

La complexité de la création d'IA │Pourquoi existe-t-il un écart entre les principes et la pratique en matière d'IA éthique ? │Que peut-on faire pour combler cet écart ? │Premier appel à l'action │Deuxième appel à l'action │Troisième appel à l'action │Quatrième appel à l'action │Cinquième appel à l'action │Vue d'ensemble

Conclusion | C'est à nous de décider

principal
Recherche

Pourquoi une « IA morale » ?

Le titre, « IA morale », suscite la curiosité.
Les amateurs de science-fiction espèrent peut-être que ce livre prédira l'émergence d'un nouveau type d'intelligence artificielle dotée de moralité, d'autonomie et de libre arbitre.
Cependant, l’« intelligence artificielle morale » proposée dans ce livre n’est pas une intelligence artificielle d’un futur aussi lointain.
De manière générale, il s'agit d'une « IA qui apprend et met en œuvre les valeurs humaines », et de manière plus spécifique, d'un « système qui assiste le jugement moral humain ».
Un exemple de recherche représentatif illustrant cette possibilité est celui de « l'IA qui détermine la priorité des patients pour les transplantations rénales ».


Dans les hôpitaux, les priorités de transplantation sont généralement déterminées par 1) le jugement médical du chirurgien transplanteur et 2) les jugements médicaux et pratiques du personnel hospitalier (aptitude, âge, santé, qualité de l'organe, période d'attente, etc.) qui déterminent la politique de transplantation rénale (les jugements moraux sont exclus).
« Moral AI » apprend de deux manières : premièrement, en programmant les décisions médicales qu’un chirurgien spécialisé dans les transplantations prendrait s’il était dans des conditions physiques et mentales idéales, et deuxièmement, en modélisant les décisions du groupe qui décide de la politique de transplantation de l’hôpital.
Dans ce dernier cas notamment, en impliquant non seulement le personnel hospitalier mais aussi divers citoyens, y compris des avocats, des patients et des non-experts, un jugement moral commun peut être intégré dans un système automatisé.
Cet outil technologique peut contribuer à prévenir les erreurs et les biais des chirurgiens, et à garantir que les priorités d'attribution des reins soient conformes aux valeurs morales de la population.
Ce livre présente les idées de recherche actuelles sur la manière d'extraire les caractéristiques morales, de mesurer leur poids, de modéliser les jugements moraux, de synthétiser les jugements de groupe et d'idéaliser les jugements moraux pour mettre en œuvre cette technologie dans les systèmes (voir pages 239-253).

Une IA dotée d'une moralité humaine

Cela peut encore paraître de mauvais goût aux lecteurs qui s'attendaient à « l'émergence d'une IA dotée de moralité », mais le potentiel de cette technologie est énorme.
Il y a deux points clés.
Premièrement, cela peut aider les gens à porter des jugements moraux.
Les êtres humains imparfaits peuvent commettre des erreurs morales à tout moment.
Car nous ne pouvons échapper aux « biais qui influencent inconsciemment la prise de décision, tels que les biais cognitifs, le favoritisme et les préjugés raciaux ou sexistes ».
Une « IA morale idéale » qui éliminerait de tels biais pourrait nous aider à formuler des « jugements moraux plus éclairés, rationnels et impartiaux », même lorsque nous sommes imparfaits (par exemple, à moitié endormis ou en colère).
Deuxièmement, elle peut contribuer à réduire les injustices sociales et à prévenir les décisions contraires à l'éthique. Étendre cette technologie, qui intègre la moralité à l'IA, à d'autres domaines pourrait mener au développement de systèmes de « démocratie artificiellement améliorée (IAA) » qui automatisent les jugements moraux des membres de la communauté (voir pages 254-256).


En particulier, si l'AID est intégrée aux outils d'aide à la décision, elle peut être utilisée dans un large éventail de domaines, et pas seulement dans le domaine médical.
Par exemple, on pourrait aider les agents humains à faire les bons choix lorsque les recruteurs interviewent des candidats ou prennent des décisions d'embauche, lorsque les opérateurs militaires déterminent quand et où lancer des missiles, et dans d'autres domaines où l'équité et la moralité peuvent être en jeu.
Parallèlement, les auteurs proposent diverses mesures pratiques (« stratégies d’IA morale ») qui peuvent aider les développeurs d’IA à renforcer l’intervention éthique dès les premières étapes du développement de produits d’IA, tout en diffusant simultanément la technologie de l’« IA morale » dans divers domaines.
Les domaines clés sont « la diffusion des technologies, les pratiques organisationnelles, l’éducation, l’engagement civique et les politiques publiques », et les développeurs peuvent les utiliser comme lignes directrices concrètes pour leur stratégie d’« IA éthique », telles que l’amélioration de la culture organisationnelle, le renforcement du rôle des responsables de l’éthique, l’établissement d’indicateurs éthiques et la prise en compte des valeurs de la communauté dans les produits d’IA.

Technologie de l'IA et nouveaux enjeux éthiques

Les auteurs présentent également un large éventail de nouvelles questions éthiques liées à la technologie de l'intelligence artificielle que nous devons prendre en compte aujourd'hui.
Voici quelques exemples clés tirés des cas présentés dans ce livre.
Tout d’abord, la question de la responsabilité (ou « lacune en matière de responsabilité »). Qui devrait être tenu responsable des accidents de sécurité causés par l’IA ? En 2018, une Volvo XC90 autonome appartenant à Uber a percuté un piéton (Hertzberg) lors d’un essai.
Les capteurs du véhicule et le système de reconnaissance par intelligence artificielle n'ont pas détecté le piéton, et le conducteur d'essai, assis au volant, regardait également ailleurs.
Qui est responsable de la mort d'Hertzberg ? Le pilote d'essai ? Le constructeur automobile ? Les ingénieurs d'Uber qui ont créé l'IA ? Ou bien personne ne peut être tenu responsable car personne n'avait anticipé les conséquences de l'IA ?

Le problème du « déficit de responsabilité » peut survenir dans divers domaines où l'IA est utilisée.
Du fait du grand nombre de personnes impliquées, la gravité des responsabilités juridiques et morales reste floue.
Par exemple, si une IA commet une erreur de diagnostic dans un hôpital, entraînant un traitement inutile ou retardé pour un patient, qui en sera tenu responsable ? Si l’armée utilise l’IA pour provoquer une frappe de drone, causant des victimes civiles, qui en sera tenu responsable ? Prenons un exemple plus inquiétant : si une start-up développe un chatbot de consultation médicale basé sur le modèle GPT d’OpenAI et que ce chatbot donne des conseils dangereux entraînant la mort d’une personne, qui en sera tenu responsable ? La start-up ou OpenAI, qui a fourni la technologie du modèle GPT ? Les auteurs craignent que si notre société ne parvient pas à résoudre ces problèmes de responsabilité, des troubles sociaux soient inévitables.

Deuxièmement, la question de l'atteinte à la vie privée.
Les informations personnelles peuvent facilement fuiter et être utilisées à des fins criminelles.
Par exemple, la combinaison de l'IA de reconnaissance faciale et de la technologie de suivi de localisation pourrait permettre à une personne de révéler des informations médicales sensibles simplement en la voyant dans la rue, et pourrait rendre les gens vulnérables aux attaques de phishing utilisant la technologie deepfake de l'IA (imaginez des chatbots, des vidéos, des enregistrements et des photos se faisant passer pour de véritables employés de banque ou du fisc).
Mais il existe une autre menace pour la vie privée sur laquelle les auteurs se concentrent réellement dans ce livre.
Il s'agit d'un écosystème d'IA qui repose sur la « collecte du maximum de données personnelles possible, leur stockage permanent et leur vente au plus offrant ».
De nombreuses entreprises spécialisées en IA investissent aujourd'hui massivement dans la collecte de données personnelles, car « plus les données d'entraînement sont diversifiées et étendues, plus l'IA devient précise et plus elle peut faire de prédictions ».


La méthode de collecte est également ingénieuse.
Dans le cas de PayPal, une société de paiement en ligne aux États-Unis, « si un utilisateur accepte d'intégrer PayPal à un site web, son historique d'achats, ses préférences personnelles, ses photos et son statut d'invalidité seront partagés avec ce site web (ne vous laissez pas berner par la phrase « Nous ne vendons pas vos données personnelles » dans la politique de confidentialité, vous aurez de gros problèmes).
Car cette phrase ne signifie pas « nous ne partageons pas de données avec d’autres entreprises ».
Les données personnelles ainsi collectées servent à entraîner divers modèles d'IA (tels que la reconnaissance faciale, la complétion de texte ou les systèmes de chatbot), et même les modèles d'IA entraînés peuvent être loués ou vendus à d'autres entreprises.
Par ailleurs, du fait de la nature des modèles d'IA qui ont tendance à « se souvenir » de certaines informations issues des données d'entraînement (« phénomène d'« incapacité à oublier »), il n'est pas impossible que des informations personnelles soient divulguées.
« Microsoft et Amazon ont également averti leurs employés de ne pas partager d'informations sensibles avec ChatGPT. »
Parce que ces informations pourraient un jour être incluses dans le résultat.

Troisièmement, la question des biais dans les données. Les biais dans les données constituent depuis longtemps une préoccupation dans le domaine de l'éthique de l'IA.
« Chaque fois que nous décidons quelles données collecter, quelles informations intégrer à un algorithme d'IA et comment réagir à ses prédictions, nous introduisons un biais humain dans l'IA. »
Les modèles d'IA entraînés sur des données biaisées produiront inévitablement des résultats biaisés (« biais en entrée, biais en sortie »), et une étude a révélé que « l'IA couramment utilisée pour l'embauche, le licenciement, les promotions, les prêts immobiliers et les prêts aux entreprises désavantage souvent les candidats, en particulier les personnes noires, les femmes, les immigrants, les personnes vivant dans la pauvreté et les personnes handicapées, et l'IA de détection du cancer de la peau ne fonctionne pas aussi bien sur les personnes à la peau foncée (personnes de couleur) ».

Quatrièmement, la question de la transparence dans le processus de traitement algorithmique.
Il s'agit d'un problème reconnu comme étant plutôt épineux, notamment dans le domaine de l'IA d'apprentissage profond.
L'intelligence artificielle d'apprentissage profond est reconnue pour ses capacités prédictives supérieures à celles des autres technologies d'IA, mais le problème réside dans le fait que le processus de traitement de l'algorithme est comme une boîte noire, ce qui le rend impossible à interpréter ou à comprendre.
La controverse entourant la décision « Loomis contre Wisconsin » en est un parfait exemple.
Eric Loomis, accusé d'implication dans la fusillade, a été condamné à une lourde peine après avoir été considéré comme une « menace pour la communauté » sur la base des prédictions de Compass (un outil d'évaluation des risques utilisé par les tribunaux de condamnation américains).
Loomis a fait appel, arguant que le modèle prédictif de Compass était « tellement exclusif et complexe qu'il n'y avait aucun moyen réaliste de savoir comment ou pourquoi il était parvenu à ses prédictions de risques, ni de réagir », mais a finalement perdu.
Mais comme le soulignent les auteurs, « si l’IA qui génère les prédictions est incompréhensible pour quiconque n’est pas expert en IA, voire impossible à comprendre pour les experts… alors le processus juridique finira par perdre toute équité. »
Les auteurs craignent que l'opacité de l'IA ne soulève des questions d'équité dans de nombreux domaines où cette technologie sera utilisée à l'avenir.


La compétition entre le pouvoir de la technologie et la sagesse

Geoffrey Hinton, lauréat du prix Nobel de physique 2024, avait averti que « l'IA pourrait conduire à l'extinction de l'humanité d'ici 30 ans », mais à mesure que la valeur économique de l'IA se confirme, un tout autre climat se dégage.
Certains pourraient affirmer que les questions éthiques sont absurdes à l'heure où le monde entier risque sa vie pour développer de nouveaux produits d'IA.
Certaines entreprises peuvent penser que le lancement d'un nouveau produit, suivi de la résolution des problèmes au fur et à mesure qu'ils surviennent (la méthode « Lean-Agile »), est une pratique courante dans les entreprises informatiques et qu'elle a fait ses preuves.


C’est ce contre quoi ce livre nous met en garde.
« Si les entreprises ne se sentent pas responsables des dommages causés par l’IA, elles subiront une pression croissante pour développer des produits d’IA potentiellement dangereux, mais néanmoins rentables. » Compte tenu du pouvoir destructeur de l’IA, l’ampleur des dégâts dépassera le cadre de l’entreprise individuelle.
C’est pourquoi de nombreux gouvernements et institutions s’efforcent aujourd’hui de prédire la sécurité et les risques potentiels de l’IA, d’établir des principes d’« éthique de l’IA » et de mener des recherches et des efforts institutionnels pour prévenir la perte de contrôle humain sur les machines à long terme (en Corée, l’Institut de recherche sur la sécurité de l’IA sera créé d’ici la fin de 2024 et la loi fondamentale sur l’IA sera adoptée en séance plénière).


Peut-être devrions-nous nous efforcer de doter l'IA non pas d'une technologie de pointe plus puissante, mais plutôt d'une « moralité » humaine qui préservera l'avenir de l'humanité.
Stephen Hawking affirme : « Notre avenir sera une course entre la puissance toujours croissante de la technologie et la sagesse avec laquelle nous l'utilisons. »
Le développement d'une « IA morale » qui apprend et incarne les valeurs humaines pourrait être la clé de cette sagesse.
Comme le soulignent les auteurs, pour l'instant, « le réalisateur et l'acteur principal de l'histoire de l'IA morale sont des humains ». Cependant, si la première partie de cette histoire s'achève sans prendre en compte les valeurs que nous souhaitons inculquer à l'intelligence artificielle, la place de l'humanité dans la seconde partie, écrite par une IA omniprésente, pourrait être gravement menacée.