Guidé par le philosophe des technologies de renommée mondiale Mark Cockelberg
Tout sur l'éthique de l'IA
Le guide ultime pour une analyse complète et systématique des questions éthiques liées à l'IA.

« Tout sur l’éthique de l’IA », une traduction de AI Ethics (2020), l’un des ouvrages de la collection « Essential Knowledge Series » des Presses du MIT, est un livre qui traite de manière exhaustive et systématique des questions éthiques liées à la technologie de l’intelligence artificielle, souvent qualifiée de « feu prométhéen » des temps modernes, tout en suggérant des moyens pratiques d’y répondre.
La « seconde ère des machines », qui a succédé à la révolution industrielle du XVIIIe siècle et a été inaugurée par les innovations éblouissantes de la technologie de l'IA, suscite simultanément des émotions contradictoires : une profonde admiration pour l'IA et une peur existentielle.
Aujourd'hui, l'IA est déjà utilisée dans de nombreux domaines, notamment les transports, le marketing, la santé, la finance et l'assurance, la sécurité, l'armée, les sciences, l'éducation, le travail de bureau, le divertissement, les arts, l'agriculture, l'industrie manufacturière, et même dans la prise de décision judiciaire et l'application de la loi.
À mesure que les machines évoluent, passant du simple fait de « supplémenter » les humains à celui de les « remplacer », des scènes autrefois réservées à la science-fiction font désormais leur entrée dans le monde réel.


Ce bond technologique sans précédent pose non seulement de profonds défis à la compréhension que l'humanité a d'elle-même, mais soulève également une multitude de questions éthiques, sociales et politiques.
Par exemple, des concepts comme la « superintelligence » et la « singularité technologique » — l’idée que les machines surpasseront l’intelligence humaine — ébranlent profondément nos convictions de longue date sur l’exception humaine ou l’humanisme, alimentant les craintes que l’IA puisse prendre le pouvoir et menacer des vies humaines, et soulevant des questions sur la manière dont nous devrions attribuer la responsabilité morale des voitures autonomes ou des armes autonomes létales, et sur qui devrait être tenu responsable en cas de problème.
Les inquiétudes concernant les atteintes à la vie privée induites par l'IA, le risque de totalitarisme et l'exacerbation des inégalités sociales et des préjugés sont également constamment soulevées.
L'intelligence artificielle a été comparée à la bombe atomique d'Oppenheimer, dans la mesure où les nouvelles technologies peuvent avoir des conséquences imprévues.


Cet ouvrage dépasse les nombreux récits exagérés qui entourent l'IA, abordant de manière exhaustive la quasi-totalité des questions et controverses liées à l'éthique de l'IA sous de multiples angles, offrant ainsi une perspective plus large sur le nouveau monde technologique auquel nous sommes confrontés. Bien que plusieurs livres sur l'éthique de l'IA aient déjà été publiés en Corée, dans la foulée de l'engouement pour l'IA, la plupart se concentrent sur des problématiques spécifiques ou sont conçus comme une lecture de vulgarisation.
Cet ouvrage, qui se distingue des autres par son approche exhaustive, systématique et précise de son sujet et du problème abordé, présente un thème d'une importance capitale pour la réflexion sur la coexistence harmonieuse des humains et des machines, ce qui le rend plus pertinent que jamais pour nous aujourd'hui.


Mark Coeckelbergh, l'auteur, enseigne actuellement la philosophie des technologies médiatiques à l'Université de Vienne, en Autriche, et a été président de la Société de philosophie et de technologie. Chercheur belge de renommée internationale, il a joué un rôle de premier plan dans le débat sur les sciences et les technologies, notamment l'intelligence artificielle, et est considéré comme l'un des penseurs les plus polyvalents, profonds et originaux de la philosophie des technologies contemporaine.
Nommé membre de la Commission mondiale de l'UNESCO sur l'éthique des sciences et des techniques et participant à des travaux de conseil en matière de politiques, il fait preuve d'une profonde compréhension philosophique de la nature humaine et de l'avenir, tout en présentant des réponses politiques aux problèmes urgents soulevés par la technologie, démontrant ainsi ses talents à la fois de théoricien et de praticien dans cet ouvrage.

Cet ouvrage vise à offrir aux lecteurs une vue d'ensemble complète des enjeux éthiques de l'IA, depuis les récits marquants sur l'avenir de l'IA et les questions philosophiques relatives à la nature humaine et à l'avenir, jusqu'aux préoccupations éthiques liées à la responsabilité et aux biais, en passant par la manière dont les politiques publiques peuvent répondre aux problèmes concrets soulevés par cette technologie. Il a pour objectif de fournir aux lecteurs une vue d'ensemble complète des enjeux éthiques de l'IA, dans les meilleurs délais.
--- p.21-22

La pensée occidentale sur l'IA est-elle condamnée à rester prisonnière de ces peurs et fascinations modernes, ainsi que de leurs racines ancestrales ? Pourrons-nous dépasser l'engouement actuel, ou le débat continuera-t-il de se focaliser sur la superintelligence ? Je crois qu'une issue est possible.
Premièrement, nous pouvons trouver, en dehors de la culture occidentale, des récits non frankensteiniens et des façons non platoniciennes de penser la technologie.
--- p.41

Les philosophes continentaux soulignent généralement que les êtres humains et l'esprit sont fondamentalement différents des machines, et ils se concentrent sur l'expérience humaine consciente d'elle-même et sur l'existence humaine, qui ne peuvent et ne doivent pas être réduites à des techniques formelles ou à des explications scientifiques.
Cependant, d'autres philosophes, généralement issus de la tradition de la philosophie analytique, soutiennent la vision de l'humanité défendue par les chercheurs en IA.
Ils pensent que le cerveau et l'esprit humains sont en réalité comme des modèles informatiques et fonctionnent de cette manière.
--- p.48

Il convient de rappeler que même les scientifiques et les philosophes qui croient qu'il existe, en principe, de nombreuses similitudes entre les humains et les machines, et que l'IA générale est théoriquement possible, rejettent souvent la vision de Bostrom de la superintelligence ou des notions similaires selon lesquelles une IA de type humain est imminente.
--- p.50

Examinons brièvement trois clivages qui influencent indirectement le débat éthique sur l'IA.
La première est la scission entre les Lumières et le romantisme apparue au début de l'époque moderne.
Les deux autres sont des développements relativement récents.
L'une est la division entre humanisme et transhumanisme, qui se situent dans la tension de la modernité, et l'autre est la division entre humanisme et posthumanisme, qui cherche à transcender la modernité.
--- p.52

Les posthumanistes remettent en question la place centrale de l'humain dans l'ontologie et l'éthique modernes.
Selon eux, les non-humains sont également importants, et nous ne devrions pas avoir peur de franchir la frontière entre l'humain et le non-humain.
Il s'agit d'une piste de recherche intéressante car elle dépasse le cadre de la compétition entre les humains et les machines.
--- p.56

Ce posthumanisme semble libérer l'IA du fardeau d'imiter ou de reconstruire les humains, lui permettant d'explorer divers types d'existence, d'intelligence et de créativité non humains. L'IA n'a pas nécessairement besoin d'être créée sous forme humaine.
Le progrès implique ici de s'ouvrir aux êtres non humains, au-delà de l'humain, et d'apprendre d'eux.
--- p.57-58

Réfléchir à l'IA ne nous apprend pas seulement quelque chose sur l'IA, cela nous apprend aussi quelque chose sur nous-mêmes.
Sur notre façon de penser, sur la façon dont nous interagissons réellement avec les non-humains, et sur la façon dont nous devrions interagir avec eux.
(Omission) Les questions relatives à l'IA soulèvent un abîme de questions cruciales sur la nature de la connaissance humaine, de la société humaine et de la moralité humaine.
--- p.77

Une autre implication de l'affirmation selon laquelle l'IA n'existe pas en soi est que la technologie est toujours sociale et humaine. L'IA ne se limite pas à la technologie ; elle concerne aussi l'usage qu'en font les humains, la manière dont ils l'utilisent, la perception et l'expérience qu'ils en font, et la façon dont ils l'intègrent dans leur environnement social et technologique.
Ceci est important pour l'éthique, qui concerne également les décisions humaines, et signifie que l'éthique doit aussi inclure des perspectives historiques, sociales et culturelles.
--- p.96

Le danger réside ici dans le fait que, même dans les sociétés démocratiques actuelles, l'IA pourrait conduire à de nouvelles formes de manipulation, de surveillance et de totalitarisme, pas nécessairement sous la forme de politiques autoritaires, mais de manière plus insidieuse mais extrêmement efficace.
--- p.120

Un autre problème spécifique à l'IA est celui des biais. Ces biais peuvent survenir lorsque l'IA prend des décisions, ou plus précisément, lorsqu'elle recommande des décisions.
Que cette décision puisse être injuste ou inéquitable envers un individu ou un groupe en particulier.
--- p.149

Au-delà des éthiques négatives qui fixent des limites, nous devons développer explicitement et précisément une éthique positive qui promeut la vision d'une vie et d'une société bonnes.

--- p.204