L'IA : un miroir de l'éthique reflétant l'humanité

« IA et questions éthiques » explore en profondeur les questions éthiques liées à l'intelligence artificielle, que nous devons prendre en compte à l'approche de l'ère de la superintelligence.
Il examine diverses problématiques soulevées par le progrès technologique, telles que les biais dans les données, les violations de la vie privée, le manque de clarté quant à la responsabilité et les deepfakes, et propose une orientation pour l'IA fondée sur les principes de dignité humaine et d'intérêt public.

Voici diverses définitions, concepts et problématiques liés à l'éthique de l'IA.
Premièrement, cela précise qui est responsable des actions des systèmes d'IA.
Par exemple, si une voiture autonome provoque un accident, il faut déterminer clairement qui est responsable : le constructeur, le développeur du logiciel ou le propriétaire du véhicule.
Deuxièmement, nous devons faire preuve de transparence quant à la manière dont les systèmes d'IA prennent leurs décisions, aux données qu'ils utilisent et au processus en question.
L’objectif est de garantir que les utilisateurs comprennent et fassent confiance au fonctionnement de l’IA.
Troisièmement, cela garantit que les systèmes d'IA fonctionnent sans biais.
Cela devrait inclure la prévention de la discrimination fondée sur la race, le sexe, l'âge, la génération, la région, le pays, la religion, etc., et la minimisation des biais dans le processus de collecte de données.
Quatrièmement, les systèmes d'IA ne doivent pas violer la vie privée des individus.
Cela signifie protéger les informations personnelles lors du processus de collecte et d'utilisation des données.
Cinquièmement, nous devons veiller à ce que les systèmes d'IA n'entraînent aucun risque physique, psychologique ou financier, ni aucune inégalité liée à l'IA. Ceci afin de prévenir les dommages causés par un dysfonctionnement ou une mauvaise utilisation de l'IA.
Sixièmement, nous devons être en mesure de vérifier que les systèmes d'IA fonctionnent systématiquement comme prévu.
Cela signifie garantir la stabilité et la prévisibilité des systèmes d'intelligence artificielle.
Septièmement, nous devons veiller à ce que les systèmes d'IA respectent l'autonomie humaine.
Cela devrait notamment impliquer de veiller à ce que les décisions importantes soient toujours prises par des humains, sans pour autant contraindre ces derniers à suivre les décisions de l'IA.
--- Extrait de « 01_À la découverte de l'ère de l'intelligence artificielle »

Une telle intelligence artificielle générale aura divers impacts sur la politique, l'économie, la société, la science et la technologie, ainsi que sur les relations internationales.
Par exemple, sur le plan économique, l'IA générale pourrait automatiser un large éventail de tâches, entraînant des changements importants dans la main-d'œuvre et la structure économique.
En matière de progrès scientifiques et technologiques, l'intelligence artificielle générale (IAG) pourrait accélérer la recherche et le développement dans divers domaines, menant à des avancées majeures en médecine, en climatologie et ailleurs. Le développement et le déploiement de l'IAG soulèvent d'importantes questions éthiques, notamment le contrôle, la compatibilité avec les valeurs humaines, le respect de la vie privée et la sécurité.
En matière de transformation des rapports de force mondiaux, un pays ou une organisation qui développe une intelligence artificielle générale pourrait acquérir des avantages stratégiques considérables, susceptibles de modifier ces rapports de force.
Un rapport publié aux États-Unis met en garde contre le risque que l'intelligence artificielle représente une menace pouvant mener à l'extinction de l'humanité.
Le rapport souligne que le gouvernement américain doit intervenir rapidement, car les risques pour la sécurité mondiale augmenteraient si l'IA était militarisée et contrôlable.
--- Extrait de « 03_Principales caractéristiques et avancées technologiques de l'intelligence artificielle »

De plus, des IA de conception de protéines telles que « AlphaFold » de Google DeepMind, qui a contribué à remporter le prix Nobel de chimie 2024, « RosettaFold » de l'équipe du professeur Baker et « Protein MPNN » peuvent également être exploitées.
Alors qu'il faut des décennies aux chercheurs pour concevoir et créer de nouvelles protéines, l'IA peut le faire en quelques minutes.
Par conséquent, la conception de protéines se liant à des molécules spécifiques pourrait mener à la création de nouveaux médicaments ou agents antiviraux, mais à l'inverse, il existe également un risque de création d'armes biochimiques menaçant l'humanité.
Le cabinet de conseil informatique mondial Gartner a également prédit que d'ici 2026, 30 % des entreprises seront incapables d'utiliser uniquement des solutions de vérification d'identité et d'authentification biométrique en raison des deepfakes.
Les deepfakes suscitent un intérêt croissant en tant que problème politique, économique, social, culturel et technologique, car l'authentification biométrique via les deepfakes peut conduire à des crimes tels que le piratage de comptes.
--- Extrait de « 06_Intelligence artificielle et deepfake »

Dans le domaine des données de santé, l'IA est utilisée pour analyser les données de santé des patients afin de diagnostiquer les maladies et d'élaborer des plans de traitement.
Toutefois, ce processus implique la collecte et le stockage d'une grande quantité d'informations de santé sensibles concernant les patients.
Avec la récente mise sur le marché de divers dispositifs d'IA pour la santé, tels que les téléphones, les bagues et les colliers dotés d'IA, l'importance des données de santé est de plus en plus mise en lumière.
Les données de santé sont des informations extrêmement sensibles et, si elles ne sont pas protégées, elles peuvent gravement compromettre la confidentialité des patients.
Des normes éthiques rigoureuses sont nécessaires pour protéger les données de santé.

--- Extrait de « 09_Invasion des informations personnelles et du respect »