L’IA peut-elle véritablement comprendre les émotions et l’éthique ? Cet article examine les limites du calcul affectif et des algorithmes d’empathie, et soulève des questions philosophiques et neuroscientifiques quant à la capacité de l’IA à reproduire la moralité et les systèmes émotionnels humains.
Encyclopédie de l'intelligence artificielle.
Vous trouverez les connaissances en intelligence artificielle dont vous avez besoin sur aiseries.oopy.io.

La théorie des émotions construites de Lisa Feldman Barrett propose une perspective fondamentalement différente des théories traditionnelles des émotions.
Barrett soutient que les émotions ne sont pas des catégories biologiques prédéterminées, mais plutôt des phénomènes que le cerveau construit activement en synthétisant les expériences passées, les concepts culturels et les informations sensorielles actuelles.
Le cerveau prédit et interprète constamment les changements d'état interne du corps et les informations sensorielles provenant du monde extérieur, conférant ainsi une signification émotionnelle appropriée à la situation.
Dans ce processus, le langage et l'apprentissage social jouent un rôle crucial en aidant les individus à former des concepts émotionnels et à catégoriser leurs expériences sensorielles en émotions spécifiques.
Selon sa théorie, l'une des fonctions principales du cerveau est de coordonner et de réguler les systèmes de l'organisme, et ceci est accompli grâce à des mécanismes de codage prédictif.
Le cerveau prédit la situation actuelle en se basant sur les expériences passées et met à jour son modèle interne afin de minimiser l'écart entre la prédiction et les données sensorielles réelles, c'est-à-dire l'erreur de prédiction.
--- Extrait de « 01_Principes des neurosciences du cerveau concernant les émotions humaines »

Hume a remis en question de manière fondamentale l'éthique rationnelle dominante de l'époque, et ses arguments ont par la suite exercé une grande influence sur divers domaines, dont la psychologie morale.
Récemment, le rôle des émotions dans les processus de jugement moral a été mis en avant, par opposition à l'approche rationnelle traditionnelle.
Joshua Greene et ses collègues ont proposé une « théorie du double processus » du jugement moral et ont publié des recherches la soutenant.
Selon la théorie du double processus de Green, les jugements moraux déontologiques sont principalement guidés par des réponses émotionnelles automatiques, tandis que les jugements moraux utilitaristes sont guidés par des processus cognitifs contrôlés.
Selon ses recherches, certains types de dilemmes moraux, notamment les dilemmes de personnalité, tendent à susciter des réponses émotionnelles saillantes et automatiques, qui sont rapidement associées à des jugements spécifiques, comme le caractère inapproprié d'une action.
--- Extrait de « 03_Jugement moral, émotions et sentiments »

Dans une série d'études de neuroimagerie, Green et ses collègues ont cherché à déterminer s'il existait des différences dans l'activité cérébrale et les temps de réaction associés aux jugements moraux dans deux versions du célèbre dilemme du tramway.
Dans le premier cas, le dilemme du tramway, ou le cas du changement de direction, la plupart des participants ont répondu positivement à la question de savoir s'il était moralement permis de changer la direction du tramway lorsqu'il fonçait sur cinq personnes et de sacrifier une personne au lieu de cinq.
Le deuxième cas était le dilemme de la passerelle, dans lequel les participants devaient juger s'il était moralement acceptable de sauver cinq personnes en poussant une personne du haut d'un pont sur la voie d'un tramway.
Contrairement au dilemme du tramway, la plupart des participants ont donné une réponse négative.
Pourquoi ces différences apparaissent-elles ? Green et ses collègues émettent l’hypothèse que ces différences dans les jugements moraux proviennent de différentes voies de traitement psychologiques et neurologiques dans le cerveau.
--- De « 06_IA empathique »

À mesure que l'IA assume un rôle équivalent à celui d'un décideur de facto dans divers domaines de la société, la légitimité morale et la responsabilité des jugements de l'IA deviennent des enjeux publics importants.
En particulier dans les domaines de la médecine, de l'éducation et des transports, qui sont directement liés à la vie, à la sécurité et aux droits, des principes et des lignes directrices clairs sont nécessaires concernant les normes éthiques selon lesquelles l'IA devrait prendre des décisions.
Par exemple, lorsqu'un algorithme de diagnostic médical analyse les données d'un patient pour suggérer des options de traitement, la transparence et l'équité sont essentielles pour déterminer quelles valeurs éthiques — le respect du patient, l'équité et la confidentialité — ont été privilégiées, ainsi que la composition des données d'entraînement du modèle.

--- Extrait de « 09_Normes éthiques et responsabilité sociale pour une IA morale »