L'intelligence artificielle va-t-elle nous détruire ou nous sauver ?

Un jour, dans le futur, l'intelligence artificielle surpassera les capacités du cerveau humain.
Comment ces machines pensent-elles et apprennent-elles ? New Scientist s’associe à des experts en IA, dont Nick Bostrom, Peter Norvig et Toby Walsh, pour explorer le présent et l’avenir de l’intelligence artificielle.
Ce livre fascinant explore les connaissances essentielles à l'ère de l'intelligence artificielle, notamment les voitures autonomes, les robots tueurs, l'apprentissage automatique et l'éthique de l'IA. Après sa lecture, vous serez en mesure de répondre à la question : l'IA est-elle véritablement une catastrophe ?

Imaginez un char d'assaut dont les freins sont cassés.
Et cinq personnes se trouvent sur les voies ferrées et ignorent ce qui va se passer ensuite.
Si vous ne faites rien, ces cinq personnes vont mourir.
Cependant, vous pouvez également actionner un interrupteur pour dévier le chariot sur une autre voie, ne tuant ainsi qu'une seule autre personne sur cette voie.
Que faire ? / Un dilemme similaire : une voiture autonome doit-elle éviter un piéton qui traverse brusquement le trottoir, quitte à changer de voie ? Si, ​​à un carrefour, une voiture autonome détecte un gros camion arrivant à vive allure par l’arrière alors qu’elle attend que des enfants traversent, doit-elle se mettre en mouvement pour protéger ses occupants ou risquer une collision pour sauver les enfants ? --- p. 147

En 2016, des robots ont commencé à tuer des êtres vivants sans prévenir.
Il ne s'agit pas d'un remake de Robocop, mais d'une histoire vraie concernant des robots tueurs déployés pour éliminer les étoiles de mer destructrices de coraux sur la Grande Barrière de corail australienne.
L'un des systèmes d'armes autonomes les plus avancés au monde, ce robot, connu sous le nom de « Cotsbot », peut sélectionner des cibles et déployer des armes létales sans intervention humaine.
(...) Le Coatsbot démontre que les humains possèdent désormais la technologie nécessaire pour développer des robots capables de sélectionner leurs propres cibles et de décider de manière autonome s'ils doivent les tuer.
--- p.161

En 2009, Colton et l'étudiante diplômée Anna Kshechikowska ont demandé à Painting Pool de créer une interprétation de la guerre en Afghanistan à partir d'un article de presse.
Le résultat était une image choquante de civils afghans, d'explosions et de tombes liées à la guerre côte à côte.
(...) Le bassin de peinture peut aussi créer une image à partir de rien.
L'une des œuvres de la collection de tableaux, une série que Colton appelle « Les Quatre Saisons », présente un paysage simple sous la forme d'un carré flou.
Il est difficile de juger de la qualité d'une œuvre sans appliquer des critères différents aux logiciels et aux œuvres humaines.
Colton souligne qu'il est important de noter que le peintre a peint le paysage sans se référer à des photographies.
--- p.220

Les répliques numériques peuvent-elles ressentir de la douleur ? Devrions-nous leur appliquer les mêmes précautions qu’aux animaux ou aux humains lors de recherches médicales ? La réponse à cette question dépend entièrement de la capacité des logiciels à ressentir de la douleur.
(...) Je ne pense pas que la plupart des gens trouvent ce programme vraiment pénible.
Il s'agit essentiellement d'une animation interactive, comme un jouet pour animal de compagnie virtuel.
Vous pouvez éprouver de l'empathie pour le sujet, mais au final, c'est comme parler à une poupée.
Mais un simulateur qui reproduit l'ensemble du cerveau, y compris les connexions neuronales des animaux et même des humains, est une toute autre affaire.

--- p.282~283