Entrée

Partie 1 : À mesure que l'information augmente, l'incertitude augmente également.

Chapitre 1.
L'esprit humain a du mal à recevoir les informations de manière équilibrée.
Chapitre 2.
L'ironie est que « l'information est une expression d'incertitude ».
Chapitre 3. L'autonomie de l'apprentissage de l'IA est liée à la fermeture des systèmes de traitement de l'information.

Du paradigme de la partie et du tout au paradigme du système et de l'environnement

Chapitre 4.
L'information est produite dans les limites du système.
Chapitre 5.
Le monde ne peut désormais être observé que de différentes manières.
Chapitre 6.
La relation entre les humains et la société, en dépassant le cadre partie/tout pour aboutir à la distinction entre système/environnement
Chapitre 7.
Peut-on aborder les conflits sociaux d'une manière à la hauteur de leur complexité ?

Partie 3 : Les humains et leurs agents IA incapables de résoudre leurs propres problèmes

Chapitre 8. L’IA permet aux humains de comprendre de manière plus complexe et sans contraintes
Chapitre 9.
Attentes ambiguës et illusions concernant l'intelligence artificielle générale
Chapitre 10. Armes à intelligence artificielle : un autre risque : éliminer les sacrifices humains
Chapitre 11.
Pourquoi l'IA plutôt que les humains forment-ils les organisations ?

Partie 4 : Po-wol et Wol-po

Chapitre 12.
Comment le projet de Powell a-t-il débuté ?
Chapitre 13.
Celui qui saute par-dessus celui qui rampe, celui qui vole par-dessus celui qui court, celui qui rampe par-dessus celui qui vole
Chapitre 14.
On l'appelait Powol, mais c'était Wolpo

Sortir

L'ironie de l'IA,
Plus il y a d'informations, plus l'incertitude est grande.

On considère souvent l'IA comme un outil intelligent ou une superintelligence qui surpassera les capacités humaines, et l'information comme quelque chose d'utile qui accroît la certitude.
Toutefois, cet ouvrage confirme que le progrès en matière d'information a été découvert et développé parallèlement à la technologie permettant de gérer « l'incertitude », tout en augmentant la certitude et la praticité.
Selon Claude Shannon, considéré comme le père de la théorie de l'information, la quantité d'information augmente en réalité à mesure que l'incertitude augmente.
En termes simples, l'ampleur de l'incertitude correspond à la valeur/quantité d'information.
Pourquoi ? Parce que les faits que tout le monde connaît n'ont aucune valeur en tant qu'information.
Le message « Le soleil se lèvera à l'est demain » présente peu d'incertitude, donc la quantité d'information est proche de 0, mais le message « L'IA de notre entreprise devinera les numéros gagnants du loto » présente beaucoup d'incertitude, donc la quantité d'information est importante.
Étant donné que l'information ne se contente pas d'exprimer la certitude et ne vise pas non plus à réduire l'incertitude, il est probable que l'intelligence artificielle continuera de progresser considérablement à l'avenir, mais quels que soient ses progrès, l'incertitude ne sera pas réduite.

Pourquoi « système et environnement » plutôt que « partie et tout » ?
Un nouveau cadre d'analyse pour comprendre l'ère de la complexité

Comment appréhender cette incertitude et cette complexité ? L’auteur explore cette question à travers la théorie des systèmes de Luhmann.
La pensée traditionnelle divisait le monde en parties et en touts.
La partie était considérée comme faisant partie du tout et devait suivre (ou devait suivre) le but et la logique du tout.
Mais cette perception n'est plus valable aujourd'hui.
Les entreprises et les partis politiques ne fonctionnent pas uniquement comme des composantes de l'État ou de la société dans son ensemble.
En tant que systèmes sociaux, ces organisations perçoivent la société ou la nation comme leur environnement.
Même les individus sont comme ça.
Luhmann a même déclaré : « Les humains ne font pas partie de la société. »
Comme on le sait généralement, les humains ne font pas seulement partie de la société, mais ils sont également confrontés à l'environnement de cette société et interagissent avec lui.
La relation qu'un système entretient avec son environnement est différente de la relation que ses parties entretiennent avec le tout.

Nous devons désormais admettre honnêtement qu'il n'existe pas (ou très peu) d'unité partagée entre les différentes entités de la société.
Il est impossible de résoudre les conflits en proposant un idéal, une règle morale ou un principe qui soit précieux pour tous, pas plus qu'il n'est possible de juger le monde selon des divisions claires telles que progressiste ou conservateur.
Le meilleur moyen d'y parvenir est d'accepter la complexité de la société actuelle et de gérer les conflits afin qu'ils ne dégénèrent pas en violence.
C’est pourquoi nous avons besoin d’un cadre de systèmes et d’environnements qui remplace le cadre des parties et des touts.

Une perspective qui part de la distinction entre système et environnement prédit que les conflits sociaux seront apprivoisés et prendront une forme plus raffinée si la violence physique est réduite, mais elle ne croit pas que le problème sera résolu en ciblant ou en faisant appel à des programmes politiques tels que la réduction de la violence ou l'élargissement du consensus.
Si la théorie des systèmes soutient que la morale, le droit et le capital ne peuvent résoudre les conflits, elle ne les considère pas pour autant comme totalement dénués de sens.
Il est également vrai que cette situation elle-même accroît encore la complexité.
La complexité est un problème qui ne peut être facilement résolu par des règles, des normes ou des programmes politiques, mais qui doit être abordé avec souplesse et adaptabilité.

-Texte principal, pp. 203-204

De Po-wol (匍越) à Wol-po (越匍)
La voie que devraient emprunter l'IA et les humains

Dans ce contexte, l'IA nous apprend à penser différemment et de manière plus globale face à l'incertitude du monde et de l'environnement.
L'IA accomplit également des tâches intellectuellement et mentalement sophistiquées pour le compte des humains, nous permettant de considérer les autres et la société comme un environnement social.
À l'avenir, l'IA deviendra un collaborateur essentiel, un système coopératif, voire un agent de l'existence psychologique et sociale humaine.
Cependant, l'IA ne sera pas une superintelligence capable de nous apporter les réponses à tous nos conflits et problèmes.
Même si elles peuvent surpasser les humains en matière de traitement de l'information, elles restent fondamentalement des systèmes de traitement de l'information et doivent s'adapter à des environnements de plus en plus complexes. (Par conséquent, plutôt que d'anticiper vaguement l'IA générale, il est plus pertinent de concevoir l'IA comme un système qui traite l'incertitude et l'information.)

L'IA, comme les humains, aura ses propres biais et sa propre personnalité, et surtout, elle sera confrontée aux mêmes problèmes d'incertitude et de complexité que les humains.
De tels problèmes ne peuvent être résolus par une rationalité absolue et une raison qui transcende tout.
Par exemple, même s'il existe une solution à la crise climatique, il est impossible de la mettre en œuvre concrètement car il y a trop d'acteurs concernés.
Pour surmonter ce problème, il faut rester au plus près de la réalité et examiner le conflit avec délicatesse.
Vous ne devriez pas « sauter par-dessus [超越] », mais « ramper par-dessus [匍越] ».


L'IA surpassera les humains à certains égards, mais même après cela, elle devra encore progresser. En effet, même si l'IA franchit certaines limites, de nouveaux environnements continueront d'accroître sa complexité.
Nous devons prendre conscience de notre propre ignorance et de nos limites, et accepter (c'est-à-dire, revenir en arrière) leur complexité.
Le proverbe « Celui qui saute par-dessus celui qui rampe, celui qui vole par-dessus celui qui court, et celui qui rampe par-dessus celui qui vole », qui est répété plusieurs fois dans le livre, fait référence à ce cycle.
L'incapacité à surmonter sa propre ignorance est la même pour les humains et pour les IA dotées d'une intelligence supérieure à celle des humains.
Il faut être capable de réfléchir sur soi-même pour pouvoir aller de l'avant.


« L’IA peut-elle reconnaître sa propre ignorance ? » explore la théorie de l’information, la théorie des systèmes, la psychologie et la sociologie, démontrant la pertinence d’une perspective constante sur la technologie, la société et l’humanité à l’ère de l’IA. Abordant simultanément les progrès fulgurants de l’IA et ses limites fondamentales, cet ouvrage nous offre les éclairages et la réflexion nécessaires pour traverser cette ère d’incertitude extrême.
D'une part, la vie humaine prendra son envol dans la civilisation technologique grâce à l'IA.
D'innombrables méthodes médicales et biochimiques seront mises au point pour renforcer les systèmes psychologiques et physiques.
Mais d'un autre côté, la valeur d'une vie simple et lente semble encore précieuse aux yeux des gens.
Et paradoxalement, la simplicité restera importante dans la vie humaine.


Un cœur chaleureux et aimant sera tout aussi important.
Surtout, la simplicité du cœur et la bienveillance de l'esprit, fruits d'un long effort, seront aussi précieuses que le succès de cet homme.
Dans la civilisation, je suis bien sûr indispensable.
Mais j'ai un type qui rampe sur moi.
Cela semble particulièrement vrai pour les humains.
Que ce soit en termes d'intelligence ou de limitations biologiques, les humains volent et rampent à la fois.
Comme les enfants, ignorants du monde, sourient innocemment !
Mais en vieillissant, nous avons tendance à nous sentir submergés par la complexité.
De plus, plus la durée de vie augmente, plus la complexité augmente.
Dans cette situation, la simplicité et la modestie redeviennent importantes, comme elles l'ont toujours été.

- Texte principal p.386