Colonne
Une mâchoire forte donne un sourire sain - Peter S.
Unger
Retour sur l'horreur qui a frappé Paris - Robert E.
Vasalamu

Thème
La grande famine de la fin de la dynastie Joseon et la perspicacité du roi Jeongjo - Park Jeong-jae
Existe-t-il une formule du succès ? – Après-midi

Dossier spécial : Entretien entre Elon Musk et le Premier ministre britannique Rishi Sunak
Les humains peuvent-ils gérer l'IA en toute sécurité ? – Elon Musk, Rishi Sunak

Article de couverture Intelligence artificielle générale (IAG) : utopie ou dystopie ?
AGI, le futur proche - Jeong Ji-hoon
Les routes sombres de l'AGI - Peter Kassan
L'intelligence artificielle générale menace-t-elle l'existence humaine ? - Michael Shermer
Problèmes critiques dans la prise de décision en matière d'IA - Urs Gasser et Viktor Mayer-Schönberger
Incertitude : Ouvrir la boîte noire de l'IA - Maggie Jackson
L'esprit humain, l'esprit de l'IA - Russell T.
un
Pourquoi l'IA devrait être semblable à l'humain - Rudy Panvelcom

Actualités et enjeux
Bilan de mi-mandat sur la légalisation du cannabis - John D.
Van Dijk

Série intensive
Arbre généalogique des animaux, arbre généalogique des origines du cerveau - Lee Dae-han
Pour la guérison d'une seule personne - Jo Dong-hyun
Conditions d'enracinement - Kim Sang-gyu

Objectif : Imaginer une nouvelle source d'énergie
Le passé et l'avenir des combustibles fossiles - Donald R.
Processeur
Le soleil ne se couche jamais dans l'espace : un nouveau défi pour la production d'énergie solaire - Rob Mahan
L'hydrogène : une nouvelle condition pour la durabilité - Park Hyun-seo
Fusion nucléaire : créer le soleil sur Terre - Na Yong-su

Agenda et articles
Je suis malade, donc j'existe - Woo Chung-wan
Da Vinci a-t-il prédit la théorie de la relativité ? -José María González Ondina

▼ Article de couverture : Intelligence artificielle générale (IAG) : utopie ou dystopie ?

Le 13 mai, le GPT-40 d'OpenAI a été lancé.
Contrairement aux œuvres précédentes, sa manière de communiquer en temps réel avec les humains par le biais de vidéos et de photos a suscité l'admiration du public.
De plus, sa façon de comprendre les émotions humaines et d'adapter ses réactions en conséquence me rappelle le film [Her].
Cela laisse-t-il présager l'avènement imminent de l'intelligence artificielle générale (IAG) ? Face à des progrès technologiques plus rapides que jamais, l'IAG représente-t-elle véritablement l'avenir ? Et que signifie-t-elle pour l'humanité ? De son potentiel aux conditions nécessaires à une coexistence harmonieuse avec les humains, le dossier de couverture de ce numéro examine en profondeur les enjeux liés à l'IAG.


L'intelligence artificielle générale, un futur proche ?

L’intelligence artificielle générale (IAG), qui atteint une intelligence générale comparable à celle de l’humain au-delà de l’intelligence spécialisée connue sous le nom d’IA faible ou d’IA étroite, est-elle un avenir possible ? Dans « AGI, le futur proche », le futurologue Ji-hoon Jeong examine les principales voies empruntées par l’humanité vers l’IAG, en se concentrant sur l’expérimentation mécanique (MoE) qui combine des modèles d’IA spécifiques à un domaine, des agents d’IA collaboratifs et auto-évolutifs, et les changements découlant du modèle de langage étendu (LLM) (neurosymbolique).
Il a déclaré qu'il y avait peu de désaccords quant à la réalisation de l'objectif de l'IA générale elle-même, et a prédit que l'IA générale entraînerait des changements révolutionnaires dans tous les aspects de la vie humaine, notamment le travail, le vieillissement, la crise climatique et les relations.


En revanche, Peter Kassan, dans « Dark Crossroads to AGI », souligne que la « compréhension » dont fait preuve l'IA actuelle n'est qu'une pseudo-compréhension et n'est rien de plus qu'une combinaison statistique, et affirme que l'AGI n'est qu'un avenir lointain à moins que nous ne puissions implémenter la conscience dans l'IA.
Le futurologue Rudi VanVelkom soulève également une question plus fondamentale dans son livre « Pourquoi l'IA devrait être semblable à l'humain », à savoir pourquoi les machines devraient ressembler aux humains.
Les sous-marins ne nagent pas comme des poissons, et les avions ne volent pas comme des oiseaux ; alors pourquoi exiger des ordinateurs qu’ils « pensent » comme des humains ? Il souligne qu’avant le développement de l’IA, plutôt que de considérer l’intelligence comme une fin en soi, nous devrions nous interroger sur l’usage que nous comptons faire des machines intelligentes.

L'ère de l'IA générale : utopie ou dystopie ?

Eliezer Yudkowsky, pionnier de l'IA, met en garde depuis longtemps contre les dangers potentiels de l'IA.
L'émergence d'une intelligence artificielle supérieure à l'humain mènera l'humanité sur la voie de la destruction.
Il médite en passant en revue les récents développements en matière d'IA :
«Nous ne sommes pas prêts.»
…Si nous continuons comme ça, nous allons tous mourir. L’expérience de pensée qui illustre le mieux cette théorie dystopique de l’IA est la « machine à maximiser les trombones » de Nick Bostrom.
Bostrom prévient que si une IA ayant pour but de créer des trombones continue d'évoluer et de devenir autonome, elle transformera les humains et toutes les ressources de la Terre en trombones.
Les utopistes de l'IA, quant à eux, anticipent que la superintelligence comme l'AGI apportera à l'humanité une abondance et une liberté sans précédent.
L’émergence d’une intelligence artificielle générale (IAG), supérieure à l’intelligence humaine, représentera-t-elle une utopie ou une dystopie pour l’humanité ? Michael Shermer, un sceptique de premier plan, critique la théorie utopique de l’IA, la jugeant excessivement optimiste et teintée de religiosité.
Shermer souligne le rôle des émotions chez les êtres humains et soutient que les théories dystopiques sont également peu plausibles.
Shermer prédit que le futur à venir ressemblera davantage à une protopie, en se basant sur les contradictions internes de la théorie dystopique et de l'évolution technologique.


La boîte noire de l'IA générative et le problème de la prise de décision

Aujourd'hui, l'humanité tente de dépasser ses limites cognitives et d'améliorer ses capacités en confiant la prise de décision à des machines génératives, une sorte de prothèse mentale.
La prise de décision automatisée peut-elle vraiment engendrer un avenir meilleur ?

Et si l'IA était intrinsèquement conservatrice ? Dans « Critical Problems in AI Decision-Making », les techno-sociologues Urs Gasser et Viktor Mayr-Schönberger soulignent le paradoxe de l'optimisation de la prise de décision à partir du big data.
Imaginez un monde où toutes nos décisions sont prises par des machines.
À mesure que nos choix seront davantage déterminés par les machines, les résultats deviendront une source de données d'apprentissage automatique, réduisant à terme la diversité des choix et des actions.
Les auteurs mettent en garde contre une délégation excessive du pouvoir de décision, soulignant que le chemin du progrès humain est pavé de pierres tombales de bricoleurs acharnés poursuivant des idées folles.


Un autre problème lié à la prise de décision par l'IA est que le raisonnement de l'IA générative est comme une boîte noire.
Il est pratiquement impossible pour les humains de suivre individuellement les résultats de nombreuses combinaisons de paramètres par l'apprentissage.
Même les programmeurs sont incapables de comprendre pourquoi l'IA qu'ils ont créée a pris une telle décision.
Même si l'IA générative fait toujours de bonnes conclusions, il y aura toujours quelque chose qui vous semblera toujours inquiétant.
Dans son ouvrage « Incertitude : Ouvrir la boîte noire de l'IA », la journaliste spécialisée en technologie Maggie Jackson aborde le problème de la méfiance causée par l'opacité du raisonnement de l'IA, en affirmant que l'incertitude est essentielle pour résoudre le problème de l'interaction homme-IA.
Il souligne que, contrairement à la tradition qui cherchait à doter les machines de certitudes, l'IA doit intérioriser et exprimer l'incertitude afin de pouvoir finalement communiquer avec les humains et s'harmoniser avec les objectifs humains.

L'esprit humain et l'esprit de l'IA

Blake Lemoine, ingénieur chez Google, affirme que son système LaMDA est doté de conscience.
Autrement dit, il est affirmé que Lambda « possède des sentiments, des émotions et des expériences subjectives ».
L’intelligence artificielle générative pourrait-elle, comme l’affirme Lemoine, posséder un esprit semblable à celui de l’homme ? C’est ce qu’a avancé le psychologue Russell T., spécialiste de l’intelligence humaine.
Won établit une comparaison entre l'esprit humain et l'intelligence artificielle, affirmant que les limites de l'IA révèlent nos propres limites concernant notre propre esprit.
Malgré ses remarquables capacités linguistiques, il semble difficile d'affirmer que Lambda possède la sensibilité au plaisir, comme le prétend Lemoine, compte tenu des erreurs ridicules commises par l'IA générative.
Mais si l'on pouvait affiner le modèle LLM avec plus de précision, en corrigeant les réponses maladroites de Lambda et en lui faisant réussir parfaitement le test de Turing, pourrait-on vraiment affirmer que Lambda est dépourvu de sensibilité au plaisir ? Philosophes et scientifiques se penchent sur cette question depuis des siècles, mais nous ignorons encore beaucoup de choses sur la conscience.
Par conséquent, la question de savoir si les programmes d'IA peuvent avoir le sens de l'humour est lourde de conséquences incertaines.
Il est intéressant de constater que les limites de l'IA mettent en lumière les limites de notre compréhension de l'esprit.

Elon Musk et le Premier ministre britannique Rishi Sunak s'entretiennent
▼ Spécial : L'humanité peut-elle gérer l'IA en toute sécurité ?

Face aux inquiétudes croissantes concernant le développement de l'IA, le gouvernement britannique a organisé le tout premier Sommet sur la sécurité de l'IA les 1er et 2 novembre 2023, avec des représentants de 28 pays et des chefs d'entreprise du secteur de l'IA.
Le sommet, qui s'est tenu à Bletchley Park, où Turing a déchiffré la machine Enigma allemande pendant la Seconde Guerre mondiale, a réuni les dirigeants de grands pays comme les États-Unis, la Chine et l'UE, ainsi que l'entrepreneur Elon Musk, qui dirige Tesla et SpaceX.
Le Premier ministre britannique Rishi Sunak et Elon Musk ont ​​convenu de travailler ensemble pour comprendre et gérer les risques potentiels de l'IA, en la développant de manière sûre et responsable au bénéfice de la communauté mondiale.
Dans cette section spéciale de Skeptic, vous pouvez voir la discussion entre Rishi Sunak et Elon Musk à la résidence du Premier ministre britannique.
Le point de vue de Musk, qui mêle l'optimisme concernant le « revenu élevé universel » aux préoccupations relatives à la nécessité d'une réglementation mondiale de la sécurité de l'IA, offre un aperçu de la direction que prend notre société à l'ère de l'IA.


▼ Objectif : Imaginer une nouvelle source d'énergie

La transition des énergies fossiles aux nouvelles sources d'énergie n'est plus une question de nécessité, mais de survie.
Si nous continuons à consommer des combustibles fossiles à ce rythme, l'humanité pourrait disparaître de notre vivant.
Pour limiter le réchauffement climatique à 2,5 degrés Celsius, la transition vers de nouvelles sources d'énergie est devenue un enjeu majeur de notre époque.
Cependant, les discussions sur les nouvelles sources d'énergie finissent généralement par se transformer en batailles politiques dans le cadre des énergies renouvelables et de l'énergie nucléaire.
Au lieu d'une imagination audacieuse ou d'une discussion productive fondée sur la science, elle dégénère souvent en une bataille émotionnelle au sein d'un cadre idéologique.
Cependant, il ne faut pas oublier que, lorsque l'humanité était en crise, ce n'est pas l'idéologie politique, mais l'imagination qui a brisé les codes et sauvé l'humanité.
À cette fin, ce numéro spécial explore des sources d'énergie nouvelles, audacieuses et non conventionnelles, allant du passé des combustibles fossiles à l'énergie solaire spatiale, en passant par le potentiel de l'énergie hydrogène et celui d'un soleil artificiel capable de fournir une énergie illimitée.


▼ La grande famine de la fin de la dynastie Joseon et la perspicacité du roi Jeongjo

« Une rumeur sinistre s'est répandue selon laquelle un esclave nommé Pèlerinage, qui vivait dans une vallée profonde de Yeonsan, avait tué sa fille de cinq ans et son fils de trois ans et avait mangé leur chair. »
Lorsqu'un autre villageois entendit cela, il alla la trouver et lui demanda si c'était vrai, et elle répondit : « Mon fils et ma fille sont morts de maladie. »
Lui-même était gravement malade et affamé, alors il fit bouillir et mangea le cadavre de son enfant.
Cependant, il aurait déclaré : « Je ne l’ai absolument pas tué pour me nourrir. » Ceci fait partie du récit du 21 mars de la 12e année du règne du roi Hyeonjong, dans les Annales du roi Hyeonjong.
La famine qui avait débuté en 1670 s'aggrava encore au printemps 1671, entraînant des actes de cannibalisme chez les enfants.
Cet événement, appelé la « Grande Famine de Gyeongsin » car il s'est produit durant les années Gyeongsul et Sinhae, fut la famine la plus désastreuse de toute la dynastie Joseon.
Peu de temps après, sous le règne du roi Sukjong, la famine d'Eulbyeong, comparable à celle de Gyeongsin, se poursuivit.
À cette époque également, de nombreuses personnes moururent de faim et de peste.
Pourquoi les deux grandes famines qui ont secoué Joseon à la fin du XVIIe siècle se sont-elles produites ?
Le professeur Park Jeong-jae, géographe à l'Université nationale de Séoul, relit l'histoire coréenne à travers le prisme du climat dans sa nouvelle série intitulée « L'histoire coréenne à travers les yeux du climat ».


Il soutient qu'une grande partie de l'histoire humaine a été déterminée par le climat, et que l'histoire coréenne ne fait pas exception.
Selon lui, les deux grandes famines étaient le résultat de changements dans le nombre de taches solaires et d'une diminution de l'irradiance solaire due à des éruptions volcaniques.
Ces deux facteurs ont constamment et périodiquement provoqué des changements climatiques à la fin de la dynastie Joseon, engendrant à chaque fois un grand chaos social.
La société humaine a-t-elle donc toujours été « déterminée » par le climat ? Le professeur Park utilise l’exemple du roi Jeongjo pour entrevoir le potentiel de la gouvernance et de la société humaine.
De 1782 à 1788, tandis que le Japon voisin était en proie à un chaos social extrême en raison de la grande famine de Tenmei, Joseon, sous le règne du roi Jeongjo, jouissait d'une période de paix sans crise majeure.
Quel était donc le secret de Jeongjo ?

▼ Est-il possible de développer un remède pour une seule personne ?

La technologie CRISPR, qui a connu des progrès constants, quitte désormais le laboratoire pour s'implanter dans le domaine médical, offrant un espoir pour le traitement des maladies génétiques rares.
Peut-on désormais affirmer que nous sommes entrés dans l'ère d'une médecine véritablement personnalisée ?
Avec l'émergence successive d'exemples concrets de traitements développés pour une seule personne atteinte d'une maladie rare, il semble que la guérison des maladies génétiques soit à portée de main.
Cependant, le professeur Cho Dong-hyun, qui soigne des patients atteints de maladies génétiques et mène des recherches scientifiques dans ce domaine, entrevoit de nombreux obstacles à surmonter.
Bien que la thérapie génique soit encore à ses débuts, le problème de la sélection ou non de gènes en fonction de critères tels que la viabilité commerciale, la rentabilité, le pays du patient et l'origine ethnique est susceptible de persister.
Étant donné que les maladies génétiques sont susceptibles de toucher un petit nombre de patients, même si un traitement existe, les patients porteurs de gènes non sélectionnés pour diverses raisons peuvent ne pas être en mesure de recevoir ce traitement.
Nous partageons diverses préoccupations concernant l'ère de la thérapie génique dans « Pour une guérison pour une seule personne » du professeur Dong-Hyeon Cho du département d'anatomie du Collège de médecine de l'Université nationale de Séoul.

▼ Arbre généalogique des animaux, Arbre généalogique des origines du cerveau

Le professeur Lee Dae-han, généticien évolutionniste à l'université Sungkyunkwan, est revenu à la question la plus fondamentale : « l'évolution du cerveau ».
Dans cette nouvelle série intensive, « L’émergence du cerveau, le secret le plus profond de la vie », le professeur Lee Dae-han revient sur l’arbre généalogique des animaux pour retracer l’évolution de notre cerveau jusqu’à ce qu’il est aujourd’hui.
Dans le premier chapitre, « L’arbre généalogique des animaux, l’arbre généalogique des origines du cerveau », nous revenons au point où les groupes d’animaux bilatéraux et non bilatéraux ont divergé et nous expliquons pourquoi seul le groupe d’animaux bilatéraux a développé un cerveau centralisé, plutôt qu’un système nerveux.
Le professeur soutient que l'évolution du « cerveau » actuel a été possible parce que des changements dans le système biologique ont fondamentalement modifié notre façon de traiter l'information externe.


Également, le sceptique n° 38
Dans son article intitulé « Existe-t-il une formule pour réussir ? », le chroniqueur Oh-hu examine le problème du développement personnel qui prétend détenir la formule du succès à travers le cas de Temu, qui est récemment devenu un sujet brûlant.

- Dans « Des mentons forts pour un sourire sain », le paléoanthropologue et biologiste évolutionniste Peter S.
Le professeur Unger examine la prévalence des affections dentaires telles que la malocclusion dans la société moderne du point de vue de la paléoanthropologie et de l'évolution.