Comprendre les crises (160) Se préparer aux crises générées par l’IA : connaitre les paradoxes de Polyani, Moravec et Fermi.

Glowing digital brain with interconnected AI and technology icons over cityscape

Michael Polanyi, Hans Moravec et Enrico Fermi[1] ont en commun de maitriser la connaissance approfondie de sujets différents alliant notamment la science et la philosophie et d’avoir donné leur nom à trois paradoxes. Ils sont indispensables à connaitre pour comprendre les enjeux fondamentaux liés à l’intelligence artificielle.

Le paradoxe de Polyani, a été formulé en 1966 dans son ouvrage phare : The Tacit Dimension[2] sous la forme : « On peut en savoir plus qu’on ne peut en dire ».Cette rédactiontraduit l’évidence que nous pratiquons quotidiennement des tâches sans pour autant devoir en énoncer préalablement les règles ou les procédures (par exemple reconnaitre un jumeau, rester sur un vélo sans tomber alors même qu’un incident de parcours se produit…etc.).  Ces connaissances, qualifiées par Polyani de « tacites », constituent aujourd’hui les limites auxquelles l’IA est confrontée en raison de l’impossibilité de décrire de manière précise les procédures appliquées par la machine.

Cette thèse sert actuellement de base à des économistes et notamment ceux spécialisés dans l’économie de travail[3] qui alertent sur la nécessité de s’intéresser aux conséquences de la généralisation de l’IA quant à la très probable évolution des métiers et le niveau de l’emploi. Il semble en effet urgent de disposer d’éléments de compréhension non biaisés sur le sujet en évitant une polarisation de la réflexion limitant les options à la généralisation ou au rejet de l’IA.

Pour l’instant, il semble que la réflexion se cantonne à comment surmonter le paradoxe de Polanyi en concevant des machines apprenant à partir d’exemples humains et se contentant de programmer la machine sans comprendre véritablement les règles tacites qu’on lui demande d’appliquer.

Mettre à disposition des humains des machines sans disposer d’une réflexion sérieuse sur la façon dont elles façonneront l’évolution de l’emploi est dangereux et surtout porteur de risques gigantesques à moyen et long terme sur l’avenir de l’humanité telle que nous la connaissons. Analyser la situation au prisme du paradoxe de Polyani permet de ne pas faire l’impasse sur l’exhaustivité des complémentarités entre travail humain et travail des machines en s’intéressant notamment aux domaines psychologiques et pédagogiques totalement intriqués dans ce débat. Le calcul de rentabilité du remplacement de l’homme par une IA ne peut ainsi s’abstenir de l’intégration des coûts liés à la prise en compte de ces domaines.

Le paradoxe de Moravec, formulé dans les années 1980 peut s’énoncer comme suit : les tâches que nous considérons comme difficiles sont relativement simples à enseigner à une machine, et inversement. Cette réalité s’applique tout particulièrement aux modèles d’IA qui éprouvent encore des difficultés à réaliser des tâches simples alors que les algorithmes disponibles permettent de réaliser des tâches cognitives complexes (résoudre des problèmes mathématiques sophistiqués, produire des simulations en tout genre, etc…).  Les obstacles encore à surmonter concernent a minima trois grandes catégories de tâches : (1) la reconnaissance d’images (et de visages) dont l’immensité des nuances possibles et des tromperies possibles peut encore abuser des circuits neuronaux artificiels ; (2), la compréhension du langage naturel car dans ce domaine il y a aussi une immensité de nuances de langage dont la compréhension est indispensable pour éviter la prise de mauvaises décisions ; (3) la robotique ; pour l’instant les robots humanoïdes ne peuvent rivaliser avec les capacités d’adaptation d’un être humain, tant en ce qui concerne la fluidité des mouvements que les déplacements dans des milieux aux réactions imprévisibles.

La critique de la pertinence du paradoxe de Moravec en raison de la date de sa formulation (1980) à une époque où l’IA était dans ses balbutiements ne tient pas. S’il est indéniable que les techniques d’apprentissage de l’IA sont aujourd’hui très puissantes et ont considérablement réduit l’écart entre les capacités humaines et celles des machines, le progrès concerne principalement les flux et les volumes et non la capacité à comprendre le monde comme un humain. Dit autrement, il est toujours impossible qu’une machine propose une décision identique à celle que prendrait un humain dans le même contexte. Disposer de la force de calcul pour réaliser des corrélations statistiques permettant la formulation de scénarios n’est pas suffisant pour garantir une décision « humaine » qui in fine bénéficie de l’héritage de centaines de milliers d’années d’évolutions cognitives de nos cerveaux.

Cela explique qu’un individu pourra un jour prendre une décision apparaissant totalement irrationnelle à une machine ayant pourtant modélisé un gigantesque stock de données. 

Les spécialistes de l’IA font du paradoxe de Moravec un horizon de recherche en conduisant notamment des travaux sur des techniques d’apprentissage des machines toujours plus poussées allant vers le développement d’une IA dite « hybride » combinant les avancées de l’IA symbolique (production d’algorithmes traitant les règles et la modélisation des représentations abstraites) et de l’IA connexionniste qui s’inspire de la cybernétique en explorant les mécanismes de la connaissance selon un fonctionnement inspiré de l’architecture neuronale du cerveau[4].  Le paradoxe de Moravec entre en résonance avec le paradoxe de Fermi qui interroge sur l’absence apparente de vie extraterrestre, alors que l’univers est immense et que les conditions pour l’émergence de la vie pourraient être nombreuses.

Le paradoxe de Fermi

Le paradoxe de Fermi a été énoncé en 1950 à l’occasion d’un débat avec d’autres scientifiques sur la possibilité d’une vie extraterrestre en abordant avec eux la question logique liée au fait qu’il est inexplicable de ne pas avoir trouvé des traces de civilisations extraterrestres ayant pu se développer dans des systèmes planétaires beaucoup plus âgés que le nôtre à l’échelle minimale de notre galaxie.  Fermi se basait sur le fait que de telles civilisations auraient dû laisser des traces, telles que des ondes radio, observables depuis la Terre. Il énonce ainsi le paradoxe sous la forme d’une question : « S’il y avait des civilisations extraterrestres, leurs représentants devraient être déjà chez nous. Où sont-ils donc ? »

Le paradoxe énoncé par Fermi débouche sur trois grands questionnements qui n’ont toujours pas trouvé de réponses acceptables.

Le premier est le constat que la probabilité d’apparition d’une civilisation extraterrestre est très faible et nécessite de disposer d’un autre univers de la taille du nôtre pour avoir une chance de voir se reproduire une civilisation.

Le second repose sur le postulat de l’existence d’extraterrestres, mais nous ne pouvons pas le prouver en raison de l’impossibilité de réaliser des voyages ou des communications interstellaires (ou de vouloir le faire). Une variante de ce questionnement repose sur le fait que la détection de vie sur une autre planète se heurte à une détection impossible à réaliser (par une vie existant sous la couche de glace d’océans glacés).

Le troisième questionnement touche à la probabilité acceptable que des extraterrestres existent, voire nous visitent sans que nous le sachions, car indétectables avec les moyens techniques actuels.

Le paradoxe de Fermi a donné lieu a de multiples productions de science-fiction (l’une des plus récentes est le film de Steven Spielberg, Disclosure Day, diffusé en juin 2026) ainsi qu’a des contestations de sa nature de paradoxe. Pour certains l’énoncé de Fermi s’apparenterait plus à un simple dilemme ou un problème de logique. La seule chose certaine est que les tentatives de résoudre scientifiquement le questionnement de Fermi n’ont toujours pas été couronnées de succès[5] et qu’il n’existe même aucun consensus scientifique sur la solution.

C’est en cela que le paradoxe de Fermi partage avec les deux autres, et notamment celui de Moravec, au moins deux similitudes quant à l’appréhension de la complexité de l’intelligence. En effet, il n’y a toujours pas de réponse solide à la question de savoir comment une intelligence complexe peut émerger de systèmes simples. Fermi a également ouvert le champ de réflexion sur la nécessité de repenser nos modèles d’intelligence touchant notamment à l’évolution de la vie.

****

La mise en perspective des trois paradoxes au travers de cet article permet de se rendre compte que l’utilisation de l’IA et la marche vers ce que certains zélateurs appellent la « transcendance machine » se heurte à des murs conceptuels. En croisant le paradoxe de Moravec avec le paradoxe de Polanyi et le paradoxe de Fermi, on découvre une asymétrie profonde entre la logique computationnelle et la réalité du monde physique.

Le paradoxe de Moravec fait toucher du doigt la complexité du calcul : Ce qui est abstrait et difficile pour un humain (les mathématiques, la logique) est facile pour une machine. Ce qui nous est naturel (marcher, percevoir une émotion, éviter un véhicule…) est le fruit de millions d’années d’adaptation biologique alors qu’il faut disposer d’une puissance de calcul phénoménale pour tenter d’implanter un dispositif similaire sur une machine.  Le paradoxe de Polanyi met en évidence l’importance de la connaissance tacite qui fait que nos compétences innées ou acquises (casser un œuf, juger de la qualité d’une soudure, faire preuve de bon sens) sont impossibles à formaliser complètement.

Il y a néanmoins une nuance de fond entre les deux paradoxes. Là où Polanyi pointe notre incapacité à expliquer comment nous agissons, Moravec démontre que la complexité réelle de ces actions physiques est d’un ordre de grandeur supérieur à ce que nous imaginons, car le monde physique, avec sa gravité, ses textures et son imprévisibilité, résiste à la formalisation. Cette barrière fait que pour l’instant les machines dites « apprenantes » sont capables de progrès spectaculaires en disposant de réseaux neuronaux mimant certaines compétences par corrélations statistiques massives, ils restent toujours incapables de capturer les mécanismes causaux ou de comprendre un contexte implicite et/ou nécessitant un jugement.

Cette asymétrie redéfinit la valeur des compétences humaines. Les tâches cognitives abstraites et répétitives sont sous pression avec la diffusion de l’IA, tandis que les métiers de l’adaptation, du soin, de l’artisanat ou de la relation humaine, qui ont malheureusement été jusqu’à présent jugés moins « nobles », révèlent leur irremplaçable complexité.

La résonance des précédents paradoxes avec celui de Fermi concerne deux points fondamentaux. Le premier est celui de la complexité de l’émergence, qui demeure toujours une énigme butant sur la transition entre le simple et le complexe. Comment l’intelligence et la conscience émergent-elles de la matière inanimée (cosmologie et philosophie ou de lignes de code et de puces de silicium (IA) ?  Le second est la révélation que nos biais cognitifs nous font confondre la difficulté consciente d’une tâche avec sa complexité réelle.

C’est bien un défi pour l’avenir qui est identifié par la mise en perspective des trois paradoxes en ce qu’ils rappellent que l’intelligence humaine est indissociable de son ancrage biologique et de son expérience sensible du monde. La confrontation directe avec le monde réel est la véritable boussole qui doit nous guider dans les prises de décision à venir concernant la vie en société. Gardons-nous de dériver vers une société du pain et des jeux que prônent des personnalités de la « Tech » avec la promotion de mise en place d’un revenu universel élevé, versé sous forme d’allocation par les gouvernements afin de compenser le chômage massif qui sera causé par l’automatisation de la plupart des tâches.

Il est inquiétant que ce débat soit très peu porté par les politiques. Redistribuer les richesses produites par les machines ne me semble pas être une réponse suffisante, car elle fait l’impasse sur la redéfinition indispensable d’un rapport au travail n’oubliant pas les questions de dignité, de sécurité et de liberté. La promesse d’un revenu permettant de vivre décemment sans interrogation sur ce que recouvre ce transfert accélèrera encore l’aliénation de l’être humain face à des services dont l’utilité interroge…

La première encyclique du pape Léon XIV sur l’intelligence artificielle Magnifica Humanitas (Magnifique humanité) publiée le 15 mai 2026 constitue une réflexion intéressante sur les risques d’un usage désordonné de l’intelligence artificielle et on y trouve les interrogations formulées dans les trois paradoxes[6]. Il est regrettable par contre de constater un déficit de partage de réflexion sur un tel sujet de la part des politiques. On ne peut qu’espérer que les programmes politiques traitent rapidement le sujet avec sérieux. L’avenir des jeunes générations se joue aujourd’hui et sans forte régulation par la sphère publique, le risque que ferait peser une IA utilisée de manière débridée par une poignée d’opérateurs privés deviendra très vite existentiel pour nos sociétés. 


[1] Hans Moravec, né en 1948 est Canadien. Il a notamment obtenu un doctorat de robotique à Stanford. Il est enseignant-chercheur au centre de robotique de l’université Carnegie-Mellon en Pennsylvanie. Il est reconnu comme un spécialiste de la robotique et de l’intelligence artificielle mais aussi comme futurologue. Ses travaux ont inspiré de nombreux auteurs de science-fiction (Dan Simmons ; Ken MacLeod ; Charles Stross ; Robert Forward…).

Michael Polanyi (né à Budapest sous le nom de Mihály Pollacsek) ; 1891-1976 a d’abord été médecin puis a fait des études de chimie et s’est impliqué dans les sciences sociales (il a été titulaire de la chaire créée pour lui à l’université de Manchester. Il a également été directeur de recherches au Merton College, de l’université d’Oxford. Il est reconnu comme un penseur libéral proche notamment des idées de Walter Lippmann, Friedrich Hayek et Milton Friedmann. Il a été membre fondateur de la Société du Mont Pèlerin en 1947 (groupe de réflexion revendiquant la défense de l’économie de marché, la société ouverte et la liberté d’expression).

Enrico Fermi ; physicien italien naturalisé américain (1901-1954). Physicien spécialiste du nucléaire, il est aussi l’un des pionniers de la physique quantique. Il travaille sur le projet Manhattan de création de la bombe atomique et il construira la première pile atomique. Prix Nobel de physique en 1938. Il fait partie des rares scientifiques à l’excellence reconnue tout à la fois en en physique expérimentale et en physique théorique.

Ces trois scientifiques peuvent de plus être rattachés à la catégorie des polymathes en raison de leur connaissance de plusieurs matières. Le mot vient du grec ancien πολυμαθής / polumathḗs, signifiant « qui sait beaucoup, très savant », de πολύ / polú, « beaucoup » et μανθάνω / manthánō, « apprendre ». Le terme existe depuis le 17éme siècle et se retrouve sous des formulations proches en latin, anglais, allemand (polyhistor).

[2] Michael Polanyi, The tacit dimension ; Editions Peter Smith, Gloucester Massachusetts ; 1983 ; Réédition 2009 par University of Chicago Press, 2009.

[3] David Autor ; Polanyi’s Paradox and the Shape of Employment Growth (Paradoxe de Polyani et forme de la croissance de l’emploi) ;

https://www.nber.org/system/files/working_papers/w20485/w20485.pdf

Why Are There Still So Many Jobs ? The History and Future of Workplace Automation (Pourquoi y a-t-il encore autant d’emplois ? Histoire et avenir de l’automatisation du lieu de travail) ; Journal of Economic Perspectives, 2015. vol. 29, n° 3. https://www.aeaweb.org/articles?id=10.1257/jep.29.3.3

Autor est un économiste américain contemporain , professeur au Massachusetts Institute of Technology (MIT) spécialiste d’économie du travail et chercheur associé au National Bureau of Economic Research ( NBER ),organisme de recherche privé américain à but non lucratif créé en 1920. Il produit et diffuse des recherches économiques impartiales auprès des décideurs politiques, des professionnels des affaires et de la communauté universitaire en se limitant à la présentation de données et de conclusions, sans formulation de recommandations politiques.

[4] Pour en savoir plus se reporter notamment à l’article de Dominique Cardon, Jean-Philippe Cointet et Antoine Mazières ; La revanche des neurones : L’invention des machines inductives et la controverse de l’intelligence artificielle. Réseaux : communication, technologie, société, 2018, 5 (211), pp.173-220. ⟨10.3917/res.211.0173⟩.  https://sciencespo.hal.science/hal-02005537

L’article retrace l’histoire de l’Intelligence artificielle avec les interrogations liées aux approches symbolique et connexionniste. L’avènement de capacités permettant de traiter massivement des données et de démultiplier les capacités de calcul a ouvert la voie pour des travaux renouant avec l’esprit de la cybernétique qui avait eu son âge d’or dans l’immédiat après seconde guerre mondiale en décrivant notamment les moyens et méthodes permettant d’organiser les échanges pour les rendre efficaces.  

[5] L’équation de Drake, tire son nom de celui de l’astrophysicien américain (Franck Drake) qui l’a formulée en 1961. L’objet de sa formule est de déterminer le nombre potentiel de civilisations extraterrestres dans notre galaxie avec qui nous pourrions entrer en contact. Les astrophysiciens Stephen Dole en 1963 et Sara Seager en 2013 en ont formulé des variantes. Toutes ces formules utilisent une majorité de paramètres probabilistes rendant le degré d’incertitude du résultat si élevé qu’il est impossible à accepter scientifiquement.

[6] Magnifica Humanitas; accéder au texte intégral de l’encyclique :

https://www.vatican.va/content/leo-xiv/fr/encyclicals/documents/20260515-magnifica-humanitas.html


En savoir plus sur COMPRENDRE LES CRISES : LE BLOG DE GÉRARD PARDINI

Abonnez-vous pour recevoir les derniers articles par e-mail.


Laisser un commentaire

En savoir plus sur COMPRENDRE LES CRISES : LE BLOG DE GÉRARD PARDINI

Abonnez-vous pour poursuivre la lecture et avoir accès à l’ensemble des archives.

Poursuivre la lecture