Ndlr : Nous remercions Jean Paul Baquiast de nous autoriser à reprendre dans ‘le Cahier des Lectures MCX’ le texte qu’il a publié dans le numéro 95 de la Revue ‘Automate Intelligent’ qu’il dirige consacré au nouvel ouvrage de Mario Livio (un astrophysicien américain de renommée mondiale, responsable de département au sein du Hubble Space Telescope Science Institute de Baltimore, intitulé de façon provocante : « Is God a mathematician ? ». Cette contribution prudente à notre entendement des épistémologies constructivistes contemporaines enrichit de façon très éclairante nos réflexions sur le bon usage de la modélisation formelle exclusivement mathématique. (Je dis ‘prudente’ car je tiens pour trop catégorique la phrase : « Ce qui est tout à fait exact, … c'est qu'il existe effectivement dans la nature des causes et des effets, obéissant à des mécanismes divers qui font appel … à des règles physiques très précises ». JP Baquiast aurait écrit « Il est fort plausible que … » au lieu de « Il est tout à faut exact’ que … », j’aurai enlevé le terme prudent ! Et je conviens volontiers que cette prudence est aujourd’hui fort sage). (Note de JLM.)

*-*-*-*-*-

Le texte que nous proposons ci-dessous, intitulé "De la nature des mathématiques" est inspiré par l'excellent ouvrage récent de l'astrophysicien et mathématicien Mario Livio, consacré à ce thème. Le livre s'intitule « Is God a mathematician ? ». Il ne s'interroge pas sur la vraie nature de Dieu mais sur la question de savoir si les mathématiques préexistent dans la nature, indépendamment des cerveaux humains, ou si elles sont une construction de ceux-ci. L'auteur fait sienne la seconde solution, et explique les raisons de son choix à la fin de l'ouvrage. Mais l'essentiel du livre consiste en une histoire passionnante des mathématiques et des mathématiciens, depuis l'Antiquité jusqu'aux découvertes récentes de la science. Vulgarisateur né, sans céder à la facilité, Mario Livio rend ce voyage parfaitement compréhensible aux non mathématiciens. Le livre n'étant pas traduit à ce jour, il impose par contre de connaître l'anglais, y compris dans la façon dont les concepts et symboles des mathématiques s'expriment en cette langue.

Nous ne pouvions, de par les caractéristiques de l'ouvrage, le commenter davantage ici, sauf à en retranscrire certains passages, moins bien que ne le ferait l’auteur. Nous avons préféré réagir selon nos propres mots ou idées au thème principal du livre. Pour le reste, nous conseillons de lire attentivement et de bout en bout « Is God a mathematician ? » . Ajoutons que pour les spécialistes, la bibliographie et les références sont extrêmement complètes. Les auteurs français ne sont pas ignorés, contrairement à ce qui se fait souvent sous des plumes anglo-saxonnes.

De la nature des mathématiques

Très fréquemment, sur ce site, nous sommes conduits à évoquer les grandes questions que les scientifiques et les philosophes des sciences se posent à propos des mathématiques : sont-elles des réalités de la nature, indépendantes du monde matériel, que les hommes découvrent progressivement ? Sont-elles au contraire la traduction que fait l'esprit humain (nous dirions plutôt d'ailleurs le cerveau humain) de structures ou lois préexistant dans le monde matériel avant que des scientifiques mathématiciens ne les aient observées ?

La tradition platonicienne

La première proposition, sous sa forme extrême, se réfère à la tradition platonicienne. Il existerait en dehors du monde matériel, celui dont est fait notre corps et avec lequel nous interagissons grâce à nos sens, un monde des idées. L'homme ne peut pas avoir accès directement à ce monde des idées, car son cerveau n'a pas la puissance nécessaire. Mais il peut l'approcher par le raisonnement. Les mathématiques, auxquelles on ajoutait traditionnellement la logique, font partie de ce monde des idées. L'homme ne les invente pas, il les découvre. Ce travail de découverte n'est jamais terminé, car nul ne peut fixer de limites au monde des idées. Assez curieusement, cette opinion idéaliste est celle de nombreux mathématiciens qui s'interrogent sur le caractère surprenant de ce qu'ils étudient. Ils se sentent à peu près dans la situation d'un explorateur qui voyage dans un pays inconnu et voit sans cesse des paysages nouveaux s'ouvrir à ses yeux, dont il s'efforcera ensuite de dresser la carte.

La tradition platonicienne moderne, concernant les mathématiques, ne peut pas cependant faire abstraction du fait que ces dernières sont étroitement en relation avec les objets du réel tels que les étudient les différentes sciences. Il ne s'agit donc pas d'idées générales sans rapports obligés avec le réel, telles que peuvent l'être certaines spéculations philosophiques. C'est ce que le physicien théoricien Eugène Wigner avait nommé la déraisonnable efficacité des mathématiques (The unreasonnable effectiveness of mathematics). En effet, pour reprendre la terminologie proposée par Mario Livio, les mathématiques ont un double rôle, actif et passif, à l'égard de la découverte scientifique. Par rôle actif, il entend le fait que les scientifiques, pour comprendre les phénomènes qu'ils étudient, font constamment appel à des outils mathématiques. Ceux-ci permettent d'ordonner le maquis des faits observés en lois claires et concises qui peuvent être considérées, une fois vérifiées et revérifiées par l'expérience, comme des lois de la nature. C'est ainsi, note l'auteur, que Maxwell a pu inclure au champ de la physique existant en 1860 tous les phénomènes relevant de l'électricité et du magnétisme. Il n'a utilisé pour cela que quatre équations. Einstein fit encore mieux, en représentant par les équations de la relativité générale tout ce que l'on savait (et que l'on sait encore) de l'espace et du temps. On ne peut donc pas nier la correspondance extraordinairement étroite entre le réel et les mathématiques.

Mais, selon Mario Livio, les mathématiques ont aussi un rôle passif, qui lui apparaît encore plus troublant. Il fait allusion au fait que des postulats, concepts et équations développés par des mathématiciens, certains parfois depuis plusieurs siècles, sans aucune référence à l'expérience, peuvent se révéler subitement très précieux pour modéliser (c'est-à-dire représenter sous forme mathématique) des objets d'observation récentes. Il cite l'exemple de l'ellipse, découverte par le mathématicien grec Le Menaechmus en 350 BP, qui a permis à Kepler et Newton de représenter avec une précision suffisante les trajectoires des planètes. Plus proche de nous est la théorie des nœuds, branche assez abstraite de la topologie, qui s'est révélée très récemment indispensable pour comprendre la façon dont l'ADN se replie dans les cellules vivantes. La nature aurait-elle, bien avant les hommes, inventé l'ellipse et la théorie des nœuds ? Autrement dit, comment se fait-il qu'elle comporte de tous temps, enfermés en sein, si l'on peut dire, tous les secrets des mathématiques, dont les hommes font péniblement la découverte ?

Ces exemples, sans justifier à proprement parler l'hypothèse platonicienne selon laquelle les mathématiques existeraient de tous temps dans un monde idéal, celui des idées, reposent cependant sur le postulat que le monde matériel est, d'une certaine façon, mathématique. L'astrophysicien Max Tegmark l'affirme sans hésiter. L'univers n'est pas seulement mathématico-compatible, si l'on peut dire, mais il est mathématique. Dans un autre ordre d'hypothèses, le physicien Seth Lloyd postule que le cosmos est un ordinateur quantique, ce qui lui permet de programmer son évolution en utilisant la puissance des algorithmes de l'informatique quantique(1). Il parait difficile cependant de retenir ces hypothèses, notamment la première. On ne voit pas en effet comment l'univers pourrait être mathématique s'il ne disposait pas d'un cerveau capable de traiter les objets et les raisonnements mathématiques.

Dans tous ces cas, il ne faudrait pas oublier que la science avance sans cesse,à la fois par des approfondissements conceptuels (ne tenant pas seulement aux modèles mathématiques) et par les progrès instrumentaux. Des lois mathématiques triomphantes à une époque donnée doivent être abandonnées, ou tout au moins complexifiées, pour tenir compte de ces approfondissements. Faut-il en déduire que c'est en ce cas l'architecture mathématique ou « mathématisable » du monde qui évolue ? Certainement pas. Elle reste ce qu'elle était. Seule évolue la représentation que s'en donne le cerveau.

Les hypothèses constructivistes

Ceci nous conduit à l'autre série d'hypothèses, que l'on peut qualifier de constructivistes (et qui est la nôtre). Celle-ci peut être résumée de la façon suivante : il existe des lois de causalité dans l'univers, quel que soit le domaine considéré : cosmos, physique microscopique, physique macroscopique, biologie, sciences humaines, etc.. Les humains observent les phénomènes obéissant à ces causalités, par exemple la chute de la pomme tombant d'un pommier. Ils s'efforcent de faire apparaître des régularités en utilisant pour cela les outils dont l'évolution a doté leur cerveau, ceci très en amont dans l'évolution du monde animal. On sait à cet égard que les cerveaux des animaux dits supérieurs sont capables de compter de 1 à 3 voire 7. De même, les cerveaux animaux peuvent se livrer à des opérations de géométrie élémentaire, distinguer une droite d'une courbe par exemple, ou apprécier l'ouverture d'un angle. Les cerveaux humains, comme le montre l'histoire des mathématiques, ont enrichi ces premiers outils conceptuels, dès l'antiquité grecque, à la fois par un travail sur les outils (ajouter de nouveau nombres entiers à la liste, imaginer par passage aux limites les concepts de zéro et d'infini, etc.) et par une observation plus attentive de la nature, en distinguant par exemple les formes naturelles selon leur apparence, cercle, triangle, sphère, etc.

De proche en proche, cette double démarche liée à l'histoire particulière de l'évolution de l'homo sapiens, a permis d'une part un raffinement permanent des outils mathématiques, avec l'"émergence" de méthodes de calcul de plus en plus complexes, et d'autre part de faire apparaître dans le monde perçu par les sens des régularités de plus en plus nombreuses, susceptibles d'être représentées de mieux en mieux par des formules mathématiques. Ainsi il a été observé que tout objet soumis à la gravité obéit à une loi commune, qui fut elle-même précisée, de Galilée à Newton et ses successeurs. Mais ceci ne veut pas dire que les objets mathématiques soient dans la nature. Ils constituent seulement une catégorie particulière de moyens par lesquels le cerveau se représente le monde à partir des observations des sens. Il en est de même d'une catégorie comme la couleur. Le rouge n'est pas dans la nature. Il représente seulement la façon dont les neurones du système visuel se représentent certaines fréquences lumineuses émises par des objets de la nature. Les objets et lois mathématiques sont donc, comme le rouge, des créations ou plus exactement des constructions émergentes, qui se produisent dans le cerveau et sont ensuite reprises par le langage, pour représenter des régularités du monde physique.

Ajoutons qu'il ne faudrait pas déduire du fait que le cerveau humain est lui-même un objet du monde physique pour affirmer qu'il est mathématique, affirmation qui permettrait de retrouver l'hypothèse précédente selon laquelle les mathématiques existeraient dans la nature, indépendamment des mathématiciens. Le cerveau n'est pas plus mathématique qu'il n'est coloriste. Il obéit à des logiques de fonctionnement d'ailleurs assez souples liées à son architecture (neurones, groupes de neurones, aires cérébrales, etc.). L'évolution lui a permis, dans ce cadre, de créer des catégories et des règles qui lui servent à se retrouver dans le désordre apparent du monde physique afin d'y adopter des comportements propices à la survie. Mais comme l'a fait remarquer le mathématicien britannique Michaël Atiyah, cité par Mario Livio, le cerveau ou l'organe cognitif en tenant lieu, équipant une méduse enfouie dans les profondeurs marines et ne connaissant que des étendues d'eau obscures n'aurait pas pu inventer les concept de droite ou d'angle dont l'animal n'aurait pas eu besoin pour sa survie.

Ce qui est tout à fait exact, et que le terme de constructivisme, appliqué au cerveau humain, ne doit pas faire oublier, c'est qu'il existe effectivement dans la nature des causes et des effets, obéissant à des mécanismes divers qui ne font pas appel, malgré les apparences, à la théorie mathématiques, mais à des règles physiques très précises. Les premières de ces règles sont celles relatives à ce que l'on nomme les lois fondamentales de l'univers. On pourrait qualifier ces règles, non pas de constructivistes, mais de constructales, parce qu'elles aboutissent effectivement à construire de la complexité physique à partir de lois simples. Mais ce n'est pas parce qu'elles peuvent être représentées par des formules mathématiques que l'univers sous-jacent serait mathématique, ou que les mathématiques feraient partie de l'univers sous-jacent. Si les cosmologistes aboutissaient, avec beaucoup de persévérance, à élaborer une équation du Tout, on a souvent remarqué que cette équation ne servirait pas à grand-chose. Elle ne pourrait pas, notamment, permettre de reconstruire l'infinie variété des phénomènes et objets complexes qui se sont créés à partir du Big Bang, chacun à partir d'enchaînements de causes et effets spécifiques.

Dans beaucoup de cas, la science a pu élucider les lois de la nature, non pas principalement grâce aux mathématiques, mais grâce à l'observation de plus en plus fine des phénomènes. Ainsi, concernant la physique quotidienne, la condensation de la vapeur d'eau donnant lieu à la création de cristaux de neige n'est pas commandée en premier par l'application de lois géométriques mais par des phénomènes physiques de tension superficielle se produisant de façon aléatoire, en fonction des circonstances locales propres aux molécules d'eau considérées. Les formes géométriques en étoile, sous leurs diverses variantes, ne sont que des propriétés émergentes de la condensation. Le cerveau humain les remarque, parce qu'il a déjà depuis longtemps identifié de telles formes dans la nature, et qu'elles se sont finalement inscrites dans ses neurones. Mais un animal, même habitué à la neige, n'y fait sans doute pas attention.

D'autres formes de mathématiques

Dans un ouvrage monumental que l'on ne mentionne pas assez souvent lorsque l'on étudie les mathématiques, «A New Kind of Science» le mathématicien Stephen Wolfram a montré que les automates cellulaires peuvent, tout aussi bien que les objets mathématiques classiques, générer des complexités imprévisibles à partir de l'application de règles simples – et ceci sans apport propre du cerveau humain puisque les automates cellulaires s'apparentent à la vie et à l'intelligence artificielle(2). Bien plus, les automates cellulaires peuvent générer des raisonnements logiques et mathématiques, voire prouver des théorèmes. Ceci confirme l'hypothèse selon laquelle si l'univers obéit à des régularités et si ces régularités peuvent être représentées par des règles formelles, les mathématiques telles que développées depuis l'ancienne Grèce par les cerveaux humains ne constituent qu'une des façons de formaliser ces représentations. Les appareils cognitifs d'entités extraterrestres, s'ils s'étaient construits selon d'autres architectures que celles adoptées par nos cerveaux, représenteraient les mêmes phénomènes de l'univers par d'autres symboles et d'autres règles mathématiques et logiques que ceux et celles acquises lors de l'histoire évolutive de nos propres cerveaux.

Rappelons à ce propos que tout dans le monde physique n'est pas observable et modélisable par des algorithmes précis, tels que construits par l'interaction de nos cerveaux avec le monde macroscopique. C'est le cas de tout ce qui concerne les phénomènes propres au monde quantique. Les phénomènes de détail le concernant, si l'on peut dire, nous échappent. Certains neuroscientifiques estiment que le cerveau humain, sauf mutation inespérée, sera sans doute toujours incapable de comprendre en détail le monde quantique, comme d'ailleurs à d'autres échelles certains états extrêmes de la matière/énergie présente dans le cosmos. Non seulement, par exemple, il n'est pas possible de déterminer simultanément la position et la vitesse d'une particule, mais la notion même de particule n'est pas reconnue. Il ne s'agit que d‘une construction, là encore, générée puis utilisée par le cerveau de l'observateur en interaction observationnelle avec un monde dont les règles profondes lui échappent. On ne peut connaître les entités et phénomènes quantiques qu'en faisant appel à des formes de mathématiques que nous qualifierions de dégradées, calcul des probabilités s'appliquant à des grands nombres, notamment.

Dire que les mathématiques probabilistes sont des formes de mathématiques dégradées surprendra. Les défenseurs de la mathématicité intrinsèque de l'univers les présentent au contraire comme une nouvelle preuve de la «déraisonnable efficacité des mathématiques», selon le terme de Wigner. Grâce à elles, l'empire des mathématiques aurait réussi à s'étendre jusqu'au monde quantique, dont les ressort profond nous demeurent il faut bien le reconnaître incompréhensibles. Ainsi la mécanique quantique permet-elle de construire une quantité de machines technologiques en se limitant au calcul statistiques de leurs effets, sans avoir besoin de se prononcer sur ce qui provoque ces derniers. Mais nous pensons que, aussi complexes que sont les formalismes de la mécanique quantique, il s'agit de cache-misère. Le cerveau humain, faisant appel à la statistique des grands nombres, avoue son incapacité à analyser le monde quantique par les mathématiques développées pour la physique macroscopique. Nous ne voyons pas pour notre part que de nouveaux outils puissent un jour permettre de le faire.

Ceci n'a rien d'étonnant pour les défenseurs du caractère constructiviste des mathématiques, résultant de siècles d'interactions entre les cerveaux humains et le monde. Mais pour ceux qui postulent le caractère intrinsèquement mathématique du monde, qu'il soit microscopique ou macroscopique, cela devrait être reconnu comme un aveu d'échec : le monde quantique n'est définitivement pas mathématique. Il n'est même pas, comme on le lit parfois, probabiliste. Il est ce qu'il est mais le calcul des probabilités permet, dans l'état actuel de nos cerveaux, de modéliser au mieux certains de ses effets. Rappelons ici sans insister, au sujet de la physique quantique, les thèses souvent présentées sur ce site de la physicienne et épistémologue Miora Mugur-Schächter, selon lesquelles le monde quantique n'est pas susceptible d'une description «réaliste» (3). Le même détour cognitif s'impose d'ailleurs dans le monde macroscopique. Certains neurologues ont fait l'hypothèse que le cerveau se construisait sur le mode bayésien, en ne prenant en compte que des résultats statistiques, faute de pouvoir connaître et analyser l'ensemble des mécanismes de détail, dont l'existence réaliste même pouvait être mise en doute par le cerveau.

Découverte et invention

On sait que les défenseurs d'une conception platonicienne des mathématiques, selon lesquelles celles-ci existeraient indépendamment du cerveau humain, s'appuient sur la difficulté voire l'impossibilité de démontrer certains théorèmes. C'est le cas de l'hypothèse de Riemann à laquelle la revue Pour la Science de mars 2009 consacre un article. Il s'agit de questions se posant à propos des nombres premiers : comment sont-ils répartis parmi les nombres entiers ? Existe-t-il une infinité de nombres premiers jumeaux c'est-à-dire de paires de nombres premiers de la forme (pp+2) tels que 5 et 7 ou 11 et 13 ? Tout entier pair supérieur ou égal à 4 est-il la somme de deux nombres premiers ? Les réponses à ces conjectures sont encore réputées inaccessibles par les méthodes actuelles. Bien évidemment, les mathématiciens ne renoncent pas à trouver des solutions.

Faut-il donc en conclure que les nombres premiers existent en dehors de leurs cerveaux, comme une dimension de l'univers que la science pourrait découvrit un jour comme elle découvrira probablement un jour une planète encore inconnue et abritant de la vie, quelque part dans le cosmos ? Face à de telles questions, Mario Livio propose de distinguer découverte et invention. Mais notre auteur reste cependant ce faisant dans le domaine des mathématiques. Il montre, à propos du nombre d'or (golden ratio) dont certains ont prétendu qu'il est de règle dans certaines structures naturelles, que le concept lui-même, avec ses implications philosophiques voire métaphysiques, fut inventé par Euclide mais que les méthodes géométriques permettant d'élaborer ce concept furent découvertes, sur le mode des essais et erreurs, par les Pythagoriciens l'ayant suivi(4). Si nous appliquons cette approche aux nombres premiers, que pourrait-on en dire ? Ils furent certainement inventés par les cerveaux des premiers arithméticiens. Mais les cerveaux des mathématiciens d'aujourd'hui n'ont pas encore découvert toutes les conséquences qu'impliquait cette invention.

Attention cependant. Cette hypothèse ne remet pas en cause la perspective constructiviste, selon laquelle les mathématiques sont des produits du cerveau humain. Les platoniciens pourraient prétendre que si les mathématiciens n'ont pas encore découvert tout ce qu'implique le concept de nombre premier, ce serait parce qu'en réalité les nombres premiers n'auraient pas été inventés par des cerveaux humains. Ils existeraient dans la nature et une partie de leurs propriétés resteraient à découvrir – comme quoi l'hypothèse constructiviste serait fausse. Les constructivistes se limiteront à supposer que le cerveau humain construit, par association neuronales, des objets mentaux dont la partie rationnelle, à proprement parler cognitive, dudit cerveau ne découvre pas immédiatement toute la portée. Ceci n'aurait rien d'exceptionnel. Dans de nombreux cas, on constate que le cerveau peut construire des concepts dépourvus de sens, même imaginaire. Nul n'en déduira que ces concepts désignent des objets de la nature existant indépendamment du cerveau. Ils représentent seulement des produits «poussés aux limites» de l'activité cérébrale.

Autrement dit, et pour en revenir à l'hypothèse de Riemann, il est tout à fait plausible de supposer que le cerveau de Riemann (particulièrement inventif, il est vrai) a construit des objets trop complexes pour que les cerveaux de ses successeurs aient pu, jusqu'à ce jour, les analyser et répondre aux questions posées. Mais ce ne serait pas la première fois qu'un tel évènement se serait produit. Mario Livio rappelle que la tentative de Frege visant dans son ouvrage Grundegezetze des Arithmetic (Basic Laws of Arithmetic) à prouver que l'on pouvait démontrer toutes les assertions de l'arithmétique à partir de quelques axiomes en logique fut ruinée par Russell. Le paradoxe de Russell, dit du barbier (le barbier qui rase tous les hommes du village qui ne se rasent pas eux-mêmes) montre en effet que certaines affirmations formulées par la raison sont des pièges pour la connaissance. La raison, telle qu'elle fonctionne dans le cerveau humain, se les tend à elle-même. Les cerveaux humains ont également, depuis longtemps, construit l'hypothèse de Dieu et celle d'infini (sans mentionner les innombrables machines technologiques dont ils sont loin de comprendre le fonctionnement). La différence entre les deux concepts, Dieu et l'infini, est que les scientifiques ne désespèrent pas de concrétiser le concept d'infini, notamment en cosmologie des multivers. Ils ont renoncé depuis longtemps, par contre, à donner la moindre consistance scientifique à celui de Dieu.

Notes
(1) Voir http://www.automatesintelligents.com/biblionet/2006/avr/lloyd.html
(2) Voir http://www.automatesintelligents.com/labo/2002/juin/doswolfram.html   
(3) Voir http://www.automatesintelligents.com/biblionet/2006/sep/mms.html       
(4) Sur le nombre d'or, voir http://fr.wikipedia.org/wiki/Nombre_d'or