C'est l'exemple type de la question (archi-rabachée) sur laquelle on ne fera pas de progrès, mais qui ne cesse de me fasciner : les mathématiques sont-elles découvertes ou inventées ? — ou, pour poser la question différemment (ou peut-être pour poser une autre question plus provocatrice), les mathématiques pourraiennt-elles être différentes ?
On peut certainement imaginer un Univers parallèle où les lois de la physique sont différentes, d'ailleurs des physiciens apparemment tout à fait sérieux le font (les deux articles vers lesquels je viens de faire un lien ont été vulgarisés récemment de façon assez intéressante, c'est pour ça que je les ai choisis, mais les exemples ne manquent pas). Mais les mathématiques ? Peut-on imaginer un Univers où, sans aller jusqu'à demander que 2+2=5, les mathématiques seraient subtilement différentes ? Si on peut l'imaginer, peut-on imaginer communiquer avec un tel Univers ? (De toute évidence, il y a un problème : si on fait une démonstration dans notre Univers d'un fait mathématique vrai dans le nôtre et qu'on l'envoie dans l'autre, faut-il croire que la réalité cesse d'exister ?) Pourrait-on imaginer que, demain, les mathématiques soient différentes ? (Bon, ça, ça m'arrive souvent : je me couche le soir en ayant démontré un théorème, et le matin il n'est plus vrai.)
Avec des lunettes de logicien formaliste, on pourrait dire : oui, des univers mathématiques alternatifs existent, ça s'appelle des modèles de la théorie mathématique en train d'être considérée, et tout ce qui n'est ni démontrable ni réfutable, en fait, est vrai dans certains univers et faux dans d'autres. Mais c'est une fausse réponse : ce n'est pas de ça qu'on veut parler — quand on pense aux mathématiques, on ne pense pas aux conséquences d'un système d'axiome, et notamment quand on pense aux entiers naturels on ne pense pas à toute implémentation des axiomes de Peano mais bien à quelque chose de plus précis que ça, que les axiomes de Peano ne capturent qu'imparfaitement. La question de savoir dans quelle mesure ces entiers naturels sont intriqués dans la structure de l'Univers physique est d'ailleurs très subtile et très délicate, et liée à la question de l'existence de l'infini (un commentateur de ce blog qui se reconnaîtra, pense par exemple qu'ils ne le sont pas puisque l'entier naturel Ackermann(100,100) n'a apparemment pas d'existence physique) ; par exemple, on peut imaginer des Univers basés sur des lois de physique semblables à celles que nous croyons être les nôtres, mais construites à partir d'un modèle non-standard de l'arithmétique de Peano et se demander dans quelle mesure des êtres vivants dans un tel Univers pourraient se rendre compte qu'ils ne sont pas dans le modèle standard [pas au sens de la physique] — c'est une question provocatrice et difficile. Mais ce n'est pas vraiment de ça que je veux parler : même les modèles des logiciens ont l'air de vivre dans une sorte de grand tout des mathématiques (et, de fait, la théorie des modèles est une branche des mathématiques, qui s'étudie avec des méthodes et outils des mathématiques et qui utilise donc un Univers mathématique ambiant, qui peut lui-même être un modèle d'une autre théorie puisqu'il est habituel de regarder des modèles dans des modèles).
La pratique mathématique donne indubitablement l'impression qu'on
ne contrôle pas complètement ce qu'on fait : on peut être surpris par
ce qu'on trouve, émerveillé ou parfois frustré, l'impression produite
n'est pas du tout celle d'un architecte, d'un maçon ou d'un artiste
qui construit quelque chose, mais d'un aventurier
qui explore un terrain complexe, un
labyrinthe, un palais. Je crois
que la grande majorité des mathématiciens penchent plutôt pour la
solution les mathématiques sont découvertes
, même si tous
n'adoptent pas un point de vue religieusement platoniste, loin de là.
Le fait que les mathématiciens le pensent ne signifie cependant pas
qu'ils aient raison : ils pourraient souffrir d'une
<anglicisme>délusion</anglicisme> collective (soit qu'elle
soit la conséquence de leur travail soit qu'elle soit un prérequis
pour devenir mathématicien). La question pourrait aussi très bien ne
pas avoir de sens, ou ne pas être tout d'un côté ou de l'autre : s'il
est impossible de dire que j'ai inventé les formes dans
les vidéos de l'ensemble de
Mandelbrot que j'ai faites, il est néanmoins vrai que je les
contrôlais un peu, puisque je savais comment choisir le point de zoom
pour obtenir tel ou tel type de forme. (Et à l'extrême, quand un
romancien écrit un roman, il ne fait que choisir un point dans
l'ensemble de toutes les suites finies de caractères Unicode, il
serait absurde de dire que le roman est découvert
pour
autant.)
Parfois les mathématiques donnent l'impression de contenir des « coïncidences » ; il y a d'ailleurs des objets mathématiques dont l'existence même a l'air de reposer sur des coïncidences — soit des coïncidences qui donnent l'impression d'être complètement fortuites et locales, soit une sorte de connexion bizarre entre des objets mathématiques éloignés qui, si j'étais religieux, me semblerait être la marque directe de la main de Dieu. Est-ce une impression complètement naïve qui ne fait que montrer l'insuffisance de notre recul ? Sans doute.
On peut néanmoins se livrer à des expériences de pensée. La
première imagine une civilisation complètement indépendante de la
nôtre, par exemple extra-terrestre
(mais pas forcément : cela pourrait être la civilisation qui
apparaîtra sur Terre quand les poulpes seront devenus l'espèce
intelligente une fois que nous nous serons
détruits 
). J'écris le
nombre 808017424794512875886459904961710757005754368000000000
(en binaire, disons, codé avec des bosses et des creux sur un objet
physique, pour rendre la chose aussi abstraite que possible), ou bien
j'écris un autre nombre, à peu près de la même taille et vaguement
aussi divisible, mais sans propriété remarquable (comme
808192228876161778520554895458069891466133504000000000). Je dépose
cet objet où la civilisation va le trouver, et j'observe ce qui se
passe. Bien sûr, très souvent il ne se passe rien (la civilisation
n'est pas intéressée par les mathématiques, ou ne décode pas l'objet).
Le test de pensée que je fais est : y a-t-il avec le « bon » nombre
une réaction plus souvent différente qu'avec n'importe que autre
nombre comparable mais non remarquable ? Si oui, je peux considérer
que notre civilisation a découvert un phénomène préexistant. Alors
que si tous les nombres provoquent des réactions comparables auprès
des civilisations extra-terrestres, c'était purement une invention
liée, d'une façon inexplicable, à notre cerveau ou à notre culture, ou
à je ne sais quoi.
Deuxième expérience de pensée. Je rencontre Dieu, qui se prétend
omnipotent. Je lui demande une preuve de son omnipotence (je sais, je
sais, οὐκ
ἐκπειράσεις
κύριον τὸν
θεόν σου
) : je lance
un défi qui me semble un peu plus intéressant à relever que de me
donner des bijoux en caoutchouc qui brillent comme des vrais ou un
rameau de macaronis en fleurs : je veux qu'il fasse en sorte que si je
calcule les 1000000000 premières décimales de la racine carrée de 7 en
binaire (je choisis ça parce que probablement personne ne s'est amusé
à faire ce calcul pour l'instant) et que je les interprète comme une
chaîne d'octets (encodés en UTF-8), alors quelque part
dedans doit apparaître la phrase eh oui, j'ai relevé ton défi,
David, et comme tu peux le voir, je contrôle même les mathématiques,
et tu ne peux pas mettre en doute mon omnipotence (bien sûr, cette
chaîne était de tous temps présents dans les décimales de ce nombre,
mais personne ne l'a remarqué)
(cette chaîne de caractères
apparaît « très probablement » quelque part dans les décimales de la
racine carrée de 7, mais il serait plus qu'un peu surprenant qu'elle
apparût dans les un milliard premières). Dieu peut-Il faire cela ?
(Sans tricher, bien sûr, c'est-à-dire sans faire faire juste l'erreur
de calcul qui va bien à mes ordinateurs pour me le faire croire.) Ou
est-Il limité à l'Univers
physique ? Ou qui, des mathématiques et de Dieu, est le plus
fort ? Je suis tenté de faire le calcul pour voir s'il a relevé mon
défi. 
(Je lui accorde des points de style si à la
place de la phrase demandée il a écrit le verset 7 du chapitre 4 de
l'évangile de Matthieu.)
On peut pousser plus loin cette dernière expérience de pensée et imaginer un certain calcul qui, quand on le fait, permet d'écrire dans les décimales de pi (à condition que personne ne les ait jamais calculées ou écrites jusqu'à présent). Et qu'ensuite les gens s'amusent à vandaliser les décimales de pi, à y mettre des photos pornos. Mais je garde ça pour un fragment littéraire gratuit ultérieur.