J'ai beau connaître la théorie de Galois depuis longtemps, et l'avoir enseignée pendant trois ans à l'ENS, je continue à trouver ça assez magique. Il y a quelque chose de vraiment difficile à admettre, intuitivement, dans le fait que certaines équations ont des groupes de Galois plus petits que ce qu'ils pourraient être : et même quand on connaît bien la théorie, et qu'on sait calculer les groupes de Galois en pratique, on a l'impression de ne pas vraiment avoir de réponse satisfaisante à la question, mais pourquoi, au juste, cette équation décide-t-elle de ne pas faire comme ses petites copines ? Ça n'arrange pas, en plus, que la majorité des cours sur la théorie de Galois vous laissent sans la moindre idée de comment au juste on peut calculer un groupe de Galois en pratique (surtout quand il est petit).
Je peux essayer d'illustrer ça par l'exemple du polynôme f=x5−5x+12 (sur ℚ), que j'ai commencé à utiliser comme exemple dans un texte que j'écrivais aujourd'hui : qu'est-ce qui peut bien faire que ses racines décident de ne pas être rigoureusement interchangeables comme dans les équations les plus générales (car c'est ça que signifie le fait d'avoir un groupe de Galois maximal — tout le groupe symétrique sur les racines) ?
On peut en avoir une mesure expérimentale en regardant ce qui se passe si on réduit ce polynôme modulo différents nombres premiers p (c'est-à-dire qu'on le regarde comme un polynôme à coefficients dans 𝔽p=ℤ/pℤ) et qu'on cherche à le factoriser : modulo les 10000 premiers nombres premiers, si on excepte p=2 (le polynôme f devient x·(x+1)4) et p=5 (le polynôme devient (x+2)5) où le polynôme a des facteurs multiples (ce sont les nombres premiers dits ramifiés), il y a 4016 nombres premiers (7, 11, 13, 19, 23, 37…) modulo lesquels f est irréductible, il y en a 5021 (3, 17, 29, 31, 43, 61…) tels qu'il se factorise en un facteur linéaire et deux de degré 2 (par exemple, modulo 3, le polynôme f devient x·(x²+x+2)·(x²+2x+2)), et enfin il y a 961 nombres premiers (127, 157, 197, 223, 251, 331…) tels que le polynôme f se décompose totalement en cinq facteurs linéaires (par exemple, modulo 127, le polynôme f devient (x+19)·(x+65)·(x+81)·(x+93)·(x+123)). Autrement dit, il y a en gros 40%, 50% et 10% des nombres premiers modulo lesquels on a des degrés de factorisations 5, 1+2+2 et 1+1+1+1+1 respectivement ; et aucune autre factorisation ne se produit (ou en tout cas, ne semble se produire si on regarde les petits nombres premiers). On est censé trouver ça surprenant, parce qu'un polynôme général de degré 5 (qui a pour groupe de Galois le groupe symétrique 𝔖5, par exemple x5−5x+11), il a ces trois factorisations modulo p dans des proportions respectives 20%, 12.5% et ~0.83%, mais surtout, il y a d'autres factorisations possibles (1+4 modulo 25% des nombres premiers, 2+3 et 1+1+3 modulo ~16.7% chacun, et 1+1+1+2 dans ~8.3% des cas) : donc la conséquence, ou la détection, expérimentale du petit groupe de Galois de f=x5−5x+12, c'est que sa réduction modulo p n'admet pas toutes les factorisations possibles, ou avec des proportions inattendues pour celles qui sont possibles (et notamment, le scindage complet en facteurs linéaires a lieu beaucoup plus souvent que dans le cas général). Le théorème qui sous-tend ces statistiques, c'est le théorème de Čebotarëv (qui implique que les proportions des différentes partitions en degrés pour la factorisation des réductions d'un polynôme sur ℚ sont, asymptotiquement, les proportions des différentes répartitions en cycles des éléments de son groupe de Galois agissant sur les racines) ; les proportions observées pour f doivent faire soupçonner comme groupe de Galois le groupe diédral du pentagone, car on cherche un groupe de permutations sur 5 éléments, dont le nombre d'éléments est multiple de 5 et approximativement 10 (l'inverse de la proportion de p modulo lesquels f se décompose complètement), et qui a 40% d'éléments sans points fixes et 50% d'éléments avec exactement un point fixe. Mais tout ceci ne permet de conclure qu'heuristiquement.
Comme f=x5−5x+12 est irréductible (par exemple parce qu'il l'est modulo 7), ses racines sont au moins une fois interchangeables (=le groupe de Galois opère transitivement dessus) : on peut appeler a une de ses racines. On peut se fixer les idées en disant que a est l'unique racine réelle (celle qui vaut environ −1.842085). Le polynôme s'écrit alors f=(x−a)·(x4+ax3+a2x2+a3x+a4−5). Là où ce polynôme est surprenant, c'est que le second facteur se décompose plus loin : f=(x−a)·(x2+¼(−a4−a3−a2+3a+4)x+¼(−a4−a3−a2−5a+8))·(x2+¼(a4+a3+a2+a−4)x+½(−a3−a−2)). On peut vérifier cette expression en développant patiemment le produit (et en utilisant de façon répétée le fait que f(a)=0) ; la présence des deux facteurs quadratiques garantit d'ores et déjà que f vu modulo n'importe quel nombre premier p ne pourra jamais avoir de factorisation dont les facteurs auraient degrés 1+1+3, par exemple (i.e., deux facteurs linéaires et un de degré 3), et l'existence de nombres premiers modulo lesquels ces facteurs quadratiques sont irréductibles (3, par exemple) garantit qu'ils sont irréductibles tout court. Mais ce n'est pas tout : on voit qu'une fois qu'on a choisi (identifié, nommé, distingué) une racine a de f, les quatre autres ne sont plus interchangeables — elles viennent en deux paires différenciées, à savoir, celles qui sont racines de x2+¼(−a4−a3−a2+3a+4)x+¼(−a4−a3−a2−5a+8), et celles qui sont racines de x2+¼(a4+a3+a2+a−4)x+½(−a3−a−2). Par exemple, dans les complexes, si j'ai choisi a≈−1.842085, alors les racines du premier facteur quadratique seront environ 1.272897+0.719799i et 1.272897−0.719799i, que je voudrai noter respectivement a1 et a4 pour des raisons qui apparaîtront plus tard, et les racines du second facteur quadratique seront environ −0.351854+1.709561i et −0.351854−1.709561i, que je voudrai noter a2 et a3 respectivement.
Cette fois, on a bien prouvé les choses suivantes sur le groupe de Galois : qu'il opère transitivement sur les 5 racines, et que le sous-groupe fixant une racine a quelconque opère sur les 4 autres en les séparant en deux orbites de 2 éléments chacune. On peut se convaincre en examinant toutes sortes de cas que le groupe diédral du pentagone est le seul groupe de permutations sur cinq objets qui réponde à ces conditions. On peut cependant être plus explicite : si je note a0=a une des cinq racines de f, et a1 une des deux racines de x2+¼(−a4−a3−a2+3a+4)x+¼(−a4−a3−a2−5a+8), alors en posant a2=[(a04−a03+a02−a0−4)a1+(−a04+a03−a02+a0−4)]/8, on peut vérifier (de nouveau, en développant de façon fastidieuse, si on ne trouve pas mieux) que a2 est aussi racine de f (et plus précisément de x2+¼(a4+a3+a2+a−4)x+½(−a3−a−2)) ; et il en va de même de a3=[(−a04+a03−a02+a0+4)a1+(−a04−3a03−a02−3a0+12)]/8 ; enfin, la dernière racine de f est alors a4=−a1+¼(a04+a03+a02−3a0−4) d'après l'équation vérifiée par a1 : ceci montre qu'une fois choisies les racines a0 (une parmi cinq) et a1 (une parmi deux), toutes les autres sont complètement déterminées, donc le groupe de Galois a dix éléments. Et avec ces conventions, si on permute cycliquement les cinq racines a0, a1, a2, a3, a4, alors les mêmes relations sont satisfaite, de même que si, à a0 fixé, on échange a1 et a4 et a2 et a3 : on s'est donc convaincu que le groupe de Galois de f est le groupe diédral du pentagone, le pentagone en question étant celui formé par les aj (abstraitement, car dans ℂ ce n'est pas du tout un pentagone régulier).
Pour résumer, donc, si j'essaie de jouer à bouger les racines de f entre elles, je peux en mettre une première n'importe où, je peux mettre une seconde parmi deux possibles (si les racines étaient adjacentes sur le pentagone abstrait a0, a1, a2, a3, a4, elles doivent le rester), et une fois que c'est fait toutes les autres tombent forcément en place.
Parmi les petites identités remarquables qui tombent de la théorie de Galois, on peut remarquer que comme le groupe diédral du pentagone a un sous-groupe d'indice 2 (les rotations du pentagone), il doit y avoir une extension quadratique de ℚ dans celle engendrée par les racines de f : c'est bien le cas, et spécifiquement, √−10=(a02+1)a1+¼(−a04+a03−a02+5a0+8) est laissé invariant par les éléments du groupe de Galois qui permutent cycliquement les cinq racines, et envoyé en son opposé par les éléments qui laissent fixe une racine. Du coup, si on veut, toutes les racines de f peuvent s'exprimer à partir d'une seule racine a et de cette quantité √−10. On pourrait aussi jouer à exprimer explicitement toutes les racines de f avec des radicaux : on va dire que je laisse ça en exercice au lecteur, qui pourra s'inspirer de l'exercice 5 de cette feuille d'exercices. [Ajout : voir cette entrée ultérieure où la réponse est donnée.]
PS () : D'autres exemples de groupes de Galois un peu rigolos qui ne soient ni trop petits ni trop gros pour être intéressants : x7−7x+3 (groupe simple à 168 éléments, PGL2(𝔽7)≅PGL3(𝔽2)) ; x8−16x+28 (groupe d'ordre 1344 extension du précédent par (ℤ/2ℤ)3) ; x8−5x−5 (groupe d'ordre 1152 extension de (ℤ/2ℤ) par le produit de deux copies de 𝔖4) ; x9−9x2+9x−10 (groupe d'ordre 1296 produit en couronne de 3 copies de 𝔖3 avec action de 𝔖3, i.e., stabilisateur d'un système de 3 blocs de 3).