Je donne à Télécom ParisChose un cours d'Analyse (cela me demande d'ailleurs beaucoup de travail parce que je ne suis pas du tout analyste) dont un des points centraux est la théorie de Fourier. J'avais l'an dernier fait un petit catalogue de quelques énoncés sur la théorie des séries de Fourier (dépassant largement le niveau du cours que j'enseigne, mais nécessaire pour me clarifier les idées). Mais il faudrait que je parle un peu aussi de la transformée de Fourier, pour expliquer à quel point c'est subtil à définir.
Si f est L¹ (=intégrable au sens de Lebesgue) sur ℝ, on définit sa transformée de Fourier ℱf par
(pour ceux qui ont un de ces vieux navigateurs qui ne comprennent pas le MathML, il s'agit de l'intégrale de f(x)·exp(−2iπξx) pour x allant de −∞ à +∞, vue comme fonction de la variable ξ). Cette fonction ℱf est continue (de ξ), de limite nulle à l'infini.
Si f est L² (=de carré intégrable) mais pas forcément L¹, la formule ci-dessus n'a pas de sens en général ; on peut cependant définir une transformée de Fourier sur L² : par exemple, on utilise la formule ci-dessus pour définir la transformée de Fourier sur L²∩L¹ (ou sur un espace plus petit, comme l'espace de Schwartz), dense dans L², on démontre que l'opération « transformée de Fourier » est une isométrie au sens L², et on la prolonge par continuité. C'est déjà quelque chose d'assez subtil pédagogiquement.
L'autre subtilité pédagogique, c'est que nos élèves sortent (généralement) de prépa et que si on leur y a défini une intégrale de −∞ à +∞, c'est comme limite des intégrales à bornes finies quand ces bornes tendent vers −∞ et +∞ ; alors que l'intégrale dont il est question ci-dessus est l'intégrale de Lebesgue, définie de façon holiste sur ℝ, et il se trouve que si elle existe, elle est effectivement égale à la limite des intégrales à bornes finies (par le théorème de convergence dominée), mais la réciproque n'est pas vraie.
Les choses deviennent catastrophiques parce que ces deux subtilités se combinent de façon encore plus subtile : si on considère la fonction fM = f×1[−M;+M] égale à f sur l'intervalle [−M;+M] et à 0 ailleurs, alors fM converge vers f au sens L² quand M→+∞, donc les transformées de Fourier des fM convergent vers celle de f au sens L² ; or fM est L¹ et sa transformée de Fourier est donc donnée par l'intégrale de −M à +M de de f(x)·exp(−2iπξx). On a donc (pour tout f∈L²) :
mais il s'agit d'une convergence au sens L² (d'une fonction de ξ vers une autre fonction de ξ), qui ne dit rien sur ce qui se passe pour un ξ ou un autre. Et là où ça devient subtilissimement subtilissime, c'est que en fait, si, il y a bien convergence pour presque tout ξ, mais cette convergence p.p. est un théorème très difficile (le théorème de Carleson).
En revanche, je suis assez convaincu, même si je n'ai pas de contre-exemple, qu'il est parfaitement possible qu'une fonction f localement intégrable ait une transformée de Fourier au sens des distributions g elle aussi localement intégrable, c'est-à-dire qu'on ait ∫(f·ψ)=∫(g·φ) pour toute fonction φ de l'espace de Schwartz ayant transformée de Fourier ψ (automatiquement elle-même dans l'espace de Schwartz), et pourtant que la limite écrite ci-dessus n'existe pour aucun ξ. Je me demande bien, d'ailleurs, s'il est possible que la limite existe pour tout ξ mais ne soit jamais égale à g(ξ) ; mais je n'ai pas du tout le temps d'y réfléchir.
Comment faire pour enseigner quelque chose qui soit rigoureux et qui ne noie pas pour autant les élèves sous la subtilité ?