Théorème de l'indice d'Atiyah-Singer

Si D est un opérateur différentiel d'ordre n en k variables

x₁, … , x_k,

alors son symbole est la fonction de 2k variables

x₁, … , x_k, y₁, … , y_k,

obtenue en supprimant tous les termes d'ordre inférieur à n et en remplaçant ∂/∂x_i par y_i. Le symbole est donc homogène de degré n par rapport aux variables y. Le symbole est bien défini, en dépit de ce que ∂/∂x_i ne commute pas avec x_i, parce qu'on ne garde que les termes de plus grand ordre, et que les opérateurs différentiels commutent "aux termes d'ordres inférieurs près". L'opérateur est dit elliptique si le symbole est non nul dès qu'au moins un des y est non nul.

Exemple : Le laplacien en k variables a pour symbole y₁² + … +y_k², donc est elliptique. Le d'alembertien a pour symbole y₁² /c² - y₂² - … - y_k², donc n'est pas elliptique si k ≥ 2.

Le symbole d'un opérateur différentiel d'ordre n sur une variété différentiable X est défini de manière analogue en utilisant les cartes de coordonnées locales, et est une fonction définie sur le fibré cotangent de X, homogène de degré n sur chaque espace cotangent (en) (la formule générale de changement de carte pour un opérateur différentiel est assez compliquée (voir Jet et Fibré des jets (en)) ; cependant, les termes d'ordre supérieur se transforment comme des tenseurs, et donc on obtient des fonctions homogènes bien définies sur les espaces cotangents, et qui sont indépendantes du choix de cartes locales). Plus généralement, le symbole d'un opérateur différentiel entre deux fibrés vectoriels E et F est une section du fibré induit de Hom(E, F) sur l'espace cotangent de X. L'opérateur différentiel est dit elliptique si l'élément de Hom(E_x, F_x) est inversible pour tous les vecteurs cotangents non nuls en chaque point x de X. Une propriété essentielle des opérateurs elliptiques est d'être presque inversibles ; cela est étroitement relié au fait que leurs symboles sont presque inversibles. Plus précisément, un opérateur elliptique D sur une variété compacte admet un pseudo-inverse D′ (non unique) tel que DD′ − 1 et D′D − 1 sont tous deux des opérateurs compacts. Une importante conséquence est que le noyau de D est de dimension finie, parce que tous les sous-espaces propres des opérateurs compacts, autres que leur noyau, sont de dimension finie (le pseudo-inverse d'un opérateur elliptique n'est en général pas un opérateur différentiel ; cependant, c'est un toujours un opérateur pseudo-différentiel elliptique).

Comme l'opérateur différentiel elliptique D admet un pseudo-inverse, c'est un opérateur de Fredholm. Chaque opérateur de Fredholm admet un indice, défini comme la différence entre la dimension (finie) du noyau de D (les solutions de Df = 0), et la dimension (finie) du conoyau de D (les contraintes correspondant au membre de droite d'une équation non homogène telle que Df = g, ou encore au noyau de l'opérateur adjoint). En d'autres termes,

Indice(D) = dim Ker(D) − dim Coker(D) = dim Ker(D) − dim Ker(D^*).

Ce nombre est parfois appelé l’indice analytique de D.

Exemple : prenons comme variété le cercle (le quotient R/Z), et pour D l'opérateur d/dx − λ où λ est une constante complexe (c'est l'exemple le plus simple d'un opérateur elliptique). Alors le noyau est l'espace des multiples de exp(λx) si λ est un multiple entier de 2πi et l'espace nul sinon, et le noyau de l'adjoint est analogue, en remplaçant λ par son conjugué. Ainsi D est d'indice 0. Cet exemple montre que les dimensions du noyau et du conoyau des opérateurs elliptiques peuvent avoir des discontinuités quand l'opérateur varie, et donc ne sauraient être aisément calculées en fonction d'invariants topologiques. Cependant l'indice, c'est-à-dire la différence de ces dimensions, varie continument, et peut donc être calculé ainsi ; c'est ce qu'affirme le théorème de l'indice.

L’indice topologique d'un opérateur différentiel elliptique D entre des fibrés vectoriels E et F sur une variété compacte X de dimension n est donné par

ch(D)Td(X)[X],

en d'autres termes, c'est l'évaluation de la composante de degré maximum de la classe de cohomologie mixte ch(D)Td(X) sur la classe fondamentale en homologie (en) [X] de la variété X. Dans cette formule,

• Td(X) est la classe de Todd de la variété X.
• ch(D) est égal à φ⁻¹(ch(d(E,F, σ(D)))), où
• φ est l'isomorphisme de Thom de H^k(X,Q) vers H^n+k(B(X)/S(X),Q)
• B(X) est la boule unité du fibré cotangent de X, S(X) est sa frontière, et p est la projection vers X.
• ch est le caractère de Chern, de la K-théorie K(X) vers l'anneau de cohomologie rationnelle H*(X,Q).
• d(p^*E,p^*F, σ(D)) est l'"élément différence" de K(B(X)/S(X)) associé aux deux fibrés vectoriels p^*E et p^*F sur B(X), et à un isomorphisme σ(D) entre eux sur le sous-espace S(X).
• σ(D) est le symbole de D.

Une autre façon de définir l'indice topologique utilise la K-théorie. Si X est une sous-variété compacte d'une variété Y, il existe une opération induite par l'inclusion, allant de K(TX) vers K(TY). L'indice topologique d'un élément de K(TX) est défini comme étant son image par cette opération, en prenant comme Y un espace euclidien, pour lequel K(TY) s'identifie naturellement avec les entiers Z. Cet indice est indépendant du plongement de X dans un espace euclidien.

Supposons que X soit une variété compacte orientable. Prenant pour E la somme des puissances extérieures paires du fibré cotangent, et pour F la somme des puissances impaires, posons D =d + d^*, considéré comme une application de E vers F. Alors l'indice topologique de D est la caractéristique d'Euler de M, et l'indice analytique est la somme alternée des dimensions des groupes de cohomologie de de Rham.

Prenons pour X une variété complexe avec un fibré vectoriel complexe V. On prend pour fibrés vectoriels E et F les sommes des fibrés de formes différentielles à coefficients dans V de type (0,i) avec i respectivement pair et impair, et pour opérateur différentiel D la somme

${\displaystyle {\overline {\partial }}+{\overline {\partial }}^{*}}$

retreinte à E. Alors l'indice analytique de D est la caractéristique d'Euler holomorphe de V :

indice(D) = Σ(−1)^p dim H^p(X,V).

L'indice topologique de D est donné par

indice(D) = ch(V)Td(X)[X],

produit du caractère de Chern de V et de la classe de Todd de X évaluée sur la classe fondamentale de X. L'égalité des deux indices est le théorème de Hirzebruch-Riemann-Roch, et c'en est même une généralisation à toutes les variétés complexes : la démonstration de Hirzebruch ne s'appliquait qu'aux variétés algébriques complexes projectives.

Cette démonstration du théorème de Hirzebruch–Riemann–Roch est rendue plus naturelle en utilisant le théorème de l'indice pour des complexes elliptiques plutôt que pour des opérateurs elliptiques. On peut choisir comme complexe

0→V→V⊗Λ^0,1T^*(X)→V⊗Λ^0,2T^*(X)…

avec la dérivation donnée par ${\displaystyle {\overline {\partial }}}$. Alors le i-ème groupe de cohomologie est simplement le groupe de cohomologie cohérente (en) Hⁱ(X,V), et donc l'indice analytique de ce complexe est la caractéristique d'Euler holomorphe Σ (−1)ⁱ dim(Hⁱ(X, V)), tandis que, comme précédemment, l'indice topologique est ch(V)Td(X)[X].

Le théorème de la signature de Hirzebruch (en) affirme que la signature d'une variété (en) compacte orientable X de dimension 4k est égale au L-genre (en) de la variété. Cela résulte du théorème de l'indice appliqué à l’opérateur de signature (en) suivant.

Les fibrés E et F sont les sous-espaces propres de valeurs 1 et -1 de l'opérateur sur le fibré des formes différentielles de X, qui agit sur les k-formes par i ^k(k−1)${\displaystyle \ast }$ = (-1)^k(k−1)/2${\displaystyle \ast }$, où i désigne l'unité imaginaire et ${\displaystyle \ast }$ est l'opérateur de Hodge. L'opérateur D est le laplacien (de Hodge) :

${\displaystyle D\equiv \Delta$ :=(\mathbf {d} +\mathbf {d^{*}} )^{2}}

restreint à E, où ${\displaystyle \mathbf {d} }$ est la dérivée extérieure de Cartan, et ${\displaystyle \mathbf {d^{*}} }$ est son adjoint.

L'indice analytique de D est la signature de la variété X, et son indice topologique est le L-genre de X ; ces deux nombres sont donc égaux.

Le Â-genre (en) est un nombre rationnel défini pour toute variété, mais ce n'est en général pas un entier. Borel et Hirzebruch ont montré qu'il est entier pour les variétés spin, et pair si la dimension est de la forme 8n + 4. Cela peut se déduire du théorème de l'indice, qui implique que le Â-genre des variétés spin est l'indice d'un opérateur de Dirac. Le facteur 2 supplémentaire en dimensions 4 mod 8 vient de ce que, dans ce cas, le noyau et le conoyau de l'opérateur de Dirac ont une structure quaternionique, et sont donc, comme tout espace vectoriel complexe, de dimensions (réelles) paires ; l'indice est alors pair lui aussi.

En dimension 4, ce résultat entraîne le théorème de Rochlin (en) affirmant que la signature d'une variété spin de dimension 4 est divisible par 16 : en effet, en dimension 4, le Â-genre est égal à la signature multipliée par -1/8.

Les opérateurs pseudo-différentiels sont faciles à décrire dans le cas des opérateurs à coefficients constants sur des espaces euclidiens. Les opérateurs différentiels à coefficients constants sont dans ce cas les transformés de Fourier de multiplications par des polynômes, et les opérateurs pseudo-différentiels à coefficients constants sont les transformés de Fourier de multiplications par des fonctions plus générales. Beaucoup de démonstrations du théorème de l'indice utilisent des opérateurs pseudo-différentiels plutôt que différentiels. En effet, pour beaucoup d'utilisations, il n'y a pas assez d'opérateurs différentiels. Ainsi, un pseudo-inverse d'un opérateur différentiel elliptique d'ordre positif n'est pas différentiel, mais pseudo-différentiel. De plus, il existe une correspondance directe entre des représentants d'éléments de K(B(X),S(X)) (les isomorphismes de transition[1]) et les symboles d'opérateurs pseudo-différentiels elliptiques.

Les opérateurs pseudo-différentiels ont un ordre, qui peut être un réel quelconque ou même −∞, et ont des symboles (qui ne sont plus dans ce cas des polynômes sur l'espace cotangent) ; les opérateurs pseudo-différentiels elliptiques sont ceux dont les symboles sont inversibles pour des vecteurs cotangents assez grands. La plupart des versions du théorème de l'indice peuvent se généraliser aux opérateurs pseudo-différentiels elliptiques.

La démonstration initiale était basée sur celle (de 1954) du théorème de Hirzebruch-Riemann-Roch, et utilisait la théorie du cobordisme et des opérateurs pseudo-différentiels.

L'idée de cette première démonstration est en gros la suivante. Considérons l'anneau décrit par générateurs et relations, les générateurs étant les couples (X,V), où X est une variété (à bord) compacte orientée et V un fibré vectoriel sur X, et les relations étant d'une part que la somme et le produit de tels générateurs correspondent respectivement à l'union disjointe et au produit des variétés (avec les opérations évidentes sur les fibrés), d'autre part que tout bord d'un générateur est nul. Cette construction est analogue à celle de l'anneau du cobordisme des variétés orientables, mais en rajoutant des fibrés vectoriels. On interprète alors les indices topologique et analytique comme deux fonctions sur cet anneau à valeurs entières, et on montre que ce sont des homomorphismes d'anneaux ; pour montrer qu'elles sont égales, il suffit donc de vérifier qu'elles coïncident sur un ensemble de générateurs. La théorie du cobordisme de Thom donne de tels ensembles ; par exemple, la réunion des espaces projectifs complexes (munis du fibré trivial) et de certains fibrés sur des sphères de dimension paire. Le théorème de l'indice peut alors être démontré en le contrôlant sur ces cas qui sont particulièrement simples.

La première démonstration publiée par Atiyah et Singer utilisait la K-théorie au lieu du cobordisme. Étant donnée une inclusion i de variétés compactes entre X et Y, ils construisirent une application de Gysin (en) i_! allant des opérateurs elliptiques sur X vers ceux de Y, et préservant l'indice. Prenant pour Y une sphère dans laquelle X se plonge, cela ramène le théorème de l'indice au cas des sphères. Si Y est une sphère et que X est un point plongé dans Y, tout opérateur elliptique sur Y est l'image par i_! d'un opérateur elliptique sur le point. Le théorème de l'indice est ainsi ramené au cas trivial des points.

Atiyah, Bott et Patodi donnèrent en 1973 une nouvelle démonstration du théorème de l'indice utilisant l'équation de la chaleur. En 2004, Berline, Getzler et Vergne construisirent une preuve simplifiée exploitant la supersymétrie.

Si D est un opérateur différentiel d'adjoint D^*, alors D^*D et DD^* sont des opérateurs auto-adjoints dont les valeurs propres non nulles ont la même multiplicité (les multiplicités de 0 peuvent être distinctes, puisque ce sont les dimensions des noyaux de D et D^*). Ainsi, l'indice (analytique) de D est donné par

Indice(D) = dim Ker(D) − dim Ker(D^*) = Tr(e^−tD*D) − Tr(e^−tDD*)

pour tout t positif. Le membre de droite s'identifie à la trace de la différence des noyaux de deux opérateurs de la chaleur. Ceux-ci possèdent un développement asymptotique permettant de calculer la limite quand t tend vers 0, ce qui donne une preuve du théorème de l'indice.

Ces développements asymptotiques semblent très compliqués, mais la théorie des invariants montre que la plupart de leurs termes se compensent, ce qui permet de déterminer le terme dominant explicitement. Ce sont ces compensations qui furent par la suite expliquées à l'aide de la supersymétrie.

Une démonstration (et même simplement un énoncé rigoureux) du théorème de l'indice demande nécessairement d'importantes connaissances préalables. L'esquisse initiale de la démonstration cohomologique d'Atiyah et Singer a été développée en détail au cours du Séminaire Henri Cartan de 1963-64 :

• Séminaire Henri Cartan, Théorème d'Atiyah-Singer sur l'indice d'un opérateur différentiel elliptique, vol. 16, 1963-1964, n° 1 et n°2.

Une description complète et plus moderne des préliminaires nécessaires en topologie algébrique se trouve dans

• Jossen Peter, Le théorème de l'indice d'Atiyah-Singer

Une démonstration utilisant une approche probabiliste a été publiée dans les Séminaires Bourbaki :

• Robert Azencott, Séminaire N. Bourbaki, 1984-1985, exposé n° 633

Les publications suivantes (en anglais) reprennent dans l'ordre chronologique les principales étapes exposées dans l'article ; les publications d'Atiyah sont reprises dans les volumes 3 et 4 de ses œuvres complètes (1988)

• I. M. Gelfand, On elliptic equations, in Russ. Math.Surv., vol. 15, p. 113–123 (1960) : Gelfand y suggère que l'indice devrait pouvoir s'exprimer en termes d'invariants topologiques.
• Michael F. Atiyah et Isadore M. Singer,The Index of Elliptic Operators on Compact Manifolds, in Bull. Amer. Math. Soc., vol. 69, p.322–433(1963) : cet article annonce le théorème et en esquisse une démonstration cohomologique.

• Michael F. Atiyah et Isadore M. Singer, The Index of Elliptic Operators I in Ann. of Math., vol. 87, p. 484–530 (1968) : une démonstration utilisant la K-théorie.

• Michael F. Atiyah et Isadore M. Singer, The Index of Elliptic Operators: II in Ann. of Math., vol. 87, p. 531–545 (1968) : une reformulation comme un théorème de point fixe, utilisant la K-théorie équivariante.

• Michael F. Atiyah et Isadore M. Singer, The Index of Elliptic Operators IV in Ann. of Math., vol. 93, p. 119–138 (1971) : étude de familles d'opérateurs elliptiques.

• M.F. Atiyah, R. Bott et V.K. Patodi, On the heat equation and the index theorem, in Invent. Math.,vol. 19, p. 279–330 (1973) : utilisation de l'équation de la chaleur.
• Jean-Michel Bismut, 'The Atiyah–Singer Theorems: A Probabilistic Approach. I. The index theorem : une démonstration pour les complexes elliptiques, utilisant une approche probabiliste

• N. Berline, E. Getzler et M. Vergne, Heat Kernels and Dirac Operators, Springer (2004) : une démonstration élémentaire du théorème de l'indice pour l'opérateur de Dirac, utilisant l'équation de la chaleur et la supersymétrie.

Enfin, on trouvera dans The Atiyah–Patodi–Singer Index Theorem, de Richard B. Melrose, un cours complet en ligne.