Groupe compact

• Tout groupe discret fini est un groupe compact. En effet, tout espace discret fini est compact.
• Tout sous-groupe discret d'un groupe compact est un groupe fini. En effet, toute partie discrète d'un compact est finie.

Des groupes compacts peuvent se construire en utilisant les méthodes générales de construction des groupes topologiques :

• Tout produit direct de groupes compacts est un groupe compact.
• Tout sous-groupe fermé d'un groupe compact est un groupe compact.
• Le groupe topologique quotient d'un groupe compact par un sous-groupe normal fermé est compact.
• Si un morphisme de groupes topologiques est propre et si le groupe de départ est alors son noyau est un groupe quasi-compact (donc compact, s'il est séparé).
• Toute limite projective de groupes compacts (en particulier tout groupe profini) est un groupe compact.

Un groupe de Lie compact est un groupe de Lie (réel ou complexe) dont l'espace topologique sous-jacent est compact. Parmi eux, on peut citer les groupes de Lie classiques compacts, dont voici des exemples :

• le groupe orthogonal O_n(ℝ), de dimension n(n – 1)/2 ;
• le groupe spécial orthogonal SO_n(ℝ), qui est sa composante neutre (en) ;
• le groupe unitaire U_n(ℂ), de dimension n² ;
• le groupe spécial unitaire SU_n(ℂ), de dimension n² – 1 ;
• le groupe symplectique compact Sp(n), de dimension n(2n + 1) ;
• le groupe spinoriel Spin(n), qui est un revêtement double de SO_n(ℝ).

Par ailleurs, chacun des cinq groupes de Lie exceptionnels possède une forme compacte.

Il est à remarquer qu'un groupe de Lie compact complexe est nécessairement commutatif.

Tout groupe compact est unimodulaire, c'est-à-dire que « sa » mesure de Haar est invariante non seulement à gauche (par définition) mais aussi à droite. En effet, sa fonction modulaire (qui mesure le défaut d'invariance à droite d'une mesure de Haar) vaut constamment 1, puisque c'est un morphisme de groupes continu de G dans ℝ^+*, dont l'image est par conséquent l'unique sous-groupe compact de ℝ^+* : le groupe trivial {1}.

Le théorème suivant, démontré par Shizuo Kakutani en 1941, concerne les représentations continues d'un groupe compact. Une représentation continue d'un groupe topologique G est une action linéaire de G sur un espace vectoriel topologique V qui est continue en tant qu'application de G×V dans V.

Le théorème de Kakutani donne une preuve alternative spécifique de l'existence de la mesure de Haar sur un groupe compact G. En effet, l'espace des mesures réelles finies ${\displaystyle \scriptstyle {\mathcal {M}}(G)}$ est, par un théorème de Riesz, le dual topologique de l'espace de Banach des fonctions continues réelles C(G,ℝ), muni de la norme de convergence uniforme. Les mesures boréliennes de probabilité forment un sous-ensemble convexe et *-faiblement compact. L'action de G sur lui-même par translations à gauche induit une action linéaire de G sur ${\displaystyle \scriptstyle {\mathcal {M}}(G)}$, qui est continue pour la topologie *-faible. Le convexe C est stable par G : de ce fait, le théorème de Kakutani s'applique et donne l'existence d'un point fixe de l'action de G dans C, autrement dit d'une mesure borélienne de probabilité sur G invariante par translation à gauche. L'existence de la mesure de Haar se trouve ainsi établie. (Cependant, la compacité ne permet pas de simplifier la preuve de l'unicité.)

Une représentation continue de G sur V est dite irréductible si V et son sous-espace nul sont distincts et sont les deux seuls sous-espaces vectoriels fermés globalement invariants par G. Elle est dite complètement réductible si V est somme directe topologique d'une famille de sous-espaces fermés invariants tels que la représentation restreinte à chacun d'eux soit irréductible.

La démonstration part du fait que dans un Hilbert, tout sous-espace fermé est l'image d'un projecteur continu. Elle est ensuite calquée sur celle du théorème de Maschke : il suffit de remplacer la moyenne discrète par une intégrale par rapport à la mesure de Haar, en vérifiant que le projecteur moyenné est encore continu, grâce au lemme suivant :

Lemme d'encadrement — Pour toute représentation continue ρ d'un groupe compact G sur un espace vectoriel normé, il existe un réel M>0 tel que${\displaystyle \forall g\in G,\quad {\frac {1}{M}}\leq \|\rho (g)\|\leq M.}$

Démonstration

Pour tout h∊G, par continuité en (h,0) de l'application qui à tout couple (g,v) associe la norme de g.v, il existe un ouvert U_h contenant h et un réel δ_h>0 tels que${\displaystyle \forall g\in U_{h},~\forall v\in B(0,\delta _{h}),\quad \|g.v\|\leq 1,}$autrement dit tels que${\displaystyle \forall g\in U_{h},\quad \|\rho (g)\|\leq {\frac {1}{\delta _{h}}}.}$

Or par compacité, G est recouvert par une sous-famille finie du recouvrement ouvert (U_h). En prenant pour M le maximum de l'ensemble fini des ¹⁄_δh correspondants, on obtient la majoration uniforme voulue pour les ║ρ(g)║. La minoration s'en déduit en utilisant que 1 ≤ ║ρ(g)║ ║ρ(g^-1)║.

Une méthode moins directe pour démontrer le théorème de complète réductibilité est d'utiliser le procédé d'unitarisation (qui repose aussi sur ce lemme d'encadrement). Une représentation (V,ρ) est dite unitaire (en) si V est un espace de Hilbert réel (ou complexe) et si ρ est à valeurs dans son groupe orthogonal O(V) (ou unitaire U(V)). Or toute représentation continue unitaire est complètement réductible (grâce au fait que l'orthogonal d'un sous-espace invariant est alors invariant, et moyennant une réduction identique à celle du cas algébrique). Le théorème de complète réductibilité s'en déduit, grâce au lemme suivant :

L'équivalence de représentations est à prendre ici au sens topologique, c'est-à-dire qu'on impose à l'isomorphisme d'entrelacement d'être un homéomorphisme.

Démonstration

Supposons donnée une représentation continue (V, ρ) d'un groupe compact G sur un Hilbert (V, 〈·,·〉) et posons, pour tous vecteurs v et w de V :

${\displaystyle (v,w)=\int _{G}\langle g.v,g.w\rangle ~\mathrm {d} \lambda (g).}$

On constate que (·,·) définit une forme sesquilinéaire définie positive sur V (donc une structure préhilbertienne). Vérifions qu'elle est invariante sous l'action de G. Pour h dans G, et v et w dans V, il vient :

${\displaystyle {\begin{aligned}(h.v,h.w)&=\int _{G}\langle gh.v,gh.w\rangle ~\mathrm {d} \lambda (g)\\&=\int _{G}\langle k.v,k.w\rangle ~\mathrm {d} \lambda (k.h^{-1})\\&=(v,w),\end{aligned}}}$

la dernière égalité provenant de l'invariance à droite de la mesure de Haar λ.

Enfin, l'isomorphisme d'entrelacement est bien bicontinu, c'est-à-dire que la nouvelle norme sur V est équivalente à l'ancienne, grâce au lemme d'encadrement, ce qui assure du même coup la complétude de V pour la nouvelle norme.

Un corollaire immédiat du lemme d'unitarisation est que tout sous-groupe compact de GL_n(ℝ) est conjugué d'un sous-groupe de O_n(ℝ). Ce résultat peut aussi se déduire directement du théorème du point fixe de Kakutani[1].

Le théorème de Peter-Weyl (en) a été démontré en 1927 par Hermann Weyl et l'un de ses étudiants, Fritz Peter.

On considère la représentation naturelle du groupe topologique G×G sur l'espace de Hilbert L²(λ), appelée représentation birégulière de G et donnée par :

${\displaystyle (h,k).f:g\mapsto f(h^{-1}gk)}$

Cette représentation est unitaire et continue.

Pour toute représentation continue complexe de dimension finie ρ de G, on a un morphisme naturel de représentations de G×G, de ρ*⊗ρ dans la représentation birégulière. Si ρ est irréductible alors ce morphisme est injectif, et si deux représentations irréductibles de G sont non équivalentes alors les deux sous-représentations correspondantes de la birégulière sont orthogonales. Si ∑ est un ensemble de représentations (continues, complexes, de dimensions finies) irréductibles non équivalentes, la somme hilbertienne (somme directe orthogonale complétée) des ρ*⊗ρ quand ρ parcourt ∑ se plonge donc encore dans la birégulière.

Ce qu'affirme le théorème de Peter-Weyl, c'est que si ∑ est choisi maximal alors ce plongement est un isomorphisme, autrement dit : que l'application (linéaire, injective et continue) entre les espaces de Hilbert sous-jacents est surjective.

Plus explicitement et plus précisément :

• pour toute représentation (V,ρ) (continue, complexe, de dimension finie) de G, l'image canonique de V*⊗V dans L²(λ) est le sous-espace C(ρ) engendré par les coefficients matriciels de ρ dans une base quelconque de V ;
• on note classiquement ℛ(G) la réunion de tous ces C(ρ) : c'est une sous-algèbre involutive de C(G,ℂ) ;
• pour deux représentations irréductibles non équivalentes ρ et σ, C(ρ) et C(σ) sont orthogonales dans L²(λ) ;
• le théorème de Peter-Weil dit que ℛ(G) est dense dans la C*-algèbre C(G,ℂ) et (a fortiori) dans l'espace de Hilbert L²(λ).

Le théorème de Peter-Weil a des conséquences non triviales. Il permet par exemple de démontrer que tout groupe compact est limite projective de groupes de Lie compacts : les Im(ρ).

Étant donnée une représentation complexe de dimension finie d'un groupe compact G, le caractère associé est défini par :

${\displaystyle \chi _{\rho }(g)=\operatorname {tr} (\rho (g))}$

Les caractères de deux représentations équivalentes sont égaux. On parle de caractère et de caractère irréductible pour désigner les caractères respectivement associés à une représentation complexe et à une représentation complexe irréductible.

Une fonction centrale est une fonction (mesurable, continue…) de G dans ℂ, constante sur les classes de conjugaison de G. Les caractères sont des exemples de fonctions centrales. La collection de tous les caractères irréductibles d'un groupe compact forme une famille orthonormée de L²(G, λ). Plus exactement, c'est une base hilbertienne du sous-espace de Hilbert des fonctions centrales de classe L².

Un exemple important est la détermination des caractères du tore et la classification de ses représentations.

Les propriétés des représentations des groupes compacts se spécialisent pour les groupes finis. L'étude est simplifiée, notamment parce que le nombre de caractères est fini. En particulier, les caractères irréductibles d'un groupe fini G forment une base de l'espace vectoriel de dimension finie des fonctions centrales. La dimension de cet espace est donc le nombre de classes de conjugaison de G.

Antoine Chambert-Loir, Introduction aux groupes et algèbres de Lie, cours de master 2 à l'université de Rennes 1 (2004-2005), chap. 3 : Représentations des groupes compacts

• Dualité de Tannaka-Krein (en)
• Sous-groupe compact maximal (en)

• Portail des mathématiques